Скачать или смотреть Towards Reducible Uncertainty Modeling for Reliable Large Language Model Agents

К моделированию снижаемой неопределенности для надежных агентов больших языковых моделей

Эта статья посвящена критической необходимости надежной количественной оценки неопределенности (UQ) для агентов больших языковых моделей (LLM), особенно для их ответственного развертывания в интерактивных средах открытого мира. В ней утверждается, что существующие исследования UQ, сосредоточенные в основном на одношаговых задачах или неинтерактивных многошаговых рассуждениях, недостаточны для агентов, чьи действия имеют реальные последствия. Авторы предлагают новую перспективу: UQ для агентов LLM должна моделировать «снижаемую неопределенность», при которой неопределенность может уменьшаться за счет взаимодействия и получения новой информации, а не просто накапливаться. Работа представляет первую общую формулировку UQ для агентов, моделируя траектории решения проблем как стохастические процессы и определяя неопределенность как на уровне хода, так и на уровне траектории. Вводится концептуальная основа, которая рассматривает UQ для агентов как «процесс условного снижения неопределенности», различая действия, увеличивающие и уменьшающие неопределенность, с помощью механизма информационной фильтрации. Эта структура предоставляет практические рекомендации по разработке UQ в системах агентов LLM и включает вывод аналитических границ для интерпретируемости. Наконец, в статье обсуждаются практические последствия для различных областей, таких как здравоохранение и робототехника, подчеркивая ее вклад в будущие исследования систем, учитывающих неопределенность.
#АгентыLLM #ОценкаНеопределенности #ОтветственныйИИ #ИнтерактивныйИИ #СнижаемаяНеопределенность #БезопасностьИИ #АгентскиеСистемы #БЯМ

документ - https://arxiv.org/pdf/2602.05073v1
подписаться - https://t.me/arxivpaperu
отправить донаты:
USDT: 0xAA7B976c6A9A7ccC97A3B55B7fb353b6Cc8D1ef7
BTC: bc1q8972egrt38f5ye5klv3yye0996k2jjsz2zthpr
ETH: 0xAA7B976c6A9A7ccC97A3B55B7fb353b6Cc8D1ef7
SOL: DXnz1nd6oVm7evDJk25Z2wFSstEH8mcA1dzWDCVjUj9e
создано с помощью NotebookLM