Скачать или смотреть HalluGuard: основанные на фактических данных SRM для смягчения галлюцинаций при генерации дополне...

В статье представлена ​​**HalluGuard**, *малая модель рассуждений (SRM)* с 4 миллиардами параметров, специально разработанная для смягчения проблемы *галлюцинаций* — результатов, не соответствующих фактическим знаниям или исходным документам, — в системах генерации дополненной поисковой информации (RAG). HalluGuard классифицирует сгенерированное утверждение на предмет того, является ли оно *обоснованным* (полностью подтверждённым предоставленным документом) или *галлюцинированным* (противоречивым или непроверяемым), а также предоставляет прозрачные, подтверждённые фактами обоснования для своего решения, что крайне важно для укрепления доверия к корпоративным приложениям. Для достижения этой цели модель была доработана с использованием новой методологии, включающей большой, тщательно отобранный, не привязанный к предметной области синтетический набор данных, полученный из FineWeb, синтетические обоснованные и галлюцинированные утверждения, а также метод тонкой настройки на основе предпочтений, называемый **Оптимизацией отношения шансов (ORPO)**, чтобы максимально использовать мощные возможности рассуждений в компактной базовой системе Qwen3. Легковесность HalluGuard обеспечивает его экономичность и энергоэффективность, при этом обеспечивая конкурентоспособную производительность: в подмножестве RAGTruth бенчмарка LLM-AggreFact он достиг **84,0% сбалансированной точности (BAcc)**, что соответствует специализированным моделям 7B, таким как MiniCheck, и превосходит Granite Guardian 3.3 8B. В рамках всего бенчмарка 75,7% BAcc HalluGuard соперничает с более крупными моделями общего назначения, включая GPT-4o (75,9%), что подтверждает, что эта тщательно разработанная модель SRM хорошо подходит для надежной интеграции в бизнес-системы RAG.

https://arxiv.org/pdf/2510.00880