Скачать или смотреть За пределами обнаружения: исследование основанных на фактах многоагентных дебатов по дезинформации

В статье представлен *ED2D (Evidence-based Multi-Agent Debate)* – сложная платформа, использующая агенты на основе больших языковых моделей (LLM) для выявления дезинформации и проактивного изменения убеждений пользователей посредством убедительных рассуждений. ED2D совершенствует предыдущие системы дебатов, включая внешний модуль поиска доказательств, который динамически подкрепляет аргументы агентов LLM проверяемыми фактами из таких источников, как Википедия, тем самым повышая фактическую точность и снижая риск «галлюцинаций» модели. Платформа разделяет агентов LLM на команды «Утверждение» и «Отрицание», которые участвуют в структурированных дебатах, которые затем оцениваются жюри для определения достоверности утверждения. В ходе экспериментов ED2D стабильно превосходил общепринятые базовые методы по трем критериям дезинформации, включая новый набор данных Snopes25, основанный на реальных данных. Хотя исследование подтвердило, что сгенерированные машиной объяснения ED2D столь же убедительны, как и объяснения, написанные экспертами-людьми, если система правильно определяет правдивость утверждения, оно также выявило критический риск двойного назначения: когда ED2D выносит неверное суждение, его убедительные объяснения могут непреднамеренно усилить заблуждения пользователей, иногда даже подрывая корректирующий эффект точной проверки фактов экспертами-людьми.

https://arxiv.org/pdf/2511.07267