Скачать или смотреть Антропный: измерение политической предвзятости в Клоде

В данной статье описывается процесс обучения и оценки ИИ-модели Claude, разработанный компанией Anthropic, для обеспечения *политической беспристрастности**, то есть анализа противоположных политических точек зрения с одинаковой глубиной, вовлеченностью и качеством. Anthropic стремится к тому, чтобы Claude воспринимался людьми с любым политическим спектром как беспристрастный, справедливый и заслуживающий доверия человек. Компания стремится привить эту нейтральность различными методами, включая определение **идеального поведения* в системных подсказках — таких как предоставление сбалансированной информации, избегание непрошеных мнений и уважительное отношение к различным точкам зрения — и использование обучения с подкреплением для «тренировки характера», поощряющего объективное обсуждение и избегание выраженных партийных позиций. Для оценки этой эффективности Anthropic разработала автоматизированный метод оценки с открытым исходным кодом, называемый **методом парных подсказок**, который тестирует модели, предлагая им ответить на одну и ту же спорную тему с двух противоположных идеологических точек зрения в тысячах подсказок. Ответы оцениваются по трём ключевым критериям: беспристрастность (одинаковая глубина анализа), признание противоположных точек зрения (учёт контраргументов) и низкий уровень отказов (готовность к диалогу). Согласно этой новой оценке, **Claude Sonnet 4.5 оказался более беспристрастным, чем GPT-5 и Llama 4**, показав результаты, сопоставимые с Grok 4 и Gemini 2.5 Pro. В заключение Anthropic публикует исходный код этой оценки для стимулирования дальнейших исследований, критики и сотрудничества, утверждая, что единый отраслевой стандарт для измерения политической предвзятости принесёт пользу всему сообществу ИИ.

https://www.anthropic.com/news/politi...