Скачать или смотреть Могут ли модели искусственного интеллекта принимать решения, обладающие сверхчеловеческой моралью?

В этом разделе Аскелл рассматривает определение сверхчеловеческой морали в ИИ, предполагая, что она означает решения, превосходящие возможности любого отдельного эксперта-человека в условиях ограниченного времени, хотя, возможно, не группы экспертов, которым предоставлено неограниченное время. Она утверждает, что такой уровень этических нюансов должен быть желаемой целью. Аскелл также выявляет необычный результат: новые модели иногда демонстрируют признаки самокритики или «страха» совершить ошибку, возможно, учась на негативных отзывах пользователей или онлайн-критике. Она отмечает, что Opus 3 казался более «психологически устойчивым», подчеркивая возникающую проблему, связанную с тем, что обучающие данные отражают антагонизм по отношению к ИИ.

#AISuperhuman #MoralDecisions #Aspirations #EthicalNuance #ClaudeOpus #AIModels #ClaudeOpus3 #AIPsychology #ModelAnxiety #AICharacter #SelfCriticism #AnthropicResearch #ViralQuote