AI Alignment problem [in Russian]

Докладчик: Михаил Самин (CEO, AudD)

Не кажется непредставимым, что в течение следующего десятилетия, искусственный интеллект может превзойти способности людей в большинстве важных областей. Среди исследователей, работающих над созданием общего ИИ, есть растущее ожидание, что без усилий для предотвращения этого, ИИ могут выучить и преследовать цели, нежеланные с точки зрения людей, что может привести к катастрофическим последствиям. Десятки сотрудников OpenAI, Anthropic и DeepMind, работающих над проблемой, обычно называли мне числа от 15 до 80 процентов вероятности, что человечество будет буквально уничтожено искусственным интеллектом в ближайшие два десятилетия. Я постараюсь описать базовые причины, почему проблема алайнмента — как сделать так, чтобы цели достаточно продвинутого ИИ было приемлемыми — сложна, как выглядят некоторые независимые риски и какие есть направления решений.

Запись чата: https://drive.google.com/file/d/15iQB...