Скачать или смотреть Аргументы в пользу договора об условиях безопасности ИИ, совместно с Отто Бартеном.

Как можно заключить и внедрить обязательный международный договор, если многие стороны испытывают сильное искушение нарушить его условия ради коммерческой или военной выгоды, и если обман трудно обнаружить? Именно эту дилемму мы рассмотрим в этом эпизоде, посвященном возможным договорам, регулирующим разработку и внедрение передового искусственного интеллекта.

Наш гость — Отто Бартен, директор Экзистенциальной обсерватории рисков, которая базируется в Нидерландах, но работает на международном уровне. В ноябре прошлого года журнал Time опубликовал статью Отто, в которой он выступал за то, что его организация называет Договором об условной безопасности ИИ. В марте этого года эти идеи были расширены до 34-страничной препринтной статьи, которую мы обсудим сегодня: «Международные соглашения о безопасности ИИ: обзор и рекомендации по Договору об условной безопасности ИИ».

До того, как стать соучредителем Экзистенциальной обсерватории рисков в 2021 году, Отто работал инженером по устойчивой энергетике, специалистом по анализу данных и предпринимателем. Он получил степень бакалавра в области теоретической физики в Университете Гронингена и степень магистра в области технологий устойчивой энергетики в Делфтском технологическом университете.

Избранные последующие публикации:

• Обсерватория экзистенциальных рисков (https://www.existentialriskobservator...)

• Существует решение проблемы экзистенциального риска ИИ (https://time.com/7171432/conditional-...) - Time

• Международные соглашения о безопасности ИИ: обзор и рекомендации по договору об условной безопасности ИИ (https://arxiv.org/abs/2503.18956) - Отто Бартен и коллеги

• Пропасть: экзистенциальный риск и будущее человечества (https://theprecipice.com/) - книга Тоби Орда

• Грандиозное будущее и экзистенциальный риск (   • Grand Futures  ) - лекция Андерса Сандберга в Лондоне, на которой присутствовал Отто

• PauseAI (https://pauseai.info/)

• StopAI (https://www.stopai.info/)
• Ответственная политика масштабирования (https://metr.org/blog/2023-09-26-rsp/) - METR

• Meta предупреждает об «ухудшении» пользовательского опыта в Европе (https://www.bbc.co.uk/news/articles/c...) - BBC News

• Случайная ядерная война: хронология опасных ситуаций (https://futureoflife.org/resource/nuc...) - FLI

• Гипотеза уязвимого мира (https://nickbostrom.com/papers/vulner...) - Ник Бостром

• Оптика в производстве полупроводников (https://www.zeiss.com/semiconductor-m...) - Zeiss

• Калифорния Институт машинного сознания (https://cimc.ai/)

• Переломный момент для масштабных социальных изменений? Всего 25 процентов (https://penntoday.upenn.edu/news/damo...) - Penn Today

Музыка: Spike Protein, Koi Discovery, доступна по лицензии CC0 1.0 Public Domain Declaration
Перспективы руководителей высшего звена (http://csuiteperspectives.libsyn.com/...)
Повысьте свой уровень лидерства, используя знания самых влиятельных руководителей современности.

Слушайте на: Apple Podcasts (https://podcasts.apple.com/podcast/id...)   Spotify (https://open.spotify.com/show/2Y7c9gt...)