Главная проблема ИИ, которую никто не может решить

Регистрируйтесь на бесплатную большую конференцию по нейросетям «Навыки будущего». Участвуйте в розыгрыше и получайте подарки! — https://l.skbx.pro/iiD4Bq?erid=2Vtzqu...

Как контролировать искусственный интеллект, который умнее нас? Почему ИИ может стать последним изобретением человечества? От умных роботов до галактических империй — как ИИ может изменить Вселенную. Разбираемся, почему сверхразумные цивилизации будут расти как бокалы шампанского, как они будут контролировать целые галактики, и останется ли в этом будущем место для людей. Разбираем главную проблему: сможем ли мы научить машины нашим ценностям до того, как они станут слишком умными для контроля?

При создании ролика я преимущественно опирался на:
Книгу Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта (Макс Тегмарк)
Книгу “Что мы думаем о машинах, которые думают. Ведущие мировые учёные об искусственном интеллекте” (Брокман Джон)
Книгу “Атлас искусственного интеллекта” (Кейт Кроуфорд)

Советую посмотреть ролик канала Rational Animations про создание злого ИИ:
The True Story of How GPT-2 Became Maximally Lewd
   • The True Story of How GPT-2 Became Ma...  

Таймкоды для навигации по ролику:
00:00 - Системы глубокого обучения с подкреплением
03:06 - Последний бастион человеческого интеллекта (Ли Седоль vs DeepMind)
06:24 - Обучаем ИИ игре Breakout + Конференция по нейросетям "Навыки будущего"
09:18 - История умного коня Ганса
11:22 - Что значит быть "умным"?
14:36 - Крупнейшие неудачи внедрения ИИ
18:49 - Выживут только ИИ-любовники
20:53 - Когда появится суперинтеллект? Мнение Сэма Альмана
23:28 - Поиск определений понятий "интеллект" и "общий"
31:25 - Может ли сверхинтеллект хотеть производить скрепки?
33:19 - Первая технология, способная погубить жизнь
36:05 - А что думает ИИ про безопасность ИИ?
38:03 - Самый похотливый ИИ всех времен
42:13 - Проблема загрузки ценностей
42:45 - Истоки целей в природе
47:20 - Согласование целей ИИ с целями людей
51:24 - Выбор целей
55:48 - Будущая жизнь
58:20 - Информация как главный товар будущего

Поддержать выход новых роликов можно:
✨ На Патреоне (зарубежные карты)
  / homodeussynergy  
✨ На Бусти (российские карты)
https://boosty.to/homodeus

BTC
1QFQRDfzVUgWmpY2j3GT9qxxZhShqVQngY
ETH
0x65d33bd38f5a021b097253045306367334975402

Спасибо!

Реклама: erid=2VtzquqoqQP