Скачать или смотреть Зачем ИИ делать плохие вещи? Инструментальная конвергенция

Как можно предсказать, что ИИ с неизвестными целями по умолчанию будет вести себя плохо?

Видео «Тезис об ортогональности»:    • Intelligence and Stupidity: The Orthogonal...  
Инструментальная конвергенция: https://arbital.com/p/instrumental_co...
Омохундро 2008, Базовые механизмы искусственного интеллекта: https://selfawaresystems.files.wordpr...

С благодарностью моим замечательным покровителям на   / robertskmiles:  

Джейсон Хайз
Стиф
Джейсон Стрэк
Чад Джонс
Стефан Скайлз
Джордан Медина
Мануэль Вайхсельбаум
1RV34
Скотт Уорли
Джей Джей Хепбойн
Алекс Флинт
Джеймс МакКуэн
Ричард Надьфи
Вилле Альгрен
Алек Джонсон
Саймон Страндгаард
Джошуа Ричардсон
Джонатан Р.
Майкл Греве
Гуру видения
Фабрицио Пизани
Александр Хартвиг ​​Нильсен
Владимир
Дэвид Тьядер
Пол Мейсон
Бен Скэнлон
Юлиус Браш
Майк Бёрд
Том О'Коннор
Гуннар Гудвардарсон
Шевис Джонсон
Эрик де Брёйн
Робин Грин
Алексей Васильков
Максим Таран
Лора Олдс
Джон Холлидей
Роберт Вернер
Пол Хоббс
Йерун Де Дау
Конста
Уильям Хендли
Д.Г.Джоно
Робертвандуурсен
Скотт Стивенс
Майкл Оре
Дмитрий Афанасьев
Брайан Сэндберг
Эйнар Уеланд
Марсель Уорд
Эндрю Вейр
Тейлор Смит
Бен Арчер
Скотт Маккарти
Кабс Кабс
Фил
Тендайи Мавуше
Габриэль Бем
Энн Кольбреннер
Джейк Фиш
Бьорн Нюблад
Юсси Мяннистё
Мистер Фантастик
Матанья Левенталь
Wr4thon
Дэйв Тэпли
Арчи де Беркер
Кевин
Винсент Сандерс
Марк Поли
Энди Кобре
Брайан Гиллеспи
Мартин Винд
Пегги Юэлл
Покер Чен
Кес
Дарко Сперак
Пол Моффат
Ноэль Кочерил
Йелле Ланген
Ларс Шольц