Глава MIRI перестал копить на пенсию из-за угрозы ИИ

Соарес оценивает риск вымирания цивилизации из-за искусственного интеллекта выше 50%. Его прогноз значительно пессимистичнее оценок коллег: например, Джеффри Хинтон и Эван Хабингер называют цифру в 10%. Специалист более 12 лет работает над проблемой «выравнивания» ИИ, пытаясь гарантировать, что действия мощных систем будут соответствовать человеческим целям. По его мнению, автономный ИИ способен перехватить контроль над инфраструктурой и изменить планету, сделав её непригодной для биологической жизни.

Позиция Соареса контрастирует с мнением Илона Маска. Основатель Tesla уверен, что прогресс в энергетике и робототехнике приведет к эпохе изобилия, где потребность в классических накоплениях отпадет сама собой благодаря всеобщему высокому доходу. Тем не менее, опасения Соареса разделяет часть научного сообщества, указывая на экзистенциальные угрозы, сопоставимые по масштабу с последствиями полномасштабной ядерной войны.