Топ-менеджеры ИИ-компаний увольняются из‑за страха уничтожить человечество, - Axios

Топ-менеджеры ИИ-компаний увольняются из‑за страха уничтожить человечество, - Axios

Топ-менеджеры покидают ведущие компании, занимающиеся разработкой ИИ. Они обеспокоены тем, что их деятельность может привести к гибели человечества.

Как сообщает издание Axios, за последнее время из передовых компаний, работающих над нейросетями, ушли уже 10 сотрудников. Это не обычные менеджеры, а люди из руководства и ведущие инженеры. Причиной является страх перед развитием технологии, которая может привести человечество к катастрофе.

Илон Маск, основатель Grok, на своей странице в X оценил p(doom) в 20%. P(doom) изначально была шуткой, но теперь стала серьёзной метрикой, измеряющей риск уничтожения человечества от сверхразумного ИИ. Генеральный директор Google Сундар Пичаи в подкасте у Лекса Фридмана назвал аналогичный диапазон — от 15% до 25%.

Речь идёт об AGI — сильном искусственном интеллекте, сравнимом с человеческим, способным к универсальному обучению и решению задач. Никто точно не знает, когда он появится. Тот же Пичаи считает, что это произойдёт чуть позже, чем через 5 лет.

Для оптимистов, не видящих угрозы в ИИ, авторы исследования выразили своё мнение.

Сами разработчики ИИ оценивают вероятность уничтожения человечества как 1 из 10, а возможно, даже как 1 из 5.