Более 800 мировых лидеров призвали остановить разработку «сверхразумного ИИ»

Более 800 мировых лидеров призвали остановить разработку «сверхразумного ИИ»

Более 800 самых влиятельных людей мира требуют запретить разработку «сверхумного ИИ».

Среди подписантов — основатель Microsoft, принц Гарри, советник Папы Римского, рэпер Will.i. am, а также около тысячи ученых, политиков и бизнесменов. Альянс настроен радикально: никакого «суперинтеллекта», пока ученые не согласуют вопрос безопасности, а общество не одобрит это голосованием.

Инициатива происходит от Future of Life Institute — те же, кто в 2023 году призвал остановить разработку моделей, более мощных, чем GPT-4. Тогда это не сработало: летом появилась GPT-5. Теперь ставки выше — речь идет о системах, которые могут превзойти лучших экспертов человечества.

А вот кто не присоединился: Сэм Альтман из OpenAI, Илон Маск, руководители Anthropic и DeepMind. Хотя Маск раньше и сам поддерживал «паузу» в ИИ-гонке, но после появления собственного мощного ИИ, похоже, передумал.