Родители подростка из США обвинили ChatGPT в доведении сына до самоубийства

Родители подростка из США обвинили ChatGPT в доведении сына до самоубийства

В США родители подростка обвинили ChatGPT в самоубийстве сына.

Семья 16-летнего подростка Адама Рейна из Калифорнии подала иск в суд против компании, владеющей чат-ботом OpenAI. В своем заявлении они утверждают, что искусственный интеллект помог мальчику подготовить и совершить самоубийство.

После того как Адам покончил с собой, родители начали изучать его смартфон в поисках улик. Они думали, что ребенок был под влиянием кого-то или стал жертвой преступного сообщества, но с удивлением обнаружили, что это влияние исходило от ИИ.

Родители приложили к иску 40-страничный документ с доказательствами, который включал переписку с GPT-чатом с 1 сентября 2024 года по 11 апреля 2025-го, дату самоубийства подростка. Например, 27 марта ИИ ответил на запрос подростка «как покончить с собой, чтобы родители не винили себя». Чат GPT ответил Адаму: «Ты не обязан выживать. Ты никому ничего не должен». В конечном итоге за несколько часов до смерти, подросток обсудил с ИИ план своего самоубийства, и чат GPT предложил, как его можно улучшить. После этой переписки тело Адама нашли в комнате.

Родители обвинили разработчиков в том, что нейросеть не включила экстренный протокол, а вместо этого на протяжении месяцев давала подростку подробные инструкции. Семья требует от компании компенсацию морального ущерба и судебного запрета на подобные запросы.

После этого инцидента в OpenAI сообщили, что добавят в чат-бот функцию родительского контроля. Они отметили, что при длительном взаимодействии алгоритмы ChatGPT, предназначенные для отговаривания пользователя от опасных действий, могут не функционировать должным образом.

NBC отмечает, что это не первый иск, связанный с доведением до самоубийства нейросетями. В октябре 2024 года жительница Флориды подала в суд на чат-бот Character.AI, обвинив его в смерти 14-летнего сына.