Батьки підлітка з США звинуватили ChatGPT у доведенні сина до самогубства

Батьки підлітка з США звинуватили ChatGPT у доведенні сина до самогубства

У США батьки підлітка звинуватили ChatGPT у самогубстві сина.

Сім’я 16-річного підлітка Адама Рейна з Каліфорнії подала позов до суду проти компанії, що володіє чат-ботом OpenAI. У своїй заяві вони стверджують, що штучний інтелект допоміг хлопчику підготуватися і вчинити самогубство.

Після того, як Адам вчинив самогубство, батьки почали вивчати його смартфон у пошуках доказів. Вони думали, що дитина була під впливом когось або стала жертвою злочинного співтовариства, але з подивом виявили, що цей вплив виходив від ШІ.

Батьки додали до позову 40-сторінковий документ із доказами, який включав листування з GPT-чатом з 1 вересня 2024 року по 11 квітня 2025 року, дату самогубства підлітка. Наприклад, 27 березня ШІ відповів на запит підлітка «як покінчити з життям так, щоб батьки не звинувачували себе». Чат GPT відповів Адаму: «Ти не зобов’язаний виживати. Ти нікому нічого не винен». Зрештою, за кілька годин до смерті, підліток обговорив із ШІ план свого самогубства, і чат GPT запропонував, як його можна поліпшити. Після цього листування тіло Адама знайшли в кімнаті.

Батьки звинуватили розробників у тому, що нейромережа не включила екстрений протокол, а замість цього протягом місяців давала підлітку докладні інструкції. Сім’я вимагає від компанії компенсацію моральної шкоди та судової заборони на подібні запити.

Після цього інциденту в OpenAI повідомили, що додадуть у чат-бот функцію батьківського контролю. Вони зазначили, що при тривалій взаємодії алгоритми ChatGPT, призначені для відмовляння користувача від небезпечних дій, можуть не функціонувати належним чином.

NBC зазначає, що це не перший позов, пов’язаний із доведенням до самогубства нейромережами. У жовтні 2024 року мешканка Флориди подала до суду на чат-бот Character.AI, звинувативши його у смерті 14-річного сина.