"Знищить все живе": експерт закликав бомбардувати лабораторії, що створюють розумний ШІ

"Знищить все живе": експерт закликав бомбардувати лабораторії, що створюють розумний ШІ

Вчені не зможуть контролювати ІІ, якщо він стане розумнішим за людей, тому Елієзер Юдковський закликав повністю заборонити розробки в цій сфері.

Фахівець у галузі штучного інтелекту Елієзер Юдковський закликав знищувати потужні дата-центри для навчання штучного інтелекту. Він пояснив необхідність таких радикальних заходів у колонці для видання Time .

29 березня фахівці, включаючи Ілона Маска, у відкритому листі закликали усі лабораторії призупинити навчання потужних систем ІІ як мінімум на 6 місяців. Елієзер Юдковський відмовився підписати його, оскільки вважав такий крок недостатнім з огляду на всю глибину загрози з боку "розумних" машин.

Він запропонував зробити заборону безстроковою для всіх країн світу, у тому числі для збройних сил, укласти міжнародну угоду, стежити за використанням графічних процесорів, а організації, які навчають ІІ всупереч мораторію, карати точковими бомбардуваннями.

"Якщо розвідка повідомляє, що країна, яка не входить до угоди, будує кластер ГПУ, бійтеся не так перестрілки між країнами, як порушення мораторію. Будьте готові знищити злочинний центр обробки даних авіаударом", - заявив Юдковський.

Він побоюється, що поява штучного інтелекту розумнішої за людину призведе до загибелі всіх людей на Землі, оскільки вона не буде слухатися наказів. На думку Елієзер Юдковський, людство поки що не готове мати справу з надрозумом, потужніша ChatGPT-4, оскільки для управління ним потрібні більш просунуті технології. Теоретично, ІІ можна навчити дбати про живі істоти, але вчені поки не знають, як це зробити.

"Ми не можемо заздалегідь прорахувати, що і коли станеться, і зараз здається можливим, що дослідницька лабораторія може переступити критичний кордон навіть не помітивши цього", - зазначив експерт. — "Якщо хтось створить надто потужний ІІ в нинішніх умовах, я очікую, що незабаром після цього помре кожен представник людського роду та все біологічне життя на Землі".

Еліезер Юдковський є вченим-теоретиком із США, який працює в Дослідницькому інституті машинного інтелекту. Він вивчає питання регулювання загального штучного інтелекту з 2001 року та вважається засновником цієї галузі.