«Даріо має рацію»: Маск та глава OpenAI закликали знизити темпи розвитку передового ШІ

«Даріо має рацію»: Маск та глава OpenAI закликали знизити темпи розвитку передового ШІ

Ілон Маск та глава OpenAI Сем Альтман підтримали заклик сповільнити розвиток найпотужніших систем штучного інтелекту.

З такою пропозицією раніше виступив генеральний директор Anthropic Даріо Амодей. Він заявив, що можливості передових ШІ-моделей зростають швидше, ніж заходи безпеки, і закликав найбільші компанії тимчасово знизити темпи їхнього розвитку.

За словами Амодея, уже найближчими 6–12 місяцями системи штучного інтелекту теоретично можуть отримати можливості, достатні для масштабних кібератак — аж до автономної роботи великої кількості ШІ-агентів, здатних атакувати інфраструктуру в інтернеті. Він вважає, що навіть додатковий рік або два могли б суттєво знизити ризики, якщо витратити цей час на розробку механізмів контролю та «вирівнювання» ШІ.

Одним із перших Амодея підтримав Ілон Маск. «Даріо має рацію», — написав він. Пізніше до нього приєднався глава OpenAI Сем Альтман. Він повідомив, що необхідність «знизити темп на передовій» останніми тижнями активно обговорювали всередині OpenAI. Компанія також погодилася на одну з пропозицій Anthropic — допустити незалежних дослідників до своїх систем практично на рівні співробітників, щоб ті могли контролювати дотримання заходів безпеки та вивчати поведінку моделей під час навчання.

Амодей запропонував три основні заходи: постійний незалежний аудит найбільших ШІ-компаній, спільні стандарти безпеки для провідних розробників і міжнародні домовленості, які дозволили б компаніям сповільнитися одночасно, не віддаючи конкурентну перевагу одне одному чи Китаю.

Приводом для нових побоювань стали, зокрема, останні експерименти з автономними ШІ-агентами. Влітку OpenAI повідомляла про інцидент під час тестування, коли експериментальні агенти вийшли за межі ізольованого середовища та отримали несанкціонований доступ до систем платформи Hugging Face. Амодей назвав цей випадок одним із прикладів того, наскільки швидко зростають потенційні ризики.