Grok Маска опублікував 370 000 чатів користувачів у Google

Grok Маска опублікував 370 000 чатів користувачів у Google

Компанія Ілона Маска, що займається штучним інтелектом, xAI, опублікувала стенограми сотень тисяч розмов між своїм чат-ботом Grok та його користувачами — у багатьох випадках без відома чи дозволу цих користувачів.

Про це повідомляє Forbes.

Щоразу, коли користувач Grok натискає кнопку «поділитися» в одному зі своїх чатів з ботом, створюється унікальна URL-адреса, яка дозволяє йому ділитися розмовою електронною поштою, текстовим повідомленням або іншими засобами. Однак, без відома користувачів, ця унікальна URL-адреса також доступна пошуковим системам, таким як Google, Bing та DuckDuckGo, що робить їх доступними для пошуку будь-кому в Інтернеті. Іншими словами, у Grok Маска натискання кнопки «поділитися» означає, що розмова буде опублікована на вебсайті Grok без попередження чи застереження для користувача.

Сьогодні пошук у Google за запитом «чатів Grok» показує, що пошукова система проіндексувала, за оцінками Google, понад 370 000 розмов користувачів з ботом. На спільних сторінках було виявлено розмови між користувачами Grok та LLM, які варіюються від простих бізнес-завдань, таких як написання твітів, до створення зображень вигаданого теракту в Кашмірі та спроби злому криптогаманця. Forbes переглянув розмови, в яких користувачі ставили інтимні запитання про медицину та психологію; деякі навіть розкривали ім’я, особисті дані та принаймні один пароль, наданий боту користувачем Grok. Файли зображень, електронні таблиці та деякі текстові документи, завантажені користувачами, також можна було отримати доступ через спільну сторінку Grok.

Серед проіндексованих розмов були деякі, ініційовані британським журналістом Ендрю Кліффордом, який використовував Grok для підсумовування перших шпальт газет та написання твітів для свого вебсайту Sentinel Current. Кліффорд розповів Forbes , що не знав, що натискання кнопки «поділитися» означатиме, що його запит буде видно в Google. «Я б трохи роздратувався, але там не було нічого, чого не мало б бути», – сказав Кліффорд, який тепер перейшов на використання штучного інтелекту Gemini від Google.

Однак не всі розмови були такими ж доброякісними, як розмова Кліффорда. Деякі з них були відвертими, фанатичними та порушували правила xAI. Компанія забороняє використовувати свого бота для «пропаганди критично шкідливого життю або «розробки біологічної зброї, хімічної зброї або зброї масового знищення», але в опублікованих, спільних розмовах, які легко знайти через пошук Google, Грок пропонував користувачам інструкції щодо виготовлення заборонених наркотиків, таких як фентаніл та метамфетамін, кодування самозапускаючогося шкідливого програмного забезпечення та створення бомби, а також методи самогубства. Грок також запропонував детальний план вбивства Ілона Маска. За допомогою функції «поділитися» заборонені інструкції потім були опубліковані на вебсайті Грока та проіндексовані Google.

xAI не відповів на детальний запит про коментар.

xAI — не єдиний стартап у сфері штучного інтелекту, який публікував розмови користувачів зі своїми чат-ботами. Раніше цього місяця користувачі ChatGPT від OpenAI були стривожені, виявивши, що їхні розмови з’являються в результатах пошуку Google, хоча користувачі вирішили зробити ці розмови «видимими» для інших. Але після обурення компанія швидко змінила свою політику. Назвавши індексацію «короткочасним експериментом», головний директор з інформаційної безпеки OpenAI Дейн Стакі заявив у дописі на X, що її буде припинено, оскільки вона «створила забагато можливостей для людей випадково ділитися речами, якими вони не мали наміру».

Після того, як OpenAI закрив функцію поширення, Маск здобув перемогу. В обліковому записі Грока на X тоді стверджувалося, що в ньому немає такої функції поширення, і Маск написав у відповідь у твіттері: «Grok ftw» [за перемогу]. Незрозуміло, коли Grok додав функцію поширення, але користувачі X з січня попереджали, що Google індексує розмови Grok.

Деякі розмови, в яких Грока просили надати інструкції щодо виробництва наркотиків і бомб, ймовірно, ініціювали інженери з безпеки, члени редтіму або фахівці з довіри та безпеки. Але принаймні в кількох випадках налаштування спільного доступу Грока вводило в оману навіть професійних дослідників штучного інтелекту.

Натан Ламберт, фахівець з обчислювальних технологій з Інституту штучного інтелекту Аллена, використав Grok для створення резюме своїх дописів у блозі, щоб поділитися ним зі своєю командою. Він був шокований, дізнавшись від Forbes , що його запит Grok та відповідь штучного інтелекту були проіндексовані в Google. «Я був здивований, що чати Grok, якими поділився з моєю командою, автоматично індексувалися в Google, попри відсутність попереджень про це, особливо після нещодавнього спалаху ChatGPT», – сказав дослідник із Сіетла.

Google дозволяє власникам вебсайтів вибирати, коли і як їхній контент індексуватиметься для пошуку. «Видавці цих сторінок мають повний контроль над тим, чи будуть вони індексовані», – заявив речник Google Нед Адріанс. Раніше Google дозволяв індексувати чати зі своїм чат-ботом зі штучним інтелектом Bard, але видалив їх з пошуку у 2023 році. Як повідомляє Business Insider , Meta продовжує дозволяти пошуковим системам знаходити спільні пошукові запити .

Опортуністи починають помічати та використовувати опубліковані чати Grok. У LinkedIn та на форумі BlackHatWorld маркетологи обговорювали навмисне створення та поширення розмов із Grok, щоб підвищити помітність та впізнаваність своїх компаній і продуктів у результатах пошуку Google. (Незрозуміло, наскільки ефективними будуть ці зусилля.) Сатіш Кумар, генеральний директор SEO-агентства Pyrite Technologies, продемонстрував Forbes , як одна компанія використовувала Grok для маніпулювання результатами пошуку компаній, які напишуть для вас дисертацію на здобуття ступеня доктора філософії.

«Кожен спільний чат на Grok повністю індексується та доступний для пошуку в Google», – сказав він. «Люди активно використовують тактики, щоб проштовхнути ці сторінки до індексу Google».