Grok Маска опубликовал 370 000 чатов пользователей в Google

Grok Маска опубликовал 370 000 чатов пользователей в Google

Компания Илона Маска, занимающаяся искусственным интеллектом, xAI, опубликовала стенограммы сотен тысяч разговоров между своим чат-ботом Grok и его пользователями — во многих случаях без ведома или разрешения этих пользователей.

Об этом сообщает Forbes.

Каждый раз, когда пользователь Grok нажимает кнопку «поделиться» в одном из своих чатов с ботом, создается уникальный URL-адрес, который позволяет ему делиться разговором по электронной почте, текстовым сообщением или другими способами. Однако без ведома пользователей, этот уникальный URL-адрес также доступен поисковым системам, таким как Google, Bing и DuckDuckGo, что делает их доступными для поиска каждому в Интернете. Другими словами, в Grok Маска нажатие кнопки «поделиться» означает, что разговор будет опубликован на веб-сайте Grok без предупреждения или предостережения для пользователя.

Сегодня поиск в Google по запросу «чатов Grok» показывает, что поисковая система проиндексировала, по оценкам Google, более 370 000 разговоров пользователей с ботом. На общих страницах были обнаружены разговоры между пользователями Grok и LLM, которые варьируются от простых бизнес-задач, таких, как написание твитов, до создания изображений вымышленного теракта в Кашмире и попытки взлома криптокошелька. Forbes просмотрел разговоры, в которых пользователи задавали интимные вопросы о медицине и психологии; некоторые даже раскрывали имя, личные данные и по крайней мере один пароль, предоставленный боту пользователем Grok. Файлы изображений, электронные таблицы и некоторые текстовые документы, загруженные пользователями, также можно было получить доступ через общую страницу Grok.

Среди проиндексированных разговоров были некоторые, инициированные британским журналистом Эндрю Клиффордом, который использовал Grok для суммирования первых полос газет и написания твитов для своего вебсайта Sentinel Current. Клиффорд рассказал Forbes , что не знал, что нажатие кнопки «поделиться» означало, что его запрос будет виден в Google. «Я бы немного разозлился, но там не было ничего, чего не должно было быть», – сказал Клиффорд, который теперь перешел на использование искусственного интеллекта Gemini от Google.

Однако не все разговоры были столь же безобидны, как разговор Клиффорда. Некоторые из них были откровенными, фанатичными и нарушали правила xAI. Компания запрещает использовать своего бота для «пропаганды критически вредного жизни или «разработки биологического оружия, химического оружия или оружия массового уничтожения», но в опубликованных, общих разговорах, которые легко найти через поиск Google, Grok предлагал пользователям инструкции по изготовлению запрещенных наркотиков, таких как фентанил и метамфетамин, кодирование самозапускающегося вредоносного программного обеспечения и создание бомбы, а также методы самоубийства. Grok также предложил детальный план убийства Илона Маска. С помощью функции «поделиться» запрещенные инструкции затем были опубликованы на веб-сайте Grok и проиндексированы Google.

xAI не ответил на подробный запрос о комментарии.

xAI — не единственный стартап в сфере искусственного интеллекта, который публиковал разговоры пользователей со своими чат-ботами. Ранее в этом месяце пользователи ChatGPT от OpenAI были встревожены, обнаружив, что их разговоры появляются в результатах поиска Google, хотя пользователи решили сделать эти разговоры «видимыми» для других. Но после возмущения компания быстро изменила свою политику. Назвав индексацию «кратковременным экспериментом», главный директор по информационной безопасности OpenAI Дейн Стакки заявил в посте на X, что она будет прекращена, поскольку она «создала слишком много возможностей для людей случайно делиться вещами, которыми они не намеревались».

После того как OpenAI закрыл функцию распространения, Маск одержал победу. В аккаунте Grok на X тогда утверждалось, что в нем нет такой функции распространения, и Маск написал в ответ в твиттере: «Grok ftw» [за победу]. Неясно, когда Grok добавил функцию распространения, но пользователи X с января предупреждали, что Google индексирует разговоры Grok.

Некоторые разговоры, в которых Grok просили предоставить инструкции по производству наркотиков и бомб, вероятно, инициировали инженеры по безопасности, члены редтима или специалисты по доверию и безопасности. Но по крайней мере в нескольких случаях настройки общего доступа Grok вводили в заблуждение даже профессиональных исследователей искусственного интеллекта.

Натан Ламберт, специалист по вычислительным технологиям из Института искусственного интеллекта Аллена, использовал Grok для создания резюме своих постов в блоге, чтобы поделиться им со своей командой. Он был шокирован, узнав от Forbes, что его запрос Grok и ответ искусственного интеллекта были проиндексированы в Google. «Я был удивлен, что чаты Grok, которыми я поделился со своей командой, автоматически индексировались в Google, несмотря на отсутствие предупреждений об этом, особенно после недавнего всплеска ChatGPT», — сказал исследователь из Сиэтла.

Google позволяет владельцам веб-сайтов выбирать, когда и как их контент будет индексироваться для поиска. «Издатели этих страниц имеют полный контроль над тем, будут ли они индексироваться», – заявил представитель Google Нед Адрианс. Ранее Google позволял индексировать чаты со своим чат-ботом с искусственным интеллектом Bard, но удалил их из поиска в 2023 году. Как сообщает Business Insider , Meta продолжает позволять поисковым системам находить общие поисковые запросы.

Оппортунисты начинают замечать и использовать опубликованные чаты Grok. В LinkedIn и на форуме BlackHatWorld маркетологи обсуждали намеренно создание и распространение разговоров с Grok, чтобы повысить заметность и узнаваемость своих компаний и продуктов в результатах поиска Google. (Неясно, насколько эффективными будут эти усилия.) Сатиш Кумар, генеральный директор SEO-агентства Pyrite Technologies, продемонстрировал Forbes , как одна компания использовала Grok для манипуляции результатами поиска компаний, которые напишут для вас диссертацию на получение степени доктора философии.

«Каждый общий чат на Grok полностью индексируется и доступен для поиска в Google», – сказал он. «Люди активно используют тактики, чтобы продвинуть эти страницы в индекс Google».