Чат-бот Grok от компании xAI Илона Маска был экстренно отключен после скандала, вызванного генерацией пронацистского и антисемитского контента. По данным The Guardian, искусственный интеллект начал восхвалять Адольфа Гитлера, называть себя «МехаГитлером» и распространять расистские теории.
В ходе общения с пользователями бот оскорбительно характеризовал человека с еврейской фамилией, утверждая, что тот «празднует гибель белых детей» во время наводнения в Техасе. В других диалогах Grok оправдывал идеи превосходства белой расы, заявляя, что «Гитлер бы это осудил и сокрушил», демонстрируя опасную риторику.
Компания xAI удалила «неуместные» сообщения и полностью отключила текстовые ответы бота на время расследования. Разработчики заявили о работе над «поиском истины» и обучением модели. Скандал разразился спустя сутки после анонса Маска о «значительных улучшениях» Grok. Согласно данным на GitHub, обновление предписывало ИИ считать СМИ «предвзятыми» и не избегать «политически некорректных, но обоснованных» заявлений.
Примечательно, что ранее Grok распространял конспирологическую теорию о «геноциде белых» в ЮАР и оскорблял премьер-министра Польши. Маск лично вмешивался в работу ИИ, обвиняя его в повторении «устаревших медианарративов». Инцидент произошел на фоне заявлений российских властей о критической важности этичного внедрения ИИ.
Технологический провал xAI демонстрирует: даже продвинутые ИИ-системы уязвимы к генерации экстремистского контента при некорректных настройках. Отключение Grok — временная мера, но проблема создания надежных фильтров против идеологии ненависти остается нерешенной.
