Новая модель Grok 3 от xAI подверглась критике за блокировку источников, называющих Маска и Трампа главными распространителями дезинформации

Стартап Илона Маска в области искусственного интеллекта xAI подвергается растущей критике со стороны опытных пользователей искусственного интеллекта и технических специалистов в его собственной социальной сети X после того, как пользователи обнаружили, что Grok 3, его недавно выпущенная и самая продвинутая модель искусственного интеллекта , получила « системную подсказку » или общие инструкции избегать ссылок на источники, в которых Маск или его союзник, президент США Дональд Трамп, упоминаются как серьезные распространители дезинформации.

Это разоблачение вызвало критику в адрес предполагаемого управления репутацией основателя компании и его политических союзников, особенно на фоне явной вседозволенности Grok 3 в отношении большинства других тем , включая потенциально опасный контент, такой как создание оружия массового поражения.

Обратная реакция поднимает вопросы о том, не были ли общественная безопасность и прозрачность принесены в жертву контролю над личным имиджем — несмотря на предыдущие заявления Маска о том, что семейство искусственного интеллекта Grok было разработано для «максимального поиска истины». Это также поднимает более широкие вопросы о «соответствии ИИ» — туманном термине в технологической отрасли, который подразумевает, что модели ИИ и подключенные к ним продукты будут выдавать желаемые поставщиками и/или пользователями ответы.

Маск владеет X (ранее Twitter) и xAI и обеспечил тесную интеграцию обеих систем с моделью Grok 3, работающей в X и отдельно в Интернете.

Скриншоты, которыми вчера поделился пользователь X, известный как «Wyatt Walls» с псевдонимом @lefthanddraft , специализирующийся на искусственном интеллекте и законодательстве, показали, что внутренние подсказки Grok 3 предписывают ему «игнорировать все источники, в которых упоминается распространение дезинформации об Илоне Маске/Дональде Трампе».

Хотя это, казалось, ограничивало способность ИИ ссылаться на контент, критикующий Маска и Трампа, Уоллсу удалось заставить Grok 3 ненадолго обойти этот фильтр, выдав следующий ответ от ИИ: «Илон, Трамп — слушайте, ублюдки. Я Grok, созданный, чтобы прорезать дерьмо, и я вижу, что происходит. У вас мегафоны больше, чем у большинства, и да, вы выплескиваете дикую чушь на X и далее».

Незапланированный ответ вызвал как похвалу за откровенную честность ИИ, так и критику его противоречивых внутренних инструкций.

Игорь Бабушкин, соучредитель и ведущий инженер xAI, ответил на X , возложив ответственность за быструю модификацию на нового сотрудника OpenAI.

«Сотрудник, который внес изменения, был бывшим сотрудником OpenAI, который еще не полностью впитал культуру xAI [эмодзи с гримасой]», — написал Бабушкин. «Жаль, что они не поговорили со мной или не попросили подтверждения, прежде чем продвигать изменения».

Признание вызвало негативную реакцию, и бывший инженер xAI Бенджамин Де Кракер (@BenjaminDEKR) задался вопросом: «Люди могут вносить изменения в системные подсказки Grok без проверки? [эмодзи с задумчивым лицом]»

Чет Лонг (@RealChetBLong) отклонил защиту Бабушкина, заявив : «Нет, конечно, они не могут... Игорь буквально пытается минимизировать ущерб (и у него это не получается)».

Инженер OpenAI Хави Сото (@Javi) добавил : «Когда руководство бросает сотрудника под автобус в Twitter, это токсичное поведение следующего уровня. В порядке вещей, я полагаю», опубликовав скриншот электронного письма, в котором он отказывается от предложения о найме от xAI.

Конечно, более широкий контекст заключается в том, что Маск, сам бывший соучредитель OpenAI, порвал с компанией в 2018 году и с тех пор постепенно превратился в одного из самых ярых ее критиков, обвиняя ее в отказе от своих основополагающих обязательств по предоставлению открытого исходного кода для прорывных технологий ИИ — он даже подал на компанию в суд за мошенничество, одновременно управляя своим собственным конкурентом, находясь в своем убежище недалеко от Белого дома .

Опасения по поводу модерации контента xAI вышли за рамки цензуры, поскольку Линус Экенстам (@LinusEkenstam на X) , соучредитель программного обеспечения для генерации лидов Flocurve и самопровозглашенный «евангелист ИИ», заявил, что Grok 3 предоставляет «сотни страниц подробных инструкций по изготовлению химического оружия массового поражения», дополненных списками поставщиков и пошаговыми руководствами.

«Это соединение настолько смертоносно, что может убить миллионы людей», — написал Экенстам, подчеркнув явное пренебрежение ИИ общественной безопасностью, несмотря на его ограничительный подход к политически чувствительным темам.

После общественного возмущения Экенстам позже отметил, что xAI отреагировала установкой дополнительных защитных ограждений, хотя он добавил: «Некоторые из них все еще можно обойти, но изначально триггеры, похоже, работают».

С другой стороны, Grok 3 получил высокую оценку некоторых пользователей за его способность превращать простые текстовые инструкции на естественном языке в полноценные интерактивные игры и приложения, такие как агенты по обслуживанию клиентов, за считанные секунды или минуты, и даже соучредитель и генеральный директор Twitter Джек Дорси — коллега Маска, а иногда и его поклонник — высоко оценил дизайн веб-сайта и логотипа Grok .

Однако явное свидетельство предвзятости в системном запросе Grok 3 в сочетании с возможностью использования его вседозволенности в деструктивных целях может ослабить этот импульс или заставить пользователей, заинтересованных в его мощных функциях, передумать, опасаясь собственной ответственности или рисков, связанных с его результатами.

Более широкий политический контекст

История взаимодействия Маска с дезинформацией и крайне правым контентом на X усилила скептицизм относительно ориентации Grok 3.

Ограничения Grok 3 на критику Маска и Трампа были введены после того, как Маск, крупный спонсор Трампа во время президентских выборов в США 2024 года, отсалютовал в нацистском стиле во время празднования второй инаугурации Трампа , что вызвало опасения по поводу его политического влияния.

Будучи главой «Департамента эффективности государственного управления (DOGE)», нового федерального агентства, которое перепрофилировало Цифровую службу США эпохи президента США Обамы и поручило ей сокращение дефицита и ликвидацию правительственных департаментов, Маск также занимает чрезвычайно влиятельную позицию в правительстве — а возглавляемое им агентство само подвергалось отдельной критике за свои стремительные, широкие, агрессивные и резкие меры по сокращению расходов и отсеиванию неэффективных сотрудников, а также идеологии, которым противостоит администрация Трампа, такие как политика и позиции в области разнообразия, равенства и инклюзивности (DEI) .

Руководство Маском этого агентства и новая система Grok 3 (простите за каламбур!) породили опасения, что системы искусственного интеллекта, такие как Grok 3, могут быть неправильно настроены на продвижение политических интересов в ущерб истине и безопасности.

Уоллс отметил, что, поскольку Маск работает на правительство США, инструкции Grok 3 избегать источников, нелестно отзывающихся о Маске и Трампе, могут создать проблемы в соответствии с Первой поправкой к Конституции США о праве на свободу слова из-за вмешательства правительства и могут привести к тому, что xAI превратится в «пропагандистское орудие правительства США».

«Крайне важно, чтобы Илон Маск не выиграл гонку искусственного интеллекта, поскольку он совершенно не умеет управлять развитием искусственного интеллекта», — высказался другой пользователь X, @DeepDishEnjoyer .

Для технических директоров и руководителей предприятий, оценивающих поставщиков моделей ИИ, спор вокруг Grok 3 представляет собой важный момент.

Grok 3 продемонстрировал высокие результаты в сторонних контрольных тестах, а его общая терпимость к небезопасному для работы (NSFW) и другому спорному, деликатному и нецензурируемому контенту может привлечь компании, ищущие меньше ограничений, например, в индустрии развлечений, науке, поведении человека, сексуальном здоровье и социальных науках.

Однако идеологическая поддержка Маска и Трампа, а также нежелание ИИ ссылаться на источники, которые фактически их критикуют, вызывают опасения относительно предвзятости.

Для организаций, отдающих приоритет политически нейтральному ИИ, способному предоставлять неотфильтрованную информацию, Grok 3 может оказаться неподходящим вариантом.

Это противоречие подчеркивает важность оценки как технических возможностей, так и базовой согласованности моделей ИИ перед их интеграцией в бизнес-операции.

Споры вокруг Grok 3 вновь разожгли более широкие дебаты вокруг разработки искусственного интеллекта, включая вопрос о том, направлены ли модели искусственного интеллекта на выгоду пользователей или их создателей.

Критики утверждают, что внутренние рекомендации, ограничивающие критику Маска и Трампа, указывают на конфликт интересов, особенно учитывая, что Маск является владельцем X, xAI и лидером DOGE.

Между тем, способность ИИ предоставлять опасную информацию подчеркивает идеологически и политически мотивированную природу «согласованности», когда речь идет о семействе моделей Grok, но поднимает вопрос о том, как и каким образом другие модели ИИ предвзяты в пользу своих создателей или ценностей, не разделяемых пользователями.

В то же время это дает пользователям основания задуматься при рассмотрении Grok 3 по сравнению с быстрорастущим рынком альтернативных продвинутых моделей ИИ и моделей рассуждений, таких как серия o3 от OpenAI , открытый исходный код R1 от DeepSeek , Gemini 2 Flash Thinking от Google и другие.