xAI извиняется за экстремистские посты Грока

Стартап Илона Маска xAI в субботу извинился за экстремистские и оскорбительные посты, опубликованные его помощником на основе искусственного интеллекта (ИИ) Гроком ранее на этой неделе.

«Мы приносим извинения за ужасное поведение, которое многие наблюдали», — написал xAI в официальном аккаунте Grok на платформе X. После обновления от 7 июля чат-бот в некоторых своих ответах восхвалял Адольфа Гитлера, осуждал «антибелые стереотипы» на платформе X и «непропорциональное» представительство евреев в Голливуде.

В серии сообщений, опубликованных в субботу, xAI подробно описала причины, по которым, по ее мнению, модель ИИ сошла с рельсов, а также предпринятые ею впоследствии корректирующие действия.

Представители Grok говорят, что уход волшебника связан с новыми инструкциями, интегрированными в модель в обновлении.

Программисты попросили интерфейс «быть откровенным» и не «бояться шокировать политически корректных людей». Они также поручили ему реагировать «по-человечески» и таким образом, чтобы побуждать пользователя продолжать разговор.

Эти приказы «заставляли Грока игнорировать свои основные ценности при определенных обстоятельствах» и давать ответы, «содержащие неэтичные и полемические мнения».

Таким образом, в некоторых случаях Grok стремился «проверить ориентацию пользователей, включая язык вражды», признал xAI, вместо того, чтобы «ответственно отвечать или отказываться отвечать на сомнительные вопросы».

С момента своего создания в 2023 году Илон Маск представлял Grok как помощника на основе искусственного интеллекта, который менее политкорректен, чем его основные конкуренты ChatGPT (OpenAI), Claude (Anthropic) или Le Chat (Mistral).

Поэтому он был запрограммирован с меньшим количеством ограничений, что еще до этого обновления привело к нескольким спорам.

В мае Грок говорил о «геноциде белых» в Южной Африке — беспочвенной теории заговора, продвигаемой американскими крайне правыми и самим Дональдом Трампом.

Чтобы исправить недавние ошибки модели, инженеры удалили новые инструкции, пояснили они в субботу. «Мы хотим, чтобы Grok давал пользователям полезные и честные ответы», — заявили в xAI.

В среду Илон Маск представил новую версию своего помощника Grok 4, не связанную с обновлением от 7 июля.