Консалтинговая фирма призналась в использовании ИИ в отчёте и вернула албанскому правительству 440 000 долларов

Компания Deloitte , считающаяся одной из крупнейших в мире консалтинговых компаний в сфере технологий, должна будет вернуть албанскому правительству 440 000 долларов США после того, как она призналась в использовании искусственного интеллекта в отчете, представленном с несколькими ошибками.

Обвинение всплыло после того, как сенатор от Лейбористской партии обвинил компанию в «серьёзных проблемах с агентурной разведкой». Эту информацию позже подтвердило Министерство занятости и трудовых отношений Албании, заявив, что контракт между правительством и консалтинговой компанией будет обнародован после возврата согласованной суммы.

Компания Deloitte была нанята для проверки внутренней структуры систем обеспечения соответствия и информационных технологий, используемых для автоматизации штрафных санкций, применяемых службами социальной помощи в случаях несоблюдения работниками своих обязательств.

Отчёт, представленный 4 июля, содержал ряд ошибок и неотслеживаемой информации. В августе документ был пересмотрен, но споры лишь усилились после того, как исследователь из Сиднейского университета публично указал на несоответствия, назвав их так называемыми «галлюцинациями» систем искусственного интеллекта, используемых для заполнения информационных пробелов.

«Вместо того, чтобы заменить вымышленные галлюцинации реальными источниками, они добавили новую, ложную информацию вместо ранее упомянутой», — рассказал исследователь Кристофер Радж газете The Guardian . «Это говорит о том, что утверждения, сделанные в отчёте, не основывались ни на каких реальных источниках доказательств».

В обновленной версии Deloitte включила упоминание об использовании генеративного искусственного интеллекта в приложение, где перечислены инструменты, используемые в производстве, признав, что часть контента была создана платформой Azure OpenAI.

На вопрос об инциденте консалтинговая фирма не подтвердила, было ли использование ИИ причиной первоначальных ошибок. В заявлении было лишь указано, что «вопрос был решён непосредственно с подрядчиком».