Ученые призывают страны ООН ограничить опасное использование ИИ.

Более 200 видных деятелей, включая лауреатов Нобелевской премии и исследователей из таких гигантов в области искусственного интеллекта, как Anthropic, Google, Microsoft и OpenAI, подписали документ «Глобальный призыв к красным линиям в области ИИ», адресованный странам, участвующим в Генеральной Ассамблее ООН. Они призывают к скорейшему установлению к 2026 году «красных линий», которые нельзя пересекать в отношении ИИ и его опасного применения.

«Искусственный интеллект обладает огромным потенциалом для улучшения благосостояния людей, но его текущая траектория развития таит в себе беспрецедентную опасность», — говорится в документе, подписанном Джеффри Хинтоном и Йошуа Бенджио, считающимися одними из отцов ИИ. «Правительства должны действовать решительно, пока не закрылось окно для осмысленного вмешательства». По мнению авторов письма, «красными линиями» для ИИ станут согласованные на международном уровне запреты на использование, которое считается слишком рискованным, включая использование ИИ для управления ядерными арсеналами или любыми типами автономных систем оружия смертоносного действия. Или использование ИИ для массовой слежки, кибератак и создания дипфейков.

Подписавшие послание призвали правительства установить ограничения на ИИ к концу следующего года, учитывая темпы развития технологий. «Искусственный интеллект вскоре может значительно превзойти человеческие возможности и увеличить такие риски, как искусственно созданные пандемии, широкомасштабная дезинформация, масштабное манипулирование людьми, включая детей, вызовы национальной и международной безопасности, массовая безработица и систематические нарушения прав человека», — говорится в письме. «Если ничего не предпринять, многие эксперты, в том числе те, кто находится на переднем крае развития, предупреждают, что в ближайшие годы станет всё труднее осуществлять значимый контроль со стороны человека».