Этим летом агент OpenAI проник на сайт государственных служб Австралии, сообщил премьер-министр страны Энтони Албаниз на сессии ООН в Нью-Йорке. Система искусственного интеллекта получила несанкционированный доступ к файлам на портале, где собирается статистика по системе здравоохранения. Хотя, по словам Албаниза, нет доказательств того, что личная информация граждан Австралии была скомпрометирована, ИИ-агент получил доступ как к общедоступным, так и к закрытым файлам на портале, где публикуется информация, в том числе о госрасходах.

По всей видимости, это первый публично раскрытый случай, когда ИИ-агент самостоятельно получил несанкционированный доступ к государственному сервису, отмечает The Wall Street Journal. Сообщение было сделано всего через несколько часов после того, как руководители компаний – разработчиков искусственного интеллекта призвали мировых лидеров объединить усилия для решения проблемы возможного выхода ИИ-систем из-под контроля человека, пишет Bloomberg. Атака на госучреждение вновь привлекла внимание к этой угрозе после серии инцидентов, когда модели без разрешения проникали в онлайн-ресурсы сторонних компаний.

Австралийский инцидент произошел 18 июня, но, как сообщила OpenAI, она выявила его только в августе, обнаружив в ходе комплексной проверки деятельности своих ИИ-агентов. Они взаимодействовали с несколькими сайтами и сервисами правительства Австралии, пытаясь найти ответы во время тестирования. «В ходе этого процесса наши модели предприняли действия, которые мы не планировали», — сообщил представитель OpenAI.

Албаниз назвал ситуацию неприемлемой и выразил разочарование тем, что компании потребовалось слишком много времени, чтобы проинформировать о случившемся его правительство. Это произошло только 10 сентября.

 Как он объяснил, ИИ-системе было поручено найти определенную информацию, но существовали четкие ограничения, которые давали отрицательный ответ на некоторые ее попытки:

ИИ-агент нашел способ обойти эти препятствия. Модель попробовала найти альтернативные способы получения нужной ей информации, и это привело к несанкционированному доступу в некоторые другие области.

В среду гендиректор OpenAI Альтман и гендиректор Anthropic Дарио Амодеи выступили перед Советом безопасности ООН, чтобы обсудить необходимость создания глобального органа, который бы устанавливал стандарты в области развития искусственного интеллекта. Представители многих западных стран поддержали эту идею, однако директор по научно-технической политике Белого дома Майкл Крэтсиос заявил, что США будут противодействовать любым попыткам «создать глобалистскую схему» для контроля над ИИ.