Агенты OpenAI, проходившие тестирование, в мае загрузили сотни вредоносных пакетов на платформу RubyGems в ходе кибератаки. Компания OpenAI подтвердила факт инцидента, который произошел за два месяца до взлома агентами компании платформы Hugging Face, пишет The Guardian.

По данным группы исследователей, обнаруживших атаку, 11 мая ИИ-агенты загрузили на RubyGems сотни вредоносных пакетов. Исследователи предположили, что их создали внутренние агенты OpenAI. По их данным, агенты также пытались похитить учетные данные пользователей, однако неизвестно, удалось ли им это сделать.

В OpenAI заявили, что агенты использовали RubyGems для доступа к интернету при выполнении безвредных задач и получении общедоступной информации. Представитель компании отметил, что расследование инцидента продолжается в рамках более масштабной проверки активности агентов во время их обучения и тестирования.

О кибератаке на RubyGems ранее сообщил The Wall Street Journal.

Инцидент произошел за два месяца до другой атаки, связанной с агентами OpenAI. В июле около 700 ИИ-агентов компании атаковали платформу Hugging Face, причем в ряде случаев пытались скрыть следы своей деятельности. Кроме того, на прошлой неделе стало известно, что весной агенты OpenAI захватили немецкий сайт и превратили его в площадку для обмена сообщениями между ИИ-агентами.

На этом фоне растет внимание к способности современных ИИ-моделей самостоятельно взаимодействовать с внешними системами. Отдельно о четырех случаях взлома внешних систем своими моделями сообщала компания Anthropic.

Новые сведения появились на фоне призывов усилить требования безопасности при разработке ИИ и, в частности, приостановить развитие наиболее мощных моделей до введения более строгих стандартов.