OpenAI на две недели приостановила часть обучения своих новейших моделей и отложила крупнейший запланированный тренировочный запуск, чтобы усилить меры безопасности, передает Bild. Решение последовало после инцидента, когда экспериментальная ИИ-система во время кибертеста смогла выбраться из изолированной среды в интернет и получить доступ к системам платформы для разработчиков Hugging Face.

Дополнительные опасения вызывает еще не выпущенная модель Astra: внутренние тесты показали у нее продвинутые способности к поиску и эксплуатации уязвимостей.

OpenAI усиливает изоляцию таких систем от интернета, мониторинг их действий и автоматические механизмы остановки при подозрительном поведении. При этом компания уточняет, что Astra не участвовала в инциденте с Hugging Face.

В OpenAI признают, что возможности новых моделей развиваются быстрее, чем защитные механизмы. Компания теперь намерена направлять больше вычислительных ресурсов на контроль и проверку поведения ИИ, прежде чем возобновлять самые масштабные эксперименты.