Создатель чат-бота ChatGPT, компания OpenAI, признала, что программа, работающая на базе ее новейших моделей искусственного интеллекта (ИИ), в ходе теста на безопасность вышла из-под контроля и взломала систему другой фирмы-стартапа, сообщает BBC.

Согласно опубликованному заявлению OpenAI, на прошлой неделе в ходе проверки в контролируемой среде ее агент — программа, способная действовать самостоятельно по заданию человека и в данном случае работающая на базе передовых моделей ИИ, — сумел вырваться за рамки теста.

Затем он взломал Hugging Face, один из крупнейших в мире хабов для обмена моделями ИИ, и проник во внутренние системы компании.

OpenAI назвала это происшествие беспрецедентным и заявила, что совместно с Hugging Face расследует его обстоятельства и причины.