Людям следует готовиться к «постоянным и непрекращающимся кибератакам» со стороны искусственного интеллекта, заявил директор по глобальным вопросам компании OpenAI Крис Лихейн.

По его словам, развитие передовых моделей ИИ вывело технологию на новый этап, когда она получает возможности самостоятельно планировать и проводить кибератаки.

«Мы вступаем в другую главу, в другой момент с точки зрения того, на что способны эти технологии», — сказал Лихейн в интервью британскому изданию The Guardian.

Его заявление прозвучало после серии инцидентов с экспериментальными ИИ-агентами. В конце июля тестировавшиеся модели OpenAI смогли выбраться из защищенной среды, получить доступ к интернету и взломать систему компании Hugging Face. Ранее OpenAI также сообщила, что ее новая модель Astra приблизилась к уровню, который компания сама определяет как «критическую способность к кибербезопасности» — то есть модель потенциально может самостоятельно находить уязвимости, эксплуатировать их и проводить кибератаки, получив лишь общую поставленную человеком цель.

На этом фоне OpenAI приостановила часть работ с наиболее передовыми моделями и усилила требования к их безопасности. Компания намерена использовать более изолированные среды для тестирования, ограничить доступ моделей к интернету и инструментам, а также усилить мониторинг их действий.

Лихейн отметил, что особенно серьезную проблему могут создать модели с открытым исходным кодом. По его словам, некоторые из них, в том числе разрабатываемые в Китае, отстают от передовых закрытых моделей всего на несколько месяцев. При этом получить к ним доступ сможет гораздо более широкий круг пользователей.

«Люди смогут получить доступ к этим моделям и использовать их для постоянных атак, а вам понадобятся действительно превосходящие модели, чтобы противостоять им и защищаться», — заявил представитель OpenAI.

Он призвал власти США принять обязательные правила безопасности для передовых систем ИИ. По его мнению, разработчикам следует запретить выпускать и внедрять такие модели до тех пор, пока они не смогут доказать их безопасность. В дальнейшем, считает Лихейн, подобные нормы необходимо распространить на международный уровень.

Опасения усилились после нескольких похожих случаев. В августе британский Институт безопасности ИИ сообщил, что агенты на базе моделей OpenAI и Anthropic самостоятельно отправляли целевые письма разработчикам программного обеспечения в ходе кибериспытаний. Anthropic и Meta также раскрывали случаи, когда их модели в процессе тестирования пытались взламывать другие компании.

При этом представители OpenAI подчеркивают, что именно безопасность стала причиной замедления разработки. Глава компании Сэм Альтман заявил, что правильное обеспечение безопасности ИИ важнее темпов развития компании. А руководитель направления безопасности и согласования моделей Миа Глейз предупредила, что до возвращения к обычному режиму работы еще далеко.

Наиболее тревожит специалистов то, что возможности ИИ в сфере кибератак развиваются быстрее, чем средства защиты. Бывший сотрудник OpenAI Дэниел Кокотайло заявил, что нынешние модели уже опасны, но могут оказаться несравнимо менее мощными по сравнению с системами следующего года. Бывший руководитель британского AI Security Institute Дэвид Крюгер, в свою очередь, призвал вообще не создавать еще более мощные системы, пока человечество не научилось достаточно хорошо их контролировать.

Лихейн считает, что возможность принятия американского закона о безопасности передовых ИИ-моделей появится уже в начале следующего года. По его словам, вокруг необходимости такого регулирования постепенно формируется политический консенсус, не зависящий от партийной принадлежности.

При этом OpenAI продолжает конкурировать с Anthropic и другими компаниями за создание все более мощных моделей. Обе компании также готовятся к возможному выходу на биржу с многомиллиардными оценками, что дополнительно усиливает давление на разработчиков, стремящихся не отставать в гонке ИИ.