Три исследователя американской компании Anthropic публично заявили о серьезных опасениях по поводу стремительного развития искусственного интеллекта, предупредив, что неконтролируемое развитие технологии может привести к гибели человечества уже в ближайшие годы, пишет Axios.

Исследователь Anthropic Джейкоб Коксон, объявивший во вторник об уходе из компании, заявил, что специалисты, создающие ИИ, всерьез считают возможной гибель человечества к концу этого десятилетия. По его словам, это не маркетинговый ход, а реальная обеспокоенность, которую многие руководители и ведущие исследователи компании выражают в частных разговорах.

«Люди, создающие ИИ, всерьез считают, что он может убить всех нас к концу десятилетия», — написал Коксон в соцсети X.

Он добавил, что никакая другая деятельность человечества не представляет сопоставимого уровня опасности.

Руководитель направления исследований безопасности ИИ Anthropic Эван Хьюбингер согласился с коллегой. По его оценке, вероятность того, что ИИ уничтожит человечество в течение следующего десятилетия, превышает 10%. При этом он отметил, что Anthropic делает все возможное для предотвращения такого сценария, однако у компании пока нет решения проблемы контроля над сверхинтеллектом и нет уверенности, что она движется к нему достаточно быстро.

Еще один сотрудник Anthropic, руководитель направления масштабируемого надзора Сэмюэл Маркс, заявил, что разработчики ИИ считают возможными «вымирание человечества или аналогичные катастрофические последствия», причем такой сценарий может реализоваться уже в ближайшие несколько лет. По его словам, чем выше должность сотрудника, тем сильнее его обеспокоенность.

Предупреждения прозвучали вскоре после аналогичных заявлений руководителей OpenAI, включая генерального директора Сэма Альтмана, о том, что развитие ИИ вступает в пугающую и все менее контролируемую фазу.

При этом критики Anthropic и OpenAI считают, что компании могут намеренно преувеличивать риски, чтобы повышать собственную стоимость и добиваться регулирования, которое укрепит позиции крупнейших игроков рынка. Однако авторы Axios отмечают, что общались с десятками сотрудников этих компаний и наблюдали рост их обеспокоенности.

Исследователи указывают, что речь не идет о неизбежной катастрофе в ближайшем будущем. Их опасения связаны с тем, что развитие моделей ИИ происходит значительно быстрее ожидаемого и вскоре они могут получить способность к самостоятельному совершенствованию.

В таком случае системы смогут становиться все более мощными и одновременно — менее предсказуемыми и управляемыми.