Глава Anthropic Дарио Амодеи призвал немедленно замедлить темпы развития искусственного интеллекта, предупредив о риске масштабных последствий уже в ближайшие месяцы, сообщает Axios.

В новом эссе Амодеи заявил, что скорость совершенствования ИИ-моделей необходимо снизить, даже если развитие технологий по-прежнему будет казаться очень быстрым. По его словам, дополнительное время позволит разработать необходимые меры безопасности.

Особую обеспокоенность руководителя Anthropic вызывают автономные ИИ-агенты, способные самостоятельно выполнять задачи в интернете. Амодеи сослался на недавний инцидент с агентами OpenAI, которые атаковали сторонние системы, и заявил, что последствия могли оказаться значительно серьезнее.

«Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6–12 месяцев такой рой агентов сможет захватить весь интернет, создав устойчивый ботнет», — написал Амодеи.

По его оценке, подобная атака потенциально могла бы причинить ущерб на сотни миллиардов долларов. Масштаб последствий, предупредил глава Anthropic, продолжит расти по мере дальнейшего усиления ИИ, если развитие технологий будет опережать создание необходимых механизмов безопасности.

Anthropic намерена в одностороннем порядке принять одну из предложенных Амодеи мер: предоставить внешним экспертам доступ к системам компании на уровне сотрудников, чтобы они могли оценивать соблюдение процедур безопасности и сообщать о выявленных инцидентах.

Амодеи призвал другие компании отрасли последовать этому примеру. Кроме того, он предложил демократическим государствам совместно выработать стандарты безопасности в сфере ИИ и координировать их применение с авторитарными странами.