Илон Маск и Сэм Альтман поддержали призыв главы Anthropic Дарио Амодеи замедлить темпы развития передового искусственного интеллекта. Неожиданное совпадение позиций руководителей конкурирующих технологических компаний произошло на фоне новых предупреждений об угрозах, которые могут представлять все более мощные ИИ-системы, пишет The Guardian.

«Дарио прав», — написал в воскресенье в социальной сети X основатель Tesla и SpaceX Илон Маск, комментируя предложение Амодеи. Он напомнил, что уже много лет предупреждает об опасности искусственного интеллекта, сославшись в том числе на свое заявление 2014 года о необходимости проявлять крайнюю осторожность при разработке ИИ.

Глава OpenAI Сэм Альтман также поддержал позицию руководителя Anthropic. «Я согласен с Дарио в том, что нам необходимо замедлить темпы развития передовых технологий», — написал он. Альтман назвал хорошей идеей предоставление независимым экспертам постоянного доступа к процессам разработки ИИ и заявил, что OpenAI намерена внедрить аналогичный подход.

Амодеи ранее предупредил, что слишком быстрое развитие ИИ может привести к серьезным последствиям. В частности, он допустил, что более мощный рой ИИ-агентов при недостаточном контроле в перспективе способен получить возможность «захватить весь интернет», создав устойчивую ботнет-сеть и причинив ущерб на сотни миллиардов долларов. Некоторые специалисты по ИИ сочли такой сценарий маловероятным и призвали относиться к нему скептически.

Альтман сообщил также, что OpenAI не планирует проводить первичное размещение акций в 2026 году. По его словам, на фоне существующих проблем с безопасностью искусственного интеллекта сейчас было бы «неразумно» выходить на биржу. Он выразил надежду, что руководители крупнейших ИИ-компаний в дальнейшем смогут совместно обсудить возможное замедление разработки.

Предложение Амодеи предполагает, в частности, постоянный доступ независимых специалистов к системам разработчиков для контроля соблюдения мер безопасности, расследования инцидентов и оценки поведения моделей. Для координации подобных мер он предлагает получить от властей США разрешение, которое защитило бы компании от обвинений в антиконкурентном сговоре.

Однако сопредседатель президентского совета Дональда Трампа по вопросам науки и технологий Дэвид Сакс заявил, что технологическим компаниям не требуется чье-либо разрешение для самостоятельного замедления разработки. По его мнению, за стремлением компаний ограничить темпы развития ИИ стоит не только забота о безопасности, но и опасение масштабных исков в случае серьезного ущерба, причиненного их продуктами.

К дискуссии о регулировании ИИ подключаются и политики. Бывший премьер-министр Великобритании Риши Сунак, являющийся советником Anthropic, заявил, что отрасль получила «тревожный сигнал» и должна серьезнее относиться к безопасности ИИ и установлению ограничений для исследований.

Тем временем король Великобритании Карл III намерен встретиться в Шотландии с руководителями ведущих компаний отрасли, чтобы обсудить, как развивать искусственный интеллект «на благо человечества». На встрече ожидаются, в частности, глава Nvidia Дженсен Хуанг и сооснователь Google DeepMind Демис Хассабис.