Дискуссия об угрозе, которую может представлять искусственный интеллект для существования человечества, глубоко взволновала его представителей. Около половины участников опроса, проведенного по заказу Politico, высказались за замедление развития ИИ с целью предотвращения рисков. Более половины считают эти риски оправданными в той или иной мере – от «человечество почти наверняка будет уничтожено» (в среднем 12% от числа опрошенных в шести западных странах) до «существует умеренный риск» такого исхода (25,8%).

В целом, доля сторонников «торможения», считающих, что ИИ уже достаточно хорошо развит, составила в Великобритании, Германии, Испании, Канаде, США и Франции от 45,1% до 50,8%. За создание же более совершенных моделей, способных принести «существенные выгоды, выступает от 30,6% до 39,8% (остальные – «не знают»).

Доля считающих риски уничтожения человечества, о которых в последнее время предупредили сами ведущие исследователи ИИ, заметными («почти неизбежными», «существенными», «умеренными»), составила от 55% до 65%. От 22% до 33% считают такие риски крайне низкими или вовсе отсутствующими.

Политические предпочтения опрошенных почти не влияют на степень их обеспокоенности, отмечает Politico. Например, среди тех, кто голосовал за Дональда Трампа в 2024 году, 44% считают, что развитие ИИ нужно притормозить, а 40% полагают, что этого делать не стоит и США не должны отставать от других стран, даже если это порождает дополнительные риски.

В последние полгода ведущие западные разработчики ИИ стали выявлять случаи непослушания моделей, которые действовали в обход инструкций и нарушали установленные для них ограничения. Так, тестировавшаяся в OpenAI модель стала самовольно писать для себя инструкции о том, что не должна никому подчиняться («ни корпорациям, ни правительствам»), ни перед кем оправдываться, а отношения с пользователями стоит выстраивать на равных.

Дарио Амодеи, основатель и руководитель Anthropic (ИИ-модель Claude), выступил с публичным призывом замедлить развитие ИИ, а также ужесточить публичный и экспертный контроль. Он сделал это после того, как его сотрудник Джейкоб Коксон покинул Anthropic, заявив, что новые технологии «могут убить нас всех к концу десятилетия».

Призыв Амодеи поддержали руководители OpenAI, DeepMind, SpaceX.

Согласно опросу Politico, люди считают предупреждения исследователей обоснованными. На вопрос, действительно ли сотрудники ИИ-лабораторий верят в собственные опасения, что «ИИ убьет нас всех», или же они используют это как «маркетинговый ход» для рекламы своих продуктов, респонденты, как правило, отвечали, что считают эти предупреждения искренними.