Технология, которую большинство людей используют лишь как разговорный инструмент для повседневных задач, по сообщениям, помогает американской военной агрессии. И при этом мы почти не можем повлиять на ситуацию, пишет Крис Стокел-Уокер в своей статье для Guardian.

«За последние три месяца администрация Дональда Трампа, по сообщениям, дважды использовала ИИ для осуществления смены режима или, в последнем случае в Иране, для приближения к этой цели настолько, насколько это возможно, оставляя рядовым иранцам «довести дело до конца».

Сначала модель ИИ Claude компании Anthropic — которую большинство людей используют как более разборчивую альтернативу ChatGPT —  предположительно применялась как для планирования, так и для исполнения захвата Николаса Мадуро в Венесуэле, хотя детали использования остаются неизвестными.

Затем, в минувшие выходные, стало известно, что инструмент ИИ снова был использован для обработки разведданных, которые помогли подготовить массированные удары по Ирану, в частности для идентификации целей и проведения симуляций.

Трудно переоценить значимость этих событий. ИИ использовался при планировании и проведении военных операций, которые привели к неизвестному числу жертв и дестабилизировали Ближний Восток.

Генеральный директор Anthropic Дарио Амодеи оказался вовлечён в крайне напряжённый публичный конфликт с президентом США, после того как отказался ослаблять два «красные линии» для Claude: запрещение использования ИИ для массового внутреннего наблюдения и для создания полностью автономного оружия, способного выбирать и поражать цели без значимого человеческого контроля.

OpenAI быстро заключила соглашение с Пентагоном, утверждая, что условия контракта фактически обеспечивают более строгие гарантии, чем те, которые хотела Anthropic.

Независимо от конкретных условий договора, важно подчеркнуть: инструмент, который изначально создавался как чат для суммирования писем и помощи при написании сопроводительных писем, теперь участвует в цепочке, превращающей информацию в насилие.

Ранее вопросы вроде «Кто должен контролировать ИИ и что произойдёт, если он будет использоваться в военных целях?» обсуждались только в академической среде. Опасения были, но казались далекими. Когда в январе спецназ увёз Мадуро, а затем начали падать бомбы на Иран — очевидно, с помощью ИИ — эта картина резко изменилась.

Основные принципы ведения вооружённого конфликта заключались в том, чтобы владеть страшным оружием, но не использовать его. Оно служило сдерживанием. Теория взаимного гарантированного уничтожения заставляла воздерживаться от нажатия кнопки на ядерном оружии. (Тревожно, что первые сценарии военных игр показывают: ИИ может быть «быстро нажимать кнопку» с ядерным оружием.)

Теперь этого оправдания нет. Всё больше стран будет использовать ИИ в военном планировании и действиях — и, безусловно, потому что это эффективно, хотя возникают очевидные моральные вопросы, если ИИ принимает решения о ведении войны.

Когда военные историки будут анализировать события последних месяцев, они, вероятно, увидят использование ИИ как переломный момент, сравнимый с применением ядерного оружия в Японии: момент, после которого есть чёткое «до» и неопределённое «после».

Что же можно с этим сделать? Практически ничего. Должен был быть полный запрет на использование ИИ в военных целях.

Международное сообщество должно сейчас изо всех сил стремиться вернуть Трампа с края пропасти. Союзники должны оказывать давление на администрацию США не только с целью ответственного применения ИИ в военных целях, но и чтобы были приняты обязательные ограничения. Это должно включать международные соглашения, прозрачные стандарты закупок и эффективный надзор, к которым должны присоединяться и другие страны, а не рассматривать этику как тормоз действий. Потому что если самая мощная армия мира нормализует использование ИИ потребительского уровня для операций по смене режимов, мы окажемся «по ту сторону зеркала»: в совершенно новом, гораздо более опасном мире».