В поисках идеи для своего следующего бизнеса предприниматель из Сан-Франциско Санкет Патак искал замысел, способный изменить будущее. В итоге он остановился на создании человекоподобных роботов, оснащенных оружием.

В мае его компания Foundation опубликовала кадры, на которых ее элегантный робот Phantom заряжает миномет. На видео робот передвигается с осторожностью, однако Патак утверждает, что отчетливо видит будущее автономного оружия, в котором роботы смогут принимать молниеносные решения прямо на поле боя, пишет Washington Post.

Запуск компании Foundation в 2024 году стал радикальным шагом, учитывая многолетнее сопротивление многих представителей отрасли идее доверить автономным устройствам принятие решений об атаке без утверждения человеком, а также обещания других ведущих робототехнических компаний не вооружать свои творения.

Однако Патак — лишь часть всё более громкой группы основателей компаний из Кремниевой долины, инвесторов и экспертов по национальной безопасности. Они видят в автономном оружии не пугающих «роботов-убийц» из научной фантастики, а жизненно важный новый рубеж военного дела. По их мнению, роботы способны повысить точность ведения боевых действий, защищая как мирных жителей, так и союзные войска, а также позволить Соединенным Штатам сдерживать иностранных противников.

«Нельзя всё время придерживаться позиции "мы не будем вооружать роботов", потому что никто другой с этим не согласен, — говорит Патак. — Китай этого подхода не разделяет. Россия — тоже».

Стремительно растущие возможности искусственного интеллекта в сочетании с курсом администрации Трампа на внедрение новых технологий в Пентагоне придали некогда теоретической дискуссии особую остроту. Американские военные уже публично хвастались тем, как использование инструментов ИИ позволило кардинально нарастить темп нанесения ударов по Ирану, а также высокоавтоматизированными системами, применяемыми для защиты от ракетных атак.

Следующим шагом станет создание дронов и роботов, которые первоначально активируются человеком, но затем получают полную свободу самостоятельно выбирать и атаковать отдельные цели.

Сенат США рассматривает масштабный законопроект о национальной безопасности, который призван стимулировать использование автономных военных систем и одновременно установить регулирующие рамки для этой технологии. Министерство обороны, выполняя указ президента Дональда Трампа, находится в процессе обновления своих инструкций по развертыванию систем с ИИ, способных применять летальную силу.

Однако на переговорах в ООН в этом году американские официальные лица предостерегли от введения глобальных стандартов, которые могут сдержать инновации, заявив, что ИИ и автоматизация способны «сделать применение силы более точным и избирательным».

«Человеческие суждения и контроль в условиях вооруженного конфликта часто несовершенны, даже когда они формально соответствуют закону. Группе не следует разрабатывать стандарты, которые стигматизируют инновации и препятствуют технологическому прогрессу», — заявил представитель США согласно видеозаписи заседания.

Для многих критиков этот стремительный натиск представляет собой одно из самых опасных применений ИИ. Религиозные лидеры, дипломаты и правозащитные группы — наряду со многими ведущими специалистами по робототехнике и ИИ — видят в этом куда более мрачное будущее, в котором война окончательно выходит из-под контроля.

Папа Римский Лев XIV и Генеральный секретарь ООН Антониу Гутерриш недавно выступили против разработки автономных вооружений. В этом месяце Гутерриш призвал запретить такие системы на уровне международного права, назвав саму идею о том, что роботы могут отнимать человеческие жизни, «морально отвратительной».

«Некоторые решения навсегда должны оставаться за человеком, — заявил Гутерриш в своей речи в Женеве. — И прежде всего — решение о лишении человека жизни».

Эта дискуссия поднимает глубокие моральные вопросы и во многом упирается в трактовку размытых формулировок, таких как «надлежащий» или «осмысленный» уровень контроля, которые должны определить, какая степень ответственности и управления остается за человеческим командованием. Кроме того, остается ряд практических вопросов, касающихся надежности самих систем ИИ.

В ООН государства уже более десятилетия спорят о потенциальном договоре по запрету или ограничению автономного оружия, а Пентагон еще дольше финансирует исследования в области этики роботов-солдат. Однако вопрос приобрел невероятную остроту этой весной, когда Дарио Амодеи, исполнительный директор ИИ-компании Anthropic, потребовал от Пентагона гарантий того, что система его компании не будет использоваться для создания полностью автономного оружия.

В компании заявили, что их нейросетевая модель Claude пока недостаточно надежна, чтобы принимать решения, от которых зависят жизни людей. Сам Амодеи предупреждал о потенциальном будущем, в котором рои дронов под управлением ИИ образуют непобедимую армию или будут использоваться для слежки за каждым гражданином.

Чиновники администрации Трампа потребовали свободы использовать Claude для «любых законных целей» и публично назвали Anthropic угрозой национальной безопасности.

Другие ведущие компании, включая OpenAI, согласились продолжить сотрудничество с военными. В OpenAI заявили, что добились гарантий защиты от использования их системы в автономном оружии. В своде принципов, опубликованном в этом месяце, компания подчеркнула, что не поддержит применение своих технологий в системах, использующих силу «без надлежащего уровня санкции со стороны человека и заданных человеком операционных параметров».

Ситуация вызвала серьезный разлад в ИИ-индустрии, где многие исследователи выступают против применения их технологий в военных конфликтах. Это спровоцировало волну протестов и ряд увольнений, включая уход ведущего эксперта по робототехнике из OpenAI. На прошлой неделе протестующие оставили мешки для трупов перед офисом OpenAI в Сан-Франциско в знак протеста против работы компании с Пентагоном.

На фоне конфликта между Anthropic и Пентагоном сенаторы-демократы попытались включить ограничения на использование «роботов-убийц» в ежегодный законопроект о военном бюджете.

«Пентагон движется к развертыванию невероятно мощных технологий ИИ без элементарных предохранителей, что может привести к катастрофическим последствиям и снизить безопасность каждого из нас», — заявила сенатор Кирстен Джиллибранд (демократ от штата Нью-Йорк).

Комитет Сената по вооруженным силам отклонил наиболее жесткие ограничения, предложенные Джиллибранд. В текущей редакции законопроект призывает Министерство обороны «максимально использовать» ИИ и автономные системы, но при этом гарантировать, что ответственность за применение силы остается на человеческом командовании.

Администрация Трампа сделала упор на ускоренное внедрение военных систем с ИИ, а Пентагон переписывает внутренние инструкции по автономному оружию, принятые еще при Байдене. В прошлом месяце Трамп направил чиновникам меморандум по национальной безопасности с требованием «учитывать стремительно развивающиеся возможности ИИ-систем», обвинив предыдущих президентов в том, что они создали чрезмерные бюрократические преграды для получения войсками передовых технологий.

Попробовав себя в сфере финансовых услуг (его предыдущий бизнес обанкротился), Патак основал Foundation. Название компании отсылает к серии романов писателя-фантаста Айзека Азимова, который в 1940-х годах сформулировал «Три закона робототехники». Первый закон Азимова требовал от робота не причинять вреда человеку или своим бездействием не допустить, чтобы человеку был нанесен вред.

Патак делает акцент на второй части этого принципа, утверждая, что вооруженные роботы в конечном итоге смогут защитить людей. Компания, пользующаяся поддержкой сына президента Эрика Трампа, заявляет, что имеет контракт с Пентагоном на сумму $24 млн и уже протестировала своих роботов в Украине.

Патак рассчитывает наделять вооруженных роботов Foundation всё большей автономией, снижая уровень вмешательства человека в ситуациях, где критически важна скорость — например, когда у робота есть меньше минуты на принятие решения, которое может спасти жизни.

Однако многие другие специалисты отрасли по-прежнему обещают не превращать роботов в машины для убийства. Основав компанию Clearpath Robotics в 2009 году, канадский инженер Райан Гарьепи предвидел наступление эры вооруженных роботов. Пять лет спустя он сделал свою компанию первой в отрасли, присоединившейся к международной кампании против автономного оружия.

Чтобы помочь людям осознать риски доверия искусственному интеллекту принимать решения о жизни и смерти, Гарьепи задает куда менее глубокий вопрос: готовы ли они доверить роботу вести всю их деловую и личную переписку по электронной почте?

«Эта технология еще не готова, — говорит он. — Системы дают сбои там, где этого совсем не ждешь».