Лоббистская группа, поддерживаемая Илоном Маском и связанная с противоречивой идеологией, популярной среди технологических миллиардеров, борется за то, чтобы роботы-убийцы не уничтожили человечество, и для этого она взялась за Европейский закон об искусственном интеллекте, пишет Politico.

«Институт будущего жизни» (FLI) за последний год оказал влияние на некоторые из наиболее спорных элементов Закона об ИИ. Несмотря на связи группы с Силиконовой долиной, крупные технологические гиганты, такие как Google и Microsoft, оказались на проигравшей стороне аргументов FLI.

Некоторых беспокоит, что институт олицетворяет технологическое беспокойство по поводу маловероятных угроз, которые могут отвлечь внимание от более насущных проблем. Но большинство согласны с тем, что во время своего пребывания в Брюсселе FLI был эффективным.

«Они довольно прагматичны и обладают юридическими и техническими знаниями», — сказал Кай Зеннер, советник по цифровой политике правоцентристского депутата Европарламента Акселя Восса, который работает над Законом об ИИ. «Иногда они слишком беспокоятся о технологиях, но они поднимают много хороших моментов».

Созданная в 2014 году академиком Массачусетского технологического института Максом Тегмарком и поддерживаемая грантами технологий, включая Маска, Яана Таллина из Skype и крипто-вундеркинда Виталика Бутерина, FLI является некоммерческой организацией, занимающейся борьбой с «экзистенциальными рисками» — событиями, способными уничтожить или обречь человечество. Среди ее внешних советников есть актеры Морган Фриман и Алан Алда, а также известные ученые Мартин (Лорд) Рис и Ник Бостром.

Главной из этих угроз и приоритетов FLI является взбесившийся искусственный интеллект.

«Мы видели авиакатастрофы, потому что автопилот нельзя было отменить. Мы видели штурм Капитолия США, потому что алгоритм был обучен максимизировать взаимодействие. Сегодня это сбои безопасности ИИ — по мере того, как эти системы становятся более мощными, вред может увеличиваться», — сказал в интервью Марк Бракел, директор FLI по европейской политике.

Но лоббистская группа сталкивается с двумя проблемами. Во-первых, Маск, его самый известный покровитель, оказался в центре бури, поскольку он начал массовые увольнения в Twitter как его новый владелец, привлекая внимание и регулирующих органов. Противоречия Маска могут заставить законодателей нервничать в разговоре с FLI. Во-вторых, связи группы с набором убеждений, известных как эффективный альтруизм, вызывают удивление.

Прибытие лоббистской группы, борющейся с вымиранием, смещенным искусственным интеллектом и роботами-убийцами, должно было освежить вялую политику Брюсселя.

Офис FLI в Брюсселе открылся в середине 2021 года, когда начались обсуждения предложения Европейской комиссии о Законе об искусственном интеллекте.

Бывший дипломат, уроженец Нидерландов Бракель присоединился к институту в мае 2021 года. Он решил работать в области политики в области искусственного интеллекта как в области, которая была одновременно эффективной и недостаточно обслуживаемой.

С момента основания в Брюсселе команда института из трех человек возглавила усилия по лоббированию малоизвестных проблем ИИ.

Группа также играет на опасениях европейцев перед технологическим господством США и Китая. «Системы искусственного интеллекта общего назначения создаются в основном в США и Китае, и это может нанести ущерб инновациям в Европе, если вы не обеспечите их соответствие некоторым требованиям», — сказал Бракел, добавив, что этот аргумент находит отклик у правоцентристских законодателей, с которыми он недавно познакомился.

Еще одним увлечением FLI является запрет ИИ, способного манипулировать поведением людей. Первоначальное предложение запрещает манипулятивный ИИ, но это ограничивается «подсознательными» методами, которые, по мнению Брейкела, создадут лазейки.

Но содокладчик Закона об искусственном интеллекте, румынский депутат от Renew Драгош Тудораче, теперь настаивает на том, чтобы сделать запрет более всеобъемлющим.