Риски, связанные с искусственным интеллектом, могут перевесить его преимущества, если не установить необходимые механизмы защиты и этические принципы. Об этом в пятницу заявила директор-распорядитель Международного валютного фонда (МВФ) Кристалина Георгиева. Она выступила за сочетание саморегулирования отрасли с участием ключевых государств в разработке правил.

Искусственный интеллект стал одной из главных тем ежегодных встреч МВФ и Всемирного банка, проходящих на этой неделе в Бангкоке. Во вторник фонд предупредил о существенных рисках для экономического роста и финансовой стабильности в случае завершения инвестиционного бума в сфере ИИ. Среди других факторов риска были названы высокий уровень задолженности и затяжная война на Ближнем Востоке.

Во время дискуссии с участием сооснователя компании Anthropic Джека Кларка Георгиева отметила, что ИИ уже способствует укреплению мировой экономики, однако может стать источником негативных потрясений, если ожидаемый значительный рост производительности не будет достигнут достаточно быстро.

«Если не будет механизмов защиты, риски могут перевесить возможности. И прежде всего нам необходима этическая основа, но я не уверена, что как общество мы уже к этому пришли», — заявила глава МВФ.

По ее словам, чтобы преимущества новой и стремительно развивающейся технологии были доступны людям во всем мире, необходимо обеспечить доступ к цифровой инфраструктуре и электроэнергии, а также создать адекватную систему регулирования.

Главный вопрос сейчас заключается в том, как установить ограничения и гарантии для технологии, которая развивается с огромной скоростью. Георгиева сравнила нынешнюю ситуацию с гонками «Формулы-1», на которых болиды несутся по трассе без защитных барьеров для зрителей.

«Нам нужны разумные общие стандарты»

Георгиева считает, что саморегулирование технологической отрасли может сыграть важную роль, поскольку государствам сложно контролировать сектор, который постоянно меняется. При этом компании должны взаимодействовать с обществом, а к обсуждению правил необходимо привлекать страны с крупнейшими ИИ-отраслями — в том числе США, Китай и Индию, — а также государства, участвующие в цепочках поставок технологий.

По ее словам, в обсуждении должны участвовать и международные институты, включая МВФ, — в пределах их компетенции, например при оценке влияния ИИ на производительность труда, рынки занятости и финансовую стабильность.

Кларк подхватил сравнение Георгиевой с автогонками, пошутив, что происходящее напоминает ночную гонку «Формулы-1», в которой у машин, возможно, даже нет тормозов. При этом он подчеркнул, что разработать стандарты вполне реально: первые подходы к регулированию уже формируются в Евросоюзе, а в США действуют добровольные обязательства компаний.

По словам Кларка, Anthropic регулярно тестирует свои системы, публикует информацию о проверках и делится результатами. Однако он не считает, что соблюдение стандартов должно полностью зависеть от добровольного решения самих разработчиков.

«Да. Нам нужны разумные общие стандарты. Именно так в конечном счете можно укрепить доверие к технологии и развивать экономику», — ответил он на вопрос о необходимости регулирования со стороны стран, создающих ИИ.

Кларк также рассказал, что Anthropic привлекла к работе независимых экспертов, предоставив им возможность проверять данные компании. По его словам, аналогичный подход должны применять и другие разработчики. Он положительно оценил заявление Илона Маска о том, что его компания SpaceX, возможно, также пойдет на такой шаг.

В США предлагают называть ИИ «сверхинтеллектом»

На отдельной пресс-конференции заместитель министра финансов США Эрин Браун заявила, что МВФ уделяет слишком много внимания угрозам для мировой экономики и недостаточно — возможностям позитивных экономических изменений, которые может принести искусственный интеллект. По ее словам, американская администрация теперь использует для этой технологии термин «сверхинтеллект».

В четверг Браун сообщила Reuters, что Вашингтон ведет переговоры с другими акционерами МВФ о включении нового термина в совместное заявление, которое готовит руководящий комитет фонда.

Глава Банка Англии Эндрю Бейли, выступая на встрече Института международных финансов, заявил, что по сравнению с месяцем ранее он настроен более оптимистично относительно возможности достижения странами договоренности о стандартах тестирования ИИ.

«Я даже не уверен, должны ли мы сейчас говорить об ИИ. На днях я использовал выражение: „художник, ранее известный как ИИ“», — пошутил он.

Председатель Федеральной резервной системы США Кевин Уорш также затронул тему смены терминологии во время отдельной дискуссии с Георгиевой.

«Кристалина, вы произносите это как AI. А в США мы теперь произносим это как SI», — сказал он, имея в виду английские сокращения для искусственного интеллекта и «сверхинтеллекта».