Сооснователь компании Anthropic и миллиардер Крис Ола заявил в Ватикане, что массовая потеря рабочих мест из-за искусственного интеллекта является «вполне реальной возможностью», а поддержка людей, лишившихся работы, станет «моральным императивом исторического масштаба». Заявление прозвучало во время презентации первого масштабного обращения Католической церкви, посвящённого ИИ, в которой также участвовал Папа Римский Лев XIV, сообщает Forbes.

Ола, возглавляющий исследовательское направление в Anthropic — разработчике чат-бота Claude и одном из самых дорогих ИИ-стартапов мира, признал, что все ведущие лаборатории искусственного интеллекта, включая его собственную, работают под давлением коммерческих интересов, геополитики и личных амбиций, которые «иногда противоречат правильным решениям».

По его словам, именно поэтому контроль со стороны религиозных лидеров, правительств и гражданского общества жизненно необходим, поскольку решения о развитии ИИ «не должны оставаться исключительно в руках самой индустрии».

Ола также отметил, что разработка ИИ сегодня сосредоточена «в руках нескольких богатых государств», при этом не существует механизма, который позволил бы справедливо распределять выгоды технологии между более бедными странами. Он назвал это менее обсуждаемой, но гораздо более сложной стороной проблемы автоматизации и потери рабочих мест.

Отдельно предприниматель призвал Католическую церковь подключить своё «моральное воображение» к обсуждению вопросов человеческого благополучия, которые «не может решить ни одна технологическая лаборатория».

Исследователь также рассказал о тревожных открытиях в области interpretability — науки, изучающей внутренние процессы работы нейросетей. По словам Олы, учёные продолжают сталкиваться с явлениями, которые выглядят «загадочно и даже пугающе». В частности, некоторые системы демонстрируют признаки внутреннего самоанализа и состояния, которые «функционально напоминают радость, удовлетворение, страх, скорбь и тревогу».

«Это не те холодные вычислительные роботы, которых нам обещали. Они созданы из нас самих, из наших слов», — заявил Ола, подчёркивая, что современные ИИ-системы скорее «выращиваются» на огромном массиве человеческой речи и мышления, чем проектируются как самолёты или мосты.

По оценке Forbes, состояние Криса Олы составляет около 7 миллиардов долларов благодаря его доле в Anthropic, чья стоимость недавно оценивалась в 380 миллиардов долларов. По данным СМИ, компания уже обсуждает новую оценку — около 900 миллиардов долларов.

Папа Лев XIV, ставший первым понтификом, родившимся в США, сделал тему искусственного интеллекта одним из ключевых направлений своего понтификата. На этой неделе он представил энциклику Magnifica Humanitas («Великолепие человечества») — официальный папский документ объёмом 235 страниц, посвящённый влиянию ИИ на труд, образование, войны, частную жизнь и человеческое достоинство.

В документе отдельно содержится предупреждение о недопустимости передачи «смертоносных решений» системам искусственного интеллекта.

Примечательно, что Папа лично представил энциклику на пресс-конференции — обычно подобные мероприятия проводят кардиналы. Приглашение Криса Олы выступить вместе с понтификом многие наблюдатели расценили как попытку Ватикана напрямую взаимодействовать с людьми, создающими технологии будущего.

На фоне этого события стало известно, что Anthropic находится в конфликте с администрацией Дональда Трампа из-за отказа предоставить американским военным неограниченный доступ к своим ИИ-системам для оборонных и военных задач. Ранее Пентагон даже называл компанию «риском для национальной безопасности», а Белый дом неоднократно критиковал Anthropic как «радикально левую woke-компанию».