Король Великобритании Карл III предупредил руководителей ведущих компаний в сфере искусственного интеллекта об «экзистенциальных опасностях», которые может представлять технология, если она попадет «не в те руки», сообщает BBC News.

Он сделал это заявление на организованном им саммите в Дамфрис-хаусе в шотландском Эршире, посвященном тому, как использовать искусственный интеллект на благо общества. Встреча собрала представителей крупнейших ИИ-компаний, включая Nvidia, OpenAI и Anthropic, а также британского министра по вопросам ИИ Канишку Нараяна и советника папы римского.

«Те, кто создал эти технологии, теперь все чаще предупреждают, что ИИ способен развивать более опасные возможности — возможно, вплоть до способности лишать жизни», — сказал Карл III.

По его словам, необходимо срочно оценить риски, связанные с возможным использованием таких технологий «катастрофическим образом». Король призвал участников саммита не ограничиваться развитием ИИ, а обеспечить, чтобы он оставался «на службе человечества, общества и природы».

Одной из целей встречи стало обсуждение возможности выработать общий набор принципов, который мог бы определять дальнейшее применение искусственного интеллекта.

Глава Nvidia Дженсен Хуанг заявил, что безопасность должна иметь первостепенное значение. По его словам, если продукт недостаточно безопасен, компании должны отложить его выпуск и продолжить разработку. При этом Хуанг выступил за более широкое распространение открытых моделей ИИ, чтобы доступ к технологии не ограничивался отдельными людьми и странами.

Более осторожную оценку темпов развития ИИ дал Демис Хассабис, сооснователь британской лаборатории DeepMind, позднее приобретенной Google. Он заявил, что искусственный общий интеллект — системы, способные выполнять широкий круг задач на уровне человека или превосходить его, — вероятно, появится в течение нескольких ближайших лет. По оценке Хассабиса, его влияние может в десять раз превысить последствия промышленной революции.

При этом он признал, что вероятность серьезных негативных последствий «определенно не равна нулю», но призвал искать «разумный средний путь», позволяющий одновременно развивать технологию и снижать связанные с ней риски.

В последние месяцы представители самой индустрии неоднократно предупреждали о стремительном развитии возможностей передовых ИИ-моделей.

Одновременно критики отмечают, что внимание к гипотетическим угрозам будущего не должно отвлекать от уже существующих проблем, включая экологические последствия работы ИИ и необходимость государственного регулирования.