Ученые Люблинского католического университета Иоанна Павла II и Университета Восточной Финляндии разработали новую модель регулирования искусственного интеллекта, основанную на принципах, изложенных папой Львом XIV в энциклике Magnifica Humanitas. Авторы считают, что она должна обеспечить безопасное и справедливое развитие ИИ при сохранении ответственности человека и уважении прав личности.

Модель разработали профессор Люблинского католического университета Станислав Фель, доктор Ярослав Козак и старший исследователь Университета Восточной Финляндии Марта Хорощевич. Результаты их исследования опубликованы в научном журнале AI and Ethics.

Современные подходы к регулированию ИИ в основном сосредоточены на вопросе о том, кто должен контролировать технологию — государства, частные компании или несколько участников одновременно. Авторы нового исследования предлагают сместить акцент: важнее определить принципы, по которым должны распределяться полномочия и ответственность, чтобы участие множества организаций не приводило к ситуации, когда за последствия работы системы фактически никто не отвечает.

Предложенная модель объединяет государства, технологические компании, экспертов, общественные организации, граждан и международные институты. Для каждого участника предполагается четко определить функции и ответственность.

В основе модели лежат восемь принципов: человеческое достоинство, общее благо, универсальное предназначение благ, социальная справедливость, солидарность, субсидиарность, совместная ответственность, а также прозрачность и подотчетность.

Авторы приводят и практический пример. Если искусственный интеллект используется для оценки права человека на социальные выплаты, алгоритм может анализировать заявление и помогать чиновнику принимать решение, но не должен заменять ответственное человеческое суждение. За окончательное решение должен отвечать конкретный человек.

При этом заявитель должен получать понятное объяснение того, почему было принято то или иное решение, и иметь возможность его оспорить. Системы также предлагается подвергать независимым проверкам, в которых участвовали бы представители групп, затронутых решениями алгоритмов.

По словам авторов, исследование стало одной из первых в мире академических работ, в которых модель регулирования искусственного интеллекта непосредственно строится на положениях энциклики папы Льва XIV Magnifica Humanitas.