В 2018 году Microsoft направила SEC очередную сводку, впервые включив в нее пункт об опасностях искусственного интеллекта, пишет HighTech  ссылкой на Quartz.

Во многом благодаря лидерству в ИИ Microsoft входит в число девяти корпораций, определяющих будущее человечества. Но в сводке для чиновников признает, что сама не контролирует этот процесс. Современные ИИ-системы несовершенны. Базы данных, которые используют для тренировки алгоритмов, могут содержать необъективную информацию и способствовать распространению предрассудков.

Скрытая предвзятость может заставить ИИ принять неверное решение и вынести некорректное суждение.

Ответственность в этом случае будет нести компания. «Если мы внедрим решения на базе ИИ, которые негативно влияют на права человека, приватность, уровень занятости и другие социальные аспекты, то наша репутация пострадает», — отметили представители Microsoft в отчете.

Они также добавили, что несовершенства машинного обучения могут поставить компанию в невыгодное положение на фоне конкурентов. В случае серьезных нарушений предприятию придется нести ответственность перед судом.

Компания впервые признала в официальном документе, что ей придется нести как юридическую, так и социальную ответственность за действия алгоритмов.

Причем это касается не только случаев, связанных с дискриминацией. Если ИИ лишит человека работы, Microsoft также придется отвечать.