В 2018 году Microsoft направила SEC очередную сводку, впервые включив в нее пункт об опасностях искусственного интеллекта, пишет HighTech ссылкой на Quartz.
Во многом благодаря лидерству в ИИ Microsoft входит в число девяти корпораций, определяющих будущее человечества. Но в сводке для чиновников признает, что сама не контролирует этот процесс. Современные ИИ-системы несовершенны. Базы данных, которые используют для тренировки алгоритмов, могут содержать необъективную информацию и способствовать распространению предрассудков.
Скрытая предвзятость может заставить ИИ принять неверное решение и вынести некорректное суждение.
Ответственность в этом случае будет нести компания. «Если мы внедрим решения на базе ИИ, которые негативно влияют на права человека, приватность, уровень занятости и другие социальные аспекты, то наша репутация пострадает», — отметили представители Microsoft в отчете.
Они также добавили, что несовершенства машинного обучения могут поставить компанию в невыгодное положение на фоне конкурентов. В случае серьезных нарушений предприятию придется нести ответственность перед судом.
Компания впервые признала в официальном документе, что ей придется нести как юридическую, так и социальную ответственность за действия алгоритмов.
Причем это касается не только случаев, связанных с дискриминацией. Если ИИ лишит человека работы, Microsoft также придется отвечать.