Сотрудники Массачусетского технологического института и Стэнфордского университета выяснили, что программы, которые работают на основе искусственного интеллекта, лучше распознают лица светлокожих мужчин, и гораздо хуже – женщин-обладательниц темной кожи, пишет Naked-Science.

Системы, обрабатывающие данные с помощью ИИ, без проблем идентифицируют светлокожих людей и часто допускают ошибки при распознавании тех, чей тон кожи несколько темнее. Чтобы это доказать, исследователь из медиалаборатории МТИ Джой Буоламвини (Joy Buolamwini) собрала коллекцию из 1200 фотографий разных людей, где в большинстве были представлены женщины с темной кожей.

В итоге выяснилось, что во время идентификации женщин с более темной кожей одна программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% – с V типом и 34,7% –с VI типом. Результаты проверки работы двух других программ тоже неутешительны: более 46% ошибок при распознавании женщин с самой темной кожей. Кроме того, оказалось, что фототип влияет и на точность определения пола: чем он темнее, тем чаще нейросеть делает неверные выводы. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%.