Ученые решили проверить способность ИИ идентифицировать особенности пациента по рентгеновским снимкам, пишет Popmech.

Перед экспериментом исследователи обучили ИИ на трех крупных наборах данных рентгенографии грудной клетки, которые имели подписи с определением расы человека – темнокожий, белокожий или азиат.

Затем ученые показали рентгеновские снимки множества различных областей тела различных групп людей и попросили ИИ определить расу человека. На снимках отсутствовали любые признаки расы: ни цвета кожи, ни текстуры и цвета волос...

Для всех частей тела ИИ смог определить расу с точностью около 90%, даже без каких-либо идентифицирующих признаков.

Ученые решили, что ИИ каким-то образом использовал данные статистики и основывал выводы на таких факторах, как индекс массы тела или плотность/охват груди. Они убрали возможные сопутствующие переменные и показали только наборы данных людей с похожим ИМТ и типами телосложения, но все же ИИ смог определить расу.

Исследователи не знают, как он это делает. Одно из предположений: ИИ распознает различия меланина в коже людей, которые проявляются на снимках и не видны невооруженным взглядом.