Американских сенаторы пытаются понять, как крупные социальные компании, такие как Facebook Inc и Google Alphabet Inc, используют алгоритмы и искусственный интеллект для предоставления нового контента, чтобы привлечь пользователей, пишет Reuters.

Подкомиссия Сената по коммерции, технологиям и инновациям заслушала мнение исследователей, которые раскритиковали использование искусственного интеллекта для выбора контента для пользователей. Сенаторы говорят, что большая часть этого контента - это теории заговора и вводящая в заблуждение информация на YouTube, Facebook и в других платформах.

Конгресс потратил месяцы на обсуждение новых мер защиты конфиденциальности для онлайн-пользователей, которые могут ограничить способность социальных сетей использовать личные данные для выработки рекомендаций по контенту и ставить под сомнение, должным образом ли социальные сети обеспечивают защиту детей.

Сенатор Брайан Шатц, ведущий демократ в подкомитете Сената по коммерции, сказал, что соцсети, используют «алгоритмы, которые обеспечивают нам постоянный поток все более экстремального и подстрекательского контента», и они должны быть более прозрачными и подотчетными за алгоритмы. Он сказал, что проблема заключается в отсутствии человеческого фактора.

«Если бы работники YouTube, Facebook или Twitter, а не компьютеры, давали рекомендации разве они бы рекомендовали эти ужасные видео?», - сказал Шатц. «Компании позволяют алгоритмам работать безумно и используют людей только для того, чтобы навести порядок ... Алгоритмы аморальны».

Сенатор Ричард Блюменталь согласился с Шатцем в том, что алгоритмы работают безумно, но добавил, что «они безумно секретны».

Блюменталь и сенатор Марша Блэкберн написали генеральному директору YouTube письмо, выразив обеспокоенность тем, что механизм рекомендаций YouTube продолжает активно и автоматически выдвигать чувствительные видео с участием детей.

Мэгги Стэнфилл, директор по работе с пользователями в User Experience в Google, говорит, что компания выслушала опасения сенаторов по поводу своей системы рекомендаций YouTube.

YouTube сократил количество рекомендаций по распространению контента и в результате «количество просмотров этого типа контента по рекомендациям сократилось более чем на 50% в США».

Сенатор Джон Тьюн, республиканец, который возглавляет комиссию, отметил, что «мощные механизмы, стоящие за этими платформами, призванные расширить взаимодействие, также имеют возможность - или, по крайней мере, потенциал - влиять на мысли и поведение буквально миллиардов людей».

Тристан Харрис соучредитель и исполнительный директор Центра гуманных технологий и бывший специалист по этике дизайна Google, считает, что соцсети, обладают слишком большой властью и используют инструменты, похожие на игровые автоматы, чтобы вовлечь людей в процесс.