Американских сенаторы пытаются понять, как крупные социальные компании, такие как Facebook Inc и Google Alphabet Inc, используют алгоритмы и искусственный интеллект для предоставления нового контента, чтобы привлечь пользователей, пишет Reuters.
Подкомиссия Сената по коммерции, технологиям и инновациям заслушала мнение исследователей, которые раскритиковали использование искусственного интеллекта для выбора контента для пользователей. Сенаторы говорят, что большая часть этого контента - это теории заговора и вводящая в заблуждение информация на YouTube, Facebook и в других платформах.
Конгресс потратил месяцы на обсуждение новых мер защиты конфиденциальности для онлайн-пользователей, которые могут ограничить способность социальных сетей использовать личные данные для выработки рекомендаций по контенту и ставить под сомнение, должным образом ли социальные сети обеспечивают защиту детей.
Сенатор Брайан Шатц, ведущий демократ в подкомитете Сената по коммерции, сказал, что соцсети, используют «алгоритмы, которые обеспечивают нам постоянный поток все более экстремального и подстрекательского контента», и они должны быть более прозрачными и подотчетными за алгоритмы. Он сказал, что проблема заключается в отсутствии человеческого фактора.
«Если бы работники YouTube, Facebook или Twitter, а не компьютеры, давали рекомендации разве они бы рекомендовали эти ужасные видео?», - сказал Шатц. «Компании позволяют алгоритмам работать безумно и используют людей только для того, чтобы навести порядок ... Алгоритмы аморальны».
Сенатор Ричард Блюменталь согласился с Шатцем в том, что алгоритмы работают безумно, но добавил, что «они безумно секретны».
Блюменталь и сенатор Марша Блэкберн написали генеральному директору YouTube письмо, выразив обеспокоенность тем, что механизм рекомендаций YouTube продолжает активно и автоматически выдвигать чувствительные видео с участием детей.
Мэгги Стэнфилл, директор по работе с пользователями в User Experience в Google, говорит, что компания выслушала опасения сенаторов по поводу своей системы рекомендаций YouTube.
YouTube сократил количество рекомендаций по распространению контента и в результате «количество просмотров этого типа контента по рекомендациям сократилось более чем на 50% в США».
Сенатор Джон Тьюн, республиканец, который возглавляет комиссию, отметил, что «мощные механизмы, стоящие за этими платформами, призванные расширить взаимодействие, также имеют возможность - или, по крайней мере, потенциал - влиять на мысли и поведение буквально миллиардов людей».
Тристан Харрис соучредитель и исполнительный директор Центра гуманных технологий и бывший специалист по этике дизайна Google, считает, что соцсети, обладают слишком большой властью и используют инструменты, похожие на игровые автоматы, чтобы вовлечь людей в процесс.