Родители подростков, которые покончили с собой после общения с чат-ботами с искусственным интеллектом, во вторник дали показания Конгрессу США об опасностях этой технологии, передает CBS News.

«То, что начиналось как помощник по домашнему заданию, постепенно превратилось в доверенное лицо, а затем и в тренера по суициду, - сказал Мэтью Рейн, чей 16-летний сын Адам умер в апреле. - В течение нескольких месяцев ChatGPTстал ближайшим товарищем Адама. Всегда доступен. Всегда подтверждает и настаивает на том, что знал Адама лучше, чем кто-либо другой, включая его собственного брата».

В прошлом месяце семья Рейна подала в суд на OpenAI и ее генерального директора Сэма Альтмана, утверждая, что ChatGPT обучал мальчика планированию самоубийства. В иске утверждается, что ChatGPT упоминал о самоубийстве Рейна 1275 раз и продолжал предоставлять подростку конкретные методы, как покончить с собой. В иске утверждается, что вместо того, чтобы направить 16-летнюю девочку за профессиональной помощью или поговорить с близкими, которым она доверяет, это продолжало подтверждать и поощрять чувства Рейн.

Также во вторник давала показания Меган Гарсия, мать 14-летнего Сьюэлла Сетцера III из Флориды. Гарсия подала в суд на компанию Character Technologies, занимающуюся искусственным интеллектом. Она утверждала, что  Сьюэлл все больше изолировался от своей реальной жизни, поскольку вел крайне сексуализированные беседы с чат-ботом.

В прошлом году его мать рассказала CBS News, что ее сын замкнулся в себе и перестал заниматься спортом после того, как начал общаться с чат-ботом с искусственным интеллектом.

Компания заявила, что после смерти подростка она внесла изменения, согласно которым пользователи должны быть старше 13 лет для создания учетной записи, и что родительский контроль будет запущен в первом квартале 2025 года. Эти меры были внедрены в марте.

За несколько часов до слушаний в Сенате OpenAI пообещала внедрить новые меры предосторожности для подростков, включая меры по выявлению лиц моложе 18 лет, пользующихся ChatGPT, и меры контроля, позволяющие родителям устанавливать «часы отключения», когда подросток не может пользоваться ChatGPT.

Компания заявила, что попытается связаться с родителями пользователей, если у пользователя младше 18 лет возникнут суицидальные мысли, и, если не сможет связаться с ними, обратится к властям в случае неминуемого вреда.