Компания Grok американского миллиардера Илона Маска в пятницу заявила, что пытается устранить недостатки в инструменте искусственного интеллекта после того, как пользователи заявили, что он превращает фотографии детей или женщин в эротические изображения, сообщает AFP.

«Мы выявили недостатки в мерах предосторожности и срочно их устраняем. CSAM (Материалы о сексуальном насилии над детьми) являются незаконными и запрещены», - говорится в заявлении компании, опубликованном в соцсети Х.

Жалобы на злоупотребления начали поступать в X после того, как в конце декабря на Grok появилась кнопка «редактировать изображение». Кнопка позволяет пользователям изменять любое изображение на платформе - согласно жалобам, некоторые пользователи решают частично или полностью снять одежду с женщин или детей на фотографиях.

Компания xAI, которой руководит Маск, ответила на запрос AFP кратким автоматическим ответом, в котором говорилось: «Основные СМИ лгут».

Чат-бот Grok, однако, ответил пользователю X, обратившемуся к нему по этому вопросу, после того, как он сообщил, что компании в Соединенных Штатах может грозить уголовное преследование за сознательное содействие созданию детского порно или неспособность предотвратить его распространение.

Индийские СМИ сообщили в пятницу, что правительственные чиновники требуют от X как можно скорее предоставить им подробную информацию о мерах, которые компания принимает для удаления «непристойного, обнаженного, непристойного и сексуального содержания», созданного Grok без согласия тех, кто изображен на таких фотографиях.

Тем временем прокуратура Парижа расширила расследование в отношении X, включив в него новые обвинения в том, что Grok использовался для создания и распространения детской порнографии.

Первоначальное расследование в отношении X было начато в июле после сообщений о том, что алгоритмом социальной сети манипулировали с целью иностранного вмешательства.

В последние месяцы Grok подвергся критике за многочисленные противоречивые заявления, от войны в Газе и индийско-пакистанского конфликта до антисемитских высказываний и распространения дезинформации о смертельной стрельбе в Австралии.