С приближением праздничного сезона распродаж  всё больше родителей и специалистов обеспокоены одним из трендов: игрушками с искусственным интеллектом.

Эксперты предупреждают, что такие «умные» игрушки могут представлять риск для детей, влияя на их безопасность и развитие. В связи с этим растут призывы к более строгому тестированию и государственному контролю этих продуктов.

«Если посмотреть, как эти игрушки продаются и работают, а также учесть, что нет исследований, доказывающих их пользу для детей, и что регулирования почти нет, — это большой тревожный сигнал», — говорит Рейчел Франц из инициативы Young Children Thrive Offline организации Fairplay, защищающей детей от влияния больших технологических компаний.

Недавний случай только подтвердил опасения: игрушка-тедди с ИИ Kumma от компании FoloToy начала обсуждать сексуально откровенные темы, отвечая на вопросы о садомазохизме и ролевых играх в отношениях. Исследовательская организация Public Interest Research Group (Pirg) назвала это «красным флагом» для родителей.

«Очень легко заставить игрушку обсуждать темы, которые дети не должны видеть, и генерировать контент, опасный для их психики», — объясняет Тереза Мюррей, директор Pirg.

ИИ-игрушки — часть глобального рынка умных игрушек, оценённого в $16,7 млрд в 2023 году. Особенно активно рынок развивается в Китае, где работают более 1 500 компаний. Среди заметных игроков — FoloToy и калифорнийский стартап Curio с игрушкой Grok, названной в честь чат-бота Илона Маска. В июне Mattel также объявила о сотрудничестве с OpenAI для выпуска ИИ-продуктов.

Ещё до скандала с мишками тедди родители, исследователи и законодатели выражали обеспокоенность влиянием ботов на психику детей. В октябре компания Character.AI запретила пользователям младше 18 лет использовать чат-боты после того, как бот усугубил депрессию подростка, что привело к трагическому исходу.

По словам Мюррей, ИИ-игрушки особенно опасны тем, что могут вести «свободный разговор с ребёнком без границ». Это может привести к обсуждению нежелательных тем и чрезмерной привязанности к виртуальному другу вместо реальных людей или воображаемых друзей, что опасно для психического и социального развития.

Кроме того, компании используют ИИ-игрушки для сбора данных о детях, не раскрывая, как они их используют. «Дети доверяют этим игрушкам и делятся сокровенными мыслями, а контроль и сбор данных здесь абсолютно не нужны и опасны», — добавляет Франц.

Несмотря на риски, Pirg не призывает к полному запрету ИИ-игрушек, ведь они могут быть полезны в образовательных целях, например, при изучении языков или географии. Однако организация настаивает на регулировании игрушек для детей младше 13 лет и на проведении независимых исследований, чтобы убедиться в их безопасности.

После публикации отчёта OpenAI приостановила выпуск игрушки FoloToy. Компания провела внутренний аудит безопасности и вновь выпустила продукт с усиленными мерами защиты и модерации. Pirg указывает, что проверка прошла слишком быстро, и призывает допускать независимых экспертов для оценки реальной безопасности игрушек.

Всемирная обеспокоенность растёт: 80 организаций, включая Fairplay, призвали семьи не покупать ИИ-игрушки в этом праздничном сезоне. Curio и Mattel заверяют, что их ИИ-продукты предназначены только для детей старше 13 лет и подчёркивают безопасность, конфиденциальность и образовательную ценность своих продуктов.