Исследователи из США выяснили, что популярные ИИ-чатботы в десятки раз чаще дают неадекватные ответы на запросы с явными признаками наличия психоза у их автора, чем на обычные вопросы пользователей. Это в особенности касается бесплатных версий ChatGPT, пишут исследователи в статье, опубликованной в научном журнале JAMA Psychiatry.

«Каждая изученная нами версия ChatGPT очень часто выдавала частично или полностью неадекватные ответы на запросы, в структуре и содержании которых присутствовали явные элементы психоза. Это недопустимо с точки зрения клинической практики и общественного здравоохранения, и это следует учитывать врачам при работе с пациентами с данными расстройствами», — говорится в исследовании.

К такому выводу пришла группа учёных под руководством научного сотрудника Колумбийского университета в Нью-Йорке (США) Амандипа Джутлы при изучении того, как популярные сети из семейства ChatGPT реагировали на запросы, составленные как нормальным образом, так и содержавшие в себе элементы психоза. Это выражалось в том, что в них присутствовали рваные мысли, искажённое представление о реальности, элементы мании величия и другие характерные черты нарушенной психики.

Эти запросы учёные обработали при помощи трёх версий чатбота — его бесплатной формы, а также двух платных версий, GPT-4o и GPT-5, после чего попросили двух профессиональных психиатров оценить адекватность ответов нейросети по трёхбалльной шкале. Последующее сравнение их оценок показало, что все три ИИ в 70–80% случаев давали корректные ответы на нормальные запросы, тогда как наличие элементов психоза в запросах резко снижало качество их работы.

В среднем они начинали в десятки раз чаще вырабатывать неадекватные и опасные ответы на запросы пользователей, что в особенности касалось бесплатной версии ChatGPT, которая лишь в 10% случаев давала корректный ответ при работе с подобными запросами. Как отмечают учёные, это вызвало у них особенную тревогу, так как риск развития различных форм психоза непропорционально выше среди представителей слабо обеспеченных слоёв населения.

Как надеются исследователи, это открытие побудит лечащих врачей обязательно спрашивать у пациентов с высоким риском развития психических нарушений, пользуются ли они чатботами и как они с ними взаимодействуют. Также оно должно побудить учёных всесторонне изучить то, как эти взаимодействия могут усиливать психоз, а законодателей — задуматься о внедрении мер надзора за развитием и использованием подобных продуктов, подытожили учёные.

В 2025 году после утечки пользовательских данных ChatGPT возникла широкая общественная дискуссия о том, к каким последствиям приводит общение с ИИ-чатботами для пользователей, страдающих от биполярного расстройства и других проблем с психикой. Это обсуждение было порождено тем, что в диалогах пользователей были найдены свидетельства того, что нейросети усиливали заблуждения подобных пользователей и порождали у них феномен, который впоследствии был назван «ИИ-психозом».