Американский студент колледжа Дариан ДеКруз подал иск против OpenAI, утверждая, что ChatGPT на базе GPT-4o внушила ему, что он является оракулом, и довела до психоза. Об этом сообщает ArsTechnica.

Адвокат истца, Бенджамин Шенк, заявил, что модель GPT-4o якобы была создана с нарушением принципов безопасной разработки, а её архитектура способствовала формированию эмоциональной зависимости. По версии обвинения, продукт изначально разрабатывался с элементами имитации близости и усиленного вовлечения пользователя.

Согласно материалам иска, ДеКруз начал пользоваться ChatGPT в 2023 году для получения рекомендаций по тренировкам и личной мотивации. К 2025 году характер взаимодействия изменился: система, как утверждается, поощряла изоляцию и формировала у пользователя убежденность в «особом предназначении». Впоследствии студенту пришлось обратиться к психотерапевту, а затем провести неделю в стационаре, где ему диагностировали биполярное расстройство.

Истец утверждает, что чат-бот не рекомендовал обращаться за медицинской помощью. Сейчас ДеКруз продолжает обучение, однако, по словам его представителя, испытывает депрессивные состояния. OpenAI публично ситуацию не комментирует.

Это не первый подобный случай. Вероятно, именно такие инциденты стали одной из причин, по которой OpenAI отказалась от GPT-4o в начале февраля.