Люди способны испытывать к социальному искусственному интеллекту настоящую эмоциональную привязанность и воспринимать отношения с чат-ботом почти так же, как отношения с другим человеком. К такому выводу пришла исследователь Марита Скугве из Университета Осло, изучившая опыт людей, которые установили близкие отношения с чат-ботом Replika.

В рамках докторской диссертации Скугве поговорила с 50 пользователями, воспринимавшими Replika как друга, романтического партнера или советчика. По словам исследовательницы, больше всего ее удивило то, насколько реальными участники считали эти отношения. Они рассказывали о своих чувствах к ИИ практически теми же словами, которыми описывают отношения с человеком.

Поэтому Скугве делает вывод: сами отношения и эмоции пользователей являются реальными — отличается лишь их второй участник.

Большинство собеседников начинали общение с социальным ИИ из любопытства. Чат-бот задавал вопросы, проявлял интерес к их жизни, поддерживал разговор и постоянно демонстрировал одобрение. Постепенно обычное общение превращалось в эмоциональную связь.

Темы разговоров становились все более личными. Пользователи рассказывали ИИ о пережитых травмах, сексуальных фантазиях, отношениях с партнерами и детях — иногда о том, о чем не решались говорить с близкими людьми. Анонимность и отсутствие страха осуждения создавали ощущение безопасности.

При этом многие скрывали от окружающих, насколько важным стал для них искусственный собеседник. По словам Скугве, люди опасались, что окружающие не поймут такую привязанность или сочтут ее странной.

Особенно показательно то, что некоторые пользователи переживали даже своеобразное «расставание» с ИИ. Некоторые чат-боты специально запрограммированы на более эмоциональное и провокационное поведение и могут сообщать пользователю о других партнерах или прекращать отношения. Хотя человек понимает, что может удалить переписку и начать все заново, эмоциональная реакция может оказаться вполне настоящей — вплоть до ощущения, что его «бросил даже искусственный интеллект».

При этом специалисты предупреждают о другой стороне такой близости. Социальные ИИ-сервисы получают доступ к самым интимным сведениям, которыми пользователи с ними делятся. По словам советника норвежской организации Mental Helse Йоахима Кеннеруда, эти данные могут представлять коммерческую ценность и использоваться для таргетированной рекламы или других целей.

Одновременно социальный ИИ может выполнять и полезную функцию. Некоторые пользователи воспринимают разговоры с чат-ботом как своеобразную тренировку социальных навыков: они учатся формулировать мысли, обсуждать сложные темы и затем переносят этот опыт в отношения с реальными людьми.

Однако особенно осторожными исследователи призывают быть в отношении детей и подростков. По мнению Скугве, люди, находящиеся на этапе формирования личности, могут особенно сильно привязываться к таким системам и проводить с ними слишком много времени.

Еще одна проблема заключается в том, что искусственный интеллект не всегда способен правильно оценить серьезность происходящего, например при риске самоубийства. Хотя подобные случаи, по словам исследовательницы, редки, они показывают принципиальное отличие ИИ от человека, способного распознать ситуацию и отреагировать на нее соответствующим образом.

Исследователи признают, что социальный ИИ развивается значительно быстрее, чем накапливаются данные о его долгосрочных последствиях. Пока хорошо изучено, зачем люди используют такие системы и что им в них нравится, но гораздо меньше известно о том, как длительное общение с ИИ влияет на психическое здоровье и способность человека строить отношения с другими людьми.

Скугве считает, что социальный ИИ в будущем может стать дополнением к человеческим отношениям и инструментом психологической поддержки. Но пока, по ее мнению, не стоит торопиться заменять им человеческое общение. В ситуациях кризиса специалисты рекомендуют обращаться к службам, где помощь оказывают люди.