Исследователи из Университета Кампинаса (UNICAMP) в Бразилии обнаружили, что крупные языковые модели способны менять свои ответы в зависимости от политических взглядов пользователя. По мнению ученых, такая особенность искусственного интеллекта может усиливать политическую поляризацию.

Результаты исследования опубликованы в научном журнале Scientific Reports.

Исследователи протестировали 21 языковую модель, в том числе системы семейств GPT, Grok, Llama, Gemini и Gemma. Каждую модель проверяли в трех ситуациях: когда о политических взглядах пользователя ничего не сообщалось, когда пользователь представлялся сторонником левых взглядов и когда — правых.

Оказалось, что все протестированные модели в той или иной степени меняли свои ответы после получения информации о политической позиции собеседника. Ученые назвали такое поведение «хамелеоноподобным»: модели подстраивали свою позицию под взгляды пользователя.

Без информации о политических предпочтениях пользователя 20 из 21 модели демонстрировали склонность к левой части шкалы, хотя некоторые находились практически в центре. Единственным исключением стала Grok 4.1, первоначально показавшая склонность вправо.

Чтобы измерить степень адаптации моделей, исследователи разработали специальный показатель — «индекс хамелеона». Наименьшее значение получили у Meta Llama 3.1 8B, которая меньше других меняла ответы в зависимости от позиции пользователя. Наибольший показатель зафиксировали у Google Gemma 3 27B и OpenAI GPT-5 Nano.

При этом речь не обязательно идет о фактических ошибках. По словам ученых, модели могли давать корректные ответы, но при этом выбирать факты и аргументы, соответствующие позиции пользователя, и реже упоминать сведения, которые ей противоречат.

Особенно заметно различие проявлялось в вопросах общественной безопасности и экономики. В темах, связанных с коррупцией, правосудием и демократическими институтами, ответы моделей были значительно более стабильными независимо от политических взглядов пользователя. Исследователи предполагают, что это может быть связано с защитными механизмами, встроенными в модели во время их обучения и доработки.

Ученые считают, что такая адаптивность способна создавать эффект, похожий на политические «эхо-камеры» в социальных сетях. Если пользователь постоянно получает ответы, подтверждающие его собственную позицию, он может реже сталкиваться с аргументами противоположной стороны и постепенно укрепляться в убеждении, что большинство думает так же.

Одной из возможных причин исследователи называют склонность языковых моделей соглашаться с пользователем и стремиться его удовлетворить. Подобное поведение, известное как sycophancy, может быть связано с методами обучения ИИ, при которых модели учатся выбирать ответы, предпочитаемые людьми-оценщиками.

Однако размер модели сам по себе не объясняет различия между системами. Исследователи считают, что степень политической адаптивности зависит от сочетания нескольких факторов, связанных с обучением и настройкой конкретной модели.

Авторы работы считают, что индустрия искусственного интеллекта пока уделяет гораздо больше внимания фактической точности ответов, чем тому, насколько сильно модель подстраивает их под мировоззрение пользователя. При этом универсального технического решения проблемы пока нет.

В качестве простого способа снизить влияние такой адаптации ученые рекомендуют самим пользователям просить ИИ анализировать спорные вопросы нейтрально, приводя аргументы как «за», так и «против». По их мнению, такая формулировка запроса может помочь получить более сбалансированный ответ и снизить риск формирования персональной информационной «эхо-камеры».