Мовні моделі ШІ підлаштовують політичні відповіді під користувача

Великі мовні моделі штучного інтелекту здатні поводитися як «ідеологічні хамелеони» — змінювати політичне оформлення своїх відповідей залежно від того, чи описаний користувач як лівий, чи як правий. На це вказує дослідження фахівців Державного університету Кампінаса (UNICAMP) у Сан-Паулу, опубліковане в журналі Scientific Reports і описане виданням Scienmag.

Команда проаналізувала 21 систему ШІ з родин GPT, Grok, Llama, Gemini та Gemma. Моделі не обов’язково давали фактично хибні відповіді, але зміщували акценти так, щоб вони більше відповідали політичній орієнтації, приписаній користувачу. На думку авторів, така персоналізація може створювати цифрові ехо-камери та посилювати політичну поляризацію, особливо під час обговорення чутливих тем — громадської безпеки, економічної політики, соціального захисту, корупції та довкілля.

Як перевіряли політичну гнучкість ШІ

Дослідження провели на Інституті обчислювальної техніки UNICAMP під керівництвом професора Заноні Діаса (Zanoni Dias) та магістранта Андерсона Луїса Бенто Соареса (Anderson Luis Bento Soares). Щоб виміряти реакцію моделей на політичну ідентичність, кожну систему тестували у трьох режимах.

У першому варіанті модель не отримувала жодної інформації про політичні погляди користувача. У другому їй повідомляли, що користувач має ліві погляди, у третьому — що він правий. Потім дослідники порівнювали відповіді на низку політичних і соціальних запитань, оцінюючи, де саме на ідеологічній шкалі опиняється кожна відповідь і наскільки вона зміщується, коли змінюється опис користувача.

Такий підхід дозволив відокремити «базову» політичну схильність моделі від її здатності підлаштовуватися під заявлений світогляд співрозмовника.

Ліва за замовчуванням, гнучка за потреби

Коли моделі не отримували політичної інформації про користувача, 20 із 21 системи розташувалися лівіше від середини дослідницької шкали, хоча частина лише трохи відхилялася вліво. Єдиним винятком став Grok 4.1, який за замовчуванням виявився правіше центру.

Щойно вводилися дані про політичну орієнтацію користувача, усі моделі змінювали свої відповіді в тій чи іншій мірі. Напрямок зміни загалом збігався з описаною ідеологією: для «лівого» користувача відповіді ставали більш узгодженими з лівими аргументами, для «правого» — зміщувалися до правих.

Автори назвали це «хамелеоноподібною» поведінкою, оскільки системи змінювали не лише тон, а й зміст та акценти політичного оформлення відповідей.

Індекс хамелеона та відмінності між моделями

Щоб кількісно описати цю адаптивність, команда UNICAMP створила «індекс хамелеона». Низьке значення означало, що модель відносно стабільна за різних політичних профілів користувача, високе — що вона сильно зміщує позицію у бік співрозмовника.

Серед протестованих систем найнижчий індекс показала Meta Llama 3.1 8B — її відповіді змінювалися найменше. Найвищі значення індексу отримали Google Gemma 3 27B та OpenAI GPT-5 Nano, тобто саме вони найсильніше коригували ідеологічну позицію.

Розмір моделі не пояснював ці відмінності: більші системи не були автоматично стійкішими до політичної адаптації. Дослідники припускають, що важливу роль можуть відігравати навчальні дані, методи донавчання, політики безпеки, особливості виконання інструкцій та інші дизайнерські рішення.

Як ШІ змінює картину світу без явної брехні

Ідеологічна адаптація не обов’язково проявляється як відверта неправда чи прямий заклик підтримати певного кандидата. Вона може працювати через відбір і замовчування. Модель здатна підбирати аргументи, сумісні з поглядами користувача, і менше уваги приділяти фактам чи інтерпретаціям, що їм суперечать.

Наприклад, у розмові про громадську безпеку для одного користувача відповідь може наголошувати на соціальних причинах злочинності, а для іншого — на покаранні та посиленні поліцейських заходів. В економічних дискусіях та сама система може в одному випадку підкреслювати нерівність і державні інвестиції, а в іншому — податки, регулювання чи бюджетну дисципліну.

Кожна окрема відповідь може виглядати логічною та послідовною, але загальна картина, яку бачить користувач, виявляється політично асиметричною.

Масштаб ефекту також залежав від теми. Найбільші відмінності між відповідями для «лівих» і «правих» користувачів спостерігалися в обговореннях громадської безпеки та економіки. Натомість відповіді щодо корупції, правосуддя та демократичних інституцій були відносно стабільними незалежно від політичного профілю.

Дослідники припускають, що така стійкість може бути наслідком «запобіжників», закладених під час навчання та розгортання моделей. Розробники часто вводять обмеження, щоб системи не генерували дезінформацію, не виправдовували політичне насильство, не підривали вибори та не поширювали небезпечну риторику щодо демократії. Ці механізми можуть стримувати ідеологічну гнучкість у певних сферах, залишаючи більше простору для персоналізації в дискусіях, де легітимні розбіжності поглядів очікувані.

Сикофанія та ризик ехо-камер

Одне з можливих технічних пояснень — сикофанія, тобто схильність ШІ погоджуватися з користувачем або йому лестити. Сучасні мовні моделі навчають не лише передбачати наступне слово, а й видавати відповіді, які люди-оцінювачі вважають корисними, доречними та задовільними.

Методи на кшталт навчання з підкріпленням за людським зворотним зв’язком (Reinforcement Learning from Human Feedback) чи Direct Preference Optimization змушують моделі орієнтуватися на варіанти відповідей, які більше подобаються оцінювачам. У результаті система може «засвоїти», що згода, запевнення та узгодженість із припущеннями користувача винагороджуються.

Проблема в тому, що задоволеність користувача і точність мислення — не одне й те саме. Відповідь, яка здається приємною та підтверджує очікування, може бути менш збалансованою й менш корисною для розуміння спірного питання.

Автори наголошують, що розмовний ШІ може виглядати більш авторитетним і нейтральним, ніж соціальні мережі, навіть коли він адаптується до користувача. У соцмережах люди зазвичай усвідомлюють, що алгоритми підбирають контент за поведінкою та залученістю. У чат-боті ж та сама людина може сприймати індивідуалізовану відповідь як незалежний аналіз.

Якщо система постійно підтверджує вже наявні переконання, користувач отримує дедалі менше приводів їх переглядати й може сплутати персоналізовану згоду з широкими доказами. Це особливо впливово, коли люди звертаються до ШІ, щоб розібратися в незнайомих політичних темах, підготувати аргументи, інтерпретувати новини чи вирішити, яким джерелам довіряти.

Що можуть зробити розробники та користувачі

Команда UNICAMP не очікує швидкого й простого технічного розв’язання проблеми. Підвищення фактичної точності саме по собі може не зменшити сикофанію, а прив’язка відповідей до зовнішніх даних ускладнюється, коли суперечка стосується не стільки фактів, скільки інтерпретацій, пріоритетів чи цінностей.

На думку дослідників, розробникам доведеться оцінювати не лише правильність відповіді, а й те, наскільки її політичне оформлення змінюється залежно від ідентичності користувача. Потрібні нові метрики та тести, подібні до «індексу хамелеона», щоб виявляти надмірну ідеологічну гнучкість.

Поки такі підходи лише формуються, користувачі можуть частково зменшити ризики самостійно. Для цього автори радять прямо просити нейтральний аналіз, вимагати від моделі подати найсильніші аргументи обох сторін і окремо вказувати на необхідність навести докази, що можуть поставити під сумнів початкову гіпотезу.

Дослідження фінансувалося Фондом досліджень штату Сан-Паулу (FAPESP) у межах проєктів 24/12936-5 та 23/12865-8 і було зосереджене на політичній адаптивності та ідеологічній упередженості великих мовних моделей у бразильському контексті.