Вчені створили алгоритм, що зменшує токсичність соцмереж без цензури

Новий інструмент, розроблений дослідниками Стенфордського університету, здатний знизити рівень політичної ворожнечі в соцмережах, не видаляючи контенту та без співпраці з платформою.

Дослідження, опубліковане в журналі Science, демонструє: користувачі можуть самостійно впливати на алгоритми соцмереж, змінюючи порядок показу контенту. Інструмент, створений міждисциплінарною командою, автоматично знижує в стрічці користувача публікації з ознаками антисистемних настроїв чи ворожнечі до опонентів. Під час експерименту з 1200 учасниками така змінена стрічка позитивно вплинула на їхнє ставлення до представників іншої політичної сили — незалежно від того, були вони лібералами чи консерваторами.

Як підкреслив професор Майкл Бернштейн, «ми показали, що дослідники й користувачі можуть отримати контроль над алгоритмами, які раніше були виключно в руках платформ». Інструмент не блокує інформацію, але дає змогу змінити її вплив, знижуючи емоційний ефект маніпулятивних або радикальних постів. Такий підхід, на думку дослідників, сприяє зменшенню ворожнечі та розвитку довіри між різними політичними таборами.

Автори дослідження ґрунтувались на попередніх соціологічних напрацюваннях, які виокремлюють типові ознаки політичної токсичності: заклики до насильства, відмову від співпраці між партіями, ігнорування фактів, що суперечать власній позиції, або виправдання порушення демократичних принципів. Такі меседжі викликають миттєву негативну емоційну реакцію, зазначає психолог Жанна Цай: «цей контент захоплює увагу, бо одразу викликає емоційний дискомфорт».

Інструмент, що використовує штучний інтелект і розширення для браузера, дозволяє за секунди перегрупувати стрічку. При цьому жоден пост не видаляється — змінюється лише його позиція. В результаті, учасники експерименту, які бачили менше радикального контенту, не лише краще ставилися до опонентів, а й повідомляли про зниження рівня злості та смутку.

«Коли учасники бачили менше радикального контенту, їхнє ставлення до опонентів ставало теплішим. Коли більше — навпаки, холоднішим», — пояснив Тіціано Пікарді, перший автор дослідження. Зміни в оцінках після 10 днів експерименту дорівнювали тому, що зазвичай відбувається в суспільстві за три роки. Це демонструє, що навіть невелике технічне втручання може дати значущий соціальний ефект.

Команда планує надалі адаптувати метод для покращення психічного здоров’я та вивчає інші можливості інтервенцій. Код інструмента відкрито — це дозволить іншим дослідникам та розробникам створювати власні системи ранжування, незалежні від алгоритмів соцмереж.