ШІ керує державою? Люди втрачають довіру та контроль!

Використання штучного інтелекту урядами може поставити під загрозу довіру громадян і підважити демократичний контроль.

Багато країн запроваджують ШІ для автоматизації податкових процедур, соціальних виплат і судових оцінок ризиків. Це викликає занепокоєння через можливість непрозорих рішень і втрати громадянами контролю над процесами. Александр Вуттке зазначає: “зосередження лише на короткостроковому підвищенні ефективності… сприяє довгостроковому зниженню демократичної довіри та легітимності”. Такий технологічний оптимізм часто ігнорує соціальні наслідки.

Дослідження у Великій Британії показало, що громадяни значно втрачають довіру до держави, коли дізнаються про ризики ШІ. Особливо занепокоєння викликає залежність від систем, рішення яких важко оскаржити. Учасники експерименту вважали, що в таких умовах демократія втрачає зміст. Відчуття втрати контролю зросло з 45% до понад 81%.

Частка людей, які вимагають обмежити використання ШІ, зросла більш ніж утричі після ознайомлення з потенційними загрозами. Більшість із них вбачає небезпеку в невідворотності технологічної залежності. Вони також наголошують на складності розуміння, як приймаються ключові державні рішення. Це підсилює недовіру до органів влади.

Наслідки помилок ШІ вже стали реальністю у США, де автоматизовані перевірки спричинили масові звинувачення в шахрайстві. Десятки тисяч людей були змушені оголосити банкрутство або втратили житло. Ханна Куей-де-ла-Валле застерігає: “урядові помилки мають величезні, довготривалі наслідки”. Відповідальне впровадження ШІ можливе лише за умови прозорості та можливості оскарження рішень.