Антрополог пояснив, чому ШІ наділяють моральною владою

Антрополог Вебб Кін досліджує, чому люди наділяють штучний інтелект моральною владою, подібною до божественної.

Антрополог Вебб Кін з Університету Мічигану вказує, що людство схильне наділяти штучний інтелект (ШІ) людськими рисами, приписуючи йому наміри, думки та авторитет. Особливо це стає очевидним у взаємодії з великими мовними моделями, як-от ChatGPT. У своїх дослідженнях Кін вивчає, як люди упродовж історії довіряли “неживим агентам” — від оракулів до алгоритмів, здатних імітувати мову. Як стверджує науковець: «Ми проєктуємо глибокі думки на речі, які здаються живими».

Ключовим викликом стає визначення меж моральної відповідальності — кому ми готові делегувати етичні рішення. Упродовж століть моральні межі людства розширювалися: права жінок, відмова від рабства, захист тварин. Тепер суспільство стикається з амбівалентними об’єктами, як-от автономні машини, що змушують переосмислити поняття “людського” та “не-людського”. Як зазначає Кін: «Це ті моменти, де починається моральна складність».

Підхід до ШІ як до морального суб’єкта створює ілюзію його нейтральності, хоча за ним стоять великі корпорації з власними інтересами. Кін застерігає: «Ми маємо бути обачними з владою, яку надаємо ШІ». Надмірна довіра до технологій може призвести до перекладання відповідальності на алгоритми, не враховуючи, що рішення приймаються заздалегідь — розробниками і системами, які закладали критерії вибору.

Наслідки можуть бути фатальними — від рекомендацій до вибору між життям і смертю в автономних транспортних засобах. Наприклад, у випадку зіткнення автономного авто з пішоходом, алгоритм змушений прийняти моральне рішення. Як зауважує Кін: «Ми делегуємо ці вибори машинам, але вони залишаються моральними, а не лише технічними».

Свою рефлексію Вебб Кін виклав у книзі “Animals, Robots, Gods”, де він досліджує схильність технократів і навіть атеїстів описувати ШІ у теологічних термінах. «Люди, які вважають себе раціональними, називають ШІ богоподібним», — дивується вчений. На думку Кіна, ми лише продовжуємо звичну практику: кричати на комп’ютер, лаяти авто, говорити з домашніми тваринами — антропоморфізація стає звичкою, яку ШІ лише поглиблює.