ШІ виявив гендерні упередження в судах Австралії

Дослідження, проведене в Австралії, показало, що мова рішень сімейних судів часто відтворює гендерні упередження.

Слова, які використовують судді, впливають на формування образів батьківства й материнства. Команда з Університету Нового Південного Уельсу (UNSW) проаналізувала понад 2500 справ за допомогою штучного інтелекту. Метод структурного моделювання тем дозволив виявити приховані закономірності у мовних практиках.

Як зазначає доцент Мехера Сан Роке, «ми використовували ШІ, щоб виявити упередження, про існування яких ми знали в правовій системі, але які залишалися «прихованими»». Виявилося, що матері розглядаються передусім як виховательки, тоді як батьків оцінюють через їхню здатність фінансово забезпечувати сім’ю. При цьому навіть обмежена участь чоловіків у догляді за дітьми отримувала схвальну оцінку, тоді як від матерів очікували постійної турботи.

Гендерні відмінності у підходах суддів

Аналіз також показав відмінності між суддями різної статі. Жінки-судді більше уваги приділяли ризикам для дітей і питанням спільного виховання. Вони частіше акцентували на фінансових аспектах, ніж їхні колеги-чоловіки. Натомість судді-чоловіки наголошували на процесуальних моментах і вимогах до виконання рішень.

Протягом двадцяти років чоловіків серед суддів було приблизно удвічі більше. Доцент Сан Роке пояснює цей дисбаланс історичною традицією виключення жінок з юридичної практики: «правова система є системою, що базується на прецедентах, а це означає, що вона відтворює упередження через свою структуру».

Хоча дані переважно стосуються гендеру, дослідники наголошують на існуванні бар’єрів і для інших соціальних та етнічних меншин. Питання різноманітності у складі суддівського корпусу залишається відкритим.

Штучний інтелект та відтворення упереджень

Співавтор проекту, професор Янін Фан, підкреслює, що «багато систем ШІ просто переглядають існуючі документи і дають свої рекомендації на основі того, що вони бачать». Якщо в документах присутня упередженість, алгоритми неминуче її відтворюють. Приклади зображень «медсестри-жінки» та «лікаря-чоловіка» у мовних моделях ілюструють цей ефект.

Фан також досліджувала університетські оцінки викладачів і виявила, що викладачів-чоловіків характеризують як «авторитетних», тоді як викладачок – як «турботливих». Сан Роке підкреслює, що це повністю збігається з мовними стратегіями у сімейних судах, де для кожної статі цінується різне.

Нові горизонти досліджень

Методологія, що вже застосовувалася до опікунських справ, може пролити світло й на інші питання, зокрема випадки домашнього насильства. Попередні результати свідчать, що в рішеннях використовується пасивна мова, яка пом’якшує провину кривдників. Як каже Сан Роке, «оскільки ми не можемо вручну прочитати тисячі судових рішень, штучний інтелект дозволяє нам виявити системні закономірності».

Слова мають силу формувати соціальну реальність, тому виявлення таких тенденцій є критично важливим для розвитку справедливішої судової системи.