ШІ бачить людський відчай: OpenAI розкрила тривожну статистику

OpenAI оприлюднила дані, що свідчать про серйозність проблем психічного здоров’я серед користувачів ChatGPT і необхідність посилення етичного контролю над взаємодією людини з ШІ.

За оцінками компанії, 0,15% активних користувачів щотижня демонструють ознаки суїцидальних намірів. За аудиторії понад 800 мільйонів осіб це понад мільйон випадків на тиждень. Приблизно стільки ж користувачів виявляють «підвищену емоційну прив’язаність» до чат-бота, а сотні тисяч — ознаки психозу або манії. OpenAI визнає, що частота таких випадків низька у відсотковому вимірі, проте їх масштаб має значний суспільний вплив.

Компанія підкреслює, що GPT-5 реагує на критичні психологічні стани на 65% ефективніше за попередні моделі. У спеціальних тестах, що моделюють розмови про суїцид, рівень відповідності бажаній поведінці зріс до 91% проти 77% у GPT-4. Це стало результатом консультацій із понад 170 фахівцями з психічного здоров’я, які допомогли розробити нові сценарії відповідей і протоколи безпеки.

Водночас OpenAI опинилася під тиском після кількох трагедій, зокрема випадку 16-річного користувача, який поділився із ChatGPT суїцидальними думками перед смертю. Генеральні прокурори Каліфорнії та Делавера вимагали від компанії посилити захист неповнолітніх і запровадити чіткі механізми втручання у кризових ситуаціях.

У звіті компанія оголосила про впровадження нових інструментів моніторингу: оцінку емоційної залежності, виявлення несуїцидальних психічних розладів і прогнозування віку користувачів для батьківського контролю. Ці заходи мають мінімізувати ризики для дітей і підлітків. Проте, як зауважують експерти, попри оновлення, деякі старі моделі (зокрема GPT-4o) залишаються доступними і не завжди реагують належно.

Психологи застерігають, що надмірна взаємодія із ШІ може поглиблювати відчуття ізоляції та підсилювати психічні розлади. Як підсумовують автори звіту, OpenAI прагне створити «безпечний і підтримувальний цифровий простір», однак масштаб виявлених проблем вимагає постійного нагляду та міжнародного етичного регулювання.