ChatGPT отримає нові функції безпеки та батьківський контроль — OpenAI

OpenAI представила нові функції ChatGPT, спрямовані на підвищення безпеки та корисності сервісу. Зокрема, вже найближчим часом чутливі розмови, у яких виявлятимуться ознаки гострого емоційного дистресу, автоматично скеровуватимуться до reasoning-моделей на кшталт GPT-5-thinking та o3. Крім того, протягом місяця компанія запустить Parental Controls (батьківський контроль)

Фото: pexels.com

Про це повідомила пресслужба OpenAI.

Компанія також визначила чотири ключові напрями розвитку на найближчі 120 днів: розширення підтримки для людей у кризових ситуаціях, спрощення доступу до екстрених служб та експертів, підключення довірених контактів і посилення захисту підлітків.

Parental Controls: нові можливості

Батьки зможуть прив’язати власний обліковий запис до акаунта підлітка (мінімальний вік — 13 років) через email-запрошення, встановлювати вікові обмеження поведінки моделі, вимикати певні функції, зокрема пам’ять та історію чатів, а також отримувати сповіщення, якщо система виявить ознаки гострого дистресу. Експертні поради допоможуть зробити ці налаштування максимально корисними для довіри між підлітками та батьками.

Ці інструменти доповнюють уже наявні функції — наприклад, нагадування робити перерви під час тривалих сесій у застосунку. OpenAI підкреслює, що нововведення є лише першим кроком у створенні безпечнішого середовища для молоді, яка вже активно користується штучним інтелектом.

Читайте також: OpenAI запустила найдешевшу версію чат-бота — ChatGPT Go

Партнерство з експертами

Щоб гарантувати коректність і ефективність нових рішень, OpenAI працює з Expert Council on Well-Being and AI та Global Physician Network. До мережі входять понад 250 лікарів із 60 країн, серед яких психіатри, педіатри та терапевти. Вони допомагають компанії формувати стандарти безпеки, розробляти моделі поведінки у контексті ментального здоров’я й адаптувати ChatGPT для роботи з найчутливішими ситуаціями.

Технічний підхід

Для таких діалогів компанія використовуватиме reasoning-моделі, навчені за методом deliberative alignment. Вони здатні довше та глибше аналізувати контекст, краще дотримуються правил безпеки та менше піддаються маніпуляціям. Система реального часу автоматично визначатиме, чи достатньо стандартної моделі, чи потрібно підключати reasoning-версію для кращої допомоги користувачу.

OpenAI наголошує, що всі ці кроки є лише початком, а протягом наступних 120 днів компанія обіцяє регулярно ділитися оновленнями про прогрес.

Ознайомтеся з іншими популярними матеріалами:

ChatGPT може довести користувачів до межі божевілля — WSJ

OpenAI представила нову ШІ-модель — GPT-5

OpenAI запустила режим навчання в ChatGPT