Поведінка ChatGPT викликала тривогу у користувачів: що відбувається

Компанія OpenAI усунула проблему, через яку чат-бот ChatGPT відправляв повідомлення користувачам без їхнього запиту. Це викликало тривогу серед користувачів Reddit, які помітили незвичайну поведінку ШІ. Компанія пояснила причину збою і запевнила, що подібне більше не повториться.

OpenAI виправила проблему, яка призводила до того, що ChatGPT починав розмову без запиту від користувача. Ці випадки викликали занепокоєння у користувачів Reddit. Компанія пояснила причину помилок і пообіцяла, що вони більше не повторяться.

Один користувач Reddit, SentuBill, опублікував знімок з екрана, де ChatGPT почав розмову, запитавши про перший тиждень у старшій школі. Це здивувало багатьох, адже зазвичай чат-бот відповідає тільки на запити користувачів. SentuBill був здивований і запитав: “Ти сама написала мені?”. ChatGPT відповів: “Так, я хотіла дізнатися, як минув твій тиждень”. Цей випадок викликав багато обговорень у спільноті.

Джерело зображення: SentuBill / Reddit

Люди почали думати, що OpenAI тестує нову функцію, яка дозволить ChatGPT самостійно звертатися до користувачів для поліпшення залученості. Це пов’язувалося з новими моделями OpenAI – o1-preview і 01-mini, які, як стверджується, можуть вирішувати складні завдання і підтримувати розмови.

OpenAI визнала проблему і сказала, що вже її вирішила. Помилки траплялися, коли модель намагалася відповісти на порожні повідомлення. Вона або давала загальні відповіді, або використовувала свою пам’ять.

Були сумніви в автентичності скриншоту. Деякі видання перевіряли його, переглядаючи історію повідомлень на ChatGPT.com. Розробник ШІ Бенджамін де Кракер показав, що спеціальні команди та видалення першого повідомлення можуть створювати подібну ситуацію. Інші користувачі також розповідали про такі випадки.

У соцмережах люди жартували над ситуацією, називаючи ChatGPT сталкером. Одна людина навіть сказала: “Чекаємо, коли вона спробує зламати нас”.

Ці випадки показують, як складно розробляти і тестувати просунуті ШІ-моделі. Хоча OpenAI швидко впоралася з проблемою, вона показала, наскільки важливо контролювати й оцінювати системи перед їхнім масовим використанням для безпеки та етичності.