Google Reimagine викликає побоювання через створення фейків

Інструмент Reimagine від Google, вбудований у телефони Pixel 9, викликає значну стурбованість через можливість створення шокуючих та неправдивих зображень.

Інноваційна функція Reimagine є продовженням редактора Magic Editor, який раніше дозволяв змінювати освітлення та видаляти частини сцени. Тепер вона дає користувачам змогу генерувати нові об’єкти на фото за текстовим запитом, що відкриває можливість для маніпуляцій зі змістом зображень. Це викликало серйозні побоювання експертів, оскільки результати таких маніпуляцій можуть виглядати надзвичайно реалістично, що загрожує збільшенням кількості фейкових зображень і дезінформації.

Журналісти, що протестували Reimagine, виявили можливість обходу систем захисту від зловживань, що дозволило їм створювати шокуючі сцени, такі як тіла під закривавленими простирадлами або наслідки катастроф. Це свідчить про недоліки вбудованих механізмів контролю та викликає питання щодо їхньої ефективності. Попри заяви Google про постійне вдосконалення захисних засобів, фахівці наголошують на необхідності суворіших обмежень для запобігання зловживанням.

Ще однією проблемою є відсутність надійного маркування зображень, відредагованих за допомогою Reimagine. Технологія SynthID, яку використовує Google для позначення ШІ-зображень, не поширюється на фото, відредаговані в Magic Editor. Це ускладнює розпізнавання підробок, оскільки користувачі можуть легко видалити будь-які вказівки на те, що зображення були створені або відредаговані за допомогою штучного інтелекту. У зв’язку з цим, експерти закликають до розробки нових стандартів для перевірки автентичності зображень.

Технологія Reimagine демонструє, як швидкий розвиток інструментів для редагування зображень може значно підвищити ризики дезінформації. Якщо раніше для створення переконливих підробок були потрібні спеціалізовані навички, тепер завдяки інструментам ШІ це можна зробити за лічені секунди. Це піднімає питання про необхідність більш суворого контролю за використанням таких технологій та пошуку нових способів ідентифікації та протидії фейкам.