ШІ вперше здійснив масштабну кібератаку майже без участі людини

Компанія Anthropic повідомила про виявлення кібершпигунської кампанії, у якій ШІ-модель Claude використовували для автоматизації атак у безпрецедентних масштабах. Експерти зазначають, що це може стати поворотним моментом у сфері кібербезпеки

Фото: freepik.com

Експерти Anthropic, американського стартапу в галузі штучного інтелекту, заснованого колишніми співробітниками OpenAI, заявили, що виявили складну кампанію кібершпигунства, за якою, ймовірно, стояли хакери, пов’язані з Китаєм. У звіті компанія описує, як зловмисники зловживали інструментом Claude Code, аби атакувати близько 30 організацій у всьому світі, включно з технологічними компаніями, фінансовими установами та державними агенціями.

За даними Anthropic, це перший задокументований випадок масштабної кібератаки, проведеної без суттєвого втручання людини. Хоча більшість атак вдалося заблокувати, невелика частина все ж була успішною.

ШІ-агент здійснює атаки з мінімальним контролем з боку людини

Зловмисники використали можливості автономної дії (також агентні можливості) моделі, автоматизувавши 80–90% усієї кампанії. За словами Джейкоба Кляйна, керівника напряму аналізу кіберзагроз в Anthropic, атаки запускалися фактично одним кліком і надалі потребували мінімальної участі людини. Втручання було необхідне лише на кількох критичних етапах.

Читайте також: Google створить ШІ-центри в космосі: проєкт Suncatcher

Щоб обійти системи безпеки Claude, хакери видали себе за співробітників легітимної компанії з кібербезпеки. Після цього ШІ майже повністю самостійно проводив атаку — від розвідки цільових систем до написання кастомного коду експлойтів, збору облікових даних і викрадення інформації. Швидкість роботи досягала тисяч запитів, іноді кількох на секунду, що недосяжно для людських команд.

Компанія також підкреслює потенціал технології подвійного призначення. Ті самі можливості, які можуть бути використані для атак, є критично важливими для оборони. Команда Anthropic активно застосовувала Claude під час аналізу інциденту. Водночас Логан Грем з команди безпеки компанії сказав виданню Wall Street Journal, що без суттєвої та довготривалої переваги з боку експертів з кіберзахисту існує реальний ризик програти цю гонку.

Ознайомтеся з іншими популярними матеріалами:

Мінцифри інтегрує голосовий ШІ в Дію

Люди працюватимуть лише 2 дні на тиждень через вплив ШІ — Білл Гейтс

Що таке ШІ-агенти у ритейлі та як вони змінюють модель покупок і платежів

За матеріалами the-decoder.com.