Специалисты Anthropic опубликовали 154-страничный отчет, рассказывающий о злоупотреблениях моделями Claude. С декабря 2025 по август 2026 года в компании пресекли множество операций, в рамках которых ИИ использовали для кибератак, слежки, пропаганды, мошенничества, опасных биологических исследований и даже разработки вооружений.
В Anthropic подчеркивают, что новый отчет не отражает общий масштаб злоупотреблений Claude и типичные случаи применения ИИ. Для составления этого документа специалисты отобрали наиболее заметные и необычные случаи, которые удалось выявить и пресечь за упомянутый период.
Один из главных выводов отчета: ИИ все чаще выступает для преступников не просто помощником, который пишет код или отвечает на технические вопросы. В некоторых операциях агенты Claude самостоятельно проводили разведку, эксплуатировали уязвимости, похищали данные и управляли отдельными этапами атак, тогда как человек лишь ставил цели и контролировал результат.
К примеру, предполагаемый участник группировки ShinyHunters под ником frkoo построил распределенную систему из десяти AWS EC2-инстансов, которая массово скачивала Android-приложения из нескольких магазинов. В общей сложности эта система загрузила 1,8 млн файлов APK, декомпилировала их и искала в них жестко закодированные секреты с помощью инструмента TruffleHog. Информация обо всех находках автоматически передавалась в Telegram, а затем использовалась для получения первоначального доступа к инфраструктуре жертв.
Еще один злоумышленник, тоже связанный с ShinyHunters, взломал SaaS-провайдера и потратил всего около 34 часов на получение 2100 наборов токенов Azure AD, связанных более чем с 40 корпоративными тенантами. Как подчеркивают в Anthropic, почти всю работу за хакера выполнили ИИ-агенты.
В другом случае хакер начал с одного украденного у разработчика токена и менее чем за три часа получил полный административный доступ к облачной среде неназванной компании.
Также в отчете описан случай более продвинутой автоматизации. Одна из шпионских групп использовала Claude для разработки малвари, фишинга, покупки и настройки серверов, закрепления в системах жертв, работы с C2-инфраструктурой и кражи данных. Причем ИИ участвовал не только в подготовке атак, но и адаптировал инструменты уже по ходу операции: если защитное ПО обнаруживало малварь, ИИ-агенты автоматически изменяли его код, пересобирали новую версию и снова проверяли ее на обнаружение. Этот цикл повторялся до тех пор, пока очередной вариант малвари не обходил защиту.
Еще одна группа настроила автономные воркфлоу для поиска уязвимостей и разработки эксплоитов, которые продолжали работать даже в отсутствие операторов. В итоге злоумышленники выявили несколько ранее неизвестных багов в крупном защитном продукте, а также создали рабочие эксплоиты для нескольких линеек сетевых и ИБ-устройств.
Параллельно с этим и сама ИИ-инфраструктура стала мишенью для атак. Так, в одном из эпизодов злоумышленники с помощью промпт-инжекта скомпрометировали автоматизированную тестовую песочницу неназванного ИИ-вендора. В результате система раскрыла учетные данные, включая API-ключи к нескольким ИИ-сервисам. Эти ключи преступники затем использовали для продолжения атак за счет жертвы.
Позже та же хак-группа использовала схожие методы и атаковала около 30 ИИ-компаний за несколько дней. Конечной целью злоумышленников был доступ к еще не выпущенной модели Claude, однако ни одна из попыток не увенчалась успехом. В Anthropic отдельно отмечают, что собственную инфраструктуру компании атакующие не скомпрометировали.
Исследователи пишут, что похищенные ИИ-ключи интересны преступникам не только как товар. Также они дают хакерам бесплатные вычислительные ресурсы и позволяют маскировать свою вредоносную активность под легитимного владельца учетных данных.
Как уже было сказано выше, одними лишь кибератаками дело не ограничилось. Специалисты Anthropic пишут, что обнаружили группировку из северного Йемена, которая использовала Claude Code вместо программистов при разработке ПО для трех оружейных проектов. Среди них были: ракета с несколькими вариантами боевой части и системы наведения и боевой блок, способный корректировать курс с помощью компонентов мобильного телефона. Кроме того, группа изучала возможность создания ракеты, способной планировать на гиперзвуковой скорости.
По данным компании, атакующие даже провели реальный запуск управляемой ракеты, и когда испытание завершилось неудачей, они вернулись к Claude, чтобы разобраться в причинах сбоя.
Кроме того, в Anthropic выявили случаи использования Claude для разработки систем управления вооружением и ударных дронов, а также для создания инструментов массовой слежки. Отдельно в отчете упоминаются и исследования, которые потенциально могли использоваться при разработке биологического оружия.
Большой раздел отчета посвящен массовой слежке. К примеру, один из пользователей использовал Claude при разработке системы Lakana 360 для спецслужб Мали. Эта платформа должна была охватывать около 25 млн SIM-карт трех национальных мобильных операторов, собирать сведения о звонках, SMS и голосовом трафике и формировать досье по отдельным телефонным номерам. Claude был задействован при проектировании и разработке части этой системы, включая инструменты для анализа данных и интерфейсы для операторов.
В Anthropic подчеркивают, что уже заблокировали все аккаунты, связанные с описанными в отчете операциями, обновили защитные механизмы Claude и передали информацию властям, партнерам и пострадавшим организациям.
