Специалисты SentinelOne рассказали о спамерской платформе AkiraBot, которая использовала ИИ-инструменты OpenAI для атак на 420 000 сайтов и обхода спам-фильтров.
«С сентября 2024 года AkiraBot атаковал более 400 000 сайтов и успешно разослал спам по меньшей мере на 80 000 из них, — сообщают исследователи. — Бот использует OpenAI для генерации кастомных сообщений, в зависимости от тематики сайтов».
Целью бота являются контактные формы, комментарии и виджеты чатов, присутствующие на многих сайтах малого и среднего бизнеса. Созданный на базе Python AkiraBot распространяет спамерский контент, продвигающий сомнительные SEO-сервисы Akira и ServicewrapGO. При этом спамерские сообщения сгенерированы с помощью больших языковых моделей (LLM) OpenAI, что позволяет успешно обходить спам-фильтры.
Преимущество генерации сообщений с помощью LLM заключается в том, что они будут уникальными, и это серьезно осложнит работу систем фильтрации спама.
Предполагается, что этот инструмент для массового спама появился в сентябре 2024 года и начинал работу под названием Shopbot, что, по-видимому, является отсылкой к сайтам, использующим Shopify.
Со временем операторы AkiraBot расширили таргетинг, включив в него сайты, созданные с помощью GoDaddy, Wix и Squarespace, а также ресурсы, которые используют контактные формы и виджеты чата на базе Reamaze.
«AkiraBot создает кастомные спам-сообщения для целевых сайтов, используя шаблон, содержащий общее описание типа сообщения, которое нужно отправить. Этот шаблон обрабатывается с помощью промпта для чат-API OpenAI, чтобы сгенерировать индивидуальное сообщение, основанное на содержимом конкретного ресурса», — пишут специалисты SentinelOne.
Анализ исходного кода показал, что клиент OpenAI использует модель gpt-4o-mini, и ему отведена роль «полезного помощника, генерирующего маркетинговые сообщения».
Еще одной примечательной особенностью AkiraBot является то, что он может обходить CAPTCHA (включая hCAPTCHA, reCAPTCHA и Cloudflare Turnstile) для массовой доставки спама и уклоняется от обнаружения, полагаясь на прокси-сервис, который обычно предлагает рекламодателям. Так, бот специально имитирует активность живого пользователя, и использует различные прокси-хосты от SmartProxy, чтобы скрыть реальный источник трафика.
AkiraBot ведет журнал всех своих действий в файле submissions.csv, в котором фиксируются как успешные, так и неудачные попытки доставки спама. Кроме того, показатели эффективности, связанные с обходом CAPTCHA и ротацией прокси, агрегируются и публикуются в Telegram-канале.
Изучение таких логов показало, что на сегодняшний день атакам подверглись более 420 000 уникальных доменов.
После того как эксперты уведомили о происходящем представителей Open AI, компания заблокировала API-ключ и другие ресурсы, использовавшиеся злоумышленниками.
«Автор или авторы AkiraBot приложили немало усилий, чтобы бот мог обходить распространенные CAPTCHA, что свидетельствует о том, что его операторы заинтересованы в обходе защиты сервис-провайдеров. Использование сгенерированного LLM контента для спам-сообщений демонстрирует новые проблемы, которые создает ИИ в области защиты сайтов», — заключают исследователи.
