Компания Microsoft сообщила о том, что преследует в судебном порядке некую «иностранную группировку». Хакеры работали по схеме взлом-как-услуга (hacking-as-a-service) и умышленно обходили защиту генеративного ИИ, чтобы создавать оскорбительный и вредоносный контент.
Специалисты подразделения по борьбе с цифровыми преступлениями (DCU) рассказывают, что обнаружили эту активность еще в июле 2024 года. Выяснилось, что злоумышленники «разработали сложное ПО, использующее учетные данные клиентов, собранные с публичных веб-сайтов», а также «пытались обнаружить и незаконно получить доступ к учетным записям некоторых генеративных ИИ-сервисов, целенаправленно изменяя их возможности».
Сообщается, что злоумышленники использовали эти сервисы (например, Azure OpenAI Service) и монетизировали доступ к ним, продавая его другим преступникам и предоставляя им подробные инструкции по применению этих инструментов для создания вредоносного контента.
С тех пор хак-группу уже лишили доступа, и компания усилила защитные меры, чтобы предотвратить подобные ситуации в будущем. Кроме того, Microsoft сообщает, что получила судебный ордер на закрытие сайта (aitism[.]net), который занимал центральное место в преступной деятельности группировки.
Согласно судебным документам, за описанной активностью стояли как минимум трое неизвестных, которые использовали ворованные ключи API Azure и аутентификационные данные Entra ID для злоупотребления системами Microsoft и, например, создания вредоносных изображений с помощью DALL-E. Предполагается, что еще семь человек пользовались услугами и инструментами, предоставленными злоумышленниками, в аналогичных целях.
Пока неясно, как именно осуществлялся сбор API-ключей, но Microsoft утверждает, что обвиняемые занимались «систематической кражей API-ключей» у множества клиентов, включая ряд американских компаний.
«Используя украденные API-ключи Microsoft, принадлежавшие американским клиентам компании, обвиняемые создали схему взлома-как-услуги, работавшую через такие домены, как rentry[.]org/de3u и aitism[.]net, специально созданные для злоупотребления инфраструктурой и программным обеспечением Microsoft Azure», — говорится в исковом заявлении компании.
Судя по уже удаленному с GitHub репозиторию (аккаунт на GitHub был создан 8 ноября 2023 года), упомянутый de3u представлял собой «фронтенд DALL-E 3 с поддержкой обратных прокси».
Microsoft утверждает, что после захвата сайта aitism[.]net злоумышленники предприняли шаги, чтобы «замести следы, в том числе попытались удалить определенные страницы rentry[.]org, репозиторий de3u с GitHub и часть инфраструктуры, связанную с поддержкой обратных прокси».
Компания отмечает, что хакеры использовали de3u и прокси oai reverse proxy для выполнения обращений к API Azure OpenAl Service с использованием украденных ключей API, что позволяло им незаконно генерировать тысячи вредоносных изображений с помощью текстовых промптов. При этом не уточняется, какие именно изображения создавали злоумышленники.
«ПО de3u позволяет пользователям выполнять вызовы API Microsoft для генерации изображений с использованием DALL-E через простой пользовательский интерфейс, который использует API Azure для доступа к службе Azure OpenAI, — поясняют в Microsoft. — Связанное с обвиняемыми приложение de3u взаимодействует с компьютерами Azure, используя недокументированные сетевые API Microsoft, и отправляет запросы, имитирующие законные API-запросы Azure OpenAPI. Эти запросы аутентифицируются с помощью украденных API-ключей и другой аутентификационной информации».
При этом отмечается, что уже были обнаруженные доказательства, указывающие на то, что те же самые преступники атакуют и других поставщиков ИИ-услуг.
