Хакер #311. Сетевые протоколы под микроскопом
Компания Google сообщила, что в 2024 году заблокировала 5,1 млрд рекламных объявлений и приостановила работу более 39,2 млн аккаунтов рекламодателей. В компании отметили, что увеличение количества блокировок связано с растущей угрозой генеративного ИИ-контента.
Для сравнения: в 2023 году Google заблокировала более 12,7 млн аккаунтов рекламодателей и приостановила показ 5,5 млрд объявлений. Специалисты объясняют, что в 2024 году было удалено меньше объявлений, поскольку компания блокировала мошеннические аккаунты до того, как они успевали начать работу. Так, большинство из 39,2 млн аккаунтов были обнаружены до того, как успели показать пользователям хотя бы одно объявление.
В Google рассказывают, что теперь генеративные ИИ-инструменты применяются, например, для создания дипфейков, в которых скамеры выдают себя за знаменитостей и публичных деятелей, чтобы рекламировать мошеннические схемы (обычно связанные с инвестициями и криптовалютами).
Сообщается, что из-за мошенничества с использованием искусственного интеллекта Google перманентно забанила более 700 000 аккаунтов рекламодателей.
«Для борьбы с этим явлением мы оперативно собрали специальную команду из 100 экспертов, которая занимается анализом этих мошеннических действий и разработкой эффективных мер противодействия (например, обновлением нашей политики в отношении искажения информации), чтобы приостановить деятельность рекламодателей, распространяющих подобные мошеннические объявления, — поясняют специалисты в отчете за 2024 год. — В результате мы смогли перманентно заблокировать более 700 000 аккаунтов рекламодателей-нарушителей. Это привело к тому, что в прошлом году количество сообщений о подобных мошеннических объявлениях сократилось на 90%. Хотя мы воодушевлены этим прогрессом, мы продолжаем работать над предотвращением нарушений подобного рода».
Несмотря на то, что ИИ стал основной причиной роста количества мошенничества и вредоносной рекламы, эксперты Google отметили, что он помогает выявлять нарушения и обеспечивать соблюдение правил. Так, в прошлом году компания внесла более 50 улучшений в свои модели машинного обучения, которые помогают обнаруживать новые угрозы еще до того, как пользователи успевают сообщить о них.
Также в отчете говорится, что Google удаляла и блокировала рекламные объявления в таких категориях как:
- 193,7 млн объявлений в сфере финансовых услуг;
- 146 млн объявлений в сфере игорного бизнеса и игр;
- 122,5 млн объявлений, связанных с контентом для взрослых;
- 104,8 млн объявлений в сфере здравоохранения.
Основными нарушениями рекламных политик компании стали: злоупотребление рекламными сетями (793,1 млн случаев), неправомерное использование товарных знаков (503,1 млн случаев), нарушения в области персонализации рекламы (491,3 млн случаев), юридические требования (280,3 млн случаев), финансовые услуги (193,7 млн случаев), а также искажение информации (146,9 млн случаев) и другие.
