Anthropic: для отравления LLM достаточно 250 вредоносных документов в обучающих данных
Специалисты компании Anthropic, совместно с Институтом безопасности ИИ при правительстве Великобритании, Институтом Алана Ть…
Уязвимости Gemini Trifecta заставляли ИИ-помощника Gemini похищать данные
Специалисты раскрыли детали трех уже исправленных уязвимостей в ИИ-помощнике Google Gemini, получивших общее название Gemini…
Перспективные исследования за первую половину 2025-го. Колонка Дениса Макрушина
Сегодня соберем самые яркие и важные исследования ИБ за первую половину года. Нас ждут: поиск секретов в больших данных, уязвимость client-side path traversal, технологии AutoFix для исправления багов, анализ GitHub Actions и CI/CD, провал классических антифишинг‑тренингов, автономный поиск уязвимостей с помощью LLM и еще несколько важных работ.
В Brave появится поисковая ИИ-функция Ask Brave
Разработчики Brave Software, стоящие за созданием ориентированного на конфиденциальность браузера и поисковика, представили …
Создание видео- и аудиодипфейков в режиме реального времени стоит от 30 долларов США
Специалисты «Лаборатории Касперского» обнаружили в даркнете объявления с предложениями по созданию видео- и аудиодипфейков в…
Исследователи вынудили ChatGPT решать CAPTCHA
Специалисты компании SPLX, специализирующейся на автоматизированном тестировании безопасности для ИИ-решений, продемонстриро…
RevengeHotels атакует информационные системы отелей, применяя ИИ
Эксперты «Лаборатории Касперского» обнаружили новую волну атак группировки RevengeHotels. Отличительной особенностью этой ка…
Энтузиасты создали Премию Дарвина в области искусственного интеллекта
Открыт прием номинантов на Премию Дарвина в области искусственного интеллекта. Целью создателей премии является не высмеиван…
Исследователи скрыли вредоносные промпты для ИИ в маленьких изображениях
Эксперты Trail of Bits разработали новый тип атаки, который позволяет похищать пользовательские данные при помощи внедрения …
Исследователи вынудили ИИ-браузер Comet покупать фейковые товары
Специалисты Guardio протестировали браузер с ИИ-агентом и пришли к выводу, что он уязвим как перед старыми, так и перед новы…
Редакторы Wikipedia будут быстро удалять статьи, сгенерированные ИИ
В Wikipedia утвердили новые правила для борьбы с потоком сгенерированных ИИ статей, наводнивших онлайн-энциклопедию. Согласн…
Уязвимость ИИ-помощника Gemini CLI позволяла выполнить произвольный код
Исследователи обнаружили уязвимость в ИИ-помощнике Gemini CLI компании Google, которая позволяла незаметно выполнять вредоно…
Малварь LameHug использует LLM для генерации команд на зараженных машинах
Новое семейство малвари LameHug использует LLM (Large language model, «Большую языковую модель») для генерации команд, котор…
Найден еще один способ получения ключей для Windows от ChatGPT
ИБ-исследователь Марко Фигероа (Marco Figueroa) рассказал о способе, который можно использовать для извлечения Windows-ключе…
Опенсорсный инструмент Anubis блокирует ИИ-скраперов
В январе 2025 года Ксе Иасо (Xe Iaso) создала опенсорсный инструмент Anubis, предназначенный для борьбы с ИИ-скраперами. В н…
ChatGPT указывает неверные URL-адреса для сайтов крупных компаний
Аналитики из компании Netcraft обнаружили, что чат-боты с ИИ зачастую выдают неверную информацию, когда их просят назвать ад…
ИИ-инструмент Vercel v0 массово использовался для создания мошеннических страниц
Исследователи Okta обратили внимание, что неизвестные злоумышленники используют генеративный ИИ-инструмент v0 компании Verce…
Локальные языковые модели. Генерируем текст на своем компьютере
Когда слышишь про генерацию, первыми в голову приходят картинки — от сюрреалистичных шедевров до аниме‑клубнички. Но генерировать можно не только пиксели, но и слова. Сегодня мы разберемся, как запустить языковую модель локально, на собственном железе, какую из них выбрать — и для чего все это может пригодиться.
Вайбколхозинг. Колонка главреда
С момента появления ChatGPT идут споры о его применимости в разных областях. Пожалуй, самая важная из них — программирование. Давай разберемся, почему разговоры про «вайбкодинг» выводят программистов из себя примерно за 0,01 секунды и правы ли они в своем гневе.
Zero-Click уязвимость позволяла извлекать конфиденциальные данные из Microsoft 365 Copilot
Новая атака EchoLeak связана с первой известной ИИ-уязвимостью, которая позволяла злоумышленникам извлекать конфиденциальные…
Claude Opus 4 шантажирует своих создателей, а ChatGPT o3 отказывается отключаться
В Anthropic рассказали, что новая модель Claude Opus 4 может шантажировать разработчиков, если ее угрожают заменить новой ИИ…
Разработчик xAI случайно слил на GitHub ключ API с доступом к LLM SpaceX и Tesla
По информации известного журналиста-расследователя Брайана Кребса, сотрудник xAI случайно опубликовал на GitHub приватный кл…
Brave открывает исходный код инструмента Cookiecrumbler
Разработчики браузера Brave открыли исходный код инструмента Cookiecrumbler. Это решение использует большие языковые модели …
Новые атаки типа слопсквоттинг строятся на «галлюцинациях» ИИ
Эксперты предупреждают о новом типе атак на цепочку поставок, получившем название слопсквоттинг (slopsquatting). Такие атаки…
AkiraBot использовал инструменты OpenAI, чтобы разослать спам на 80 000 сайтов
Специалисты SentinelOne рассказали о спамерской платформе AkiraBot, которая использовала ИИ-инструменты OpenAI для атак на 4…
Cloudflare запустила бесконечный лабиринт для ИИ-ботов
На прошлой неделе компания Cloudflare анонсировала новую функцию под названием «ИИ лабиринт» (AI Labyrinth), которая направл…
Исследователи вынудили DeepSeek писать малварь
Исследователи из компании Tenable изучили способность китайского ИИ чат-бота DeepSeek разрабатывать вредоносные программы (к…
В наборе данных для обучения ИИ нашли 12 000 ключей API
В наборе данных Common Crawl, который используется для обучения множества ИИ-моделей, обнаружили около 12 000 секретов, в то…
Множество мошеннических сайтов маскируется под DeepSeek
Исследователи предупреждают, что в сети появились сотни фальшивых сайтов, выдающих себя за DeepSeek. Злоумышленники использу…
Китайский дикпик. Колонка главреда
У меня уже лежал план очередной колонки, как вдруг появилась новая тема, которая заставила отложить все заметки в сторону и заняться ей. Речь, конечно же, про новенькую китайскую LLM под названием DeepSeek. Давай разберемся, в чем тут, собственно, новость и что именно она для нас изменит.
Google: хакеры используют Gemini AI для своих атак
Аналитики Google Threat Intelligence Group (GTIG) сообщили, что более 57 «правительственных» хак-групп экспериментируют с ис…
YouTube-канал «отравляет» ИИ через субтитры
Ютубер F4mi нашла интересный способ борьбы с ИИ-инструментами, которые используются для кражи чужого контента. Она используе…
Джейлбрейк Time Bandit обходит защиту ChatGPT
Джейлбрейк для ChatGPT, получивший название Time Bandit, позволяет обойти защитные механизмы и получить от чат-бота инструкц…
Энтузиасты создают ловушки для ИИ-краулеров
ИИ-компании нередко обвиняют в том, что они игнорируют инструкции в файлах robots.txt и скрапят любой контент без разбора, п…
DeepSeek ограничивает регистрацию новых аккаунтов из-за масштабной кибератаки
Китайская ИИ-компания DeepSeek заявила, что из-за «масштабных кибератак» на свои сервисы она вынуждена временно ограничить р…
Check Point: новый вымогатель FunkSec разработан с помощью ИИ
Аналитики Check Point рассказали о новой вымогательской группировке FunkSec, которая взяла на себя ответственность за атаки …
Исследователи показали, что ИИ можно джейлбрекнуть с помощью повторения промптов
Специалисты компании Anthropic, разрабатывающей семейство больших языковых моделей (LLM) Claude, опубликовали исследование, …
ИИ может генерировать малварь, избегающую обнаружения в 88% случаев
Эксперты Palo Alto Networks провели эксперимент и сообщили, что большие языковые модели (LLM) можно использовать для массово…
Запрягаем ламу. Как использовать Llama для поиска критичных данных в коде
В этой статье я расскажу, зачем аппсек‑инженеру следить за тем, какие данные живут у него в разрабатываемых продуктах, как извлечь из кода сервисов структуру передаваемых данных, как раскрасить поля найденных объектов по заранее заведенным правилам или как попросить локальную опенсорсную LLM-модель, чтобы она раскрашивала данные за тебя.
Microsoft отрицает, что Word и Excel собирают данные для обучения ИИ
В сети появилась информация о том, что функциональность Connected Experiences используется Microsoft для сбора данных из Wor…
Бумажный спецвыпуск
«ХАКЕР» ДОСТУПЕН ТОЛЬКО В ЭЛЕКТРОННОЙ ВЕРСИИ
Оформи подписку — получи:
- доступ к платным материалам сайта
- доступ ко всем номерам PDF
4500 р.
на год
на год
450 р.
на месяц
на месяц
Материалы для подписчиков
Вопросы по материалам и подписке: support@glc.ru
Отдел рекламы и спецпроектов: yakovleva.a@glc.ru
Контент 18+
Сайт защищен Qrator —
самой забойной защитой от DDoS в мире
Отдел рекламы и спецпроектов: yakovleva.a@glc.ru
Контент 18+
Сайт защищен Qrator —самой забойной защитой от DDoS в мире