Интерпол: мошенничество с использованием ИИ приносит в 4,5 раза больше прибыли
В Интерполе подсчитали, что ИИ повышает прибыль мошенников в 4,5 раза. Потери от финансового мошенничества в 2025 году соста…
Бета-тест нового Digg завершился из-за ИИ-ботов
Digg — некогда один из самых популярных сайтов в интернете — снова закрылся. Спустя всего два месяца после перезапуска откры…
Вымогатели используют малварь Slopoly, созданную с помощью ИИ
Исследователи IBM X-Force обнаружили новый вредонос Slopoly, который, судя по всему, был создан с помощью генеративного ИИ. …
Из-за украденного хакерами API-ключа разработчик потратил на Gemini 82 000 долларов
Разработчик из Мексики рассказал на Reddit, что его компания получила счет на более чем 82 000 долларов США после того, как …
LLM могут массово деанонимизировать пользователей на основании их прошлой активности
Исследователи утверждают, что анонимность в интернете скоро может исчезнуть. Дело в том, что большие языковые модели могут и…
Anthropic обвиняет DeepSeek, Moonshot AI и MiniMax в попытках копировать Claude
Представители Anthropic заявили, что три китайские ИИ-компании провели масштабные кампании по дистилляции модели Claude, сге…
Irregular: LLM генерируют предсказуемые пароли
Специалисты компании Irregular выяснили, что пароли, которые ChatGPT, Claude и Gemini генерируют по запросу, только выглядят…
Android-малварь PromptSpy использует Gemini в своих атаках
Специалисты ESET обнаружили первый Android-вредонос, который задействует генеративный ИИ непосредственно в процессе выполнен…
ИБ-специалисты заподозрили, что HackerOne использует их отчеты для обучения ИИ
Баг-баунти платформа HackerOne оказалась в центре скандала: исследователи заподозрили, что компания может использовать их от…
Google: хакеры используют Gemini на всех этапах атак и пытаются заниматься дистилляцией
Команда Google Threat Intelligence Group (GTIG) опубликовала отчет о масштабных злоупотреблениях большой языковой моделью Ge…
Возвращение еретика. Как работает новый метод расцензурирования LLM
Языковые модели становятся всё умнее — и, с точки зрения регуляторов, всё опаснее. Свежие релизы отказываются отвечать на провокационные вопросы чаще, чем их предшественники. Некоторые из них — взять ту же GPT-OSS 120B — и вовсе ухитряются потратить большую часть лимита на «размышления», ведя внутренние дебаты о том, не нарушает ли запрос этические гайдлайны.
Anthropic: Claude Opus 4.6 нашел более 500 уязвимостей в опенсорсных библиотеках
Компания Anthropic сообщила, что ее новейшая языковая модель Claude Opus 4.6 обнаружила свыше 500 ранее неизвестных серьезны…
В Microsoft создали сканер для обнаружения бэкдоров в LLM
Разработчики Microsoft представили сканер, способный обнаруживать бэкдоры в open-weight языковых моделях. Инструмент ориенти…
Ролевые игры с ИИ. Выбираем LLM и настраиваем интерфейс SillyTavern
Для чего нужны большие языковые модели? Если судить по Reddit, то основных сценариев выходит два: кодинг (все, буквально все внезапно начали что‑то кодировать) и ролевые игры. О вайб‑кодинге лучше меня напишут другие, я же хочу поговорить о ролевых играх, где в качестве персонажа выступает искусственный интеллект.
Недавно обнаруженную малварь VoidLink создали с помощью ИИ
Специалисты компании Check Point сообщили, что обнаруженная ими недавно Linux-малварь VoidLink, судя по всему, была разработ…
Аналитики Gartner рекомендуют блокировать ИИ-браузеры
Аналитическая компания Gartner призвала бизнес отказаться от использования ИИ-браузеров. Эксперты полагают, что новые инстру…
OWASP AI Testing Guide. Разбираем полную классификацию атак на нейросети
Сегодня мы проведем исчерпывающий разбор нового гайда по безопасности от OWASP, посвященного искусственному интеллекту. Мы погрузимся в каждый из 32 пунктов гайда с техническими деталями, реальными и приближенными к реальности примерами атак, фрагментами кода и моими личными комментариями как пентестера и ресерчера.
В Palo Alto Networks изучили LLM для хакеров
На черном рынке появился целый класс LLM, специально разработанных для киберпреступников, у этих моделей отсутствуют какие-л…
Эксперты сомневаются, что Claude Code мог использоваться для автоматизированных атак
На прошлой неделе компания Anthropic опубликовала отчет, в котором заявила, что китайская хак-группа GTG-1002 провела масшта…
Google предупреждает о появлении новых семейств малвари на базе ИИ
Исследователи Google Threat Intelligence Group (GTIG) предупреждают, что хакеры стали массово использовать ИИ не только для …
Уязвимость в ChatGPT Atlas позволяет внедрять вредоносные инструкции в память ИИ-помощника
ИБ-исследователи из компании LayerX обнаружили уязвимость в недавно вышедшем браузере ChatGPT Atlas компании OpenAI. Проблем…
Anthropic: для отравления LLM достаточно 250 вредоносных документов в обучающих данных
Специалисты компании Anthropic, совместно с Институтом безопасности ИИ при правительстве Великобритании, Институтом Алана Ть…
Уязвимости Gemini Trifecta заставляли ИИ-помощника Gemini похищать данные
Специалисты раскрыли детали трех уже исправленных уязвимостей в ИИ-помощнике Google Gemini, получивших общее название Gemini…
Перспективные исследования за первую половину 2025-го. Колонка Дениса Макрушина
Сегодня соберем самые яркие и важные исследования ИБ за первую половину года. Нас ждут: поиск секретов в больших данных, уязвимость client-side path traversal, технологии AutoFix для исправления багов, анализ GitHub Actions и CI/CD, провал классических антифишинг‑тренингов, автономный поиск уязвимостей с помощью LLM и еще несколько важных работ.
В Brave появится поисковая ИИ-функция Ask Brave
Разработчики Brave Software, стоящие за созданием ориентированного на конфиденциальность браузера и поисковика, представили …
Создание видео- и аудиодипфейков в режиме реального времени стоит от 30 долларов США
Специалисты «Лаборатории Касперского» обнаружили в даркнете объявления с предложениями по созданию видео- и аудиодипфейков в…
Исследователи вынудили ChatGPT решать CAPTCHA
Специалисты компании SPLX, специализирующейся на автоматизированном тестировании безопасности для ИИ-решений, продемонстриро…
RevengeHotels атакует информационные системы отелей, применяя ИИ
Эксперты «Лаборатории Касперского» обнаружили новую волну атак группировки RevengeHotels. Отличительной особенностью этой ка…
Энтузиасты создали Премию Дарвина в области искусственного интеллекта
Открыт прием номинантов на Премию Дарвина в области искусственного интеллекта. Целью создателей премии является не высмеиван…
Исследователи скрыли вредоносные промпты для ИИ в маленьких изображениях
Эксперты Trail of Bits разработали новый тип атаки, который позволяет похищать пользовательские данные при помощи внедрения …
Исследователи вынудили ИИ-браузер Comet покупать фейковые товары
Специалисты Guardio протестировали браузер с ИИ-агентом и пришли к выводу, что он уязвим как перед старыми, так и перед новы…
Редакторы Wikipedia будут быстро удалять статьи, сгенерированные ИИ
В Wikipedia утвердили новые правила для борьбы с потоком сгенерированных ИИ статей, наводнивших онлайн-энциклопедию. Согласн…
Уязвимость ИИ-помощника Gemini CLI позволяла выполнить произвольный код
Исследователи обнаружили уязвимость в ИИ-помощнике Gemini CLI компании Google, которая позволяла незаметно выполнять вредоно…
Малварь LameHug использует LLM для генерации команд на зараженных машинах
Новое семейство малвари LameHug использует LLM (Large language model, «Большую языковую модель») для генерации команд, котор…
Найден еще один способ получения ключей для Windows от ChatGPT
ИБ-исследователь Марко Фигероа (Marco Figueroa) рассказал о способе, который можно использовать для извлечения Windows-ключе…
Опенсорсный инструмент Anubis блокирует ИИ-скраперов
В январе 2025 года Ксе Иасо (Xe Iaso) создала опенсорсный инструмент Anubis, предназначенный для борьбы с ИИ-скраперами. В н…
ChatGPT указывает неверные URL-адреса для сайтов крупных компаний
Аналитики из компании Netcraft обнаружили, что чат-боты с ИИ зачастую выдают неверную информацию, когда их просят назвать ад…
ИИ-инструмент Vercel v0 массово использовался для создания мошеннических страниц
Исследователи Okta обратили внимание, что неизвестные злоумышленники используют генеративный ИИ-инструмент v0 компании Verce…
Локальные языковые модели. Генерируем текст на своем компьютере
Когда слышишь про генерацию, первыми в голову приходят картинки — от сюрреалистичных шедевров до аниме‑клубнички. Но генерировать можно не только пиксели, но и слова. Сегодня мы разберемся, как запустить языковую модель локально, на собственном железе, какую из них выбрать — и для чего все это может пригодиться.
Zero-Click уязвимость позволяла извлекать конфиденциальные данные из Microsoft 365 Copilot
Новая атака EchoLeak связана с первой известной ИИ-уязвимостью, которая позволяла злоумышленникам извлекать конфиденциальные…
Бумажный выпуск
Материалы для подписчиков
Вопросы по материалам и подписке: support@glc.ru
Отдел рекламы и спецпроектов: yakovleva.a@glc.ru
Контент 18+
Сайт защищен Qrator —
самой забойной защитой от DDoS в мире
Отдел рекламы и спецпроектов: yakovleva.a@glc.ru
Контент 18+
Сайт защищен Qrator —самой забойной защитой от DDoS в мире