Anthropic: Claude Opus 4.6 нашел более 500 уязвимостей в опенсорсных библиотеках
Компания Anthropic сообщила, что ее новейшая языковая модель Claude Opus 4.6 обнаружила свыше 500 ранее неизвестных серьезны…
В Microsoft создали сканер для обнаружения бэкдоров в LLM
Разработчики Microsoft представили сканер, способный обнаруживать бэкдоры в open-weight языковых моделях. Инструмент ориенти…
Ролевые игры с ИИ. Выбираем LLM и настраиваем интерфейс SillyTavern
Для чего нужны большие языковые модели? Если судить по Reddit, то основных сценариев выходит два: кодинг (все, буквально все внезапно начали что‑то кодировать) и ролевые игры. О вайб‑кодинге лучше меня напишут другие, я же хочу поговорить о ролевых играх, где в качестве персонажа выступает искусственный интеллект.
Недавно обнаруженную малварь VoidLink создали с помощью ИИ
Специалисты компании Check Point сообщили, что обнаруженная ими недавно Linux-малварь VoidLink, судя по всему, была разработ…
Аналитики Gartner рекомендуют блокировать ИИ-браузеры
Аналитическая компания Gartner призвала бизнес отказаться от использования ИИ-браузеров. Эксперты полагают, что новые инстру…
OWASP AI Testing Guide. Разбираем полную классификацию атак на нейросети
Сегодня мы проведем исчерпывающий разбор нового гайда по безопасности от OWASP, посвященного искусственному интеллекту. Мы погрузимся в каждый из 32 пунктов гайда с техническими деталями, реальными и приближенными к реальности примерами атак, фрагментами кода и моими личными комментариями как пентестера и ресерчера.
В Palo Alto Networks изучили LLM для хакеров
На черном рынке появился целый класс LLM, специально разработанных для киберпреступников, у этих моделей отсутствуют какие-л…
Эксперты сомневаются, что Claude Code мог использоваться для автоматизированных атак
На прошлой неделе компания Anthropic опубликовала отчет, в котором заявила, что китайская хак-группа GTG-1002 провела масшта…
Google предупреждает о появлении новых семейств малвари на базе ИИ
Исследователи Google Threat Intelligence Group (GTIG) предупреждают, что хакеры стали массово использовать ИИ не только для …
Уязвимость в ChatGPT Atlas позволяет внедрять вредоносные инструкции в память ИИ-помощника
ИБ-исследователи из компании LayerX обнаружили уязвимость в недавно вышедшем браузере ChatGPT Atlas компании OpenAI. Проблем…
Anthropic: для отравления LLM достаточно 250 вредоносных документов в обучающих данных
Специалисты компании Anthropic, совместно с Институтом безопасности ИИ при правительстве Великобритании, Институтом Алана Ть…
Уязвимости Gemini Trifecta заставляли ИИ-помощника Gemini похищать данные
Специалисты раскрыли детали трех уже исправленных уязвимостей в ИИ-помощнике Google Gemini, получивших общее название Gemini…
Перспективные исследования за первую половину 2025-го. Колонка Дениса Макрушина
Сегодня соберем самые яркие и важные исследования ИБ за первую половину года. Нас ждут: поиск секретов в больших данных, уязвимость client-side path traversal, технологии AutoFix для исправления багов, анализ GitHub Actions и CI/CD, провал классических антифишинг‑тренингов, автономный поиск уязвимостей с помощью LLM и еще несколько важных работ.
В Brave появится поисковая ИИ-функция Ask Brave
Разработчики Brave Software, стоящие за созданием ориентированного на конфиденциальность браузера и поисковика, представили …
Создание видео- и аудиодипфейков в режиме реального времени стоит от 30 долларов США
Специалисты «Лаборатории Касперского» обнаружили в даркнете объявления с предложениями по созданию видео- и аудиодипфейков в…
Исследователи вынудили ChatGPT решать CAPTCHA
Специалисты компании SPLX, специализирующейся на автоматизированном тестировании безопасности для ИИ-решений, продемонстриро…
RevengeHotels атакует информационные системы отелей, применяя ИИ
Эксперты «Лаборатории Касперского» обнаружили новую волну атак группировки RevengeHotels. Отличительной особенностью этой ка…
Энтузиасты создали Премию Дарвина в области искусственного интеллекта
Открыт прием номинантов на Премию Дарвина в области искусственного интеллекта. Целью создателей премии является не высмеиван…
Исследователи скрыли вредоносные промпты для ИИ в маленьких изображениях
Эксперты Trail of Bits разработали новый тип атаки, который позволяет похищать пользовательские данные при помощи внедрения …
Исследователи вынудили ИИ-браузер Comet покупать фейковые товары
Специалисты Guardio протестировали браузер с ИИ-агентом и пришли к выводу, что он уязвим как перед старыми, так и перед новы…
Редакторы Wikipedia будут быстро удалять статьи, сгенерированные ИИ
В Wikipedia утвердили новые правила для борьбы с потоком сгенерированных ИИ статей, наводнивших онлайн-энциклопедию. Согласн…
Уязвимость ИИ-помощника Gemini CLI позволяла выполнить произвольный код
Исследователи обнаружили уязвимость в ИИ-помощнике Gemini CLI компании Google, которая позволяла незаметно выполнять вредоно…
Малварь LameHug использует LLM для генерации команд на зараженных машинах
Новое семейство малвари LameHug использует LLM (Large language model, «Большую языковую модель») для генерации команд, котор…
Найден еще один способ получения ключей для Windows от ChatGPT
ИБ-исследователь Марко Фигероа (Marco Figueroa) рассказал о способе, который можно использовать для извлечения Windows-ключе…
Опенсорсный инструмент Anubis блокирует ИИ-скраперов
В январе 2025 года Ксе Иасо (Xe Iaso) создала опенсорсный инструмент Anubis, предназначенный для борьбы с ИИ-скраперами. В н…
ChatGPT указывает неверные URL-адреса для сайтов крупных компаний
Аналитики из компании Netcraft обнаружили, что чат-боты с ИИ зачастую выдают неверную информацию, когда их просят назвать ад…
ИИ-инструмент Vercel v0 массово использовался для создания мошеннических страниц
Исследователи Okta обратили внимание, что неизвестные злоумышленники используют генеративный ИИ-инструмент v0 компании Verce…
Локальные языковые модели. Генерируем текст на своем компьютере
Когда слышишь про генерацию, первыми в голову приходят картинки — от сюрреалистичных шедевров до аниме‑клубнички. Но генерировать можно не только пиксели, но и слова. Сегодня мы разберемся, как запустить языковую модель локально, на собственном железе, какую из них выбрать — и для чего все это может пригодиться.
Вайбколхозинг. Колонка главреда
С момента появления ChatGPT идут споры о его применимости в разных областях. Пожалуй, самая важная из них — программирование. Давай разберемся, почему разговоры про «вайбкодинг» выводят программистов из себя примерно за 0,01 секунды и правы ли они в своем гневе.
Zero-Click уязвимость позволяла извлекать конфиденциальные данные из Microsoft 365 Copilot
Новая атака EchoLeak связана с первой известной ИИ-уязвимостью, которая позволяла злоумышленникам извлекать конфиденциальные…
Claude Opus 4 шантажирует своих создателей, а ChatGPT o3 отказывается отключаться
В Anthropic рассказали, что новая модель Claude Opus 4 может шантажировать разработчиков, если ее угрожают заменить новой ИИ…
Разработчик xAI случайно слил на GitHub ключ API с доступом к LLM SpaceX и Tesla
По информации известного журналиста-расследователя Брайана Кребса, сотрудник xAI случайно опубликовал на GitHub приватный кл…
Brave открывает исходный код инструмента Cookiecrumbler
Разработчики браузера Brave открыли исходный код инструмента Cookiecrumbler. Это решение использует большие языковые модели …
Новые атаки типа слопсквоттинг строятся на «галлюцинациях» ИИ
Эксперты предупреждают о новом типе атак на цепочку поставок, получившем название слопсквоттинг (slopsquatting). Такие атаки…
AkiraBot использовал инструменты OpenAI, чтобы разослать спам на 80 000 сайтов
Специалисты SentinelOne рассказали о спамерской платформе AkiraBot, которая использовала ИИ-инструменты OpenAI для атак на 4…
Cloudflare запустила бесконечный лабиринт для ИИ-ботов
На прошлой неделе компания Cloudflare анонсировала новую функцию под названием «ИИ лабиринт» (AI Labyrinth), которая направл…
Исследователи вынудили DeepSeek писать малварь
Исследователи из компании Tenable изучили способность китайского ИИ чат-бота DeepSeek разрабатывать вредоносные программы (к…
В наборе данных для обучения ИИ нашли 12 000 ключей API
В наборе данных Common Crawl, который используется для обучения множества ИИ-моделей, обнаружили около 12 000 секретов, в то…
Множество мошеннических сайтов маскируется под DeepSeek
Исследователи предупреждают, что в сети появились сотни фальшивых сайтов, выдающих себя за DeepSeek. Злоумышленники использу…
Google: хакеры используют Gemini AI для своих атак
Аналитики Google Threat Intelligence Group (GTIG) сообщили, что более 57 «правительственных» хак-групп экспериментируют с ис…
Бумажный спецвыпуск
«ХАКЕР» ДОСТУПЕН ТОЛЬКО В ЭЛЕКТРОННОЙ ВЕРСИИ
Оформи подписку — получи:
- доступ к платным материалам сайта
- доступ ко всем номерам PDF
4500 р.
на год
на год
950 р.
на месяц
на месяц
Материалы для подписчиков
Вопросы по материалам и подписке: support@glc.ru
Отдел рекламы и спецпроектов: yakovleva.a@glc.ru
Контент 18+
Сайт защищен Qrator —
самой забойной защитой от DDoS в мире
Отдел рекламы и спецпроектов: yakovleva.a@glc.ru
Контент 18+
Сайт защищен Qrator —самой забойной защитой от DDoS в мире