LLM

Новости

RevengeHotels атакует информационные системы отелей, применяя ИИ

Эксперты «Лаборатории Касперского» обнаружили новую волну атак группировки RevengeHotels. Отличительной особенностью этой ка…

Новости

Энтузиасты создали Премию Дарвина в области искусственного интеллекта

Открыт прием номинантов на Премию Дарвина в области искусственного интеллекта. Целью создателей премии является не высмеиван…

Новости

Исследователи скрыли вредоносные промпты для ИИ в маленьких изображениях

Эксперты Trail of Bits разработали новый тип атаки, который позволяет похищать пользовательские данные при помощи внедрения …

Новости

Исследователи вынудили ИИ-браузер Comet покупать фейковые товары

Специалисты Guardio протестировали браузер с ИИ-агентом и пришли к выводу, что он уязвим как перед старыми, так и перед новы…

Новости

Редакторы Wikipedia будут быстро удалять статьи, сгенерированные ИИ

В Wikipedia утвердили новые правила для борьбы с потоком сгенерированных ИИ статей, наводнивших онлайн-энциклопедию. Согласн…

Новости

Уязвимость ИИ-помощника Gemini CLI позволяла выполнить произвольный код

Исследователи обнаружили уязвимость в ИИ-помощнике Gemini CLI компании Google, которая позволяла незаметно выполнять вредоно…

Новости

Малварь LameHug использует LLM для генерации команд на зараженных машинах

Новое семейство малвари LameHug использует LLM (Large language model, «Большую языковую модель») для генерации команд, котор…

Новости

Найден еще один способ получения ключей для Windows от ChatGPT

ИБ-исследователь Марко Фигероа (Marco Figueroa) рассказал о способе, который можно использовать для извлечения Windows-ключе…

Новости

Опенсорсный инструмент Anubis блокирует ИИ-скраперов

В январе 2025 года Ксе Иасо (Xe Iaso) создала опенсорсный инструмент Anubis, предназначенный для борьбы с ИИ-скраперами. В н…

Новости

ChatGPT указывает неверные URL-адреса для сайтов крупных компаний

Аналитики из компании Netcraft обнаружили, что чат-боты с ИИ зачастую выдают неверную информацию, когда их просят назвать ад…

Xakep #315

Geek

Локальные языковые модели. Генерируем текст на своем компьютере

Когда слышишь про генерацию, первыми в голову приходят картинки — от сюрреалистичных шедевров до аниме‑клубнички. Но генерировать можно не только пиксели, но и слова. Сегодня мы разберемся, как запустить языковую модель локально, на собственном железе, какую из них выбрать — и для чего все это может пригодиться.

Новости

ИИ-инструмент Vercel v0 массово использовался для создания мошеннических страниц

Исследователи Okta обратили внимание, что неизвестные злоумышленники используют генеративный ИИ-инструмент v0 компании Verce…

Новости

Zero-Click уязвимость позволяла извлекать конфиденциальные данные из Microsoft 365 Copilot

Новая атака EchoLeak связана с первой известной ИИ-уязвимостью, которая позволяла злоумышленникам извлекать конфиденциальные…

Xakep #314

Geek

Вайбколхозинг. Колонка главреда

С момента появления ChatGPT идут споры о его применимости в разных областях. Пожалуй, самая важная из них — программирование. Давай разберемся, почему разговоры про «вайбкодинг» выводят программистов из себя примерно за 0,01 секунды и правы ли они в своем гневе.

Новости

Claude Opus 4 шантажирует своих создателей, а ChatGPT o3 отказывается отключаться

В Anthropic рассказали, что новая модель Claude Opus 4 может шантажировать разработчиков, если ее угрожают заменить новой ИИ…

Новости

Разработчик xAI случайно слил на GitHub ключ API с доступом к LLM SpaceX и Tesla

По информации известного журналиста-расследователя Брайана Кребса, сотрудник xAI случайно опубликовал на GitHub приватный кл…

Новости

Brave открывает исходный код инструмента Cookiecrumbler

Разработчики браузера Brave открыли исходный код инструмента Cookiecrumbler. Это решение использует большие языковые модели …

Новости

Новые атаки типа слопсквоттинг строятся на «галлюцинациях» ИИ

Эксперты предупреждают о новом типе атак на цепочку поставок, получившем название слопсквоттинг (slopsquatting). Такие атаки…

Новости

AkiraBot использовал инструменты OpenAI, чтобы разослать спам на 80 000 сайтов

Специалисты SentinelOne рассказали о спамерской платформе AkiraBot, которая использовала ИИ-инструменты OpenAI для атак на 4…

Новости

Cloudflare запустила бесконечный лабиринт для ИИ-ботов

На прошлой неделе компания Cloudflare анонсировала новую функцию под названием «ИИ лабиринт» (AI Labyrinth), которая направл…

Новости

Исследователи вынудили DeepSeek писать малварь

Исследователи из компании Tenable изучили способность китайского ИИ чат-бота DeepSeek разрабатывать вредоносные программы (к…

Новости

В наборе данных для обучения ИИ нашли 12 000 ключей API

В наборе данных Common Crawl, который используется для обучения множества ИИ-моделей, обнаружили около 12 000 секретов, в то…

Новости

Множество мошеннических сайтов маскируется под DeepSeek

Исследователи предупреждают, что в сети появились сотни фальшивых сайтов, выдающих себя за DeepSeek. Злоумышленники использу…

Новости

Google: хакеры используют Gemini AI для своих атак

Аналитики Google Threat Intelligence Group (GTIG) сообщили, что более 57 «правительственных» хак-групп экспериментируют с ис…

Xakep #310

Geek

Китайский дикпик. Колонка главреда

У меня уже лежал план очередной колонки, как вдруг появилась новая тема, которая заставила отложить все заметки в сторону и заняться ей. Речь, конечно же, про новенькую китайскую LLM под названием DeepSeek. Давай разберемся, в чем тут, собственно, новость и что именно она для нас изменит.

Новости

YouTube-канал «отравляет» ИИ через субтитры

Ютубер F4mi нашла интересный способ борьбы с ИИ-инструментами, которые используются для кражи чужого контента. Она используе…

Новости

Джейлбрейк Time Bandit обходит защиту ChatGPT

Джейлбрейк для ChatGPT, получивший название Time Bandit, позволяет обойти защитные механизмы и получить от чат-бота инструкц…

Новости

Энтузиасты создают ловушки для ИИ-краулеров

ИИ-компании нередко обвиняют в том, что они игнорируют инструкции в файлах robots.txt и скрапят любой контент без разбора, п…

Новости

DeepSeek ограничивает регистрацию новых аккаунтов из-за масштабной кибератаки

Китайская ИИ-компания DeepSeek заявила, что из-за «масштабных кибератак» на свои сервисы она вынуждена временно ограничить р…

Новости

Check Point: новый вымогатель FunkSec разработан с помощью ИИ

Аналитики Check Point рассказали о новой вымогательской группировке FunkSec, которая взяла на себя ответственность за атаки …

Новости

Исследователи показали, что ИИ можно джейлбрекнуть с помощью повторения промптов

Специалисты компании Anthropic, разрабатывающей семейство больших языковых моделей (LLM) Claude, опубликовали исследование, …

Xakep #309

Админ

Запрягаем ламу. Как использовать Llama для поиска критичных данных в коде

В этой статье я расскажу, зачем аппсек‑инженеру следить за тем, какие данные живут у него в разрабатываемых продуктах, как извлечь из кода сервисов структуру передаваемых данных, как раскрасить поля найденных объектов по заранее заведенным правилам или как попросить локальную опенсорсную LLM-модель, чтобы она раскрашивала данные за тебя.