ИИ — Хакер

Новости

Bug bounty программа Curl закрывается из-за ИИ-слопа

Основатель и ведущий разработчик Curl Даниэль Стенберг (Daniel Stenberg) объявил о закрытии программы bug bounty проекта на …

Новости

ИИ-помощник Gemini мог сливать данные через Google Calendar

Исследователи из компании Miggo Security нашли способ обойти защиту Google Gemini от промпт-инжектов, используя обычные приг…

Новости

Недавно обнаруженную малварь VoidLink создали с помощью ИИ

Специалисты компании Check Point сообщили, что обнаруженная ими недавно Linux-малварь VoidLink, судя по всему, была разработ…

Новости

Роскомнадзор создаст механизм фильтрации интернет-трафика на основе ИИ

По информации СМИ, в текущем году Роскомнадзор запустит систему фильтрации трафика на базе машинного обучения. На проект выд…

Xakep #321

Взлом

Будущее хешкрекинга. Как ИИ и квантовые компьютеры изменят перебор паролей

Сегодня разберемся с двумя самыми популярными страшилками журналистских заголовков: квантовые компьютеры вот‑вот взломают всю криптографию и ИИ якобы может взломать твой пароль. Посмотрим, как устроена хеш‑функция, что такое квантовые вычисления, при чем здесь алгоритмы Шора и Гровера, может ли ИИ брутфорсить пароли и как все это поможет нам в хешкрекинге.

Новости

Атака Reprompt позволяла перехватывать сессии Microsoft Copilot и похищать данные в один клик

Исследователи из компании Varonis описали атаку Reprompt, которая позволяет злоумышленникам перехватывать сессии Microsoft C…

Новости

Администраторы смогут удалить Copilot из Windows

Microsoft начала тестировать новую политику, которая позволит ИТ-администраторам удалять ИИ-ассистента Copilot с корпоративн…

Xakep #321

Новости

GIGANEWS. Главные события 2025 года по версии «Хакера»

Как выглядел уходящий год в мире кибербезопасности? Взлом автопроизводителя повлиял на экономику целой страны. ИИ‑браузеры оказались дырявее решета. Самораспространяющиеся черви скомпрометировали десятки тысяч разработчиков. 2025-й был богат на интересные события, и мы, как всегда, отобрали для тебя самое важное, странное и эпичное из того, что происходило последние двенадцать месяцев. Только самые яркие события, и ни одной скучной истории. Погнали!

Xakep #321

Новости

Истории года. Премия Дарвина в области ИИ

Внедрение ИИ‑систем и агентов идет полным ходом во всех мыслимых и немыслимых отраслях — от браузеров и банков до системы найма McDonald's. Однако погоня за хайпом нередко оборачивается провалами и массовыми сокращениями. К примеру, из IBM уволили около 8000 сотрудников HR-департамента, заменив их ИИ чат‑ботом AskHR, а в Microsoft сократили более 6500 человек после того, как GitHub Copilot начал писать до 30% нового кода.

Xakep #321

Geek

Ролевые игры с ИИ. Выбираем LLM и настраиваем интерфейс SillyTavern

Для чего нужны большие языковые модели? Если судить по Reddit, то основных сценариев выходит два: кодинг (все, буквально все внезапно начали что‑то кодировать) и ролевые игры. О вайб‑кодинге лучше меня напишут другие, я же хочу поговорить о ролевых играх, где в качестве персонажа выступает искусственный интеллект.

Новости

Компания Eurostar обвинила ИБ-исследователей в шантаже, когда они нашли уязвимости в ИИ-чат-боте

Специалисты компании Pen Test Partners нашли несколько уязвимостей в ИИ-чат-боте железнодорожного оператора Eurostar. Однако…

Новости

VPN-расширение для Chrome перехватывает запросы пользователей к ИИ

Специалисты из компании Koi Security обнаружили, что популярное VPN-расширение Urban VPN Proxy, которому доверяют шесть милл…

Xakep #321

Взлом

OWASP AI Testing Guide. Разбираем полную классификацию атак на нейросети

Сегодня мы проведем исчерпывающий разбор нового гайда по безопасности от OWASP, посвященного искусственному интеллекту. Мы погрузимся в каждый из 32 пунктов гайда с техническими деталями, реальными и приближенными к реальности примерами атак, фрагментами кода и моими личными комментариями как пентестера и ресерчера.

Новости

Аналитики Gartner рекомендуют блокировать ИИ-браузеры

Аналитическая компания Gartner призвала бизнес отказаться от использования ИИ-браузеров. Эксперты полагают, что новые инстру…

Новости

Google добавляет новую защиту для агентного ИИ в Chrome

Разработчики Google объявили о запуске многоуровневой защиты для браузерных ИИ-агентов, которые скоро смогут самостоятельно …

Xakep #321

Geek

SDXL. Как генерировать картинки ускоренными моделями… медленно

Сейчас появляется все больше ускоренных, а точнее — дистиллированных моделей DMD2. Они позволяют генерировать четкие и детальные картинки за доли секунды, но каждая следующая похожа на предыдущую. Я расскажу, как «замедлить» дистиллированные модели SDXL, вернув утраченную креативность, и как использовать «дистиллят» в малых дозах для улучшения качества.

Новости

ФБР предупреждает о росте количества виртуальных похищений

ФБР сообщает, что мошенники придумали новый способ обмана пользователей: преступники используют фотографии из соцсетей, обра…

Новости

ИИ-браузеры можно обмануть с помощью символа «#»

Исследователи из компании Cato Networks обнаружили новый тип атаки на ИИ-браузеры под названием HashJack. Специалисты исполь…

Новости

В Palo Alto Networks изучили LLM для хакеров

На черном рынке появился целый класс LLM, специально разработанных для киберпреступников, у этих моделей отсутствуют какие-л…

Новости

Аналитики SquareX конфликтуют с Perplexity из-за предполагаемой уязвимости в браузере Comet

Исследователи компании SquareX, специализирующейся на безопасности браузеров, опубликовали отчет о критической уязвимости в …

Новости

Атака ShadowRay 2.0 использует кластеры Ray для майнинга криптовалюты

Аналитики из компании Oligo Security обнаружили масштабную кампанию ShadowRay 2.0. Злоумышленники эксплуатируют RCE-уязвимос…

Новости

Эксперты сомневаются, что Claude Code мог использоваться для автоматизированных атак

На прошлой неделе компания Anthropic опубликовала отчет, в котором заявила, что китайская хак-группа GTG-1002 провела масшта…

Новости

Anthropic: китайские хакеры использовали Claude Code для кибершпионажа

Китайские хакеры применяли ИИ-инструмент Claude Code для атак на 30 крупных компаний и правительственных организаций. По дан…

Новости

В каталог расширений для VS Code проник написанный ИИ шифровальщик

Исследователи Secure Annex нашли в каталоге расширений Visual Studio Code Marketplace для VS Code вредоносное расширение, об…

Новости

Google предупреждает о появлении новых семейств малвари на базе ИИ

Исследователи Google Threat Intelligence Group (GTIG) предупреждают, что хакеры стали массово использовать ИИ не только для …

Новости

Кампания PhantomRaven: в npm загрузили более 100 пакетов с инфостилерами

С августа 2024 года, в рамках кампании PhantomRaven в npm загрузили 126 вредоносных пакетов, которые суммарно скачали более …

Новости

BlueNoroff использует ИИ в атаках на руководителей блокчейн-проектов

Специалисты «Лаборатории Касперского» рассказали о новых целевых атаках группы BlueNoroff. Вредоносные кампании GhostCall и …

Новости

Уязвимость в ChatGPT Atlas позволяет внедрять вредоносные инструкции в память ИИ-помощника

ИБ-исследователи из компании LayerX обнаружили уязвимость в недавно вышедшем браузере ChatGPT Atlas компании OpenAI. Проблем…

Новости

Омнибокс браузера ChatGPT Atlas уязвим перед джейлбрейком

Исследователи из компании NeuralTrust обнаружили уязвимость в агентном браузере ChatGPT Atlas компании OpenAI. На этот раз в…

Новости

ChatGPT Atlas и Perplexity Comet уязвимы перед спуфингом боковой панели

Специалисты SquareX обнаружили уязвимость в агентных ИИ-браузерах ChatGPT Atlas компании OpenAI и Comet компании Perplexity.…

Xakep #319

Geek

Слоп подан! Колонка главреда

Недавно появилось новое словосочетание — AI slop, которым обозначают кривенькую (sloppy) работу нейросетей. Принято на ИИ‑слоп жаловаться и называть так любые сгенерированные вещи с целью уничижения. Но поскольку слоп все равно неотвратим, давай лучше прикинем, что будет дальше.