В этой статье я расскажу, зачем аппсек‑инженеру следить за тем, какие данные живут у него в разрабатываемых продуктах, как извлечь из кода сервисов структуру передаваемых данных, как раскрасить поля найденных объектов по заранее заведенным правилам или как попросить локальную опенсорсную LLM-модель, чтобы она раскрашивала данные за тебя.
В сети появилась информация о том, что функциональность Connected Experiences используется Microsoft для сбора данных из Wor…
Специалист Mozilla 0Din Марко Фигероа (Marco Figueroa) сумел получить расширенный доступ к песочнице ChatGPT, включая возмож…
Исследователи обнаружили сразу шесть уязвимостей в Ollama. Баги могли использоваться для выполнения различных вредоносных де…
Специалисты «Лаборатории Касперского» изучили фишинговые и скамерские ресурсы и выяснили, какие артефакты могут оставлять по…
Компания OpenAI рассказала, что пресекла более 20 иностранных «операций влияния», в рамках которых ChatGPT использовался для…
Аналитики HP Wolf Security изучили недавние атаки, направленные на французских пользователей, и обнаружили, что для распрост…
Компания Microsoft опубликовала детали атаки Skeleton Key, которая обходит защиту ИИ-моделей, мешающую им генерировать вредо…
В коде опенсорсной ИИ-платформы Ollama был обнаружен и исправлен баг, получивший название Probllama. Эта проблема могла исп…
Компания «Яндекс» выложила в опенсорс библиотеку YaFSDP, которая ускоряет обучение больших языковых моделей — как собственно…
На прошлой неделе специалисты Microsoft опубликовали LLM WizardLM 2, которая, по их словам, является одной из самых мощных н…
Аналитики Proofpoint считают, что злоумышленники используют для распространения инфостилера Rhadamanthys PowerShell-скрипт, …
Новая атака на ИИ-помощников строится на использовании ASCII-рисунков. Оказалось, что такие большие языковые модели, как GPT…
Более 225 000 логов стилеров, содержащих украденные учетные данные для ChatGPT, были доступны в даркнете в период с января п…
Начиная со вторника пользователи ChatGPT стали массово сообщать о странном поведении чат-бота OpenAI. Люди писали, что ИИ ве…
Специалисты Kaspersky Digital Footprint Intelligence изучили сообщения в даркнете на тему использования ChatGPT и других ана…
Новая уязвимость LeftoverLocals затрагивает графические процессоры AMD, Apple, Qualcomm и Imagination Technologies. Баг позв…
Исследователи из компании Google продемонстрировали новую атаку на ChatGPT, показывающую, что популярный ИИ чат-бот OpenAI м…
На этой неделе компания Microsoft объявила, что ранний доступ к ее ИИ-помощнику Security Copilot, похожему на ChatGPT, уже о…
Группа ученых разработала метод атак на большие языковые модели (LLM), который позволяет обойти средства защиты в ChatGPT, B…
На прошлой неделе пользователь Reddit с ником kaefer_kriegerin опубликовал в сабреддите игры World of Warcraft фальшивый ано…
Google сообщает, что создала red team, которая будет специализироваться на «сложных технических атаках на системы ИИ». Среди…
В «Лаборатории Касперского» провели эксперимент, в рамках которого исследователи проверили, насколько хорошо чат-бот ChatGPT…
Разработчиком проекта GPT4Free, который предоставляет бесплатный доступ к GPT-3.5 и GPT-4, заинтересовались юристы OpenAI. К…
Студент, известный под ником xtekky, опубликовал на GitHub проект под названием GPT4Free. Энтузиаст весьма успешно пытается …
На этой неделе компания Databricks представила Dolly 2.0, большую языковую модель (LLM) с открытым исходным кодом, пригодную…
Разработчик под ником BioBootloader представил проект Wolverine, который дает программам на Python «способность к регенераци…
Энтузиасты запустили проект ChaosGPT, основанный на опенсорсном Auto-GPT. ИИ дали доступ к Google и попросили «уничтожить че…
По информации СМИ, компании Samsung позволила своим инженерам использовать в работе ChatGPT. Однако те стали применять ИИ дл…
На этой неделе Google открыла доступ к своему чат-боту Bard на базе ИИ. Пока бот доступен только для некоторых пользователей…
На прошлой неделе пользователь 4chan llamanon «слил» в открытый доступ языковую модель LLaMA (Large Language Model Meta AI)…
ИБ-исследователи заметили, что используя текстовые подсказки, встроенные в веб-страницы, хакеры могут заставить чат-бота Bin…
Microsoft сообщает, что общение пользователей со встроенным в Bing чат-ботом на базе ИИ теперь будет ограничено 50 сообщения…
Совсем недавно компания Microsoft, совместно с OpenAI, представила интеграцию чат-бота на базе ИИ прямо в браузер Edge и пои…
Сайт защищен Qrator —
