ChatGPT

Новости

Найден еще один способ получения ключей для Windows от ChatGPT

ИБ-исследователь Марко Фигероа (Marco Figueroa) рассказал о способе, который можно использовать для извлечения Windows-ключе…

Новости

ChatGPT указывает неверные URL-адреса для сайтов крупных компаний

Аналитики из компании Netcraft обнаружили, что чат-боты с ИИ зачастую выдают неверную информацию, когда их просят назвать ад…

Xakep #315

Взлом

Декомпилятор на нейронках. Скрещиваем IDA Pro с ChatGPT

Языковые модели способны взять на себя рутинную часть работы реверс‑инженера. Они объяснят, как работает блок кода, и подскажут удачные имена функций и переменных. Рассмотрим широкий спектр облегчающих анализ инструментов — от локальных языковых моделей до агентов, способных к рассуждению и запуску пользовательского кода.

Xakep #314

Geek

Вайбколхозинг. Колонка главреда

С момента появления ChatGPT идут споры о его применимости в разных областях. Пожалуй, самая важная из них — программирование. Давай разберемся, почему разговоры про «вайбкодинг» выводят программистов из себя примерно за 0,01 секунды и правы ли они в своем гневе.

Новости

Суд обязал OpenAI хранить все разговоры пользователей с ChatGPT

На прошлой неделе пользователей OpenAI обеспокоило постановление суда, в котором компанию обязали сохранять журналы чатов с …

Новости

Claude Opus 4 шантажирует своих создателей, а ChatGPT o3 отказывается отключаться

В Anthropic рассказали, что новая модель Claude Opus 4 может шантажировать разработчиков, если ее угрожают заменить новой ИИ…

Новости

OpenAI предлагает до 100 000 долларов за уязвимости

Компания OpenAI увеличила максимальный размер вознаграждения за уязвимости до 100 000 долларов (с 20 000 долларов), так как …

Новости

OpenAI забанила аккаунты хак-групп, использовавших ChatGPT

Компания OpenAI сообщила, что заблокировала аккаунты нескольких северокорейских хакерских групп, которые использовали платфо…

Xakep #310

Geek

Китайский дикпик. Колонка главреда

У меня уже лежал план очередной колонки, как вдруг появилась новая тема, которая заставила отложить все заметки в сторону и заняться ей. Речь, конечно же, про новенькую китайскую LLM под названием DeepSeek. Давай разберемся, в чем тут, собственно, новость и что именно она для нас изменит.

Новости

Хакер продает коды доступа для 20 млн аккаунтов OpenAI

В конце прошлой недели хакер выставил в продажу 20 млн кодов доступа для аккаунтов OpenAI. ИБ-эксперты считают, что эти данн…

Новости

Джейлбрейк Time Bandit обходит защиту ChatGPT

Джейлбрейк для ChatGPT, получивший название Time Bandit, позволяет обойти защитные механизмы и получить от чат-бота инструкц…

Xakep #308

Geek

Новый поиск. Колонка главреда

Без малого три года назад я рассказывал, как съезжал с Google и пробовал другие способы искать информацию. С того момента появился еще один мощнейший инструмент — большие языковые модели. Недавно поиск по вебу добавили и в ChatGPT.

Xakep #308

Новости

MEGANews. Самые важные события в мире инфосека за ноябрь

В этом месяце: GoblinRAT шпионил за российскими ведомствами и ИТ‑компаниями, разработчики Tor рассказали об атаке, произошла утечка документации для инструмента Graykey, WhatsApp использовался для доставки шпионского ПО Pegasus, исследователь нашел проблемы в песочнице ChatGPT и другие интересные события ноября.

Новости

Краулер OpenAI ChatGPT можно использовать для DDoS-атак

На GitHub Microsoft была опубликована статья ИБ-специалиста Бенджамина Флеша (Benjamin Flesch), который рассказал, что всего…

Новости

Исследователь рассказал о возможных проблемах песочницы ChatGPT

Специалист Mozilla 0Din Марко Фигероа (Marco Figueroa) сумел получить расширенный доступ к песочнице ChatGPT, включая возмож…

Новости

Исследователь показал джейлбрейк ChatGPT с помощью эмодзи и инструкций в шестнадцатеричном формате

ИБ-исследователь Марко Фигероа (Marco Figueroa) продемонстрировал, что модель OpenAI GPT-4o можно обмануть и обойти ее защит…

Новости

В OpenAI рассказали, как злоумышленники используют ChatGPT

Компания OpenAI рассказала, что пресекла более 20 иностранных «операций влияния», в рамках которых ChatGPT использовался для…

Xakep #304

Geek

(Де)генеративные мемы грядут! Колонка главреда

Срочно в номер: главному редактору журнала «Хакер» попались смешные мемасы! Точнее, сами по себе они вполне обычные, а вот их изнанка способна вызвать шок будущего. И виноваты, конечно, снова нейронки. Только все смирились с тем, что машина пишет школьникам отменные рефераты, как теперь ее научили еще и шутить‑прикалываться.

Новости

Приложение ChatGPT для macOS хранило чаты в виде простого текста

В выпущенном недавно приложении ChatGPT для macOS обнаружили опасную проблему: все чаты пользователей хранились на компьютер…

Новости

Stack Overflow банит пользователей, недовольных партнерством ресурса с OpenAI

Stack Overflow подвергся жесткой критике со стороны собственных пользователей после того, как объявил о сотрудничестве с Ope…

Новости

В даркнете продают более 225 000 учетных данных для ChatGPT

Более 225 000 логов стилеров, содержащих украденные учетные данные для ChatGPT, были доступны в даркнете в период с января п…

Новости

ChatGPT напугал пользователей бессвязными и бессмысленными ответами

Начиная со вторника пользователи ChatGPT стали массово сообщать о странном поведении чат-бота OpenAI. Люди писали, что ИИ ве…

Xakep #299

Взлом

Проблемы с CVE. Разоблачаем баги-пустышки и пишем эксплоит при помощи ChatGPT

Куда мы в первую очередь смотрим, глядя на очередную CVE’шку? Правильно, на уровень угрозы, то есть оценку CVSS. Но бывает, что эта цифра плохо соответствует реальной опасности. В этой статье я на примерах покажу, как это случается, а также поговорим о других проблемах CVE.

Xakep #298

Geek

Люди против роботов. Колонка главреда

То разгорается, то тлеет массовый протест художников и прочих креативщиков против генеративных нейросетей. Связанные с этим споры — одна из самых футуристичных и даже киберпанковских дискуссий, которые сейчас можно встретить. Роботы отбирают у людей возможность трудиться, и не потенциально в будущем, а уже прямо сейчас.

Новости

OpenAI и Microsoft заявляют, что перекрыли нескольким хак-группам доступ к ChatGPT

Специалисты Microsoft заявили, что иностранные APT (связанные с Китаем, Россией, Ираном и Северной Кореей) используют ChatGP…

Новости

Исследователи нашли в даркнете почти 3000 сообщений с обсуждением чат-ботов и ИИ

Специалисты Kaspersky Digital Footprint Intelligence изучили сообщения в даркнете на тему использования ChatGPT и других ана…

Новости

OpenAI патчит раскрытие данных в ChatGPT, но информация все равно может утекать

Компания OpenAI устранила ошибку раскрытия данных в ChatGPT, из-за которой информация о разговоре с чат-ботом могла утекать …

Новости

ChatGPT раскрывает личные данные реальных людей

Исследователи из компании Google продемонстрировали новую атаку на ChatGPT, показывающую, что популярный ИИ чат-бот OpenAI м…

Xakep #296

Geek

ЧертGPT. Колонка главреда

Последний прорыв в области искусственного интеллекта можно сравнить с появлением персональных компьютеров, интернета или мобильных телефонов. Но прошлые революционные технологии никто не думал ограничивать, тогда как любые разговоры об ИИ сразу сопровождаются сомнениями: не выйдет ли вдруг беды?

Xakep #295

Взлом

ChatGPT на рыбалке. Выманиваем пароль при помощи QR-кода и чат-бота

ChatGPT сейчас разве что в котлеты не кладут. В этой статье мы расскажем, как в проекте по социальной инженерии с помощью форка библиотеки для Gophish рассылать QR-коды вместо обычных ссылок, чтобы вытащить сотрудников из защищенного рабочего окружения на личные девайсы. В качестве catchy-сценария рассылки мы рассмотрим «Telegram-бот IT-поддержки с ChatGPT» и на самом деле используем эту нейросеть для генерации кода бота, а также подключим интеграцию с API OpenAI для общения с пользователями.