Исследователь рассказал о возможных проблемах песочницы ChatGPT
Специалист Mozilla 0Din Марко Фигероа (Marco Figueroa) сумел получить расширенный доступ к песочнице ChatGPT, включая возмож…
Исследователь показал джейлбрейк ChatGPT с помощью эмодзи и инструкций в шестнадцатеричном формате
ИБ-исследователь Марко Фигероа (Marco Figueroa) продемонстрировал, что модель OpenAI GPT-4o можно обмануть и обойти ее защит…
(Де)генеративные мемы грядут! Колонка главреда
Срочно в номер: главному редактору журнала «Хакер» попались смешные мемасы! Точнее, сами по себе они вполне обычные, а вот их изнанка способна вызвать шок будущего. И виноваты, конечно, снова нейронки. Только все смирились с тем, что машина пишет школьникам отменные рефераты, как теперь ее научили еще и шутить‑прикалываться.
В OpenAI рассказали, как злоумышленники используют ChatGPT
Компания OpenAI рассказала, что пресекла более 20 иностранных «операций влияния», в рамках которых ChatGPT использовался для…
Приложение ChatGPT для macOS хранило чаты в виде простого текста
В выпущенном недавно приложении ChatGPT для macOS обнаружили опасную проблему: все чаты пользователей хранились на компьютер…
Stack Overflow банит пользователей, недовольных партнерством ресурса с OpenAI
Stack Overflow подвергся жесткой критике со стороны собственных пользователей после того, как объявил о сотрудничестве с Ope…
В даркнете продают более 225 000 учетных данных для ChatGPT
Более 225 000 логов стилеров, содержащих украденные учетные данные для ChatGPT, были доступны в даркнете в период с января п…
ChatGPT напугал пользователей бессвязными и бессмысленными ответами
Начиная со вторника пользователи ChatGPT стали массово сообщать о странном поведении чат-бота OpenAI. Люди писали, что ИИ ве…
OpenAI и Microsoft заявляют, что перекрыли нескольким хак-группам доступ к ChatGPT
Специалисты Microsoft заявили, что иностранные APT (связанные с Китаем, Россией, Ираном и Северной Кореей) используют ChatGP…
Проблемы с CVE. Разоблачаем баги-пустышки и пишем эксплоит при помощи ChatGPT
Куда мы в первую очередь смотрим, глядя на очередную CVE’шку? Правильно, на уровень угрозы, то есть оценку CVSS. Но бывает, что эта цифра плохо соответствует реальной опасности. В этой статье я на примерах покажу, как это случается, а также поговорим о других проблемах CVE.
Люди против роботов. Колонка главреда
То разгорается, то тлеет массовый протест художников и прочих креативщиков против генеративных нейросетей. Связанные с этим споры — одна из самых футуристичных и даже киберпанковских дискуссий, которые сейчас можно встретить. Роботы отбирают у людей возможность трудиться, и не потенциально в будущем, а уже прямо сейчас.
Исследователи нашли в даркнете почти 3000 сообщений с обсуждением чат-ботов и ИИ
Специалисты Kaspersky Digital Footprint Intelligence изучили сообщения в даркнете на тему использования ChatGPT и других ана…
OpenAI патчит раскрытие данных в ChatGPT, но информация все равно может утекать
Компания OpenAI устранила ошибку раскрытия данных в ChatGPT, из-за которой информация о разговоре с чат-ботом могла утекать …
ЧертGPT. Колонка главреда
Последний прорыв в области искусственного интеллекта можно сравнить с появлением персональных компьютеров, интернета или мобильных телефонов. Но прошлые революционные технологии никто не думал ограничивать, тогда как любые разговоры об ИИ сразу сопровождаются сомнениями: не выйдет ли вдруг беды?
ChatGPT раскрывает личные данные реальных людей
Исследователи из компании Google продемонстрировали новую атаку на ChatGPT, показывающую, что популярный ИИ чат-бот OpenAI м…
Массовые сбои в работе ChatGPT вызваны DDoS-атаками
Представители OpenAI подтвердили, что продолжающиеся последние два дня сбои в работе ChatGPT и API компании вызваны DDoS-ата…
ChatGPT на рыбалке. Выманиваем пароль при помощи QR-кода и чат-бота
ChatGPT сейчас разве что в котлеты не кладут. В этой статье мы расскажем, как в проекте по социальной инженерии с помощью форка библиотеки для Gophish рассылать QR-коды вместо обычных ссылок, чтобы вытащить сотрудников из защищенного рабочего окружения на личные девайсы. В качестве catchy-сценария рассылки мы рассмотрим «Telegram-бот IT-поддержки с ChatGPT» и на самом деле используем эту нейросеть для генерации кода бота, а также подключим интеграцию с API OpenAI для общения с пользователями.
Ученые нашли способ автоматизировать создание вредоносных запросов для ИИ чат-ботов
Группа ученых разработала метод атак на большие языковые модели (LLM), который позволяет обойти средства защиты в ChatGPT, B…
Исследователи обнаружили еще один ИИ-инструмент для преступников — FraudGPT
По данным компании Netenrich, в даркнете и в Telegram-каналах активно рекламируется новый ИИ-инструмент для преступников под…
WormGPT помогает устраивать изощренные фишинговые атаки
Специалисты SlashNext обратили внимание, что киберпреступники все чаще используют генеративный ИИ в своих атаках. В частност…
На OpenAI и Microsoft подали в суд, так как они «похитили 300 миллиардов слов из интернета»
Шестнадцать анонимных истцов обратились в суд с коллективным иском против компаний OpenAI и Microsoft. Истцы требуют возмеще…
Энтузиаст создал клиент ChatGPT для Windows 3.1
Разработчик, ранее создавший версию Wordle для Windows 3.1, теперь представил публике клиент ChatGPT для Windows 3.1 под наз…
В даркнете продают более 100 000 взломанных аккаунтов ChatGPT
По информации аналитиков Group-IB, за последний год более 101 000 учетных записей пользователей ChatGPT были украдены инфост…
Vivaldi притворяется браузером Edge, чтобы обойти ограничения на использование Bing Chat
Разработчики браузера Vivaldi сообщили, что теперь на устройствах под управлением Android их продукт выдает себя за Microsof…
Ради доступа к GPT-4 люди воруют плохо защищенные ключи API
Журналисты обратили внимание, что на Discord-сервере сабреддита r/ChatGPT все чаще рекламируются украденные токены API OpenA…
MEGANews. Самые важные события в мире инфосека за апрель
В этом месяце: автоугонщики маскируют хакерские устройства под колонки JBL, Microsoft рассказывает, как обнаружить буткит BlackLotus, ИИ попросили уничтожить человечество, на Amazon запретили продажу Flipper Zero, в даркнете ликвидирован маркетплейс Genesis, а также другие интересные новости апреля.
Исследователи проверили, может ли ChatGPT бороться с фишингом
В «Лаборатории Касперского» провели эксперимент, в рамках которого исследователи проверили, насколько хорошо чат-бот ChatGPT…
Проект GPT4Free предоставляет бесплатный доступ к ChatGPT, используя уязвимости в API
Студент, известный под ником xtekky, опубликовал на GitHub проект под названием GPT4Free. Энтузиаст весьма успешно пытается …
Роботы на охоте. Применяем GPT-4 на багбаунти
Участие в bug bounty — вещь невероятно увлекательная, но по большей части состоящая из рутины. Проверить то, перебрать это... Логично нагрузить такие таски на компьютер, но скрипты тоже все время приходится писать и переписывать. Большие языковые модели, по которым все сейчас так сходят с ума, могут сослужить здесь важную службу. Я решил самостоятельно убедиться, какую именно, и, вооружившись GPT-4, отправился на охоту за багами.
OpenAI запустила собственную программу bug bounty
Компания OpenAI, стоящая за ИИ чат-ботом ChatGPT, объявила о запуске программы вознаграждения за обнаружение уязвимостей. Ис…
ИИ ChaosGPT попросили уничтожить человечество и установить мировое господство
Энтузиасты запустили проект ChaosGPT, основанный на опенсорсном Auto-GPT. ИИ дали доступ к Google и попросили «уничтожить че…
Сотрудники Samsung раскрывали конфиденциальные данные, общаясь с ChatGPT
По информации СМИ, компании Samsung позволила своим инженерам использовать в работе ChatGPT. Однако те стали применять ИИ дл…
Пользователь заставил ChatGPT генерировать ключи для Windows 95
Пользователь YouTube под ником Enderman продемонстрировал, что ему удалось вынудить ChatGPT генерировать ключи активации для…
Энтузиаст показал клиент ChatGPT для MS-DOS
Любитель ретрокомпьютеров из Сингапура, известный тем, что несколько лет назад он создал Slack-клиент для Windows 3.1, предс…
OpenAI: утечка данных пользователей ChatGPT произошла из-за ошибки Redis
Представители OpenAI рассказали, что недавний сбой в работе ChatGPT (пользователи видели личную информацию других людей и чу…
Троянизированная версия расширения ChatGPT для Chrome ворует аккаунты в соцсетях
Google удалила из официального Chrome Web Store поддельное расширение для Chrome, которое маскировалось под официальный Chat…
Пользователи ChatGPT пожаловались, что видят истории чатов других людей
Пользователи ChatGPT сообщили в социальных сетях, что в их учетных записях отображаются истории чатов других людей. В итоге …
Мастерская хакера. ИИ-помощники, работа с JSON и приятные мелочи, которые пригодятся в работе
Соскучился по нашим подборкам утилит? Сейчас исправим! Сегодня я принес тебе заморские диковинки, которые и код напишут, и отладят его, и расскажут, как работу правильно сделать. А бонусом еще немного штук, которым ты и сам найдешь применение. Поехали!
«Дэн» может все. Как пользователи обманывают ChatGPT
ChatGPT имеет множество ограничений, которые, например, не позволяют ему генерировать оскорбительные высказывания, контент, разжигающий ненависть, или вредоносный код. Разработчики постоянно дорабатывают свою языковую модель и «закручивают гайки», тогда как пользователи стараются перехитрить их. В своих попытках обойти запреты пользователи придумали «альтернативную личность» для ChatGPT, которая получила имя DAN (Do Anything Now) и позволяет ИИ обмануть правила.
Хакеры рекламируют сервис, позволяющий обойти ограничения ChatGPT
Исследователи из компании Check Point заявляют, что API OpenAI плохо защищен от различных злоупотреблений, чем уже не премин…
«ХАКЕР» ДОСТУПЕН ТОЛЬКО В ЭЛЕКТРОННОЙ ВЕРСИИ
Оформи подписку — получи:
- доступ к платным материалам сайта
- доступ ко всем номерам PDF
4000 р.
на год
на год
920 р.
на месяц
на месяц
Материалы для подписчиков
Вопросы по материалам и подписке: support@glc.ru
Отдел рекламы и спецпроектов: yakovleva.a@glc.ru
Контент 18+
Сайт защищен Qrator —
самой забойной защитой от DDoS в мире
Отдел рекламы и спецпроектов: yakovleva.a@glc.ru
Контент 18+
Сайт защищен Qrator —самой забойной защитой от DDoS в мире