Исследователи проверили, может ли ChatGPT бороться с фишингом
В «Лаборатории Касперского» провели эксперимент, в рамках которого исследователи проверили, насколько хорошо чат-бот ChatGPT…
Mozilla приобрела сервис Fakespot. Firefox сможет обнаруживать фейковые отзывы
Mozilla сообщила о приобретении сервиса Fakespot, который объясняет как продукты, о которых никто никогда не слышал, могут и…
Автору проекта GPT4Free угрожают судом
Разработчиком проекта GPT4Free, который предоставляет бесплатный доступ к GPT-3.5 и GPT-4, заинтересовались юристы OpenAI. К…
Проект GPT4Free предоставляет бесплатный доступ к ChatGPT, используя уязвимости в API
Студент, известный под ником xtekky, опубликовал на GitHub проект под названием GPT4Free. Энтузиаст весьма успешно пытается …
Роботы на охоте. Применяем GPT-4 на багбаунти
Участие в bug bounty — вещь невероятно увлекательная, но по большей части состоящая из рутины. Проверить то, перебрать это... Логично нагрузить такие таски на компьютер, но скрипты тоже все время приходится писать и переписывать. Большие языковые модели, по которым все сейчас так сходят с ума, могут сослужить здесь важную службу. Я решил самостоятельно убедиться, какую именно, и, вооружившись GPT-4, отправился на охоту за багами.
Опубликована Dolly 2.0, опенсорсная LLM, пригодная для коммерческого использования
На этой неделе компания Databricks представила Dolly 2.0, большую языковую модель (LLM) с открытым исходным кодом, пригодную…
OpenAI запустила собственную программу bug bounty
Компания OpenAI, стоящая за ИИ чат-ботом ChatGPT, объявила о запуске программы вознаграждения за обнаружение уязвимостей. Ис…
Экспериментальный проект «Росомаха» использует ИИ, чтобы чинить код на лету
Разработчик под ником BioBootloader представил проект Wolverine, который дает программам на Python «способность к регенераци…
ИИ ChaosGPT попросили уничтожить человечество и установить мировое господство
Энтузиасты запустили проект ChaosGPT, основанный на опенсорсном Auto-GPT. ИИ дали доступ к Google и попросили «уничтожить че…
Сотрудники Samsung раскрывали конфиденциальные данные, общаясь с ChatGPT
По информации СМИ, компании Samsung позволила своим инженерам использовать в работе ChatGPT. Однако те стали применять ИИ дл…
В Италии временно заблокировали ChatGPT
Итальянский регулятор, занимающийся защитой данных, Garante per la Protezione dei Dati Personali, ввел временный запрет на и…
Пользователь заставил ChatGPT генерировать ключи для Windows 95
Пользователь YouTube под ником Enderman продемонстрировал, что ему удалось вынудить ChatGPT генерировать ключи активации для…
Более тысячи экспертов, включая Возняка и Маска, призвали приостановить обучение ИИ мощнее GPT-4
Более тысячи человек, в число которых вошли профессора и ИИ-разработчики, подписали открытое письмо, обращенное ко всем лаб…
Энтузиаст показал клиент ChatGPT для MS-DOS
Любитель ретрокомпьютеров из Сингапура, известный тем, что несколько лет назад он создал Slack-клиент для Windows 3.1, предс…
OpenAI: утечка данных пользователей ChatGPT произошла из-за ошибки Redis
Представители OpenAI рассказали, что недавний сбой в работе ChatGPT (пользователи видели личную информацию других людей и чу…
Троянизированная версия расширения ChatGPT для Chrome ворует аккаунты в соцсетях
Google удалила из официального Chrome Web Store поддельное расширение для Chrome, которое маскировалось под официальный Chat…
Google открыла доступ к чат-боту Bard, и он заявил, что обучался на данных из Gmail
На этой неделе Google открыла доступ к своему чат-боту Bard на базе ИИ. Пока бот доступен только для некоторых пользователей…
Пользователи ChatGPT пожаловались, что видят истории чатов других людей
Пользователи ChatGPT сообщили в социальных сетях, что в их учетных записях отображаются истории чатов других людей. В итоге …
GPT-4 обманом вынудил человека решить для него CAPTCHA, притворившись слабовидящим
Перед запуском GPT-4, который состоялся на этой неделе, исследователи проводили множество тестов, в частности, проверяли, мо…
Туториалы на YouTube, созданные с помощью ИИ, распространяют инфостилеров
Аналитики CloudSEK предупредили, что на YouTube все чаще появляются созданные ИИ видеоролики, которые используются для распр…
На 4chan опубликовали языковую ИИ-модель LLaMa, созданную Facebook*
На прошлой неделе пользователь 4chan llamanon «слил» в открытый доступ языковую модель LLaMA (Large Language Model Meta AI)…
Эксперты: из чат-бота Bing может получиться убедительный мошенник
ИБ-исследователи заметили, что используя текстовые подсказки, встроенные в веб-страницы, хакеры могут заставить чат-бота Bin…
Исследователь взломал собственный банковский счет, имитировав голос с помощью ИИ
Журналист Джозеф Кокс (Joseph Cox) доказал, что голосовые ID, используемые банками в США и Европе, это не слишком безопасный…
Роскомнадзор тестирует систему для обнаружения «потенциальных точек напряженности в сети»
СМИ сообщают, что подведомственный Роскомнадзору ФГУП «Главный радиочастотный центр» (ГРЧЦ) проводит внутренние испытания си…
Общение с чат-ботом Bing ограничат 50 сообщениями в день
Microsoft сообщает, что общение пользователей со встроенным в Bing чат-ботом на базе ИИ теперь будет ограничено 50 сообщения…
Мастерская хакера. ИИ-помощники, работа с JSON и приятные мелочи, которые пригодятся в работе
Соскучился по нашим подборкам утилит? Сейчас исправим! Сегодня я принес тебе заморские диковинки, которые и код напишут, и отладят его, и расскажут, как работу правильно сделать. А бонусом еще немного штук, которым ты и сам найдешь применение. Поехали!
Встроенный в Bing чат-бот на базе ИИ дезинформирует пользователей и иногда «сходит с ума»
Совсем недавно компания Microsoft, совместно с OpenAI, представила интеграцию чат-бота на базе ИИ прямо в браузер Edge и пои…
Роскомнадзор запустил автоматическую систему поиска запрещенного контента «Окулус»
Представитель Главного радиочастотного центра (ФГУП ГРЧЦ, подведомственен Роскомнадзору) сообщил СМИ, что в России запущена …
«Дэн» может все. Как пользователи обманывают ChatGPT
ChatGPT имеет множество ограничений, которые, например, не позволяют ему генерировать оскорбительные высказывания, контент, разжигающий ненависть, или вредоносный код. Разработчики постоянно дорабатывают свою языковую модель и «закручивают гайки», тогда как пользователи стараются перехитрить их. В своих попытках обойти запреты пользователи придумали «альтернативную личность» для ChatGPT, которая получила имя DAN (Do Anything Now) и позволяет ИИ обмануть правила.
Художники против ИИ. Разбираемся с юридическим статусом творчества нейросетей
Диффузионные нейросети Stable Diffusion, Midjourney, Dream и им подобные стоят на пороге превращения из занимательной игрушки в рабочий инструмент. Что должно произойти, чтобы творчество искусственного интеллекта смогло выйти из юридической «серой зоны»?
Хакеры рекламируют сервис, позволяющий обойти ограничения ChatGPT
Исследователи из компании Check Point заявляют, что API OpenAI плохо защищен от различных злоупотреблений, чем уже не премин…
«Яндекс» создает собственную вариацию ChatGPT — нейросеть YaLM 2.0
«Известия» сообщают, что до конца текущего года компания «Яндекс» намерена интегрировать в свои сервисы новую нейросеть YaLM…
OpenAI представила инструмент для обнаружения текста, написанного ИИ
Компания OpenAI выпустила инструмент, который должен определять, был ли текст сгенерирован с помощью искусственного интеллек…
Check Point: российские киберпреступники стремятся получить доступ к ChatGPT
Аналитики компании Check Point обратили внимание, что на русскоязычных хакерских форумах активно обсуждается обход геоблокир…
ИИ Microsoft способен имитировать голос человека по трехсекундному образцу
Инженеры Microsoft представили модель искусственного интеллекта для преобразования текста в речь (text-to-speech) под назва…
Скрипт-кидди используют ChatGPT для создания вредоносов
Специалисты компании Check Point обратили внимание, что злоумышленники (в том числе не имеющие никакого опыта в программиров…
Инфосек с ChatGPT. Колонка главреда
2022 год начался с Wordle, а закончился другой увлекательной игрой, результаты которой наводнили соцсети, — соревнованиями по вытягиванию разумного, смешного и полезного из ChatGPT. И если зеленые и желтые квадратики быстро всех утомили, то серые прямоугольники с текстом неизменно вызывают бурю эмоций: от восторгов до страха за судьбу человечества.
Дали DALL-E! Колонка главреда
DALL-E 2 — нейросеть, которая рисует картинки по текстовому запросу. Гулявшие в этом году примеры работы с ней просто поражают: иногда она рисует, как настоящий художник, и еще и предлагает варианты на выбор! Мы два месяца использовали DALL-E 2, чтобы генерировать картинки к статьям, и сегодня я покажу, как это было.
ИИ в ИБ. Каким бывает машинное обучение и как оно применяется в безопасности
Сейчас очень много говорят об искусственном интеллекте, машинном обучении и глубоких нейросетях, но мало кто понимает, в чем различие между разными подходами к ИИ. В этой статье мы поговорим об этом и я приведу примеры того, как искусственный интеллект применяется в кибербезопасности.
Google отправила инженера в оплачиваемый отпуск, когда тот заявил, что ИИ компании обрел сознание
Блейк Лемуан, старший инженер-программист компании Google из подразделения Responsible AI («Ответственный ИИ»), рассказал жу…
Бумажный выпуск
Материалы для подписчиков
Вопросы по материалам и подписке: support@glc.ru
Отдел рекламы и спецпроектов: yakovleva.a@glc.ru
Контент 18+
Сайт защищен Qrator —
самой забойной защитой от DDoS в мире
Отдел рекламы и спецпроектов: yakovleva.a@glc.ru
Контент 18+
Сайт защищен Qrator —самой забойной защитой от DDoS в мире