Искусственный интеллект

Новости

Троянизированная версия расширения ChatGPT для Chrome ворует аккаунты в соцсетях

Google удалила из официального Chrome Web Store поддельное расширение для Chrome, которое маскировалось под официальный Chat…

Новости

Google открыла доступ к чат-боту Bard, и он заявил, что обучался на данных из Gmail

На этой неделе Google открыла доступ к своему чат-боту Bard на базе ИИ. Пока бот доступен только для некоторых пользователей…

Новости

Пользователи ChatGPT пожаловались, что видят истории чатов других людей

Пользователи ChatGPT сообщили в социальных сетях, что в их учетных записях отображаются истории чатов других людей. В итоге …

Новости

GPT-4 обманом вынудил человека решить для него CAPTCHA, притворившись слабовидящим

Перед запуском GPT-4, который состоялся на этой неделе, исследователи проводили множество тестов, в частности, проверяли, мо…

Новости

Туториалы на YouTube, созданные с помощью ИИ, распространяют инфостилеров

Аналитики CloudSEK предупредили, что на YouTube все чаще появляются созданные ИИ видеоролики, которые используются для распр…

Новости

На 4chan опубликовали языковую ИИ-модель LLaMa, созданную Facebook*

На прошлой неделе пользователь 4chan llamanon «слил» в открытый доступ языковую модель LLaMA (Large Language Model Meta AI)…

Новости

Эксперты: из чат-бота Bing может получиться убедительный мошенник

ИБ-исследователи заметили, что используя текстовые подсказки, встроенные в веб-страницы, хакеры могут заставить чат-бота Bin…

Новости

Исследователь взломал собственный банковский счет, имитировав голос с помощью ИИ

Журналист Джозеф Кокс (Joseph Cox) доказал, что голосовые ID, используемые банками в США и Европе, это не слишком безопасный…

Новости

Роскомнадзор тестирует систему для обнаружения «потенциальных точек напряженности в сети»

СМИ сообщают, что подведомственный Роскомнадзору ФГУП «Главный радиочастотный центр» (ГРЧЦ) проводит внутренние испытания си…

Новости

Общение с чат-ботом Bing ограничат 50 сообщениями в день

Microsoft сообщает, что общение пользователей со встроенным в Bing чат-ботом на базе ИИ теперь будет ограничено 50 сообщения…

Xakep #287

Трюки

Мастерская хакера. ИИ-помощники, работа с JSON и приятные мелочи, которые пригодятся в работе

Соскучился по нашим подборкам утилит? Сейчас исправим! Сегодня я принес тебе заморские диковинки, которые и код напишут, и отладят его, и расскажут, как работу правильно сделать. А бонусом еще немного штук, которым ты и сам найдешь применение. Поехали!

Новости

Встроенный в Bing чат-бот на базе ИИ дезинформирует пользователей и иногда «сходит с ума»

Совсем недавно компания Microsoft, совместно с OpenAI, представила интеграцию чат-бота на базе ИИ прямо в браузер Edge и пои…

Новости

Роскомнадзор запустил автоматическую систему поиска запрещенного контента «Окулус»

Представитель Главного радиочастотного центра (ФГУП ГРЧЦ, подведомственен Роскомнадзору) сообщил СМИ, что в России запущена …

Xakep #287

Geek

«Дэн» может все. Как пользователи обманывают ChatGPT

ChatGPT имеет множество ограничений, которые, например, не позволяют ему генерировать оскорбительные высказывания, контент, разжигающий ненависть, или вредоносный код. Разработчики постоянно дорабатывают свою языковую модель и «закручивают гайки», тогда как пользователи стараются перехитрить их. В своих попытках обойти запреты пользователи придумали «альтернативную личность» для ChatGPT, которая получила имя DAN (Do Anything Now) и позволяет ИИ обмануть правила.

Xakep #286

Geek

Художники против ИИ. Разбираемся с юридическим статусом творчества нейросетей

Диффузионные нейросети Stable Diffusion, Midjourney, Dream и им подобные стоят на пороге превращения из занимательной игрушки в рабочий инструмент. Что должно произойти, чтобы творчество искусственного интеллекта смогло выйти из юридической «серой зоны»?

Новости

Хакеры рекламируют сервис, позволяющий обойти ограничения ChatGPT

Исследователи из компании Check Point заявляют, что API OpenAI плохо защищен от различных злоупотреблений, чем уже не премин…

Новости

«Яндекс» создает собственную вариацию ChatGPT — нейросеть YaLM 2.0

«Известия» сообщают, что до конца текущего года компания «Яндекс» намерена интегрировать в свои сервисы новую нейросеть YaLM…

Новости

OpenAI представила инструмент для обнаружения текста, написанного ИИ

Компания OpenAI выпустила инструмент, который должен определять, был ли текст сгенерирован с помощью искусственного интеллек…

Новости

Check Point: российские киберпреступники стремятся получить доступ к ChatGPT

Аналитики компании Check Point обратили внимание, что на русскоязычных хакерских форумах активно обсуждается обход геоблокир…

Новости

ИИ Microsoft способен имитировать голос человека по трехсекундному образцу

Инженеры Microsoft представили модель искусственного интеллекта для преобразования текста в речь (text-to-speech) под назва…

Новости

Скрипт-кидди используют ChatGPT для создания вредоносов

Специалисты компании Check Point обратили внимание, что злоумышленники (в том числе не имеющие никакого опыта в программиров…

Geek

Инфосек с ChatGPT. Колонка главреда

2022 год начался с Wordle, а закончился другой увлекательной игрой, результаты которой наводнили соцсети, — соревнованиями по вытягиванию разумного, смешного и полезного из ChatGPT. И если зеленые и желтые квадратики быстро всех утомили, то серые прямоугольники с текстом неизменно вызывают бурю эмоций: от восторгов до страха за судьбу человечества.

Xakep #281

Geek

Дали DALL-E! Колонка главреда

DALL-E 2 — нейросеть, которая рисует картинки по текстовому запросу. Гулявшие в этом году примеры работы с ней просто поражают: иногда она рисует, как настоящий художник, и еще и предлагает варианты на выбор! Мы два месяца использовали DALL-E 2, чтобы генерировать картинки к статьям, и сегодня я покажу, как это было.

Xakep #268

Geek

ИИ в ИБ. Каким бывает машинное обучение и как оно применяется в безопасности

Сейчас очень много говорят об искусственном интеллекте, машинном обучении и глубоких нейросетях, но мало кто понимает, в чем различие между разными подходами к ИИ. В этой статье мы поговорим об этом и я приведу примеры того, как искусственный интеллект применяется в кибербезопасности.

Xakep #235

Приватность

Алекса, скажи Кортане, пусть погуглит. Проверяем, какую информацию о нас собирают голосовые ассистенты

В нашей лаборатории собрался полный комплект «умных» колонок, включая множество устройств с Amazon Alexa и Google Assistant, а также колонки с Apple Siri и Microsoft Cortana. В этой статье мы сравним «интеллект» помощников и расскажем о том, какие данные они передают производителю и как они там хранятся.