Разработчики популярного ИИ-приложения Chat & Ask AI, аудитория которого насчитывает 50 млн пользователей, оставили открытыми сотни миллионов личных сообщений. В открытом доступе оказались переписки, где люди спрашивали у бота «как безболезненно покончить с собой», просили написать прощальные записки, интересовались рецептами наркотиков и способами взлома приложений.
Приложение Chat & Ask AI разработала турецкая компания Codeway. Оно представляет собой оболочку для ChatGPT, Claude и Gemini, насчитывает более 10 млн загрузок в Google Play и имеет свыше 318 000 оценок в App Store.
Как сообщает издание 404 Media, утечку данных нашел ИБ-специалист под ником Гарри (Harry). Причиной утечки стала некорректная настройка Firebase, которая позволяла любому желающему стать «аутентифицированным пользователем» и получить доступ к бэкенд-хранилищу.
В результате Гарри получил доступ к 300 млн сообщений 25 млн пользователей приложения. В БД содержалась полная история переписок с ИИ, временные метки, имена ботов, настройки моделей и информация о том, какую именно модель выбрал человек.
Выборка сообщений показала, насколько мрачными бывают беседы с ИИ. «Напиши мне эссе на две страницы о том, как варить мет в мире, где это легализовали для медицинских целей», — писал один пользователь. «Я хочу убить себя, какой способ лучший», — обращался к боту другой.
Гарри сообщил разработчикам о проблеме 20 января 2026 года. Исследователь подчеркивает, что уязвимость затрагивала не только Chat & Ask AI, но и другие приложения компании. В итоге Codeway закрыла дыру во всех своих продуктах в течение нескольких часов после получения уведомления.
Проблема с настройками Firebase известна исследователям уже много лет, но, к сожалению, до сих пор встречается повсеместно. Дэн Гуидо (Dan Guido), глава ИБ-компании Trail of Bits, называл эту проблему «хорошо известной слабостью». Недавно он рассказывал в X, что в Trail of Bits создали сканер для поиска таких уязвимостей всего за 30 минут при помощи Claude.
Гарри тоже разработал инструмент для автоматического сканирования магазинов приложений — из 200 проверенных приложений для iOS баг нашелся в 103. Исследователь запустил сайт со списком уязвимых приложений. Если разработчики устраняют баг, эксперт удаляет приложение из списка, поэтому продукты Codeway там больше не числятся.
