ИИ-игрушки Bondu (плюшевые динозавры со встроенным чат-ботом) позволяли любому пользователю с аккаунтом Gmail получить доступ к транскриптам разговоров детей с игрушкой, их личным данным и семейной информации.
Как сообщает издание Wired, утечку данных случайно обнаружили ИБ-специалисты Джозеф Такер (Joseph Thacker) и Джоэль Марголис (Joel Margolis). Дело в том, что соседка Такера купила Bondu своим детям и решила поинтересоваться мнением специалиста по безопасности об игрушке. Буквально за несколько минут исследователи обнаружили открытый веб-портал компании, где было достаточно залогиниться через Google, чтобы увидеть разговоры всех маленьких владельцев игрушек с ИИ.
В открытом доступе оказались имена детей, даты их рождения, имена членов семьи, «развивающие цели», которые устанавливали родители, а также полные транскрипты всех бесед с игрушкой.
Представители Bondu подтвердили, что утечка затронула более 50 000 чатов — практически все беседы, кроме тех, что родители или модераторы удалили вручную.
«Обнаружение всех этих разговоров — огромное нарушение детской приватности, — рассказывает Такер. — Узнать прозвища, которые дети дали игрушке, их любимые закуски и танцы — все это жутко и неправильно».
После сообщения о проблеме Bondu оперативно закрыла консоль и на следующий день перезапустила портал с нормальной аутентификацией. Глава компании Фатин Анам Рафид (Fateen Anam Rafid) заявил, что на исправление ушло несколько часов, после чего в компании провели дополнительный аудит безопасности. По данным представителей Bondu, никаких следов доступа посторонних лиц к перечисленным данным обнаружено не было.
По мнению исследователей, эта проблема намного шире, чем одна конкретная утечка. Так, ИИ-игрушки в целом хранят детальную историю каждого разговора, чтобы улучшать будущие беседы. Bondu не сохраняла аудиозаписи бесед — только текстовые расшифровки. И хотя проблема уже устранена, эксперты подчеркивают, что достаточно всего одного сотрудника со слабым паролем, и данные снова могут оказаться в открытом доступе.
«Честно говоря, это просто мечта для похитителя, — говорит Марголис. — Информация, которая позволяет заманить чьего-то ребенка в опасную ситуацию, была доступна кому угодно».
Кроме того, Bondu использует Google Gemini и GPT-5 компании OpenAI для генерации ответов, а значит, информация о детских разговорах может передаваться этим компаниям. Хотя Анам Рафид заверил, что компания «минимизирует передаваемую информацию» и работает в корпоративном режиме, где промпты не используются для обучения моделей.
Исследователи полагают, что портал Bondu был написан с помощью ИИ-инструментов и вайбкодинга. Однако это в компании комментировать не стали.
Такер резюмирует, что после обнаруженной утечки он никогда не станет покупать ИИ-игрушки своим детям, потому что «это просто кошмар с точки зрения приватности».
