На прошлой неделе в нескольких городах США неизвестные взломали кнопки пешеходного перехода, и вместо стандартных фраз вроде «Идите» или «Ждите» те заговорили голосами Джеффа Безоса, Илона Маска и Марка Цукерберга, сгенерированными ИИ. Эти атаки стали возможны из-за свободно доступного сервисного приложения компании Polara.
По сообщениям очевидцев из Сиэтла, некоторые кнопки, установленные на пешеходных переходах, стали воспроизводить сгенерированные ИИ сообщения голосом Джеффа Безоса. Дипфейковый Безос представлялся прохожим и сообщал, что пешеходный переход якобы спонсируется Amazon Prime. Потом он просил не облагать богатых людей дополнительными налогами, сообщая, что тогда «все миллиардеры уедут во Флориду».
В результате городским властям пришлось устранять последствия этой атаки, и чинить взломанные кнопки вручную.
«Мы серьезно относимся к этому инциденту и делаем все возможное, чтобы оперативно отреагировать, — сообщали в департаменте транспорта Сиэтла. — Также мы работаем с нашим подрядчиком, чтобы усилить защиту и не допустить подобных инцидентов в будущем».
Но только Сиэтлом дело не ограничилось. Похожие атаки были зафиксированы в других городах, в том числе в Кремниевой долине — там кнопки «заговорили» голосами Цукерберга, Маска и Дональда Трампа.
Как сообщает издание The Register, фундаментом для этих атак, похоже, послужило оборудование и приложение компании Polara — главного поставщика систем для пешеходных переходов в США. В нормальных обстоятельствах такие устройства «произносят» короткие реплики, вроде «Ждите», «Идите» или «Включен разрешающий сигнал».
По стране установлены сотни тысяч таких устройств, которые муниципальные органы власти и подрядчики обслуживают самостоятельно. Аппаратное обеспечение специально разработано, чтобы быть простым и долговечным, а управляющий софт представляет сбой систему, доступ к которой осуществляется через Bluetooth.
Кроме того, настраивать устройства можно через приложение Polara Field Service, которое до недавнего времени было свободно доступно в магазинах Google Play и App Store. После череды недавних атак приложения убрали из открытого доступа.
По словам журналистов, Polara сделала приложение общедоступным для удобства клиентов, чтобы им не приходилось покупать специальное оборудование для настройки кнопок на пешеходных переходах.
После установки приложения и подключения смартфона к ближайшей кнопке через Bluetooth можно настраивать, какие фразы воспроизводятся при нажатии, менять тайминги и загружать языковые пакеты. Что и проделали неизвестные хакеры, загрузив ИИ-дипфейки.
Отмечается, что такие атаки еще в прошлом году подобно описывал ИБ-специалист, известный под ником Deviant Ollam.
Хотя доступа к кнопкам требуется пароль, в документации Polara сказано, что пароль по умолчанию — это «1234», и покупатель может изменить его, а может не менять. Судя по всему, во многих случаях пароль так и оставался дефолтным или вместо него было выбрано что-то легко угадываемое.
В итоге любой желающий мог установить приложение Polara, подключиться к ближайшей кнопке на пешеходном переходе и изменить ее настройки, в том числе загрузив дипфейковые голоса.
«Polara, по всей видимости, стала привлекательной мишенью для атак, потому что у них есть беспроводной интерфейс управления через Bluetooth, они занимают огромную долю рынка, а результаты [таких атак] максимально публичны, ведь голоса слышны на каждом перекрестке», — сообщил Ollam изданию.
Также исследователь отметил, что, хотя приложение больше не представлено в публичных магазинах, многие люди успели установить его, и архивные версии почти наверняка можно найти в сети. Чтобы исправить ситуацию, кому-то придется поработать «в поле», сменить PIN-коды устройств, а потом составить и хранить их списки.
«Если бы правительство сейчас получало нормальное финансирование, мы действительно могли бы увидеть бригады, выезжающие на перекрестки. Но поскольку в настоящий момент государственные ведомства сокращаются, кто знает? — говорит эксперт. — Хотя это трюк высмеивал правящий класс. В таких случаях бывает, что деньги волшебным образом появляются из ниоткуда, даже если в школах, где не хватает финансирования, голодают дети».
Представители Polara сообщили изданию, что код компании и ни одна из ее систем не были скомпрометированы. А если кто-то и получил доступ к устройствам для пешеходных переходов, это было проделано с помощью действующих PIN-кодов, таких как стандартный «1234».
«Мы полагаем, что неавторизованные лица могли получить доступ к нашим продуктам, используя действительные учетные данные. Важно отметить, что нет никаких признаков того, что сеть Polara была взломана, или в программном обеспечении имеется какая-либо уязвимость, — заявили в компании. — Мы сотрудничаем с пострадавшими клиентами, чтобы помочь им удалить несанкционированные сообщения и защитить системы в будущем. Мы сожалеем о причиненных неудобствах и продолжаем работать с нашими клиентами над повышением безопасности их систем и обеспечением безопасности и надежности наших продуктов».
