Журналист Vice Motherboard Джозеф Кокс (Joseph Cox) доказал, что голосовые ID, используемые банками в США и Европе, это не слишком безопасный способ входа в учетную запись. Систему удалось обмануть с помощью голоса, синтезированного ИИ-сервисом ElevenLabs.
Кокс рассказывает, что банки в США и Европе все чаще используют голосовую верификацию, чтобы клиенты могли входить в свои учетные записи по телефону. Некоторые банки даже рекламируют голосовую идентификацию как эквивалент отпечатка пальца, заявляя, что это безопасный и удобный способ взаимодействия с банком.
Однако эксперимент журналиста доказывает, что голосовая биометрия вряд ли является надежной защитой в современном мире, где любой желающий может сгенерировать синтетический голос дешево или вовсе бесплатно.
Для своего опыта Кокс использовал бесплатный сервис для синтезирования речи от компании ElevenLabs. Примечательно, что ранее тролли уже использовали сервис ElevenLabs для создания голосовых дипфейков голосов Эммы Уотсон, Джо Рогана и других знаменитостей, заставляя ИИ «произносить» их голосами расистские, оскорбительные и жестокие вещи (например, голосом Эммы Уотсон пользователи 4chan «озвучили» отрывок Mein Kampf). В итоге представители ElevenLabs пообещали разработать дополнительные меры безопасности для своей платформы.
«Потенциально любой человек, хотя бы несколько минут голоса которого можно найти открытом доступе (пользователи YouTube, инфлюэнсеры в социальных сетях, политики, журналисты), может быть подвержен такого рода клонированию голоса», — пишет Кокс.
Свой эксперимент журналист поставил на британском Lloyds Bank. На сайте финансового учреждения сообщается, что программа Voice ID абсолютно безопасна. «Ваш голос подобен отпечатку пальца и уникален, — говорится на сайте. — Voice ID анализирует более 100 различных характеристик вашего голоса, которые, как и ваш отпечаток пальца, уникальны. Например, то, как вы используете свой рот и голосовые связки, ваш акцент и как быстро вы говорите. [Voice ID] распознает вас даже в том случае, если у вас простуда или боль в горле».
При этом исследователь отмечает, что аналогичные услуги предлагают и другие банки, включая VoicePrin в TD Bank, Voice ID в Chase, Voice Verification в Wells Fargo и так далее. По мнению Кокса, все эти системы так же уязвимы перед атаками с использованием синтетических голосов, и позволяют выполнять множество действий по телефону, включая проверку истории транзакций, остатков на счетах и, в некоторых случаях, даже перевод средств.
Также отмечается, что для такой атаки мошеннику потребуется знать дату рождения жертвы, однако, благодаря множеству утечек данных, это вряд ли станет большой проблемой.
«Я протестировал несколько ИИ-сервисов для генерации голоса. У большинства из них присутствуют ограничения или были проблемы с воссозданием моего британского акцента, который был необходим для доступа к счету в Lloyds Bank. В конце концов, я воспользовался услугами ElevenLabs, который хорошо справился с акцентом. Чтобы синтезировать голос, я записал около пяти минут речи и загрузил ее в ElevenLabs (я прочитал разделы европейского закона о защите данных). Вскоре синтетический голос был готов к использованию, и он произносил любой текст, введенный на сайте ElevenLabs», — рассказывает журналист.
Однако на первых порах вход в банкинг не удавался: система Lloyds Bank сообщала, что не может аутентифицировать голос. После внесения ряда изменений в ElevenLabs, включая чтение более длинного фрагмента текста, сгенерированный звук успешно обошел систему безопасности банка. Кокс успешно воспроизвел фразу «Мой голос — мой пароль» с помощью ИИ, а затем все тот же ИИ попросил проверить баланс. Как можно убедиться в ролике ниже, все получилось.
«После проблем со знаменитостями ElevenLabs спрашивала в Twitter, какие меры безопасности ей следует использовать, например, запрашивать полную идентификацию пользователей или платежную информацию. Однако Motherboard смогла сгенерировать голос без предоставления документов, подтверждающих личность, или какой-либо платежной информации. Возможно, дело в том, что [наша] учетная запись была создана до того, как ElevenLabs ввела новые меры безопасности. В итоге обход голосовой защиты банка оказался бесплатным», — резюмирует Кокс.
Представители ElevenLabs не ответили журналистам на многочисленные запросы комментариев. Ранее в компании уверяли, что «новые меры безопасности быстро сокращают случаи неправомерного использования» платформы.
В свою очередь, представители Lloyds Bank сообщили, что «Voice ID является дополнительной мерой безопасности», но в компании уверены, что он все равно обеспечивает более высокий уровень защиты, чем традиционные методы аутентификации.
В Lloyds Bank объяснили, что им известно об угрозе синтетических голосов, однако пока финансовое учреждение не сталкивалось со случаями, когда такие фейки использовались для мошенничества в отношении его клиентов. По словам представителей банка, синтетические голоса пока не так привлекательны для злоумышленников, как более простые и распространенные способы мошенничества, а голосовая идентификация помогла значительно снизить количество случаев мошенничества с телефонным банкингом.
