В распоряжении редакции Vice Motherboard оказались документы, скриншоты и аудиозписи, свидетельствующие о том, что подрядчики компании Microsoft прослушивают личные разговоры пользователей Skype, если те ведутся через встроенный переводчик приложения. И хотя на сайте Skype действительно есть предупреждение о том, что компания оставляет за собой право анализировать звонки, которые пользователь хочет перевести (разумеется, ради улучшения работы платформы), в этом предупреждении не сказано, что анализ будут проводить не специальные алгоритмы, а живые люди.
В руки журналистов попали короткие фрагменты звонков (обычно не длиннее 5-10 секунд), во время которых пользователи общались с близкими и беседовали о личных проблемах, включая потерю веса и проблемы в отношениях. Анонимный подрядчик Microsoft, предоставивший Motherboard кэш файлов, подчеркнул, что компания крайне небрежно относится к пользовательским данным.
Более того, подрядчики Microsoft, похоже, слушают и голосовые команды, которые пользователи дают голосовому ассистенту Cortana. Напомню, что совсем недавно подобную практику под давлением общественности были вынуждены прекратить компании Apple, Google и Amazon.
И хотя переводчик Skype, представленный еще в 2015 году, использует искусственный интеллект, как и во многих других проектах, связанных с ИИ и машинным обучением, некоторые работы выполняются людьми: они выполняют те же самые задачи, что и сам ИИ для улучшения работы алгоритмов.
Так, согласно скриншотам и другим документам, изученным журналистами, когда подрядчику Microsoft предоставляется аудиозапись для транскрибирования, вместе с ней он получает несколько приблизительных переводов, созданных системой перевода Skype. Подрядчик должен прослушать запись, а затем выбрать наиболее точный перевод из списка предложенных или предоставить собственный вариант.
«Некоторые записи, что я слышал, можно безошибочно охарактеризовать как секс по телефону. Я слышал, как люди вводят полные адреса через команды Cortana или попросят Cortana осуществить поиск по порнографическим запросам. И хотя я не знаю, что можно сделать с такой информацией, мне кажется странным, что эти данные не обрабатываются в более контролируемой среде, — рассказал изданию анонимный подрядчик. — Хотя у нас нет доступа к информации идентифицирующей пользователей, в целом мне кажется, что если бы пользователи Microsoft знали о том, что какие-то случайные люди сидят у себя дома в пижамах и могут шутить с друзьями в интернете о том, что они только что прослушали, им бы это не понравилось».
Представитель Microsoft, с которым связались журналисты Motherboard, подтвердил, что компания действительно собирает голосовые данные для предоставления и улучшения качества услуг (таких как поиск, голосовые команды, услуги диктовки или перевода), но стремится быть максимально прозрачной в вопросах сбора и использования пользовательской информации.
«Microsoft всегда получает разрешение клиентов перед сбором и использованием их голосовых данных», — заявил он. Среди часто задаваемых вопросов о Skype Translator и в документации Cortana действительно прописано, что компания может использовать голосовые данные для улучшения качества своих услуг. Впрочем, журналисты Motherboard еще раз подчеркивают, что в документации нет ни слова о том, что с записями будут работать живые люди.
Также представитель компании заверил, что все данные, которые передаются подрядчикам, обезличены. Так, аудиоданные доступны только через специальный безопасный портал, а компания предпринимает шаги по удалению из записей идентификационной информации (например, ID устройства или пользователя). Кроме того, сотрудники, работающие с такой информацией, подписывают соглашение о неразглашении и обязуются соблюдать стандарты конфиденциальности, изложенные в европейском законодательстве.
