Старший брат следит за тобой. Как защитить себя в цифровом мире - страница 209

В конце главы мы рассмотрим меры защиты более подробно, а сейчас поговорим об опасности подслушивания и перехвата голосовых данных с помощью систем распознавания речи, часто называемых «голосовые помощники».

Системы автоматического распознавания речи

К системам автоматического распознавания речи (ASR, Automatic Speech Recognition) относятся программы, способные распознавать в речи человека команды и реагировать на них. Развитие нейронных сетей, методов глубокого обучения и технологии больших данных привели к существенному прогрессу ASR-систем, в частности голосовых помощников. К последним относятся разработки различных производителей, например Apple Siri, Microsoft Сortana, Amazon Alexa, Samsung Bixby, «Яндекс Алиса» и Google Assistant. Голосовые помощники делают взаимодействие пользователя с устройствами гораздо более удобным. Например, можно, не трогая лежащий на столе смартфон, «попросить» его позвонить любому человеку, чей контакт есть в адресной книге, или набрать новый номер, запустить приложение либо приобрести что-нибудь в интернет-магазине. В последнее время разработчики внедряют в системы «умного» дома ASR-технологии, в том числе и с применением голосовых помощников. Это позволяет с помощью голосовых команд управлять разными их функциями, например освещением или даже приготовлением пищи.

Использование ASR-систем удобно, но сопряжено с рядом опасностей. Так, злоумышленники могут получить несанкционированный доступ к ней, чтобы перехватить голосовую информацию и (или) захватить управление этой системой. Разработчик ASR-системы или лицо, имеющее несанкционированный доступ к ней (т. е. к трафику – если при его передаче используются слабые алгоритмы шифрования или он передается в незашифрованном виде), может анализировать голосовые запросы и содержащиеся в них важные для пользователя персональные данные. Приказывая системе набрать телефонный номер, пользователь дает ей сведения о своих контактах. Поисковые запросы и история посещения сайтов содержат данные об интересах пользователя, вопросы о погоде в определенной локации или о маршруте до определенной точки – информацию о его местонахождении.

Перехватываться могут не только сами команды, но и все, что произносится около устройства. ASR-система реагирует на определенные голосовые команды (ключевые слова), например «Окей, Google», и записывает сказанное после них, передавая записанные данные на сторонние серверы. Система не вычленяет инструкцию сразу, т. е. не прерывает запись после окончания команды, а записывает до ближайшей паузы определенной длительности в речи человека. Весь записанный текст, как команда, так и все сказанное после нее, передается на сервер для анализа речи и обработки команды.

Другая уязвимость – это возможность реагирования ASR-систем на команды, скрытые в рекламе или музыке. С помощью таких команд можно осуществлять несанкционированные действия, например совершать покупки в магазине приложений, зачитывать вслух сообщения или уведомления, публиковать посты в соцсетях и управлять устройствами «умного» дома[1139].

Существует еще одна опасность: злоумышленник может покупать в поисковой системе рекламу, указывая в ней телефонные номера, якобы принадлежащие какой-либо крупной компании, и постоянно продвигать свои объявления на верхние позиции в поисковой выдаче. Атака оказывается эффективной, если пользователь просит голосового помощника найти номер интересующей его компании и позвонить по нему. ASR-система обращается к поисковой системе и набирает попавший на верхнюю позицию в списке результатов поиска телефонный номер мошенника. В результате устройство дозванивается ему по этому номеру, он представляется сотрудником компании и ведет дальнейшую атаку, например запрашивает у пользователя его банковские реквизиты с целью кражи денежных средств. Аналогичным образом пользователь может быть перенаправлен на поддельный сайт компании (с фейковыми контактными и банковскими данными), если запросит адрес сайта, а искусственный интеллект откроет адрес, попавший на верхние позиции в списке результатов поиска. Во избежание таких ситуаций следует проверять результаты поиска, выданные по запросу ASR-системой, либо вручную переходить на нужный сайт и набирать номера телефонов исключительно из адресной книги