Бiзнес
17 Липня 2020
168

Увага, підслуховують: Як Alexa, Siri та Google Assistant можуть помилково запускати почуті фрази

Amazon, Apple, Google отримують інформацію про своїх користувачів – конфіденційність під загрозою

Alexa, Siri, Google Assistant й інші голосові помічники стали звичною частиною життя мільйонів людей. Однак захисники конфіденційності побоюються, що пристрої постійно прослуховують наші розмови та можуть нести в собі більше ризиків, аніж користі. За даними нового дослідження, загроза набагато серйозніша, ніж вважалося раніше, повідомляє Rusbase.

Отримані результати показують, що розумні колонки часто вмикаються, реагуючи на діалоги у фільмах і деякі фрази у мові. Після цього вони починають записувати звуки навколо та передавати їх Amazon, Apple, Google або іншим виробникам.

Дослідники виявили понад тисячу словосполучень, враховуючи фрази з “Гри престолів”, “Американської сімейки”, “Карткового будиночка” або новинних програм, які призводять до некоректного запуску пристроїв.

“Ці системи спеціально запрограмовані з деяким ступенем припущень, щоб краще розпізнавати мову користувачів, – розповідає одна з учених, Доротея Колоса. – Це зроблено, аби пристрої працювали ефективніше, але іноді це призводить до помилкових спрацьовувань”.

Фрази, яких варто уникати

В основному це слова та вирази, які за своїм звучанням нагадують назву пристрою.

Alexa: unacceptable, election, a letter
Google Assistant: OK, cool; Okay, who is reading Siri: a city, hey jerry
Cortana: Montana

У цьому відео персонаж “Американської сімейки” говорить hey jerry і випадково запускає Siri.

Пристрої спочатку активуються локально, на рівні алгоритмів, які аналізують фрази. Потім система приймає це за спробу включення та відправляє звук на сервери компанії, де більш надійні механізми підтверджують це припущення. Іноді розумні колонки активуються лише локально, а алгоритми у хмарі визнають запит помилковим.

Вторгнення в особисте життя

За словами дослідників, коли пристрої прокидаються, вони записують частину сказаного та передають ці дані виробникові.

Співробітники компанії можуть розшифровувати ці аудіозаписи, аби поліпшувати технології розпізнавання мови. У результаті фрагменти потенційно приватних розмов можуть потрапити в розпорядження третіх осіб.

І це не теоретичний ризик: у 2016 році правоохоронні органи, під час розслідування вбивства, викликали до суду представників Amazon і запросили дані Alexa, передані незадовго до злочину.

Пізніше газета The Guardian повідомила, що співробітники Apple іноді транскрибують делікатні розмови, підслухані Siri. На записах виявилися бесіди між лікарями та пацієнтами, ділові переговори, обговорення нелегальних угод і сексуальні контакти.

Лєа Шенхерр, Максиміліан Голл, Ян Уайл, Торстен Айзенхофер, Доротея Колоса й Торстен Холц з Рурського університету в Бохумі та Інституту безпеки та конфіденційності імені Макса Планка випустили науково-дослідну роботу під назвою “Це неприпустимо. Де моя конфіденційність?”. Ось до яких висновків вони прийшли:

“Нам вдалося ідентифікувати понад тисячу послідовностей, які помилково запускають розумні колонки. Приклади представлені у відео. У нашому дослідженні ми аналізуємо різноманітні джерела аудіо, вивчаємо вплив гендеру та різних мов і вимірюємо відтворюваність виявлених тригерів.

Також ми описуємо метод штучного створення таких виразів. При цьому зворотне декодування каналу зв’язку Amazon Echo дозволяє отримати уявлення про те, як комерційні компанії працюють з даними тригерами на практиці.

Крім того, ми аналізуємо вплив випадкових тригерів на конфіденційність і обговорюємо механізми, які можуть захистити особисті дані користувачів розумних колонок”.

Учені проаналізували голосових помічників Amazon, Apple, Google, Microsoft і Deutsche Telekom, а також три китайських моделі – Xiaomi, Baidu і Tencent.

Представники Apple, Google і Microsoft не відразу прокоментували. Пізніше Amazon опублікував наступну заяву: “На жаль, нам поки не надали доступ до методології даного дослідження, тому ми не можемо підтвердити висловлені у ньому судження. Зі свого боку ми можемо запевнити вас, що конфіденційність – це важлива частина сервісу Alexa, і наші пристрої активуються тільки після проголошення відповідного слова.

Користувачі розмовляють з Alexa мільярди разів на місяць, і випадки помилкового спрацьовування відбуваються вкрай рідко. Наші системи розпізнавання мови поліпшуються з кожним днем ​​у міру використання клієнтами даних пристроїв. Ми продовжуємо вдосконалювати зазначені технології та закликаємо дослідників розкрити нам методологію дослідження, щоб ми могли відповісти більш докладно”.

Дослідники відмовилися надавати копію до публікації повної версії статті. Однак з представлених даних вже можна зробити висновок, що голосові помічники можуть порушувати конфіденційність непомітно для користувачів.

Тим, кого турбує дана проблема, рекомендується використовувати цифрових асистентів тільки тоді, коли це дійсно необхідно, та відключати їх в інший час.

Більше новин та актуальних матеріалів Investory News у нашому каналі в Telegram

Контекст

Ми у соцмережах

Слідкуйте за нами у Facebook або ж читайте усе найцікавіше у нашому каналі в Telegram