Великий брат чує тебе. Чому не варто розмовляти з гаджетами

Останні кілька років часто доводиться вислуховувати скарги: мовляв, розмовляли по телефону або через месенджер, або просто друг з другом біля увімкненого комп'ютера - і практично відразу або Facebook, або браузер, або якісь інші підключені до інтернету програми починали показувати рекламу того, про що йшлося в розмові.

До реклами, яка починає сипатися після введених в пошуковику запит, вже давно всі звикли, а от до того, що навіть вводити що-то не обов'язково, достатньо просто поговорити біля гаджетів, - ще немає. Але ось ми дочекалися: у світі спалахнула ціла низка скандалів, пов'язаних з тим, що IT-корпорації підслуховують людей, які користуються їхніми продуктами.

Apple і її Siri

Одним із перших по-справжньому гучних став скандал, пов'язаний з прослуховуванням команд для голосового помічника Siri, вбудованого в пристрої Apple. На "яблучну компанію" подали в суд за порушення приватності користувача. Позов подав житель Сан-Хосе (Каліфорнія), який стверджує, що співробітники Apple порушили закон штату, що забороняє записувати розмови без згоди співрозмовників.

Далі - більше. Позивач звинуватив Apple у брехні конгресу США в письмових свідченнях компанії про свою політику приватності. Тоді було поставлено питання: чи може iPhone записувати розмови власника без чіткої команди (так званого аудіо-тригера). Інженери "яблучної компанії" відповіли, що для включення мікрофона потрібно чітко сказати: "Hey Siri" ("Привіт, Siri").

Однак у позові наводиться безліч прикладів, які свідчать, що Siri активується буквально від чого завгодно, включаючи звук блискавки, спів птахів або помах руки. Тобто з-за помилок у системі мікрофон раптово включає запис в самих різних ситуаціях.

Сам скандал почався не з судового позову, а з публікації в газеті Guardian, в якій один з підрядників Apple анонімно розповів, що компанія спеціально наймала співробітників, які слухали і розшифровували розмови володарів гаджетів Apple з Siri. Формально це робилося для поліпшення якості роботи помічника, але реально в розпорядженні компанії виявлялася конфіденційна медична інформація, дані про операції з наркотиками і навіть аудіозаписи, зроблені в той час, як власники гаджетів займалися сексом.

Представники Apple підтвердили, що така практика й справді має місце, але підрядники обробляють лише малу частку розмов з Siri - менше 1% всіх записів. Заковика, однак, у тому, що в політиці приватності компанії право Apple записувати розмови з Siri прописано досить розмито. Хоч і згадується завдання допомогти асистентові краще розуміти команди користувача, але там точно немає згадки, що прослуховуванням розмов будуть займатися живі люди, а не ІЇ.

Після першої хвилі галасу в пресі Apple припинила програму контролю якості Siri, а також дозволила користувачам самим вибирати - надавати свої записи для аналізу чи ні. Але це не врятувало компанію від судового позову. Тим більше, що були і інші небезпечні ситуації: на початку цього року з'ясувалося, що в популярному додатку FaceTime (дозволяє власникам iPhone спілкуватися між собою) є вразливість - вона дозволяє прослухати співрозмовника ще до того, як він погодився прийняти дзвінок. Пізніше Apple усунула цю уразливість, але "осад залишився".

Amazon і її Echo

Популярний продукт корпорації Amazon - "розумні колонки" Amazon Echo, які дозволяють керувати "розумним будинком", включати музику, дізнаватися погоду і шукати інформацію в інтернеті, а також взаємодіяти з іншими пристроями. За це відповідає вбудований у Echo віртуальний асистент Alexa - він розуміє сказане і відповідає користувачеві. При цьому Alexa не вміє розрізняти голоси користувачів, так що будь-який, хто виявиться досить близько від колонки, може давати команди нарівні з господарем.

Щоб ініціювати дію, треба сказати "Алекса", після чого вимовити команду. Віртуальний асистент уміє багато чого, у тому числі робити покупки в інтернет-магазинах. З цим і був пов'язаний один дуже кумедний (але по-своєму зловісний) епізод.

У січні 2017-го жительці Далласа (штат Техас) Меган Найтцел доставили додому покупку: великий ляльковий будиночок за $170 і два кілограми печива. Як виявилося, замовлення випадково зробила Брук, шестирічна дочка Меган, - вона побачила такий ляльковий будиночок по телевізору і просто попросила у Алекси його і печиво. Асистент ж вирішив, що йому наказали це купити.

Історія отримала майже катастрофічне продовження. Про казус з ляльковим будиночком розповіли в ранкових новинах на каналі CW6 в Сан-Дієго (Каліфорнія). В кінці сюжету ведучий Джим Петтон уклав: "Мені подобається ця маленька дівчинка, сказала: "Алекса, замов для мене ляльковий будиночок". У наступну секунду сотні колонок Amazon Echo, що стояли в будинках, де був включений телевізор, замовили лялькові будиночки своїм глядачам.

Також іноді Echo неправильно розуміє команди: в Мережі є відео, на якому дитина просить колонку заспівати дитячу пісеньку, а та починає перераховувати жанри порно. Втім, поки, здається, до судових розглядів справа не дійшла.

Google і його Аssistant

Свій скандал отримала і Google: у липні нинішнього року виявилося, що модератори компанії прослуховують голосові команди, які користувачі віддають смарт-помічник Google Аssistant. Цей факт розкрився, коли стався витік приблизно тисячі аудіозаписів з власного сховища компанії. Скандал знову-таки розгорівся в ЗМІ, і тільки після цього представники Google визнали, що компанія дійсно записує і прослуховує користувачів.

Звичайно, прозвучало безліч застережень: мовляв, це робиться виключно заради поліпшення технології голосового помічника. Як було сказано в офіційній заяві, Google за допомогою живих людей обробляє всього 0,2% голосових команд, які віддають користувачі. Але ця робота "критично важливою" для розвитку Google аssistant, щоб голосовий помічник міг краще розуміти людей, що говорять на різних мовах і з різними акцентами. "Ми проводимо розслідування і повний перегляд нашої політики безпеки, щоб запобігти подібне зловживання в майбутньому", - резюмували в Google.

Facebook і її Messenger

Корпорація Facebook, виявляється, теж організувала стеження за своїми користувачами: вона платила сотням сторонніх підрядників, щоб вони розшифровували голосові повідомлення користувачів мобільних додатків Messenger, Instagram і WhatsApp. У заяві компанії від 13 серпня сказано, що розшифровка звукових повідомлень припинилася тиждень тому. За словами юристів інтернет-гіганта, користувачі, чиї повідомлення піддавалися розшифровці, погоджувалися на це, вибираючи спеціальну опцію у програмі Messenger для Facebook.

Представники компанії кажуть, що так перевіряли, наскільки добре з розшифровкою справляється штучний інтелект. Але тут ми бачимо ті ж граблі: Facebook не повідомляла користувачам, що їх голосові повідомлення будуть прослуховуватися третіми особами. Втім, цим особам варто поспівчувати: можна уявити, скільки їм довелося вислухати користувальницьких дурниць, безглуздою і непотрібною інформацією, непристойностей, мукання, мовчання і сопіння.

Дійсно, співробітники компаній, расшифровывавшие голосові повідомлення, заявили агентству Bloomberg, що їм не повідомляли ні походження записів, ні мети, для якої вони розшифровувалися. Часом це були розмови особистого характеру з вульгарною лексикою. Так що, судячи з усього, на цей раз уникнути суду у дітища Цукерберга не вийде.

Більш того, можна згадати, що в кінці липня Facebook в США оштрафувало на $5 млрд відомство по захисту прав споживачів за порушення приписів щодо захисту особистих даних.

Microsoft і її Cortana

14 серпня видання Motherboard повідомило, що Microsoft оновила угода, офіційно прописавши там можливість прослушки аудіоповідомлень користувачів голосового помічника Cortana і програми Skype Translator. Це сталося після того, як портал Motherboard з'ясував, що підрядники софтверного гіганта прослуховували записи Cortana і Skype Translator, включаючи конфіденційні та особисті розмови клієнтів Microsoft.

"У деяких випадках для допомоги в поліпшенні роботи наших голосових сервісів ми залучаємо підрядників. При цьому ми робимо дії по де-ідентифікації даних, укладаємо угоди про нерозголошення з цими компаніями і їх співробітниками, щоб захистити конфіденційність наших клієнтів", - пояснили в компанії. Чи врятує це Microsoft від суду - поки неясно.