Поверителност при виртуалните асистенти: рискове, данни и как да се защитите

Информатек Дигитал » Ресурси » Поверителност при виртуалните асистенти: рискове, данни и как да се защитите

Виртуалните асистенти са проникнали в домовете ни, телефоните ни и дори работните ни места, носейки със себе си смесица от невероятно удобство и сериозни опасения за поверителността . Молим Alexa да включи осветлението, Siri да ни напомни за срещи или Google Assistant за упътвания, но рядко се замисляме какво се случва с цялата информация, която оставяме след себе си.

Междувременно компаниите и разработчиците изграждат все по-мощни разговорни интерфейси , от чатботове за обслужване на клиенти до здравни и финансови асистенти . Всички те се хранят с лични данни, голяма част от които са силно чувствителни, и работят в среда, регулирана от GDPR, LOPDGDD и други закони за поверителност. Тук нещата се усложняват: как можем да се наслаждаваме на тези технологии, без да се отдаваме на целия си живот на облака?

Какво представляват виртуалните асистенти и как всъщност работят?

Гласови асистенти като Amazon Alexa, Apple Siri, Google Assistant и Cortana са системи, базирани на изкуствен интелект и обработка на естествен език (NLP), които ви позволяват да управлявате устройства и услуги с помощта на гласа си. Те се намират в интелигентни високоговорители, смартфони, компютри, свързани автомобили и дори домофони.

Работата му разчита на комбинация от разпознаване на реч, акустични модели, дълбоки невронни мрежи и облачни изчисления , въпреки че съществуват локални алтернативи с изкуствен интелект . Типичният работен процес може да се разбере на няколко етапа, въпреки че всеки доставчик го реализира със свои собствени нюанси.

Първо, устройството е в така наречения режим на пасивно слушане или режим на готовност . То не изпраща непрекъснато целия звук от стаята към облака, но поддържа микрофона активен, за да разпознае думата за събуждане: „Hey Siri“, „OK Google“, „Alexa“ или каквато и да е команда, подходяща за всяка екосистема.

За да разпознаят думата за събуждане, асистентите изпълняват локални алгоритми , които сравняват заснетия звук с акустични модели, съхранени на самото устройство. Когато установят, че има достатъчно съвпадение, асистентът се активира и от този момент нататък гласовата команда обикновено се изпраща в облака за обработка.

След като бъде получена команда, сървърите прилагат модели за автоматично разпознаване на реч (исторически вдъхновени от техники като скрити модели на Марков, а сега подобрени от невронни мрежи и дълбоко обучение), за да преобразуват звука в текст и да разбират намерението на потребителя. Въз основа на това системата изпълнява съответното действие: търсене на информация, проверка на времето, включване на интелигентна крушка, иницииране на повикване, управление на календар или отговаряне на сложен въпрос.

Успоредно с това, много асистенти използват машинно обучение и анализ на гласови модели, за да подобрят точността и да персонализират изживяването: разпознаване на различни гласове в една и съща къща, адаптиране на отговорите към всеки потребител или по-добро настройване на разпознаването въз основа на акцент, тембър или скорост на речта.

Малко история: от Одри до Алекса и компания

Технологията за гласово разпознаване не е започнала с интелигентни високоговорители; тя се разработва от десетилетия. В началото на 50-те години на миналия век Bell Labs представя „Audrey “ - система, способна да разпознава числата от 0 до 9 с почти 90% точност, но само когато са произнесени от създателя ѝ. Тя е била рудиментарна, но е белязала началото на линия на непрекъснати иновации.

През 1961 г. IBM пуска на пазара Shoebox , машина, която разбира не само числа, но и основни команди, дори с известен фонов шум и вариации във височината на тона. През 70-те години на миналия век проекти като Hearsay-I, Dragon и особено Harpy в университета Карнеги Мелън правят огромен скок напред: Harpy може да разпознава големи набори от думи с точност между 83,5% и 97,5% и го прави с множество говорители, което е впечатляващо за времето си.

Успоредно с това се установяваха теоретичните основи на скритите марковски модели (СММ) , които щяха да бъдат използвани през 80-те години на миналия век благодарение на подобренията в компютърната процесорна мощност. Това позволи на гласовите системи да започнат да се адаптират по-добре към вариациите в човешката реч.

През 90-те години на миналия век технологии като DragonDictate донесоха гласово разпознаване на средностатистическия потребител под формата на търговски софтуер. Оттам нататък интеграцията в мобилни устройства, последвана от експлозията на изкуствения интелект и облачните технологии, проправи пътя за днешните асистенти като Alexa, Siri и Google Assistant, които стават все по-естествени и контекстуални.

Днес изследванията са фокусирани върху области като разпознаване на реч в реално време, силно персонализирано, многоезично , анализ на емоционалния тон на говорещия и предоставяне на незабавна подкрепа за малцинствени диалекти. Има дори предположения, че квантовите изчисления биха могли допълнително да ускорят тези процеси, постигайки почти мигновени отговори в изключително сложни контексти.

Какви данни събират виртуалните асистенти?

Удобството да говориш с устройство си има цена: огромно количество лични данни циркулират между микрофона, облака и множество услуги . Асистенти като Siri, Alexa, Google Assistant и Cortana се активират с глас, записват команди и ги изпращат до сървъри за обработка. По пътя те записват:

• Гласови записи, включително случайни активирания и фрагменти от разговори, съседни на командата.
• Данни за устройствототип терминал, операционна система, идентификатори, IP адресрегионални настройки и др.
• Информация за контекстаприблизително или точно местоположение (при използване на GPS или Wi-Fi), история на търсенията, ежедневни навици, използване на приложения.
• Контакти, календар, напомняния и обаждания, когато потребителят е предоставил тези разрешения.
• Лични предпочитания и потребителски навици, изведено от запитвания, свързани покупки, слушана музика, гледани сериали и др.
• Данни от трети страни които говорят близо до устройството или взаимодействат с него, дори и да не са негов собственик.

Всички тези данни се използват за подобряване на точността, персонализиране на отговорите, обучение на модели с изкуствен интелект и в много случаи за захранване на системи за насочване и профилиране на реклами . Ако не се управляват правилно, рискът от натрапчива или откровено незаконна употреба е ясен.

Съхранение, обработка и гласово профилиране

В повечето случаи гласовите данни не остават само на високоговорителя или телефона. Аудио фрагментите се изпращат до облачни сървъри , където се съхраняват и обработват с много подробности. Това позволява на технологичните компании непрекъснато да подобряват моделите за разпознаване и производителността на своите асистенти, но също така отваря вратата към много задълбочен анализ на потребителското поведение.

Съвременните системи не просто транскрибират това, което казваме. Те анализират уникални гласови характеристики (тембър, височина на тона, ритъм, интонация), за да изградят уникални вокални профили. Тази гласова биометрия се използва за разграничаване на потребителите в едно домакинство, персонализиране на отговорите или дори за предлагане на ниво на удостоверяване в чувствителни услуги, като например банково дело или здравеопазване.

Предимствата са ясни: асистентът може да разпознае кой говори и да адаптира преживяването, да препоръча персонализирано съдържание или да реагира различно на възрастен и дете. Но в същото време този гласов подпис може да разкрие изключително чувствителна информация : приблизителна възраст, пол, емоционално състояние, умора и дори здравословни признаци.

Освен това, компаниите често свързват гласовата активност с по-широки екосистеми от данни : потребителски акаунти, история на местоположенията, свързани домашни устройства и свързани приложения на трети страни (например услуги за интелигентен дом, музика, пътувания или услуги за споделено пътуване като Uber или Lyft). По този начин гласовите асистенти се превръщат в централна точка за събиране на данни за начина на живот на потребителя.

Без надеждно криптиране, контрол на достъпа и мерки за анонимизация или псевдонимизация , целият този арсенал от информация може да се превърне в много привлекателна цел за киберпрестъпниците или, още по-лошо, да бъде използван по непрозрачни начини за агресивна реклама или автоматизирано вземане на решения без реалното знание на потребителя.

Реални случаи, които са предизвикали тревога

Социалната загриженост относно поверителността на виртуалните асистенти не е теоретична: тя се подхранва от специфични и широко отразени инциденти , които излязоха наяве през последните години.

Един от най-известните случаи се случи през 2019 г., когато подизпълнител на Google изтече записи на Google Assistant на белгийски медии като VRT NWS. Тези записи уж са били използвани за подобряване на качеството на услугите чрез човешка проверка, но те включваха много интимни разговори: коментари за здраве, пощенски адреси, подробности от личния живот…

Белгийският орган за защита на данните поиска от Google да спре човешката проверка, докато не бъде гарантирана адекватна защита на поверителността. Случаят разкри, че въпреки че компаниите твърдят, че само малка извадка от аудио файлове е била прегледана ръчно, тази извадка може да съдържа изключително чувствително съдържание.

Друг инцидент, който предизвика дебат, бяха показанията на криминолог, която откри записи на устройството си Alexa , пред които не беше предхождана думата за събуждане. С други думи, разговорите са били съхранявани без никаква видима директна команда като „Alexa“.

Проучване на Рурския университет в Бохум и Института за сигурност и поверителност „Макс Планк“ анализира 11 устройства от големи производители и документира хиляди неволни активирания , известни като фалшиви положителни резултати. Те заключиха, че тези системи за гласово разпознаване, в зависимост от тяхното внедряване, могат да разграничават думите за активиране повече или по-малко ефективно, което води до повече или по-малко грешки и следователно до по-голям или по-малък риск от нежелани записи.

Тези случаи засилват идеята, че въпреки развитието на технологиите, точността не е перфектна и допустимата грешка има преки последици за поверителността . Всеки фалшиво положителен резултат потенциално включва част от личен разговор, която в крайна сметка се съхранява и може да бъде прегледана, изтекла или погрешно интерпретирана.

Слоеве за сигурност: гласова проверка, откриване на движение и физически бутони

На много съвременни устройства „сигурността“ при използването на асистента разчита предимно на гласа като единствен слой за проверка . Това създава няколко проблема: всеки, който е близо до устройството, може да говори с него, да поиска информация или дори да извърши потенциално чувствителни действия, ако не са конфигурирани допълнителни мерки за сигурност.

Типичен сценарий: високоговорител на Alexa в празна къща или неохраняем ваканционен дом. Ако някой влезе, той може да поиска информация от асистента, да направи покупки или да управлява IoT устройства просто като говори. По дизайн Alexa не изисква говорещият да е собственик; ако разпознае думата за събуждане, ще действа.

Предвид този сценарий е предложено решение, известно като Виртуален бутон за сигурност (VS бутон) , което би добавило втори слой за проверка, базиран на човешко движение, използвайки Wi-Fi технология. Идеята е асистентът не само да слуша за думата за събуждане, но и да открива типичното кинетично движение на оторизирано лице в околната среда.

Този VS бутон би използвал вариации в Wi-Fi сигналите, за да идентифицира присъствието и движението на хора . В комбинация с гласово управление, той би позволил блокиране на достъпа, когато например собственикът на устройството не е открит или когато има подозрително движение, като по този начин се намаляват рисковете в сценарии като взлом в дом с интелигентна ключалка.

Успоредно с това, някои асистенти включват прости, но много важни физически контроли , като например бутони за заглушаване на микрофона или деактивиране на непрекъснатото слушане. Въпреки че много потребители дават приоритет на удобството и оставят тези функции винаги активирани, от гледна точка на сигурността и поверителността е препоръчително да се разбере напълно как работят и да се използват само когато е необходимо.

Поверителност по дизайн и по подразбиране в разговорните интерфейси

От правна и системна архитектурна гледна точка, ключовата концепция е поверителността още при проектирането и по подразбиране . Това означава, че защитата на данните не се добавя по-късно като корекция, а е интегрирана в самия дизайн на продукта още от фазата на концепцията.

„Поверителност още при проектирането“ означава, че разработчиците на виртуални асистенти и чатботове обмислят още от първия проект какви данни са наистина необходими, как ще бъдат защитени и за колко време . Не става въпрос за събиране на всичко „за всеки случай“, а за отговорно планиране. Някои патенти и регулаторни предложения вече изискват технологии като изкуствения интелект да включват вградено различни режими на поверителност, проектирани дори за екстремни сценарии.

Основен принцип е минимизирането на данните : събиране само на данните, необходими за функционирането на системата. Това се допълва от техники за анонимизация и псевдонимизация, предназначени да предотвратят лесното свързване на данните с конкретно лице, когато те не са необходими.

Също толкова важна е прозрачността . Често условията, които приемаме при настройването на асистент – известните „Общи условия“ на Apple, Google, Amazon или който и да е друг доставчик – са неясно формулирани, с дребен шрифт и толкова широк обхват, че средностатистическият потребител едва ги разбира.

Поверителността по подразбиране означава, че ако потребителят не промени нищо, първоначалните настройки трябва да бъдат максимално защитни, а не обратното. С други думи, системата трябва да започне с минимално събиране на данни, с деактивирана история на сърфиране или с ограничено съхранение и да разширява разрешенията само когато потребителят изрично го поиска.

Когато даден продукт не е проектиран с оглед на поверителността, производителят трябва сериозно да обмисли включването на подобрения, стандартни рамки и сертификати , които намаляват информационните пропуски и уязвимости. Прилагането на обща рамка към виртуалните асистенти би помогнало да се гарантира, че не разчитаме единствено на „добрата воля“ на всяка компания.

Правни задължения: GDPR, LOPDGDD и други регламенти

В Европа основният референтен документ е Общият регламент относно защитата на данните (GDPR) , допълнен в Испания от Органичния закон за защита на данните и гарантиране на цифровите права (LOPDGDD). За компаниите, които произвеждат, интегрират или предлагат услуги, базирани на виртуални асистенти, тези регламенти са задължителни.

Сред най-важните задължения са поверителността още при проектирането и по подразбиране (чл. 25 от GDPR) , които вече обсъдихме, и извършването на оценки на въздействието върху защитата на данните (DPIA, чл. 35 от GDPR), когато данните се обработват в голям мащаб или систематично с помощта на технологии, които могат постоянно да събират информация, като например постоянно включени микрофони.

Съгласието трябва да бъде информирано, дадено свободно, конкретно и недвусмислено . Потребителите трябва да знаят какви данни се събират, с каква цел, за колко време и с кого ще бъдат споделяни. Освен това, съгласието трябва да може да бъде отменено по всяко време чрез прости механизми.

Необходими са и политики за ограничаване на съхранението : данните не могат да се съхраняват за неопределено време без основание. Трябва да има периоди на съхранение и ясни процедури за сигурно изтриване, след като информацията вече не е необходима.

И накрая, компаниите трябва да имат въведени протоколи за реагиране при инциденти : в случай на нарушение на сигурността, надзорният орган трябва да бъде уведомен и в определени случаи самите засегнати потребители трябва да бъдат информирани, като се предприемат мерки за смекчаване на щетите. В други юрисдикции, като например Калифорния с CCPA, подходът е подобен: правото да се знае какви данни се събират, да се поиска тяхното изтриване и да се възрази срещу определени практики, включващи продажба или прехвърляне на информация.

Често срещани рискове за поверителността и сигурността

Масовото внедряване на виртуални асистенти умножи сценариите, при които поверителността може да бъде компрометирана. Един от най-честите проблеми е безразборното събиране на данни . Микрофоните могат да заснемат откъси от разговори, когато потребителят смята, че устройството е неактивно, като по този начин нарушават принципа на GDPR за минимизиране на данните.

Друг ясен риск е липсата на прозрачност . Не винаги е ясно какво точно се прави със записите, кой може да ги слуша, дали се споделят с трети страни или се преглеждат ръчно. Без тази информация потребителите нямат контрол върху собствената си поверителност.

Профилирането без истинско съгласие е друг критичен проблем. С помощта на асистента могат да се изградят много подробни поведенчески профили от потребителската активност, което позволява целенасочена реклама, динамични корекции на цените или автоматизирано вземане на решения. Ако потребителят не е дал изрично съгласие за тази употреба, се нарушават разпоредбите.

Към всичко това се добавят и рискове за киберсигурността : софтуерни уязвимости, слаби пароли за свързани акаунти, незащитени Wi-Fi мрежи и др. Всичко това може да доведе до неоторизиран достъп до записи, история на търсения, данни за местоположение или устройства, свързани с асистента.

И накрая, има и практически проблем: трудности при упражняването на права . На големи платформи с разпределени бази данни не винаги е лесно за потребителите да намерят данните си, да ги експортират, да ги изтрият или ефективно да ограничат обработката им, въпреки че законът признава тези права.

Практични стъпки за защита на поверителността ви при използване на виртуални асистенти

Въпреки че голяма част от отговорността е на компаниите, потребителите могат да направят много, за да намалят излагането си на риск и да контролират по-добре какво споделят, когато използват Alexa, Siri, Google Assistant или други подобни системи.

Първата стъпка е да прегледате внимателно настройките за поверителност на устройството си . Основните настройки ви позволяват да коригирате как се събират и използват вашите данни. Сред най-полезните опции обърнете внимание на:

• Деактивиране или ограничаване на съхранението на гласови записиМного асистенти ви позволяват да спрете запазването на взаимодействията в акаунта си или поне да намалите времето за запазване.
• Настройте автоматично изтриване на истории след определен период (например 3 или 18 месеца), така че години разговори да не се натрупват в облака.
• Прегледайте и ръчно изтрийте стари записи чрез панела с дейности или съответното приложение.
• Контролирайте кои приложения на трети страни имат достъп до данните на асистента и да отменят разрешения, които не са от съществено значение.

Добра идея е периодично да сменяте паролите за свързани акаунти, да активирате двуетапно удостоверяване, когато е възможно, и да се уверите, че устройството се свързва само със защитени Wi-Fi мрежи, като избягвате отворени мрежи без криптиране.

Друга основна препоръка е да се избягва споделянето на особено чувствителни данни чрез асистента , като например подробна медицинска информация, пароли, номера на документи или финансови данни. Макар че е технически възможно, това не е идеалният канал за това, освен ако не е решение, специално проектирано за тази цел и с подобрени мерки за сигурност.

И накрая, ако не искате говорещият да слуша постоянно, можете да деактивирате гласовото активиране („Hey Siri“, „Alexa“ и т.н.) и да използвате асистента само когато го активирате ръчно. Да, по-малко удобно е, но елиминира голяма част от случайните активирания.

Най-добри технически практики за разработчици и компании

За тези, които проектират или внедряват разговорни интерфейси – независимо дали става въпрос за виртуален здравен асистент, финансов бот или HR чатбот – поверителността не може да бъде второстепенна. Тя трябва да бъде критерий за дизайн, също толкова важен, колкото използваемостта или производителността.

От техническа гледна точка е от съществено значение да се внедри криптиране от край до край, за да се защитят данните по време на пренос, и криптиране в покой за съхранената информация. Базите данни, съдържащи гласови истории или чувствителни данни, трябва да бъдат защитени чрез строг контрол на достъпа, регистрационни файлове за одит и сегментиране на разрешенията.

Използването на техники за анонимизация и псевдонимизация помага за намаляване на въздействието от нарушение на данните: ако данните не са пряко свързани с идентифицируемо лице, рискът е по-нисък. Анонимизацията обаче трябва да бъде надеждна, за да не се допуска лесно повторно идентифициране на потребителя.

На бизнес ниво е от съществено значение да се установят ясни политики за управление на съгласието и предпочитанията за поверителност . Потребителите трябва да могат лесно да приемат, отхвърлят или променят опции, с интерфейси, които не ги насърчават фино („тъмни модели“) да споделят прекомерно.

Вътрешното обучение също е ключово: целият екип – разработчици, продуктов отдел, маркетинг, поддръжка – се нуждае от непрекъснато обучение по поверителност, сигурност и съответствие с регулаторните изисквания . Това помага да се избегнат основни грешки и да се открият потенциално манипулативни или непрозрачни дизайни на взаимодействие в ранен етап.

Секторни приложения: здравеопазване, финанси и човешки ресурси

Когато виртуалните асистенти навлязат в чувствителни сектори като здравеопазване , финанси или управление на персонала, нивото на търсене на поверителност се увеличава рязко.

Доставчик на здравни услуги, който събира информация за симптоми, лечения или клинична информация, борави с особено чувствителни данни . В такива случаи е задължително силно криптиране, систематична анонимизация и изрично, добре информирано съгласие. Освен това потребителите трябва да имат ясен контрол върху това каква информация се съхранява, кой може да я вижда и как могат да оттеглят съгласието си.

Във финансовия сектор, асистент, който позволява на потребителите да проверяват сметки, да извършват преводи или да получават инвестиционни препоръки, трябва да комбинира много висока техническа сигурност (криптиране, многофакторно удостоверяване, откриване на аномалии) със строга политика за минимизиране на данните. Няма смисъл да се съхранява повече от необходимото или да се смесват финансови данни с други търговски данни без подробно съгласие.

В човешките ресурси, вътрешен чатбот може да управлява заявки за отпуск, запитвания за заплати или вътрешни политики . Въпреки че рискът може да изглежда по-нисък, той все още е свързан с лични данни на служителите. Компанията трябва да ограничи достъпа до тази система, да регистрира кой има достъп до каква информация и да гарантира, че взаимодействията не се използват повторно за цели, несвързани с трудовото правоотношение, освен ако няма ясно правно основание за това.

Във всички тези случаи комбинацията от етичен дизайн, стриктно спазване на изискванията и прозрачност с потребителите е това, което прави разликата между полезно решение и бомба със закъснител, която застрашава репутацията и е от съществено значение за закона.

Виртуалните асистенти и разговорните интерфейси ще продължат да се разширяват у дома, на работното място и във всички видове услуги, но начинът, по който управляваме поверителността и сигурността на личните данни днес, ще определи дали те ще се превърнат в доверени съюзници или в постоянен източник на безпокойство. Приоритизирането на поверителността още при проектирането, реалното ограничаване на събирането на данни, прилагането на надеждни мерки за сигурност и изискването на ясни обяснения от технологичните компании е днес най-добрият начин да се възползваме от предимствата им, без да губим от поглед нещо толкова фундаментално, колкото контрола върху собствената си информация.