Приватност код виртуелних асистената: ризици, подаци и како се заштитити

Информатек Дигитал » Средства » Приватност код виртуелних асистената: ризици, подаци и како се заштитити

Виртуелни асистенти су се инфилтрирали у наше домове, наше телефоне, па чак и наша радна места, доносећи са собом мешавину невероватне практичности и озбиљних проблема са приватношћу . Тражимо од Алексе да упали светла, од Сири да нас подсети на састанке или од Гугл асистента за упутства, али ретко размишљамо шта се дешава са свим информацијама које остављамо за собом.

У међувремену, компаније и програмери граде све моћније интерфејсе за разговор , од чет-ботова за корисничку подршку до здравствених и финансијских асистената . Сви они се хране личним подацима, од којих су многи веома осетљиви, и функционишу у оквиру окружења регулисаног GDPR-ом, LOPDGDD-ом и другим законима о приватности. Ту се ствари компликују: како можемо уживати у овим технологијама, а да не предамо цео свој живот облаку?

Шта су виртуелни асистенти и како они заправо функционишу?

Гласовни асистенти попут Amazon Alexa, Apple Siri, Google Assistant и Cortana су системи засновани на вештачкој интелигенцији и обради природног језика (NLP) који вам омогућавају да контролишете уређаје и услуге помоћу гласа. Налазе се у паметним звучницима, паметним телефонима, рачунарима, повезаним аутомобилима, па чак и интерфонима.

Његово функционисање се ослања на комбинацију препознавања говора, акустичних модела, дубоких неуронских мрежа и рачунарства у облаку , иако постоје локалне алтернативе вештачкој интелигенцији . Типичан ток рада може се разумети у неколико фаза, иако га сваки провајдер имплементира са својим нијансама.

Прво, уређај је у ономе што се назива пасивно слушање или режим приправности . Не шаље континуирано сав звук из собе у облак, али држи микрофон активним како би детектовао реч за буђење: „Хеј Сири“, „ОК Гугл“, „Алекса“ или било коју другу команду која је прикладна за сваки екосистем.

Да би препознали гласовну команду, асистенти покрећу локалне алгоритме који упоређују снимљени звук са акустичним обрасцима сачуваним на самом уређају. Када утврде да постоји довољно подударање, асистент се активира и од тог тренутка се гласовна команда обично шаље у облак на обраду.

Када се прими команда, сервери примењују моделе аутоматског препознавања говора (историјски инспирисане техникама као што су скривени Марковљеви модели, а сада побољшане неуронским мрежама и дубоким учењем) како би конвертовали звук у текст и разумели намеру корисника. На основу тога, систем извршава одговарајућу радњу: претрагу информација, проверу временске прилике, паљење паметне сијалице, покретање позива, управљање календаром или одговарање на сложено питање.

Паралелно, многи асистенти користе машинско учење и анализу гласовних образаца како би побољшали тачност и персонализовали искуство: препознавање различитих гласова у истој кући, прилагођавање одговора сваком кориснику или боље подешавање препознавања на основу акцента, тембра или брзине говора.

Мало историје: од Одри до Алексе и компаније

Технологија препознавања гласа није почела са паметним звучницима; она се развија деценијама. Почетком 50-их, Bell Labs је представио „Audrey “, систем способан да препозна бројеве од 0 до 9 са скоро 90% тачности, али само када их изговори његов творац. Био је рудиментаран, али је означио почетак линије континуираних иновација.

Године 1961, IBM је лансирао Shoebox , машину која је разумела не само бројеве већ и основне команде, чак и уз извесну позадинску буку и варијације у висини тона. Током 70-их, пројекти попут Hearsay-I, Dragon, а посебно Harpy на Универзитету Карнеги Мелон, направили су огроман скок напред: Harpy је могао да препозна велике скупове речи са стопом тачности између 83,5% и 97,5%, и то је чинио са више говорника, што је било импресивно за то време.

Паралелно са тим, постављане су теоријске основе скривених Марковљевих модела (СММ) , који ће бити искоришћени 80-их захваљујући побољшањима у снази рачунарске обраде. Ово је омогућило гласовним системима да се почну боље прилагођавати варијацијама у људском говору.

Деведесетих година прошлог века, технологије попут DragonDictate-а су донеле препознавање гласа просечном кориснику у облику комерцијалног софтвера. Одатле је интеграција у мобилне уређаје, праћена експлозијом вештачке интелигенције и рачунарства у облаку, отворила пут данашњим асистентима попут Алексе, Сирија и Google асистента, који постају све природнији и контекстуалнији.

Данас су истраживања усмерена на области као што су препознавање говора у реалном времену, високо персонализовано, вишејезично , анализа емоционалног тона говорника и пружање непосредне подршке за мањинске дијалекте. Постоје чак и сугестије да би квантно рачунарство могло додатно убрзати ове процесе, постижући готово тренутне одговоре у веома сложеним контекстима.

Које податке прикупљају виртуелни асистенти?

Практичност разговора са уређајем долази са својом ценом: огромна количина личних података циркулише између микрофона, облака и вишеструких сервиса . Асистенти попут Сири, Алексе, Гугл асистента и Кортане активирају се гласом, снимају команде и шаљу их серверима на обраду. Успут, они снимају:

• Гласовни снимци, укључујући случајне активације и фрагменте разговора поред команде.
• Подаци о уређајутип терминала, оперативни систем, идентификатори, ИП адресарегионална подешавања итд.
• Информације о контекступриближна или прецизна локација (када се користи GPS или Wi-Fi), историја претраге, дневне навике, коришћење апликација.
• Контакти, календар, подсетници и позиви, када је корисник одобрио те дозволе.
• Личне преференције и навике потрошње, закључено из упита, повезаних куповина, слушане музике, гледаних серија итд.
• Подаци треће стране који разговарају у близини уређаја или интерагују са њим чак и ако нису његови власници.

Сви ови подаци се користе за побољшање тачности, персонализацију одговора, обуку модела вештачке интелигенције и, у многим случајевима, за снабдевање система за циљање и профилисање оглашавањем . Ако се њима не управља правилно, ризик од наметљиве или потпуно незаконите употребе је јасан.

Складиштење, обрада и профилисање гласа

У већини случајева, гласовни подаци не остају само на звучнику или телефону. Аудио исечци се шаљу на cloud сервере , где се чувају и обрађују веома детаљно. Ово омогућава технолошким компанијама да континуирано побољшавају моделе препознавања и перформансе својих асистената, али такође отвара врата веома дубокој анализи понашања корисника.

Модерни системи не само да транскрибују оно што говоримо. Они анализирају јединствене карактеристике гласа (тембар, висину тона, ритам, интонацију) како би изградили јединствене вокалне профиле. Ова гласовна биометрија се користи за разликовање корисника унутар истог домаћинства, персонализацију одговора или чак за пружање одређеног нивоа аутентификације у осетљивим услугама, као што су банкарство или здравствена заштита.

Предности су јасне: асистент може да идентификује ко говори и да прилагоди искуство, препоручи прилагођени садржај или другачије реагује на одраслу особу и дете. Али истовремено, овај гласовни потпис може открити изузетно осетљиве информације : приближне године, пол, емоционално стање, умор, па чак и назнаке везане за здравље.

Поред тога, компаније често повезују гласовну активност са ширим екосистемима података : корисничким налозима, историјом локација, повезаним кућним уређајима и повезаним апликацијама трећих страна (на пример, услугама паметног дома, музиком, путовањима или услугама дељења вожње попут Убера или Лифта). На овај начин, гласовни асистенти постају централна тачка за прикупљање података о начину живота корисника.

Без робусног шифровања, контроле приступа и мера анонимизације или псеудонимизације , цео овај арсенал информација може постати веома атрактивна мета за сајбер криминалце или, још горе, бити искоришћен на непрозиран начин за агресивно оглашавање или аутоматизовано доношење одлука без стварног знања корисника.

Прави случајеви који су подигли узбуну

Друштвена забринутост због приватности виртуелних асистената није теоретска: подстакнута је специфичним и веома медијски оданим инцидентима који су изашли на видело последњих година.

Један од најозлоглашенијих случајева догодио се 2019. године, када је извођач радова компаније Гугл процурио снимке Гугл асистента белгијским медијима као што је VRT NWS. Ови снимци су наводно коришћени за побољшање квалитета услуге путем људског прегледа, али су укључивали веома интимне разговоре: коментаре о здрављу, поштанске адресе, детаље приватног живота…

Белгијска агенција за заштиту података захтевала је да Гугл обустави људски преглед док се не гарантује адекватна заштита приватности. Случај је открио да, иако су компаније тврдиле да је ручно прегледан само мали узорак аудио датотека, тај узорак може да садржи изузетно осетљив садржај.

Још један инцидент који је изазвао дебату било је сведочење криминолога која је открила снимке на свом Алекса уређају којима није претходила реч за буђење. Другим речима, разговори су сачувани без икакве очигледне директне команде попут „Алекса“.

Студија Универзитета Рур у Бохуму и Института Макс Планк за безбедност и приватност анализирала је 11 уређаја великих произвођача и документовала хиљаде ненамерних активација , познатих као лажно позитивни резултати. Закључили су да ови системи за препознавање гласа, у зависности од њихове имплементације, могу мање или више ефикасно разликовати речи за активацију, што резултира већим или мањим бројем грешака и, самим тим, већим или мањим ризиком од нежељених снимака.

Ови случајеви појачавају идеју да, иако технологија напредује, тачност није савршена и да маргина грешке има директне последице по приватност . Сваки лажно позитиван резултат потенцијално укључује део приватног разговора који се на крају чува и може бити прегледан, процурео или погрешно протумачен.

Безбедносни слојеви: верификација гласом, детекција покрета и физичка дугмад

На многим тренутним уређајима, „безбедност“ коришћења асистента се првенствено ослања на глас као једини слој верификације . То ствара неколико проблема: свако ко је у близини уређаја може да разговара са њим, тражи информације или чак да обавља потенцијално осетљиве радње ако нису конфигурисане додатне безбедносне мере.

Типичан сценарио: Алекса звучник у празној кући или нечуваној кући за одмор. Ако неко уђе, може да пита асистента за информације, обави куповину или контролише IoT уређаје једноставним говором. По дизајну, Алекса не захтева да звучник буде власник; ако препозна реч за буђење, реаговаће.

С обзиром на овај сценарио, предложено је решење познато као Виртуелно безбедносно дугме (VS дугме) , које би додало други слој верификације заснован на људском кретању коришћењем Wi-Fi технологије. Идеја је да асистент не само да слуша реч за буђење, већ и детектује типично кинетичко кретање овлашћене особе у окружењу.

Ово VS дугме би користило варијације у Wi-Fi сигналима за идентификацију присуства и кретања људи . У комбинацији са гласовном контролом, омогућило би блокирање приступа када, на пример, власник уређаја није детектован или када постоји сумњиво кретање, чиме би се смањили ризици у сценаријима као што је провала у кућу са паметном бравом.

Паралелно са тим, неки асистенти укључују једноставне, али веома релевантне физичке контроле , као што су дугмад за искључивање микрофона или онемогућавање непрекидног слушања. Иако многи корисници дају приоритет практичности и увек остављају ове функције омогућене, са становишта безбедности и приватности, препоручљиво је у потпуности разумети како функционишу и користити их само када је то потребно.

Приватност по дизајну и подразумевано у конверзационим интерфејсима

Са правне и системске перспективе, кључни концепт је приватност по дизајну и подразумевано . То значи да се заштита података не додаје касније као закрпа, већ је интегрисана у сам дизајн производа од фазе концепта.

Приватност по дизајну значи да програмери виртуелних асистената и четботова, од самог првог нацрта, разматрају који су подаци заиста неопходни, како ће бити заштићени и колико дуго . Не ради се о прикупљању свега „за сваки случај“, већ о одговорном планирању. Неки патенти и регулаторни предлози већ захтевају да технологије попут вештачке интелигенције изворно укључују различите режиме приватности, дизајниране чак и за екстремне сценарије.

Основни принцип је минимизирање података : прикупљање само података неопходних за функционисање система. Ово је допуњено техникама анонимизације и псеудонимизације, осмишљеним да спрече лако повезивање података са одређеном особом када нису потребни.

Подједнако важна је и транспарентност . Често су услови које прихватамо приликом подешавања асистента – чувени „Услови коришћења“ компанија Apple, Google, Amazon или било ког другог добављача – нејасно формулисани, са ситним словима и тако широким обимом да их просечан корисник једва разуме.

Приватност по подразумеваним подешавањима значи да, ако корисник ништа не промени, почетна подешавања треба да буду што је могуће заштитнија, а не обрнуто. Другим речима, систем треба да почне са минималним прикупљањем података, са онемогућеном историјом прегледања или са ограниченим задржавањем, и да проширује дозволе само када корисник то експлицитно захтева.

Када производ није дизајниран имајући у виду приватност, произвођач би требало озбиљно да размотри укључивање побољшања, стандардних оквира и сертификата који смањују информационе празнине и рањивости. Примена заједничког оквира на виртуелне асистенте помогла би да се осигура да се не ослањамо искључиво на „добру вољу“ сваке компаније.

Правне обавезе: GDPR, LOPDGDD и други прописи

У Европи, примарна референца је Општа уредба о заштити података (GDPR) , која је у Шпанији допуњена Органским законом о заштити података и гаранцији дигиталних права (LOPDGDD). За компаније које производе, интегришу или нуде услуге засноване на виртуелним асистентима, ови прописи су обавезни.

Међу најрелевантнијим обавезама су приватност по дизајну и подразумевано заштита приватности (чл. 25 GDPR-а) , о чему смо већ разговарали, и спровођење процена утицаја на заштиту података (DPIA, чл. 35 GDPR-а) када се подаци обрађују у великим размерама или систематски користећи технологије које могу стално да снимају информације, као што су увек укључени микрофони.

Сагласност мора бити информисана, слободно дата, конкретна и недвосмислена . Корисници морају знати који се подаци прикупљају, у коју сврху, колико дуго и са ким ће бити дељени. Штавише, сагласност мора бити опозива у било ком тренутку путем једноставних механизама.

Такође су потребне политике ограничења складиштења : подаци се не могу чувати неограничено без оправдања. Морају постојати периоди чувања и јасне процедуре за безбедно брисање када информације више нису потребне.

Коначно, компаније морају имати протоколе за реаговање на инциденте : у случају кршења безбедности, надзорни орган мора бити обавештен, а у одређеним случајевима и сами погођени корисници морају бити обавештени, предузимајући мере за ублажавање штете. У другим јурисдикцијама, као што је Калифорнија са CCPA, приступ је сличан: право да се зна који се подаци прикупљају, да се захтева њихово брисање и да се приговори одређеним праксама које укључују продају или пренос информација.

Уобичајени ризици за приватност и безбедност

Масовна примена виртуелних асистената умножила је сценарије у којима приватност може бити угрожена. Један од најчешћих проблема је неселективно прикупљање података . Микрофони могу да сниме делове разговора када корисник верује да је уређај неактиван, чиме се крши принцип минимизирања података из Опште уредбе о заштити података (GDPR).

Још један јасан ризик је недостатак транспарентности . Није увек јасно шта се тачно ради са снимцима, ко може да их слуша, да ли се деле са трећим лицима или се ручно прегледају. Без ових информација, корисници немају контролу над сопственом приватношћу.

Профилисање без истинског пристанка је још једно критично питање. Веома детаљни профили понашања могу се изградити из активности корисника помоћу асистента, омогућавајући циљано оглашавање, динамичко прилагођавање цена или аутоматизовано доношење одлука. Ако корисник није експлицитно пристао на ову употребу, крше се прописи.

Свему томе се додају и ризици по сајбер безбедност : софтверске рањивости, слабе лозинке за повезане налоге, необезбеђене Wi-Fi мреже итд. Све ово може довести до неовлашћеног приступа снимцима, историји претраге, подацима о локацији или уређајима повезаним са асистентом.

Коначно, постоји и практично питање: тешкоће у остваривању права . На великим платформама са дистрибуираним базама података, корисницима није увек лако да пронађу своје податке, извезу их, обришу или ефикасно ограниче њихову обраду, иако закон признаје ова права.

Практични кораци за заштиту ваше приватности када користите виртуелне асистенте

Иако велики део одговорности лежи на компанијама, корисници могу много да ураде како би смањили своју изложеност и боље контролисали шта деле када користе Алексу, Сири, Гугл асистента или друге сличне системе.

Први корак је да темељно прегледате подешавања приватности вашег уређаја . Главна подешавања вам омогућавају да подесите начин на који се ваши подаци прикупљају и користе. Међу најкориснијим опцијама, обратите пажњу на:

• Онемогућите или ограничите чување гласовних снимакаМноги асистенти вам омогућавају да зауставите чување интеракција на свом налогу или, барем, смањите време задржавања.
• Подесите аутоматско брисање историја након одређеног периода (на пример, 3 или 18 месеци), тако да се године разговора не акумулирају у облаку.
• Прегледајте и ручно обришите старе снимке преко панела активности или одговарајуће апликације.
• Контролишите које апликације трећих страна имају приступ до података асистента и опозвати дозволе које нису неопходне.

Такође је добра идеја периодично мењати лозинке за повезане налоге, омогућити двостепену аутентификацију кад год је то могуће и осигурати да се уређај повезује само са безбедним Wi-Fi мрежама, избегавајући отворене мреже без шифровања.

Још једна основна препорука је да избегавате дељење посебно осетљивих података путем асистента , као што су детаљне медицинске информације, лозинке, бројеви докумената или финансијски подаци. Иако је технички могуће, то није идеалан канал за то, осим ако није у питању решење посебно дизајнирано за ову сврху и са побољшаним безбедносним мерама.

Коначно, ако не желите да говорник стално слуша, можете онемогућити гласовну активацију („Хеј Сири“, „Алекса“ итд.) и користити асистента само када га ручно покренете. Мање је згодно, да, али елиминише добар део случајних активација.

Најбоље техничке праксе за програмере и компаније

За оне који дизајнирају или примењују конверзационе интерфејсе — било да је у питању виртуелни здравствени асистент, финансијски бот или HR четбот — приватност не сме бити споредна мисао. Мора бити критеријум дизајна једнако важан као и употребљивост или перформансе.

Са техничке тачке гледишта, неопходно је имплементирати енкрипцију од почетка до краја како би се заштитили подаци у транзиту и енкрипцију у стању мировања за сачуване информације. Базе података које садрже гласовне историје или осетљиве податке морају бити заштићене строгом контролом приступа, евиденцијом ревизије и сегментацијом дозвола.

Употреба техника анонимизације и псеудонимизације помаже у смањењу утицаја кршења података: ако подаци нису директно повезани са идентификованом особом, ризик је мањи. Међутим, анонимизација мора бити робусна, спречавајући лаку поновну идентификацију корисника.

На пословном нивоу, неопходно је успоставити јасне политике за управљање сагласношћу и преференцијама приватности . Корисници би требало да буду у могућности да лако прихвате, одбију или измене опције, са интерфејсима који их суптилно не подстичу („тамни обрасци“) да прекомерно деле.

Интерна обука је такође кључна: целом тиму – програмерима, производу, маркетингу, подршци – потребна је континуирана обука о приватности, безбедности и усклађености са прописима . Ово помаже у избегавању основних грешака и откривању потенцијално манипулативних или непрозирних дизајна интеракције у раној фази.

Секторске примене: здравство, финансије и људски ресурси

Када виртуелни асистенти уђу у осетљиве секторе као што су здравство , финансије или управљање кадровима, ниво потражње за приватношћу нагло расте.

Здравствени радник који прикупља симптоме, третмане или клиничке информације рукује посебно осетљивим подацима . У таквим случајевима, обавезна је јака енкрипција, систематска анонимизација и експлицитна, добро информисана сагласност. Штавише, корисници морају имати јасну контролу над тим које се информације чувају, ко може да их види и како могу да повуку своју сагласност.

У финансијском сектору, асистент који омогућава корисницима да проверавају рачуне, врше трансфере или примају инвестиционе препоруке мора да комбинује веома високу техничку безбедност (шифровање, вишефакторску аутентификацију, откривање аномалија) са строгом политиком минимизације података. Нема смисла чувати више него што је потребно или мешати финансијске податке са другим комерцијалним подацима без детаљне сагласности.

У људским ресурсима, интерни четбот може да управља захтевима за одмор, упитима о исплати плата или интерним политикама . Иако ризик може изгледати мањи, он и даље укључује личне податке запослених. Компанија мора да ограничи приступ овом систему, да евидентира ко приступа којим информацијама и да осигура да се интеракције не користе поново у сврхе које нису повезане са радним односом, осим ако за то не постоји јасан правни основ.

У свим овим случајевима, комбинација етичког дизајна, строгог поштовања прописа и транспарентности са корисницима је оно што прави разлику између корисног решења и темпиране бомбе која угрожава репутацију и закон.

Виртуелни асистенти и интерфејси за разговор ће се наставити ширити код куће, на послу и у свим врстама услуга, али начин на који данас управљамо приватношћу и безбедношћу личних података одредиће да ли ће они постати поуздани савезници или стални извор бриге. Давање приоритета приватности по дизајну, истинско ограничавање прикупљања података, имплементација робусних безбедносних мера и захтевање јасних објашњења од технолошких компанија је данас најбољи начин да уживамо у њиховим предностима, а да не изгубимо из вида нешто тако фундаментално као што је контрола над сопственим информацијама.