Privatliv i virtuelle assistenter: risici, data og hvordan du beskytter dig selv

Informatic Digital » Recursos » Privatliv i virtuelle assistenter: risici, data og hvordan du beskytter dig selv

Virtuelle assistenter har infiltreret vores hjem, vores telefoner og endda vores arbejdspladser, hvilket har bragt en blanding af utrolig bekvemmelighed og alvorlige bekymringer om privatlivets fred med sig . Vi beder Alexa om at tænde lyset, Siri om at minde os om aftaler eller Google Assistant om vejvisning, men vi overvejer sjældent, hvad der sker med alle de oplysninger, vi efterlader.

I mellemtiden bygger virksomheder og udviklere stadig mere kraftfulde samtaleflader , lige fra kundeservice-chatbots til sundheds- og økonomiske assistenter . Alle disse bruger personoplysninger, hvoraf mange er meget følsomme, og opererer inden for et landskab reguleret af GDPR, LOPDGDD og andre privatlivslove. Det er her, tingene bliver komplicerede: hvordan kan vi nyde godt af disse teknologier uden at overgive hele vores liv til skyen?

Hvad er virtuelle assistenter, og hvordan fungerer de egentlig?

Stemmeassistenter som Amazon Alexa, Apple Siri, Google Assistant og Cortana er systemer baseret på kunstig intelligens og naturlig sprogbehandling (NLP), der giver dig mulighed for at styre enheder og tjenester ved hjælp af din stemme. De findes i smarthøjttalere, smartphones, computere, forbundne biler og endda intercoms.

Dens drift er afhængig af en kombination af talegenkendelse, akustiske modeller, dybe neurale netværk og cloud computing , selvom der findes lokale AI- alternativer . Den typiske arbejdsgang kan forstås i flere faser, selvom hver udbyder implementerer den med sine egne nuancer.

For det første er enheden i det, der kaldes passiv lytning eller standbytilstand . Den sender ikke kontinuerligt al rummets lyd til skyen, men den holder mikrofonen aktiv for at registrere vækkeordet: "Hey Siri", "OK Google", "Alexa"... eller hvilken kommando der end måtte være passende for hvert økosystem.

For at genkende wake word'et kører assistenterne lokale algoritmer , der sammenligner den optagede lyd med akustiske mønstre, der er gemt på selve enheden. Når de bestemmer, at der er et tilstrækkeligt match, aktiveres assistenten, og fra det tidspunkt sendes stemmekommandoen normalt til skyen til behandling.

Når en kommando er modtaget, anvender serverne automatiske talegenkendelsesmodeller (historisk inspireret af teknikker som Hidden Markov Models og nu forbedret af neurale netværk og deep learning) for at konvertere lyden til tekst og forstå brugerens intention. Baseret på dette udfører systemet den tilsvarende handling: søge efter information, tjekke vejret, tænde en smart pære, starte et opkald, administrere en kalender eller besvare et komplekst spørgsmål.

Parallelt bruger mange assistenter maskinlæring og stemmemønsteranalyse til at forbedre nøjagtigheden og personliggøre oplevelsen: de genkender forskellige stemmer i det samme hus, tilpasser svar til hver bruger eller justerer genkendelsen bedre baseret på accent, klangfarve eller talehastighed.

Lidt historie: fra Audrey til Alexa og co.

Stemmegenkendelsesteknologi begyndte ikke med smarthøjttalere; den har været under udvikling i årtier. I begyndelsen af ​​50'erne afslørede Bell Labs "Audrey ", et system, der var i stand til at genkende tallene 0 til 9 med næsten 90% nøjagtighed, men kun når det blev sagt af dets skaber. Det var rudimentært, men det markerede begyndelsen på en række kontinuerlige innovationer.

I 1961 lancerede IBM Shoebox , en maskine, der ikke kun forstod tal, men også grundlæggende kommandoer, selv med en vis baggrundsstøj og variationer i tonehøjde. I løbet af 70'erne tog projekter som Hearsay-I, Dragon og især Harpy på Carnegie Mellon University et enormt spring fremad: Harpy kunne genkende store sæt af ord med en nøjagtighed på mellem 83,5 % og 97,5 %, og den gjorde det med flere talere, hvilket var imponerende for den tid.

Parallelt hermed blev det teoretiske grundlag for skjulte Markov-modeller (HMM'er) etableret , som ville blive udnyttet i 80'erne takket være forbedringer i computerens processorkraft. Dette gjorde det muligt for stemmesystemer at begynde at tilpasse sig bedre til variationer i menneskelig tale.

I 90'erne bragte teknologier som DragonDictate stemmegenkendelse til den gennemsnitlige bruger i form af kommerciel software. Derfra banede integration i mobile enheder, efterfulgt af eksplosionen af ​​kunstig intelligens og cloud computing, vejen for nutidens assistenter som Alexa, Siri og Google Assistant, der bliver mere og mere naturlige og kontekstuelle.

I dag fokuserer forskningen på områder som realtids, meget personlig, flersproget talegenkendelse , analyse af talerens følelsesmæssige tone og øjeblikkelig støtte til minoritetsdialekter. Der er endda forslag om, at kvanteberegning yderligere kan accelerere disse processer og opnå næsten øjeblikkelige reaktioner i meget komplekse sammenhænge.

Hvilke data indsamler virtuelle assistenter?

Bekvemmeligheden ved at tale til en enhed kommer med en pris: en enorm mængde personlige data cirkulerer mellem mikrofonen, skyen og flere tjenester . Assistenter som Siri, Alexa, Google Assistant og Cortana aktiveres af stemmen, optager kommandoer og sender dem til servere til behandling. Undervejs opfanger de:

• Stemmeoptagelser, inklusive utilsigtede aktiveringer og samtalefragmenter ved siden af ​​kommandoen.
• Enhedsdataterminaltype, operativsystem, identifikatorer, IP-adresseregionale indstillinger osv.
• Baggrundsinformationomtrentlig eller præcis placering (ved brug af GPS eller Wi-Fi), søgehistorik, daglige vaner, appbrug.
• Kontakter, kalender, påmindelser og opkald, når brugeren har givet disse tilladelser.
• Personlige præferencer og forbrugsvaner, udledt af forespørgsler, tilknyttede køb, lyttet musik, sete serier osv.
• Tredjepartsdata som taler i nærheden af ​​enheden eller interagerer med den, selvom de ikke er ejeren.

Alle disse data bruges til at forbedre nøjagtigheden, personliggøre svar, træne AI-modeller og i mange tilfælde til at understøtte målretning og profilering af annoncer . Hvis de ikke håndteres korrekt, er risikoen for påtrængende eller direkte ulovlig brug tydelig.

Lagring, behandling og stemmeprofilering

I de fleste tilfælde forbliver stemmedata ikke bare på højttaleren eller telefonen. Lydstykker sendes til cloud-servere , hvor de gemmes og behandles i detaljer. Dette giver teknologivirksomheder mulighed for løbende at forbedre genkendelsesmodellerne og deres assistenters ydeevne, men det åbner også døren for en meget dybdegående analyse af brugeradfærd.

Moderne systemer transskriberer ikke bare det, vi siger. De analyserer unikke stemmekarakteristika (klangfarve, tonehøjde, rytme, intonation) for at opbygge unikke stemmeprofiler. Denne stemmebiometri bruges til at skelne mellem brugere inden for samme husstand, personliggøre svar eller endda tilbyde et vist niveau af godkendelse i følsomme tjenester, såsom bankvirksomhed eller sundhedspleje.

Fordelene er klare: Assistenten kan identificere, hvem der taler, og tilpasse oplevelsen, anbefale skræddersyet indhold eller reagere forskelligt på en voksen og et barn. Men samtidig kan denne stemmesignatur afsløre ekstremt følsomme oplysninger : omtrentlig alder, køn, følelsesmæssig tilstand, træthed og endda helbredsrelaterede spor.

Derudover forbinder virksomheder ofte stemmeaktivitet med bredere dataøkosystemer : brugerkonti, placeringshistorik, forbundne hjemmeenheder og tilknyttede tredjepartsapps (f.eks. smart home-tjenester, musik, rejser eller samkørselstjenester som Uber eller Lyft). På denne måde bliver stemmeassistenter et centralt punkt for indsamling af data om brugerens livsstil.

Uden robuste krypterings-, adgangskontrol- og anonymiserings- eller pseudonymiseringsforanstaltninger kan hele dette informationsarsenal blive et meget attraktivt mål for cyberkriminelle eller, endnu værre, blive udnyttet på uigennemsigtige måder til aggressiv reklame eller automatiseret beslutningstagning uden brugerens faktiske viden.

Virkelige tilfælde, der har vækket alarm

Social bekymring omkring virtuelle assistenters privatliv er ikke teoretisk: den er drevet af specifikke og meget omtalte hændelser , der er kommet frem i lyset i de senere år.

En af de mest berygtede sager fandt sted i 2019, da en Google-konsulent lækkede optagelser af Google Assistant til belgiske medier som VRT NWS. Disse optagelser skulle angiveligt bruges til at forbedre servicekvaliteten gennem menneskelig gennemgang, men de omfattede meget intime samtaler: kommentarer om helbred, postadresser, detaljer om privatliv...

Den belgiske databeskyttelsesmyndighed krævede, at Google suspenderede den menneskelige gennemgang, indtil tilstrækkelig beskyttelse af privatlivets fred kunne garanteres. Sagen afslørede, at selvom virksomhederne argumenterede for, at kun en lille stikprøve af lydfiler blev gennemgået manuelt, kunne denne stikprøve indeholde ekstremt følsomt indhold.

En anden hændelse, der vakte debat, var vidneudsagnet fra en kriminolog, der opdagede optagelser på sin Alexa-enhed , som ikke var forudgået af "wake word". Med andre ord var samtaler blevet gemt uden nogen åbenlys direkte kommando som "Alexa".

En undersøgelse foretaget af Ruhr-Universität Bochum og Max Planck-Instituttet for Sikkerhed og Privatliv analyserede 11 enheder fra store producenter og dokumenterede tusindvis af utilsigtede aktiveringer , kendt som falske positiver. De konkluderede, at disse stemmegenkendelsessystemer, afhængigt af deres implementering, kan differentiere aktiveringsord mere eller mindre effektivt, hvilket resulterer i flere eller færre fejl og dermed en større eller mindre risiko for uønskede optagelser.

Disse sager forstærker ideen om, at selvom teknologien udvikler sig, er nøjagtigheden ikke perfekt, og at fejlmarginen har direkte konsekvenser for privatlivets fred . Hver falsk positiv involverer potentielt et stykke privat samtale, der ender med at blive gemt og kan blive gennemgået, lækket eller misfortolket.

Sikkerhedslag: stemmeverifikation, bevægelsesdetektion og fysiske knapper

På mange nuværende enheder er "sikkerheden" for brug af assistenten primært afhængig af stemmen som det eneste verifikationslag . Dette skaber flere problemer: Alle i nærheden af ​​enheden kan tale til den, bede om oplysninger eller endda udføre potentielt følsomme handlinger, hvis der ikke er konfigureret yderligere sikkerhedsforanstaltninger.

Et typisk scenarie: en Alexa-højttaler i et tomt hus eller et ubevogtet feriehus. Hvis nogen kommer ind, kan de bede assistenten om oplysninger, foretage køb eller styre IoT-enheder blot ved at tale. Alexa kræver per design ikke, at højttaleren er ejeren; hvis den genkender "wake word", vil den reagere.

I dette scenarie er der foreslået en løsning kendt som den virtuelle sikkerhedsknap (VS-knap) , som ville tilføje et andet lag af verifikation baseret på menneskelig bevægelse ved hjælp af Wi-Fi-teknologi. Ideen er, at assistenten ikke kun lytter efter aktiveringsordet, men også registrerer den typiske kinetiske bevægelse hos en autoriseret person i miljøet.

Denne VS-knap ville bruge variationer i Wi-Fi-signaler til at identificere personers tilstedeværelse og bevægelse . Kombineret med stemmestyring ville den tillade at blokere adgang, når f.eks. enhedens ejer ikke registreres, eller når der er mistænkelig bevægelse, hvilket reducerer risikoen i scenarier som et indbrud i et hjem med en smart lås.

Parallelt hermed har nogle assistenter simple, men yderst relevante fysiske kontroller , såsom knapper til at slå mikrofonen fra eller deaktivere kontinuerlig lytning. Selvom mange brugere prioriterer bekvemmelighed og altid lader disse funktioner være aktiverede, er det af sikkerheds- og privatlivsmæssige årsager tilrådeligt at forstå fuldt ud, hvordan de fungerer, og kun bruge dem, når det er nødvendigt.

Privatliv gennem design og som standard i samtalegrænseflader

Fra et juridisk og systemarkitekturmæssigt perspektiv er nøglekonceptet " privacy by design" og "privacy by default" . Det betyder, at databeskyttelse ikke tilføjes senere som en patch, men integreres i selve produktdesignet fra idéfasen.

Indbygget beskyttelse af personlige oplysninger betyder, at udviklere af virtuelle assistenter og chatbots fra det allerførste udkast overvejer, hvilke data der virkelig er nødvendige, hvordan de vil blive beskyttet, og hvor længe . Det handler ikke om at indsamle alt "bare for en sikkerheds skyld", men om at planlægge ansvarligt. Nogle patenter og lovgivningsforslag kræver allerede, at teknologier som kunstig intelligens integrerer forskellige privatlivstilstande, der er designet selv til ekstreme scenarier.

Et kerneprincip er dataminimering : kun at indsamle de data, der er nødvendige for systemets funktion. Dette suppleres af anonymiserings- og pseudonymiseringsteknikker, der er designet til at forhindre, at data let kan forbindes med en bestemt person, når det er unødvendigt.

Lige så vigtigt er gennemsigtighed . Ofte er de vilkår og betingelser, vi accepterer, når vi opretter en assistent – ​​de berømte "vilkår og betingelser" fra Apple, Google, Amazon eller enhver anden udbyder – vagt formuleret, med småt og et så bredt omfang, at den gennemsnitlige bruger knap nok forstår dem.

Privatliv betyder som standard, at hvis brugeren ikke ændrer noget, skal de oprindelige indstillinger være så beskyttende som muligt, ikke omvendt. Med andre ord skal systemet starte med minimal dataindsamling, med browserhistorik deaktiveret eller med begrænset opbevaring, og kun udvide tilladelser, når brugeren eksplicit anmoder om det.

Når et produkt ikke er designet med privatlivets fred i tankerne, bør producenten seriøst overveje at indarbejde forbedringer, standardrammer og certificeringer , der reducerer informationshuller og sårbarheder. Anvendelse af en fælles ramme for virtuelle assistenter ville bidrage til at sikre, at vi ikke udelukkende er afhængige af hver enkelt virksomheds "goodwill".

Juridiske forpligtelser: GDPR, LOPDGDD og andre regler

I Europa er den primære reference den generelle forordning om databeskyttelse (GDPR) , suppleret i Spanien af ​​den organiske lov om databeskyttelse og garanti for digitale rettigheder (LOPDGDD). For virksomheder, der fremstiller, integrerer eller tilbyder tjenester baseret på virtuelle assistenter, er disse regler obligatoriske.

Blandt de mest relevante forpligtelser er databeskyttelse gennem design og databeskyttelse gennem standardindstillinger (artikel 25 i GDPR) , som vi allerede har diskuteret, og udførelsen af ​​konsekvensanalyser vedrørende databeskyttelse (DPIA, artikel 35 i GDPR), når data behandles i stor skala eller systematisk ved hjælp af teknologier, der konstant kan indsamle information, såsom altid tændte mikrofoner.

Samtykke skal være informeret, gives frivilligt, specifikt og utvetydigt . Brugere skal vide, hvilke data der indsamles, til hvilket formål, hvor længe og med hvem de vil blive delt. Desuden skal samtykket kunne tilbagekaldes til enhver tid gennem simple mekanismer.

Der kræves også politikker for begrænsning af lagring : data kan ikke lagres på ubestemt tid uden begrundelse. Der skal være opbevaringsperioder og klare procedurer for sikker sletning, når oplysningerne ikke længere er nødvendige.

Endelig skal virksomheder have protokoller for håndtering af hændelser på plads: I tilfælde af et sikkerhedsbrud skal tilsynsmyndigheden underrettes, og i visse tilfælde skal de berørte brugere selv informeres og træffe foranstaltninger for at afbøde skaden. I andre jurisdiktioner, såsom Californien med CCPA, er tilgangen lignende: retten til at vide, hvilke data der indsamles, til at anmode om sletning af dem og til at gøre indsigelse mod visse praksisser, der involverer salg eller overførsel af information.

Almindelige privatlivs- og sikkerhedsrisici

Den massive udrulning af virtuelle assistenter har mangedoblet antallet af scenarier, hvor privatlivets fred kan blive kompromitteret. Et af de hyppigste problemer er den vilkårlige indsamling af data . Mikrofoner kan optage uddrag af samtaler, når brugeren mener, at enheden er inaktiv, og dermed overtræde GDPR's princip om dataminimering.

En anden klar risiko er manglen på gennemsigtighed . Det er ikke altid klart, hvad der præcist sker med optagelserne, hvem der kan lytte til dem, om de deles med tredjeparter, eller om de gennemgås manuelt. Uden disse oplysninger har brugerne ingen kontrol over deres eget privatliv.

Profilering uden ægte samtykke er et andet kritisk problem. Meget detaljerede adfærdsprofiler kan opbygges ud fra brugeraktivitet ved hjælp af assistenten, hvilket muliggør målrettet annoncering, dynamiske prisjusteringer eller automatiseret beslutningstagning. Hvis brugeren ikke udtrykkeligt har givet samtykke til denne brug, overtrædes reglerne.

Oven i alt dette kommer cybersikkerhedsrisici : softwaresårbarheder, svage adgangskoder til tilknyttede konti, usikrede Wi-Fi-netværk osv. Alt dette kan føre til uautoriseret adgang til optagelser, søgehistorik, placeringsdata eller enheder, der er forbundet til assistenten.

Endelig er der et praktisk problem: vanskeligheder med at udøve rettigheder . På store platforme med distribuerede databaser er det ikke altid let for brugerne at finde deres data, eksportere dem, slette dem eller effektivt begrænse deres behandling, selvom loven anerkender disse rettigheder.

Praktiske trin til at beskytte dit privatliv, når du bruger virtuelle assistenter

Selvom en stor del af ansvaret ligger hos virksomhederne, kan brugerne gøre meget for at reducere deres eksponering og bedre kontrollere, hvad de deler, når de bruger Alexa, Siri, Google Assistant eller andre lignende systemer.

Det første skridt er at gennemgå din enheds privatlivsindstillinger grundigt . Hovedindstillingerne giver dig mulighed for at justere, hvordan dine data indsamles og bruges. Blandt de mest nyttige muligheder skal du være opmærksom på:

• Deaktiver eller begræns lagring af stemmeoptagelserMange assistenter giver dig mulighed for at stoppe med at gemme interaktioner på din konto eller i det mindste reducere opbevaringstiden.
• Indstil automatisk sletning af historikker efter en periode (for eksempel 3 eller 18 måneder), så års samtaler ikke ophobes i skyen.
• Gennemgå og slet manuelt gamle optagelser via aktivitetspanelet eller den tilsvarende app.
• Styr hvilke tredjepartsapps der har adgang til assistentens data og tilbagekalde tilladelser, der ikke er nødvendige.

Det er også en god idé med jævne mellemrum at ændre adgangskoderne for tilknyttede konti, aktivere totrinsgodkendelse, når det er muligt, og sikre, at enheden kun opretter forbindelse til sikre Wi-Fi-netværk og undgå åbne netværk uden kryptering.

En anden grundlæggende anbefaling er at undgå at dele særligt følsomme data via assistenten , såsom detaljerede medicinske oplysninger, adgangskoder, dokumentnumre eller økonomiske data. Selvom det er teknisk muligt, er det ikke den ideelle kanal til at gøre det, medmindre det er en løsning, der er specifikt designet til dette formål og med forbedrede sikkerhedsforanstaltninger.

Endelig, hvis du ikke vil have en højttaler, der konstant lytter, kan du deaktivere stemmeaktivering ("Hey Siri", "Alexa" osv.) og kun bruge assistenten, når du manuelt starter den. Det er mindre praktisk, ja, men det eliminerer en god del af utilsigtede aktiveringer.

Tekniske bedste praksisser for udviklere og virksomheder

For dem, der designer eller implementerer samtalegrænseflader – uanset om det er en virtuel sundhedsassistent, en finansiel bot eller en HR-chatbot – kan privatliv ikke være en eftertanke. Det skal være et designkriterium, der er lige så vigtigt som brugervenlighed eller ydeevne.

Fra et teknisk synspunkt er det vigtigt at implementere end-to-end-kryptering for at beskytte data under overførsel og kryptering i hviletilstand for lagret information. Databaser, der indeholder stemmehistorik eller følsomme data, skal beskyttes af strenge adgangskontroller, revisionslogfiler og tilladelsessegmentering.

Brugen af ​​anonymiserings- og pseudonymiseringsteknikker er med til at reducere virkningen af ​​et databrud: Hvis dataene ikke er direkte knyttet til en identificerbar person, er risikoen lavere. Anonymiseringen skal dog være robust og forhindre, at brugeren let kan genidentificeres.

På forretningsniveau er det vigtigt at etablere klare politikker for håndtering af samtykke og privatlivspræferencer . Brugere skal nemt kunne acceptere, afvise eller ændre muligheder med grænseflader, der ikke subtilt opfordrer dem ("mørke mønstre") til at dele for meget.

Intern træning er også afgørende: Hele teamet – udviklere, produkt, marketing, support – har brug for løbende træning i privatliv, sikkerhed og overholdelse af lovgivningen . Dette hjælper med at undgå grundlæggende fejl og opdage potentielt manipulerende eller uigennemsigtige interaktionsdesigns tidligt.

Sektorspecifikke anvendelser: sundhedspleje, finans og HR

Når virtuelle assistenter træder ind i følsomme sektorer som sundhed , finans eller personaleadministration, stiger efterspørgslen efter privatliv voldsomt.

En sundhedsudbyder, der indsamler symptomer, behandlinger eller kliniske oplysninger, håndterer særligt følsomme data . I sådanne tilfælde er stærk kryptering, systematisk anonymisering og eksplicit, velinformeret samtykke obligatorisk. Derudover skal brugerne have klar kontrol over, hvilke oplysninger der gemmes, hvem der kan se dem, og hvordan de kan tilbagekalde deres samtykke.

I den finansielle sektor skal en assistent, der giver brugerne mulighed for at tjekke konti, foretage overførsler eller modtage investeringsanbefalinger, kombinere meget høj teknisk sikkerhed (kryptering, multifaktorgodkendelse, anomalidetektion) med en streng politik for dataminimering. Det giver ingen mening at gemme mere end nødvendigt eller at blande finansielle data med andre kommercielle data uden detaljeret samtykke.

Inden for HR kan en intern chatbot administrere ferieanmodninger, lønforespørgsler eller interne politikker . Selvom risikoen kan synes lavere, involverer den stadig medarbejdernes personoplysninger. Virksomheden skal begrænse adgangen til dette system, logge hvem der tilgår hvilke oplysninger, og sikre, at interaktioner ikke genbruges til formål, der ikke er relateret til ansættelsesforholdet, medmindre der er et klart juridisk grundlag for at gøre det.

I alle disse tilfælde er kombinationen af ​​etisk design, streng overholdelse af regler og gennemsigtighed med brugerne det, der gør forskellen mellem en nyttig løsning og en omdømmemæssig og juridisk tidsbombe.

Virtuelle assistenter og samtalegrænseflader vil fortsætte med at blive mere udbredte derhjemme, på arbejdet og på tværs af alle typer tjenester, men hvordan vi håndterer privatlivets fred og sikkerhed for personoplysninger i dag, vil afgøre, om de bliver betroede allierede eller en konstant kilde til bekymring. At prioritere privatliv gennem design, virkelig begrænse dataindsamling, implementere robuste sikkerhedsforanstaltninger og kræve klare forklaringer fra teknologivirksomheder er i dag den bedste måde at nyde godt af deres fordele uden at miste noget så fundamentalt som kontrol over vores egne oplysninger af syne.