- Giluminės klastotės yra dirbtinio intelekto sukurtas audiovizualinis turinys, kuris kelia grėsmę privatumui, reputacijai ir visuomenės pasitikėjimui.
- Jos poveikis svyruoja nuo priekabiavimo ir pornografijos be sutikimo iki įmonių sukčiavimo ir politinių manipuliacijų.
- Ispanijos ir Europos teisinė sistema jau siūlo priemones žalingo vartojimo baudžiamajam persekiojimui, nors technologijos tobulėja labai sparčiai.
- Gynybai reikia derinti techninį aptikimą, organizacinius protokolus ir kritinio mąstymo bei kibernetinio saugumo mokymus.
Giluminės klastotės iš interneto retenybės virto vienu rimčiausių skaitmeninio amžiaus iššūkių. Dirbtinio intelekto manipuliuojami vaizdo įrašai, garso įrašai ir vaizdai gali priversti mus matyti ką nors sakant ar darant tai, ko niekada nebuvo, su tokiu realizmu, kuris daugeliu atvejų apgauna net ekspertų akis. Ir tai paveikia ne tik įžymybes ar politikus: taikiniu gali tapti kiekvienas, turintis paskyrą socialiniuose tinkluose.
Šis reiškinys apjungia tris labai pavojingus ingredientus: galingas technologijas, naudojimo paprastumą ir milžinišką aprėptį . Rezultatas – puikus receptas dezinformacijai, finansiniam sukčiavimui, priekabiavimui ir plačiai paplitusiam pasitikėjimo tuo, ką matome ir girdime, erozijai. Ramiai ir išsamiai išanalizuokime, kas yra „deepfake“ klastotės, kaip jos kuriamos, kokią riziką jos kelia asmenims, įmonėms ir įstaigoms, ką sako įstatymai ir kokių realių žingsnių galime imtis, kad apsigintume.
Kas yra giliosios klastotės ir kodėl jos svarbios?
Terminas „gilusis klastotė“ kilęs iš gilaus mokymosi ir klastotės derinio . Jis reiškia bet kokį audiovizualinį turinį – vaizdo įrašą, vaizdą ar garsą – kuris sukuriamas arba manipuliuojamas generatyvinių dirbtinio intelekto algoritmų , kad atrodytų autentiškas. Kalbame ne apie paprastus filtrus ar retušavimą, o apie visišką veidų, gestų ar balsų rekonstrukciją, kuri labai tiksliai imituoja tikrą žmogų.
Naudojant lengvai prieinamus, net ir nemokamus, įrankius, galima uždėti kažkieno veidą ant kito žmogaus kūno, klonuoti jo balsą arba atkurti scenas, kurios niekada neįvyko . Neuroninių tinklų ir GAN (generatyvinių priešiškų tinklų) pažanga smarkiai padidino realizmo lygį, todėl daug sunkiau atskirti tikrą ir manipuliuojamą turinį.
Giluminės klastotės dabar laikomos netikrų naujienų evoliucija : anksčiau buvo manipuliuojama tekstu ar nuotraukomis, o dabar sukuriamas netikras vaizdo įrašas arba patikimas garso įrašas, turintis daug didesnį emocinį ir kognityvinį poveikį. Mūsų smegenys linkusios labiau pasitikėti tuo, ką „mato ir girdi“, nei paprasta antrašte, todėl jų įtikinamoji galia padidėja daug kartų.
Nors ši technologija egzistuoja nuo XX a. dešimtojo dešimtmečio pabaigos, ji išgarsėjo 2017 m., kai „Reddit“ vartotojas pradėjo skelbti netikrą pornografinį turinį su žinomų aktorių veidais. Nuo tada jos naudojimas labai išplito tiek pramogų pasaulyje, tiek akivaizdžiai kenkėjiškuose kontekstuose.
Kaip kuriamos giliosios klastotės: techninė pusė be techninio žargono
Už gilaus klastojimo slypi mašininio mokymosi sistemos, kurios analizuoja tūkstančius vaizdų, kadrų ar garso fragmentų . Įprastas procesas su veidais susideda iš dviejų pagrindinių etapų: kodavimo ir dekodavimo. Pirma, kodavimo algoritmas ištiria dviejų veidų panašumus ir išskiria bendrų bruožų rinkinį. Tada dekoderis rekonstruoja tikslinį vaizdą naudodamas kito asmens išraiškas.
Praktiškai apmokomi du atskiri dekoderiai, po vieną kiekvienam veidui. Kai vieno asmens duomenys perduodami į kito asmens dekoderį , gauname vaizdo įrašą, kuriame subjektas A, regis, atlieka subjekto B gestus ir judesius. Jei viskas atliekama teisingai, rezultatas atrodo kaip originalus įrašas.
Kita įprasta technika yra generatyvinių priešiškų tinklų (GAN) naudojimas . Tai apima du tinklus: generatorių, kuris sukuria netikrus vaizdus ar vaizdo įrašus, ir diskriminatorių, kuris bando atskirti klastotę nuo tikro. Jie konkuruoja tarpusavyje tūkstančius kartų, nuolat tobulėdami, kol diskriminatorius nebegali lengvai aptikti apgaulės ir rezultatas beveik atitinka tikrovę.
Dauguma vaizdo įrašų giliųjų klastočių sukuriamos pateikiant algoritmui didelius imituojamo asmens vaizdų rinkinius . Kuo daugiau kampų, gestų ir apšvietimo sąlygų turi modelis, tuo įtikinamesnis galutinis rezultatas. Todėl tradiciškai aukomis dažniausiai tapdavo žmonės, turintys daug žiniasklaidos dėmesio, nors šiandien pakanka vienos nuotraukos ar kelių sekundžių balso įrašų, kad būtų sukurtas tinkamas klonas.
Kalbant apie balsą, klonavimo sistemos leidžia vos per kelias įrašymo sekundes atkurti tembrą, akcentą ir kalbos ritmą . Derinant kalbos sintezę su dirbtinio intelekto generuojamais scenarijais, galima sukurti garsą, kuriame auka „sako“ viską, ką užpuolikas nori įdėti į burną.
Giliųjų klastotių tipai: vaizdas, vaizdo įrašas ir balsas
Priklausomai nuo manipuliuojamo turinio rūšies ir naudojamos technikos, giliųjų klastotių (deepfake) srityje galima išskirti kelis tipus. Ypač populiarios tapo dvi kategorijos: gilieji veidai (deepfaces) ir gilieji balsai (deepvoices ).
„Deepfaces“ – tai vaizdo įrašai, kuriuose sugeneruojamas arba visiškai pakeičiamas žmogaus veidas . Naudodama kelias nuotraukas, sistema sukuria statinius veidus, kurie yra tokie tikroviški, kad atrodo kaip tikri portretai, o tada juos sujungia iš eilės, kad sukurtų sklandų vaizdo įrašą. Tikslas – kad peržiūrint niekas neįtartų, jog žiūri į dirbtinį kompozitą.
Tuo tarpu gilaus balso technologijos daugiausia dėmesio skiria balso imitacijai . Algoritmas išmoksta žmogaus balso charakteristikas (dažnį, intonaciją, pauzes, užpildo žodžius ir kt.) ir gali perskaityti bet kokį tekstą, pateikdamas jį kaip to asmens. Šio tipo gilaus balso imitacija yra ypač pavojinga įmonių ir finansų sektoriuose.
Puikus pavyzdys – 2019 m. kibernetiniai nusikaltėliai klonavo generalinio direktoriaus balsą , kad paskambintų jo įmonės vyresniajam vadovui ir lieptų skubiai pervesti daugiau nei 250 000 USD. Vadovas sutiko, nes balsas skambėjo lygiai taip pat, kaip jo viršininko, o skubos jausmas buvo įtikinamas.
Be šių dviejų kategorijų, taip pat yra hibridinių giliųjų klastočių, kurios sujungia dirbtinio intelekto generuojamą vaizdo įrašą, garsą ir tekstą , todėl visas turinys – tai, ką matote ir ką girdite – yra sintetinis, bet nuoseklus. Technologijoms tobulėjant, ribos tarp šių tipų nyksta.
Teisėtas naudojimas ir teigiamas pritaikymas
Nors giliuosius klastojimus dažnai siejame su sukčiavimu ir kibernetinėmis patyčiomis, ta pati technologija turi visiškai teisėtų ir vertingų pritaikymų, kai naudojama skaidriai ir gavus sutikimą. Pavyzdžiui, kino industrijoje ji naudojama aktoriams sendinti, atkurti mirusius personažus arba dubliuoti dialogus neprarandant lūpų sinchronizacijos.
Švietimo srityje generatyviniai modeliai leidžia pritaikyti audiovizualinį turinį kelioms kalboms, išsaugant originalius kalbėtojo gestus. Tai pagerina supratimą, išvengia „mažo biudžeto dubliavimo“ jausmo ir palengvina pasaulinį kursų ir konferencijų prieinamumą.
Taip pat tiriamos prieinamumo programos, pavyzdžiui, avatarai, kurie suasmenintu būdu interpretuoja gestų kalbą, arba specialiai sukurti sintetiniai balsai žmonėms, kurie negali kalbėti. Tinkamai etiškai žiūrint, ta pati technologija, kuri šiandien kelia mums nerimą, gali atverti svarbias duris skaitmeninei įtraukčiai.
Didžiausias iššūkis yra ne tiek pats įrankis, kiek kontekstas, tikslas ir skaidrumas, su kuriuo jis naudojamas. Štai kodėl neseniai priimti Europos reglamentai pabrėžia įpareigojimą aiškiai žymėti dirbtinio intelekto sukurtą turinį, kad visuomenė galėtų atskirti skirtingus tipus.
Giliųjų klastočių keliama rizika ir grėsmė visuomenei
Neigiamas giliųjų klastočių poveikis apima viską – nuo asmens privataus gyvenimo iki politinio, ekonominio ir socialinio stabilumo . Vienas akivaizdžiausių pavojų yra dezinformacija: netikri vaizdo įrašai, kuriuose politiniai lyderiai daro provokuojančius pareiškimus arba prisipažįsta įvykdę nusikaltimus, kurie niekada neįvyko.
Net jei vėliau jie paneigiami, žala jau padaryta, nes emocinis pirmojo žiūrėjimo poveikis dažnai nusveria bet kokį vėlesnį pataisymą . Tai prisideda prie visuomenės nuomonės poliarizacijos, sąmokslo teorijų kurstymo ir pasitikėjimo žiniasklaida bei demokratinėmis institucijomis silpninimo.
Kita itin rimta rizika yra giliųjų klastočių naudojimas priekabiavimui , šmeižtui ir privatumo pažeidimams . Netikros pornografijos kūrimas naudojant moterų, ypač politikų, aktyvisčių ir žurnalistų, veidus tapo skaitmeninio smurto forma, turinčia pražūtingų pasekmių jų reputacijai, asmeniniam gyvenimui ir psichinei sveikatai.
Naujausi tyrimai rodo, kad apie 2,2 % apklaustų žmonių tam tikruose akademiniuose darbuose save laiko intymių giliųjų klastotių aukomis, o 1,8 % prisipažįsta kūrę ar platinę tokio tipo turinį. Nors šie skaičiai gali atrodyti maži, jie atspindi nerimą keliančią ir augančią tendenciją.
Be to, giliosios klastotės prisideda prie „tiesos krizės“ : jei pavyksta sufabrikuoti kokius nors audiovizualinius įrodymus, visuomenė rizikuoja manyti, kad niekas nėra visiškai patikima. Tai bene pavojingiausias ilgalaikis poveikis, nes jis ardo pagrindinį pasitikėjimą, būtiną skaitmeniniam sambūviui ir pagrįstoms viešoms diskusijoms.
Poveikis sukčiavimui ir įmonių kibernetiniam saugumui
Verslo pasaulyje giliosios klastotės tampa itin veiksminga kibernetinių nusikaltėlių atakų priemone. Tai ne mokslinė fantastika: jau yra daugybė atvejų, kai vadovais apsimetama naudojant vaizdo ar garso įrašus, kad būtų galima nurodyti pavedimus, prašyti neskelbtinų duomenų ar duoti melagingus strateginius nurodymus.
Vienas iš labiausiai paplitusių scenarijų yra susijęs su [ neaišku – galbūt „el. pašto adresas“ arba „telefono numeris“]. Be klasikinio apgaulingo el. laiško, užpuolikas įtraukia giliai padirbtą generalinio direktoriaus arba finansų direktoriaus vaizdo ar garso įrašą, taip sustiprindamas prašymo skubumą. Pamačiusi arba išgirdusi savo „viršininką“, auka sumažina budrumą ir vykdo nurodymą.
Giluminės klastotės taip pat naudojamos pažangioje socialinėje inžinerijoje . Pavyzdžiui, advokatų kontorai siunčiamas, atrodytų, įprastas vaizdo įrašas, kuriame partneris reikalauja skubiai pasirašyti sutartis arba suteikti prieigą prie tam tikrų dokumentų. Kontekstas yra tikėtinas, vaizdas ir balsas sutampa, o patvirtinimo sistema remiasi tik veido atpažinimu.
Vis dažniau pasitaikančiose nuotolinio darbo aplinkose užpuolikai įsiskverbia į vaizdo skambučius apsimesdami komandos nariais . Naudodami dirbtinio intelekto sugeneruotus avatarus, jie dalyvauja susitikimuose, prašo prieigos prie vidinių sistemų arba reikalauja konfidencialios informacijos. Apsimetimas gali likti nepastebėtas, jei elgesys neatrodo pernelyg neįprastas.
Visa tai kelia tiesioginį iššūkį apsaugos sistemoms, pagrįstoms veido ar balso atpažinimu. Naujausi tyrimai rodo, kad nedideli šešėlių, išmanaus suliejimo ar priešininko triukšmo koregavimai gali smarkiai sumažinti biometrinių detektorių efektyvumą, leisdami netikru veidu apeiti prieigos kontrolę.
Aptikimo iššūkiai: kodėl vien antivirusinės programinės įrangos nepakanka
Aptikti giliąsias klastotes nėra taip paprasta, kaip įdiegti programinę įrangą ir ją pamiršti. Dabartiniai aptikimo modeliai susiduria su pagrindine problema: jų apibendrinamumas yra ribotas . Jie paprastai apmokomi naudojant specifinius manipuliavimo metodus ir stilius, o atsiradus naujos kartos algoritmui, jie praranda efektyvumą.
Be to, užpuolikai gali sukelti priešiškų trikdžių, specialiai sukurtų detektoriams apgauti . Tai yra, jie prideda triukšmą, kuris žmogaus akiai nepastebimas, tačiau kuris painioja teismo ekspertizės sistemas ir leidžia manipuliuotam turiniui praeiti pro filtrus taip, lyg jis būtų autentiškas.
Prie viso to prisideda ir mastelio keitimo iššūkis. Platformos ir socialiniai tinklai kasdien gauna milžiniškus vaizdo ir garso kiekius , todėl išsami kiekvieno elemento analizė yra praktiškai neįmanoma. Daugelis yra priversti griebtis pavyzdžių atrankos, paviršutiniškos analizės arba automatizuotų sistemų, kurios kartais sugenda.
Todėl šiuo metu nėra „stebuklingo vaisto“ nuo giliųjų klastočių. Apsaugai reikalingas metodų derinys : metaduomenų analizė, vaizdo ar garso artefaktų tyrimas, neuroniniai tinklai, apmokyti aptikti subtilius modelius, ir, svarbiausia, vartotojų mokymas bei kritinis mąstymas.
Pati dirbtinio intelekto pažanga reikalauja nuolatinio aptikimo modelių atnaujinimo . Kiekviena nauja generatyvinių įrankių karta reikalauja peržiūrėti ir permokyti gynybos sistemas, sukuriant nuolatinį katės ir pelės žaidimą tarp užpuolikų ir gynėjų.
Teisinė sistema: kaip reaguoja Ispanija ir Europos Sąjunga
Teisiniu požiūriu, giliosios klastotės ne visada laikomos konkrečiu nusikaltimu, tačiau žalingas jų naudojimas patenka į kelių galiojančių baudžiamųjų nusikaltimų ir reglamentų taikymo sritį . Ispanijoje baudžiamasis kodeksas numato įvairias apsaugos nuo apsimetinėjimo ir privatumo pažeidimų formas.
197 ir tolesni straipsniai gina teisę į privatumą ir savo atvaizdą, baudžiant už intymių vaizdų ar įrašų gavimą, naudojimą ar platinimą be sutikimo , net jei jie buvo skaitmeniniu būdu manipuliuoti. Seksualinio pobūdžio giluminis klastojimas, platinamas be leidimo, gali būti laikomas nusikaltimu privatumui.
401 straipsnis kriminalizuoja tapatybės vagystę , kuri gali būti taikoma, kai gilioji klastotė naudojama apsimesti kitu asmeniu, pavyzdžiui, apgauti trečiąsias šalis ar įvykdyti sukčiavimą. 208–210 straipsniai reglamentuoja šmeižtą ir įžeidimą, taikomi, jei melagingas turinys rimtai kenkia aukos garbei ar reputacijai.
248 ir 249 straipsniai, susiję su sukčiavimu, apima atvejus, kai pakeisti balsai ar veidai naudojami neteisėtai finansinei naudai gauti . Tokiais atvejais nusikaltimui įvykdyti naudojama giluminio klastojimo technologija, nors ji nėra klasifikuojama kaip atskiras nusikaltimas.
Tuo pačiu metu Organinis įstatymas Nr. 3/2018 (LOPDGDD) ir Bendrasis duomenų apsaugos reglamentas (BDAR) saugo asmens duomenis, įskaitant biometrinius duomenis, tokius kaip veidas ir balsas. Asmens atvaizdo ar balso naudojimas giliojoje klastotėje be jo sutikimo gali būti laikomas rimtu duomenų apsaugos pažeidimu, už kurį gali būti skiriamos administracinės nuobaudos ir gali būti skiriama civilinė ar baudžiamoji atsakomybė.
Organinis įstatymas Nr. 1/1982 dėl teisės į garbę, privatumą ir savo atvaizdą leidžia nukentėjusiajam pateikti civilinį ieškinį asmeniui, platinančiam „deepfake“, įžeidžiantį jo orumą ar reputaciją , prašant pašalinti turinį, atlyginti žalą ir imtis skubių atsargumo priemonių jo platinimui sustabdyti.
Europos lygmeniu Dirbtinio intelekto įstatymas (ES Dirbtinio intelekto reglamentas) reikalaus, kad dirbtinio intelekto sukurtas turinys, įskaitant giliąsias klastotes, būtų aiškiai identifikuojamas kaip toks. Tuo tarpu Skaitmeninių paslaugų įstatymas (DSA) įpareigoja skaitmenines platformas ir paslaugas greitai reaguoti į melagingą, šmeižikišką ar pagrindines teises pažeidžiantį turinį.
Be to, kai kurios vyriausybės, įskaitant Ispanijos, pradėjo konkrečiau apibrėžti nusikaltimus, susijusius su seksualiniu giliuoju seksu ir viliojimu, stiprindamos baudžiamąją apsaugą nuo dirbtinio intelekto sukurtos pornografijos be sutikimo ir nepilnamečių išnaudojimo naudojant audiovizualines manipuliacijas.
Specifinė rizika vaikams, moterims ir pažeidžiamoms grupėms
Giluminės klastotės ne visiems daro vienodą poveikį. Duomenys rodo, kad moterys, nepilnamečiai ir tam tikros viešosios grupės patiria neproporcingai didelę poveikio dalį, ypač kalbant apie intymų turinį, bendrinamą be sutikimo.
Naujausios ataskaitos rodo, kad didelė dalis internete nustatytų „deepfake“ svetainių yra pornografinės ir nukreiptos į moteris, daugelis jų – viešas asmenybes. Tai reiškia priekabiavimo, šantažo ir šmeižto kampanijas, kuriose stiprus skaitmeninio smurto dėl lyties komponentas.
Kai kuriuose tyrimuose ir ataskaitose apskaičiuota, kad vienas iš penkių jaunuolių Ispanijoje teigia vaikystėje ar paauglystėje turėjęs kokią nors su „deepfake“ susijusią patirtį – kaip tiesioginė auka, stebėtojas ar dalyvis. Šis ankstyvas susidūrimas padidina priekabiavimo ir seksualinio prievartavimo praktikos normalizavimo riziką.
Kriminologijai ir teismų sistemai giliosios klastotės kelia papildomų problemų: jos gali būti pateikiamos kaip „įrodymai“ teisminiuose procesuose , todėl teisėjams, prokurorams ir ekspertams sunku nustatyti medžiagos autentiškumą.
Ši situacija taip pat kelia rimtų problemų asmeninio saugumo ir viešojo kibernetinio saugumo srityje, nes veido ar balso atpažinimu pagrįsti prieigos kontrolės biometrikai gali tapti vis nepatikimesni, jei lygiagrečiai nebus sukurti patikimi sintetinio turinio aptikimo mechanizmai.
Be individualios žalos, giliųjų klastočių plitimas prisideda prie didelio nepasitikėjimo skaitmenine informacija klimato . Jei koks nors vaizdo ar garso įrašas gali būti netikras, įsigalėja idėja, kad „niekas nėra saugu“, ir galiausiai daugelis žmonių nustoja bandyti atskirti, kas tikra, nuo to, kas yra manipuliuojama.
Šis informacijos nuovargis yra ypač pavojingas, nes atveria kelią dezinformacijos kampanijoms ir masiniam manipuliavimui . Dezinformacijos atakos, kuriose derinamos melagingos naujienos su audiovizualinėmis giliosiomis klastotėmis, gali paveikti rinkimus, referendumus, investicinius sprendimus ir tarptautinius santykius.
Socialinė žiniasklaida veikia kaip šio proceso greitintuvas. Klaidingas, bet paveikus turinys gali išplisti per kelias minutes , o patikrinimas ir pataisymai atkeliauja daug vėliau ir yra mažiau pasiekiami. Šis vėlavimas akivaizdžiai yra palankus tiems, kurie naudoja generatyvinį dirbtinį intelektą kenkėjiškais tikslais.
Didžiosios platformos – „Facebook“, „X“ (anksčiau „Twitter“), „Google“ ir kt. – paskelbė apie priemones, skirtas apriboti žalingų giliųjų klastotių plitimą , pradedant aiškiais draudimais ir baigiant ženklinimu bei greito pašalinimo sistemomis. Tačiau problemos mastas ir technologijų vystymosi greitis reiškia, kad atsakas visada yra dalinis.
Didžiausia rizika yra ta, kad šie reiškiniai prisideda prie piliečių kritinio mąstymo erozijos . Jei „viskas gali būti melas“, tampa lengviau sėti abejones, skleisti kraštutines teorijas ir mažinti pasitikėjimą žiniasklaida, institucijomis ir net pačia demokratine sistema.
Technologinės ir organizacinės gynybos strategijos
Susidūrus su tokia sudėtinga problema, atsakas turi būti daugiaplanis. Techniniu lygmeniu kuriami dirbtiniu intelektu pagrįsti aptikimo algoritmai , kurie ieško subtilių vaizdo įrašų neatitikimų: lūpų sinchronizavimo klaidų, nenatūralaus mirksėjimo, suspaudimo artefaktų, pernelyg lygios odos ar neryškių veido srities kraštų.
Kitas metodas apima turinio apsaugą „šaltinyje“, įterpiant nematomus vandens ženklus arba patikrinamus metaduomenis , kurie patvirtina vaizdo įrašo ar nuotraukos autentiškumą. Šie ženklai gali padėti atskirti originalią medžiagą nuo manipuliuotų kopijų, jei yra priimtas standartas ir įrankiai jiems patvirtinti.
Įmonių aplinkoje vis labiau populiarėja patobulintas daugiafaktorinis autentifikavimas . Tai reiškia, kad nebereikia remtis vien asmens atvaizdu ar balsu, o reikia derinti juos su kitais veiksniais: geolokacija, įprastais naudojimo modeliais, patvirtinimais alternatyviais kanalais (SMS, saugiomis programėlėmis) arba vienkartiniais kodais.
Taip pat rekomenduojama įdiegti aiškius protokolus jautriems sandoriams , pvz., banko pavedimams ar prisijungimo duomenų keitimui. Pavyzdžiui, nustatyti, kad joks svarbus finansinis pavedimas nebūtų vykdomas vien el. paštu ar vaizdo skambučiu, o visada būtų reikalingas papildomas patvirtinimas kitu kanalu.
Galiausiai, labai svarbus yra nuolatinis mokymas. Organizacijos, kurios vykdo sukčiavimo apsimetant ir giluminio klastojimo pratybas – moko savo darbuotojus aptikti subtilius požymius, tokius kaip garso sinchronizavimo problemos, nenatūralūs gestai ar neįprastas elgesys, – sukuria daug atsparesnę saugumo kultūrą.
Kaip atpažinti giliąją klastotę: praktiniai ženklai kasdieniam gyvenimui
Vartotojo požiūriu, yra keletas užuominų, kurios gali padėti atpažinti netikrą turinį, nors jos ne visada yra įtikinamos. Pirmoji rekomendacija – ieškoti akivaizdžių vizualinių trūkumų : neryškių veido kontūrų, nepastovios apšvietimo, palyginti su fonu, trūkčiojančių judesių ar „keistų“ veido išraiškų.
Mirksėjimas yra dar vienas naudingas rodiklis. Daugelyje „deepfake“ vis dar matomi nenatūralūs mirksėjimo modeliai : akys ilgą laiką lieka per daug atmerktos arba mirksi keistu ritmu. Nors naujesni modeliai tobulėja šioje srityje, daugeliu atvejų tai išlieka silpnoji vieta.
Taip pat svarbu atkreipti dėmesį į žmogaus kūną, kaklą ir pečius. Dauguma manipuliacijų sutelkiamos į veidą , todėl likusi kūno dalis gali išduoti klastotę, jei proporcijos, laikysena ar gestai neatitinka to, ko iš to žmogaus tikimasi.
Vaizdo įrašo trukmė gali būti dar vienas užuomina. Ilgo „deepfake“ sugeneravimas reikalauja daugiau išteklių ir padidina klaidų tikimybę, todėl daug manipuliuojamo turinio yra gana trumpas ir sutelktas į vieną paveikią frazę ar sceną. Labai trumpas klipas su sprogstamąja žinute turėtų kelti raudoną vėliavėlę.
Galiausiai, labai svarbu išanalizuoti įrašo kontekstą ir kilmę . Kas juo pirmas pasidalijo? Ar jis pasirodė patikimose žiniasklaidos priemonėse, ar tik anoniminėse paskyrose? Ar yra kitų nepriklausomų šaltinių, kurie patvirtina tai, ką matote? Sulėtinę atkūrimą arba žiūrėdami vaizdo įrašą kadras po kadro, galite pastebėti staigius fono, veido išlygiavimo ar burnos vidaus (liežuvio, dantų) pokyčius – sritis, kuriose daugelis algoritmų vis dar neveikia.
Žiniasklaidos raštingumas ir verifikavimo kultūra
Jokia aptikimo technologija nebus pakankama be piliečių, turinčių kritinio mąstymo įgūdžių ir pagrindinių tikrinimo gebėjimų . Tokios organizacijos kaip INCIBE ir Interneto vartotojų saugumo tarnyba pabrėžia, kad reikia būti budriems dėl gaunamos informacijos, išsamiai analizuoti turinį ir visada jį patikrinti su patikimais šaltiniais.
Įpročio nesidalinti impulsyviai niekuo , ypač jei tai sukelia stiprias emocijas (baimę, pyktį, pasipiktinimą), ugdymas yra viena geriausių priemonių apsisaugoti nuo giliųjų klastotių ir netikrų naujienų plitimo. Kelios sekundės, skirtos savęs paklausti: „Kam naudinga, kad aš tuo tikiu?“, gali turėti didelės įtakos.
Kibernetinio saugumo mokymai, internetiniai tyrimai ir kibernetinė žvalgyba skirti ne tik specialistams. Supratimas, kaip veikia sukčiavimas apsimetant, socialinė inžinerija ir dezinformacijos atakos, padeda kiekvienam gerokai sumažinti savo pažeidžiamumą tiek asmeniniame, tiek profesiniame gyvenime.
Vaikams ir paaugliams ypač svarbu integruoti šias temas į skaitmeninį ir emocinį švietimą , paaiškinant kibernetinių patyčių, seksualinio priekabiavimo ir intymių vaizdų dalijimosi riziką. Žinojimas, kad vaizdo įrašas gali būti netikras, bet jo pasekmės gali būti labai realios, turi didžiulį skirtumą.
Įmonėms ir įstaigoms investicijos į informavimo programas, kurios neapsiriboja vien bendriniais kibernetinio saugumo patarimais, dabar yra strateginė būtinybė. Tie, kurie nesupranta giliųjų klastotių, jų poveikio ir kaip į jas reaguoti, naujoje skaitmeninėje aplinkoje turės akivaizdų trūkumą.
Visi požymiai rodo, kad giliųjų klastočių skaičius ir sudėtingumas toliau didės , darydami įtaką milijonų žmonių saugumui, ekonomikai, politikai ir privačiam gyvenimui. Pripažinti jas kaip skaitmeninio kraštovaizdžio dalį, reikalauti aiškių teisinių sistemų, investuoti į patikimas aptikimo technologijas ir, svarbiausia, puoselėti tikrinimo ir bendros atsakomybės kultūrą yra geriausi būdai užkirsti kelią šiam galingam įrankiui tapti ginklu, kuris visiškai kenkia pasitikėjimui mūsų internetiniu gyvenimu.