- Ang mga deepfake ay mga audiovisual na nilalamang binuo ng AI na nagbabanta sa privacy, reputasyon, at tiwala ng publiko.
- Ang epekto nito ay mula sa panliligalig at pornograpiyang walang pahintulot hanggang sa pandaraya sa mga korporasyon at manipulasyong pampulitika.
- Nag-aalok na ang balangkas ng batas ng Espanya at Europa ng mga kagamitan upang usigin ang mga mapaminsalang paggamit, bagama't napakabilis na umuunlad ang teknolohiya.
- Ang depensa ay nangangailangan ng pagsasama-sama ng teknikal na pagtukoy, mga protokol ng organisasyon, at pagsasanay sa kritikal na pag-iisip at cybersecurity.
Mula sa pagiging isang kawili-wiling bagay sa internet, ang mga deepfake ay naging isa sa mga pinakamatinding hamon ng digital na panahon. Ang mga video, audio, at mga imaheng minanipula gamit ang artificial intelligence ay maaaring magpakita sa atin ng isang taong nagsasabi o gumagawa ng isang bagay na hindi naman nangyari, na may realismo na, sa maraming pagkakataon, ay nakakalito kahit sa mga mata ng mga eksperto. At hindi lamang ito nakakaapekto sa mga kilalang tao o pulitiko: sinumang may presensya sa social media ay maaaring maging target.
Pinagsasama ng penomenong ito ang tatlong mapanganib na sangkap: makapangyarihang teknolohiya, kadalian ng paggamit, at malawakang saklaw . Ang resulta ay isang perpektong sangkap para sa disinformation, pandaraya sa pananalapi, panliligalig, at malawakang pagguho ng tiwala sa ating nakikita at naririnig. Suriin natin, nang mahinahon at detalyado, kung ano talaga ang mga deepfake, paano ito nalilikha, anong mga panganib ang dulot nito sa mga indibidwal, kumpanya, at institusyon, kung ano ang nakasaad sa batas, at anong mga totoong hakbang ang maaari nating gawin upang ipagtanggol ang ating sarili.
Ano ang mga deepfake at bakit mahalaga ang mga ito?
Ang terminong deepfake ay nagmula sa kombinasyon ng deep learning at fake . Ito ay tumutukoy sa anumang audiovisual na nilalaman—video, imahe, o audio—na nabuo o minanipula ng mga generative artificial intelligence algorithm upang magmukhang tunay. Hindi natin pinag-uusapan ang mga filter o retouching lamang, kundi ang kumpletong rekonstruksyon ng mga mukha, kilos, o boses na tumpak na ginagaya ang isang totoong tao.
Gamit ang mga madaling makuha, kahit na libre, na mga tool, posibleng ipatong ang mukha ng isang tao sa katawan ng ibang tao, i-clone ang kanilang boses, o muling likhain ang mga eksenang hindi naman nangyari . Ang mga pagsulong sa mga neural network at GAN (generative adversarial network) ay lubhang nagpataas sa antas ng realismo, na ginagawang mas mahirap na makilala ang pagkakaiba sa pagitan ng tunay at minanipulang nilalaman.
Ang mga deepfake ngayon ay itinuturing na isang ebolusyon ng pekeng balita : kung dati ay minamanipula ang mga teksto o larawan, ngayon ay nalilikha na ang isang pekeng video o kapani-paniwalang audio recording na may mas malaking emosyonal at kognitibong epekto. Ang ating utak ay may posibilidad na magtiwala sa kanilang "nakikita at naririnig" kaysa sa isang simpleng headline, na nagpaparami sa kanilang mapanghikayat na kapangyarihan.
Bagama't umiral na ang teknolohiyang ito simula pa noong huling bahagi ng dekada 90, sumikat ito noong 2017 nang magsimulang mag-post ang isang gumagamit ng Reddit ng mga pekeng pornograpikong nilalaman na nagtatampok ng mga mukha ng mga kilalang aktres. Simula noon, ang paggamit nito ay lumaganap nang husto, kapwa sa libangan at sa mga kontekstong malinaw na may masasamang epekto.
Paano nalilikha ang mga deepfake: ang teknikal na aspeto nang walang teknikal na jargon
Sa likod ng isang deepfake ay ang mga machine learning system na nagsusuri ng libu-libong imahe, frame, o audio snippet . Ang karaniwang proseso sa mga mukha ay sumusunod sa dalawang pangunahing hakbang: encoding at decoding. Una, pinag-aaralan ng isang encoding algorithm ang pagkakatulad sa pagitan ng dalawang mukha at kinukuha ang isang hanay ng mga karaniwang tampok. Pagkatapos, muling binubuo ng isang decoder ang target na imahe gamit ang mga ekspresyon ng ibang tao.
Sa pagsasagawa, dalawang magkahiwalay na decoder ang sinasanay, isa para sa bawat mukha. Kapag ang data mula sa isang tao ay ipinasok sa decoder ng isa pa , makakakuha tayo ng isang video kung saan ang paksa A ay tila nagsasagawa ng mga kilos at galaw ng paksa B. Kung gagawin nang tama, ang resulta ay magmumukhang isang orihinal na recording.
Ang isa pang karaniwang pamamaraan ay ang paggamit ng mga generative adversarial network (GAN) . Kabilang dito ang dalawang network: isang generator, na lumilikha ng mga pekeng imahe o video clip, at isang discriminator, na nagtatangkang makilala ang peke mula sa tunay. Naglalaban-laban sila sa isa't isa nang libu-libong beses, patuloy na nagpapabuti hanggang sa hindi na madaling matukoy ng discriminator ang panlilinlang at ang resulta ay halos kapareho ng katotohanan.
Karamihan sa mga video deepfake ay nalilikha sa pamamagitan ng pagpapakain sa algorithm ng malalaking set ng mga imahe ng taong ginagaya . Kung mas maraming anggulo, kilos, at kondisyon ng pag-iilaw ang mayroon ang modelo, mas kapani-paniwala ang magiging huling resulta. Samakatuwid, ayon sa kaugalian, ang mga biktima ay kadalasang mga taong may mataas na pagkakalantad sa media, bagaman ngayon, ang isang larawan o ilang segundo ng mga recording ng boses ay sapat na upang makabuo ng isang disenteng clone.
Sa kaso ng boses, pinapayagan ng mga sistema ng pag-clone, mula sa ilang segundo lamang ng pagre-record, ang pagpaparami ng timbre, accent, at ritmo ng pagsasalita . Sa pamamagitan ng pagsasama-sama ng speech synthesis sa mga script na binuo ng AI, posibleng makagawa ng audio kung saan "sinasabi" ng biktima ang anumang gustong ilagay ng umaatake sa kanilang bibig.
Mga uri ng deepfake: imahe, video, at boses
Sa loob ng payong ng mga deepfake, maaari nating makilala ang ilang uri, depende sa uri ng nilalamang minanipula at sa pamamaraang ginamit. Dalawang kategorya ang naging lalong popular: ang mga deepface at deepvoice.
Ang mga deepface ay mga video kung saan ang mukha ng isang tao ay nabubuo o ganap na pinapalitan . Gamit ang maraming litrato, lumilikha ang system ng mga static na mukha na parang totoong mga larawan, at pagkatapos ay pinag-uugnay ang mga ito nang magkakasunod upang lumikha ng isang maayos na video. Ang layunin ay, kapag napanood na, walang maghihinala na nakatingin sila sa isang artipisyal na composite.
Samantala, ang mga deepvoice ay nakatuon sa panggagaya ng boses . Natututunan ng algorithm ang mga katangian ng boses ng isang tao (dalas, intonasyon, mga paghinto, mga salitang pangpuno, atbp.) at pagkatapos ay mababasa ang anumang teksto, na ipinapasa ito bilang ang taong iyon. Ang ganitong uri ng deepfake ay lalong mapanganib sa mga sektor ng korporasyon at pananalapi.
Isang magandang halimbawa ang nangyari noong 2019: kinopya ng mga cybercriminal ang boses ng isang CEO para tawagan ang isang senior executive sa kanyang kumpanya at utusan ang isang agarang paglilipat ng mahigit $250.000. Sumunod ang ehekutibo dahil ang boses ay halos kapareho ng boses ng kanyang superior, at ang pakiramdam ng pagkaapurahan ay kapani-paniwala.
Bukod sa dalawang kategoryang ito, mayroon ding mga hybrid deepfake na pinagsasama ang AI-generated na video, audio, at teksto , kaya ang lahat ng nilalaman—ang nakikita mo at naririnig mo—ay sintetiko ngunit magkakaugnay. Habang umuunlad ang teknolohiya, lumalabo ang pagkakaiba sa pagitan ng mga uring ito.
Mga lehitimong gamit at positibong aplikasyon
Bagama't madalas nating iniuugnay ang mga deepfake sa mga scam at cyberbullying, ang parehong teknolohiya ay may ganap na lehitimo at mahahalagang aplikasyon kapag ginamit nang malinaw at may pahintulot. Sa industriya ng pelikula, halimbawa, ginagamit ito upang bawasan ang edad ng mga aktor, muling likhain ang mga namatay na karakter, o i-dub ang mga diyalogo nang hindi nawawala ang lip-sync.
Sa larangan ng edukasyon, pinapayagan ng mga generative model ang pag-aangkop ng audiovisual na nilalaman sa maraming wika habang pinapanatili ang orihinal na mga kilos ng nagsasalita. Pinapabuti nito ang pag-unawa, naiiwasan ang pakiramdam ng "low-budget dubbing," at pinapadali ang pandaigdigang pag-access para sa mga kurso at kumperensya.
Sinusuri rin ang mga aplikasyon sa accessibility, tulad ng paglikha ng mga avatar na nagbibigay-kahulugan sa sign language sa isang personalized na paraan, o mga custom-made na sintetikong boses para sa mga taong hindi makapagsalita. Sa pamamagitan ng tamang etikal na pamamaraan, ang parehong teknolohiyang ikinababahala natin ngayon ay maaaring magbukas ng mahahalagang pinto para sa digital na pagsasama.
Ang pinakamalaking hamon ay hindi ang mismong kagamitan, kundi ang konteksto, layunin, at transparency kung saan ito ginagamit. Kaya naman binibigyang-diin ng mga kamakailang regulasyon sa Europa ang obligasyon na malinaw na lagyan ng label ang nilalamang binuo ng AI upang makilala ng publiko ang pagkakaiba sa pagitan ng iba't ibang uri.
Mga panganib at banta ng mga deepfake sa lipunan
Ang negatibong epekto ng mga deepfake ay mula sa pribadong buhay ng isang indibidwal hanggang sa katatagang pampulitika, pang-ekonomiya, at panlipunan . Isa sa mga pinakahalatang panganib ay ang disinformation: mga pekeng video na nagpapakita ng mga pinunong pampulitika na gumagawa ng mga nakakainis na pahayag o pag-amin sa mga krimeng hindi naman nangyari.
Kahit pa pabulaanan ang mga ito sa kalaunan, may kaakibat na pinsala, dahil ang emosyonal na epekto ng unang panonood ay kadalasang mas malaki kaysa sa anumang kasunod na pagwawasto . Nakakatulong ito sa pag-iiba-iba ng opinyon ng publiko, pagpapasiklab ng mga teorya ng sabwatan, at pagpapahina ng tiwala sa media at mga institusyong demokratiko.
Isa pang lubhang seryosong panganib ay ang paggamit ng mga deepfake para sa panliligalig, paninirang-puri, at mga paglabag sa privacy . Ang paglikha ng pekeng pornograpiya gamit ang mga mukha ng kababaihan—lalo na ang mga pulitiko, aktibista, at mamamahayag—ay naging isang uri ng digital na karahasan na may mapaminsalang mga kahihinatnan para sa kanilang reputasyon, personal na buhay, at kalusugang pangkaisipan.
Ipinapahiwatig ng mga kamakailang pag-aaral na humigit-kumulang 2,2% ng mga taong sinurbey sa ilang akademikong akda ang nagpapakilala sa kanilang sarili bilang mga biktima ng mga intimate deepfake, habang 1,8% ang umamin na lumikha o nagpamahagi ng ganitong uri ng nilalaman. Bagama't maaaring mukhang mababa ang mga bilang na ito, sumasalamin ang mga ito sa isang nakababahala at lumalaking trend.
Bukod pa rito, ang mga deepfake ay nakakatulong sa isang "krisis ng katotohanan" : kung may anumang ebidensyang audiovisual na maaaring imbentuhin, ang lipunan ay nanganganib na ipagpalagay na walang anumang bagay ang lubos na kapani-paniwala. Ito marahil ang pinakamapanganib na pangmatagalang epekto, dahil sinisira nito ang pangunahing tiwala na kinakailangan para sa digital na pakikipamuhay at matalinong pampublikong debate.
Epekto sa pandaraya at cybersecurity ng korporasyon
Sa mundo ng negosyo, ang mga deepfake ay nagiging isang mabisang kasangkapan sa pag-atake para sa mga cybercriminal. Hindi ito science fiction: marami nang mga kaso ng mga ehekutibo na nagpapanggap gamit ang video o audio upang mag-utos ng mga paglilipat, humiling ng sensitibong data, o magbigay ng mga maling estratehikong tagubilin.
Isa sa mga pinakakaraniwang senaryo ay ang [ hindi malinaw - posibleng "email address" o "numero ng telepono"]. Bukod sa klasikong mapanlinlang na email, isinasama rin ng umaatake ang isang deepfake na video o audio recording ng CEO o CFO, na nagpapatibay sa pagkaapurahan ng kahilingan. Kapag nakita o narinig ang kanilang "boss," ibinababa ng biktima ang kanilang pagbabantay at isinasagawa ang utos.
Ginagamit din ang mga deepfake sa advanced social engineering . Halimbawa, isang tila karaniwang video ang ipinapadala sa isang law firm kung saan hinihiling ng isang partner ang agarang pagpirma ng mga kontrata o pag-access sa ilang mga dokumento. Posible ang konteksto, tugma ang imahe at boses, at ang sistema ng beripikasyon ay nakasalalay lamang sa pagkilala ng mukha.
Sa mga nagiging karaniwang kapaligiran sa malayuang pagtatrabaho, ang mga umaatake ay nakakalusot sa mga video call sa pamamagitan ng pagpapanggap bilang mga miyembro ng koponan . Gamit ang mga avatar na binuo ng AI, nakikilahok sila sa mga pagpupulong, humihiling ng access sa mga internal na sistema, o nagpipilit para sa kumpidensyal na impormasyon. Ang pagpapanggap ay maaaring hindi mapansin kung ang pag-uugali ay tila hindi naman kakaiba.
Ang lahat ng ito ay nagdudulot ng direktang hamon sa mga sistema ng seguridad batay sa pagkilala sa mukha o boses. Ipinapahiwatig ng mga kamakailang pag-aaral na ang maliliit na pagsasaayos sa mga anino, matalinong paglabo, o ingay ng kalaban ay maaaring lubos na makabawas sa bisa ng mga biometric detector, na nagpapahintulot sa isang pekeng mukha na malampasan ang kontrol sa pag-access.
Mga hamon sa pagtuklas: bakit hindi sapat ang antivirus software lamang
Ang pagtukoy ng mga deepfake ay hindi kasingdali ng pag-install ng software at paglimot dito. Ang mga kasalukuyang modelo ng pagtukoy ay nahaharap sa isang pangunahing problema: limitado ang kanilang kakayahang gawing pangkalahatan . Karaniwan silang sinasanay gamit ang mga partikular na pamamaraan at istilo ng manipulasyon, at kapag lumitaw ang isang bagong henerasyon ng algorithm, nawawalan sila ng bisa.
Bukod pa rito, maaaring magdulot ang mga umaatake ng mga kaguluhang dulot ng tunggalian na partikular na idinisenyo upang linlangin ang mga detektor . Ibig sabihin, nagdaragdag sila ng ingay na hindi mahahalata ng mata ng tao, ngunit nakakalito sa mga sistemang forensic at nagpapahintulot sa minanipulang nilalaman na dumaan sa mga filter na parang ito ay tunay.
Dagdag pa rito ang hamon ng scalability. Ang mga platform at social network ay nakakatanggap ng napakaraming video at audio araw-araw , na halos imposibleng magsagawa ng malalimang pagsusuri sa bawat piraso. Marami ang napipilitang gumamit ng sampling, mababaw na pagsusuri, o mga automated system na kung minsan ay nabibigo.
Samakatuwid, sa kasalukuyan ay walang "pilak na bala" laban sa mga deepfake. Ang depensa ay nangangailangan ng kombinasyon ng mga pamamaraan : pagsusuri ng metadata, pagsusuri ng mga visual o audio artifact, mga neural network na sinanay upang matukoy ang mga banayad na pattern, at, napakahalaga, pagsasanay sa gumagamit at kritikal na pag-iisip.
Ang mismong pagsulong ng AI ay nangangailangan ng patuloy na pag-update ng mga modelo ng pagtuklas . Ang bawat bagong henerasyon ng mga generative tool ay nangangailangan ng pagsusuri at muling pagsasanay ng mga sistemang pandepensa, na lumilikha ng isang walang katapusang laro ng pusa-at-daga sa pagitan ng mga umaatake at tagapagtanggol.
Balangkas na legal: kung paano tumutugon ang Espanya at ang Unyong Europeo
Mula sa legal na pananaw, ang mga deepfake ay hindi palaging itinuturing na isang partikular na krimen, ngunit ang kanilang mapaminsalang paggamit ay nasa ilalim ng ilang umiiral na mga kriminal na pagkakasala at regulasyon . Sa Espanya, ang Penal Code ay nag-aalok ng iba't ibang anyo ng proteksyon laban sa panggagaya at mga paglabag sa privacy.
Ang Artikulo 197 at iba pa ay nagpoprotekta sa karapatan sa privacy at sa sariling imahe, na nagpaparusa sa pagkuha, paggamit, o pagpapakalat ng mga intimate na imahe o recording nang walang pahintulot , kahit na ang mga ito ay digital na manipulado. Ang isang sekswal na deepfake na ipinakalat nang walang pahintulot ay maaaring ituring na isang krimen laban sa privacy.
Isinasabatas ng Artikulo 401 ang pagnanakaw ng pagkakakilanlan , na maaaring ilapat kapag ang isang deepfake ay ginamit upang magpanggap na ibang tao, halimbawa, upang linlangin ang mga ikatlong partido o gumawa ng pandaraya. Ang Artikulo 208-210 ay nagreregula sa paninirang-puri at paninirang-puri, na naaangkop kung ang maling nilalaman ay seryosong nakakasira sa karangalan o reputasyon ng biktima.
Sakop ng Artikulo 248 at 249, na may kaugnayan sa pandaraya, ang mga kaso kung saan ginagamit ang mga binagong boses o mukha upang makakuha ng ilegal na pinansyal na pakinabang . Sa mga kasong ito, ang teknolohiya ng deepfake ang ginagamit na paraan upang maisagawa ang krimen, bagama't hindi ito inuri bilang isang hiwalay na pagkakasala.
Kasabay nito, pinoprotektahan ng Organic Law 3/2018 (LOPDGDD) at ng General Data Protection Regulation (GDPR) ang personal na data, kabilang ang biometric data tulad ng mukha at boses. Ang paggamit ng imahe o boses ng isang tao sa isang deepfake nang walang pahintulot ay maaaring maituring na isang seryosong paglabag sa proteksyon ng data, na may mga parusang administratibo at potensyal na sibil o kriminal na pananagutan.
Ang Organic Law 1/1982, tungkol sa karapatan sa karangalan, privacy, at sariling imahe, ay nagpapahintulot sa biktima na magsampa ng kasong sibil laban sa sinumang nagpapakalat ng deepfake na lumalabag sa kanilang dignidad o reputasyon , na humihiling ng pag-alis ng nilalaman, kabayaran para sa mga danyos, at agarang mga hakbang sa pag-iingat upang matigil ang pagpapakalat nito.
Sa antas ng Europa, hihilingin ng AI Act (EU Artificial Intelligence Regulation) na ang nilalamang nabuo ng AI, kabilang ang mga deepfake, ay malinaw na matukoy bilang ganito. Samantala, inoobligahan ng Digital Services Act (DSA) ang mga digital platform at serbisyo na mabilis na tumugon sa nilalamang mali, mapanirang-puri, o lumalabag sa mga pangunahing karapatan.
Bukod pa rito, ang ilang pamahalaan—kabilang ang sa Espanya—ay nagsimulang mas espesipikong tukuyin ang mga krimen na may kaugnayan sa mga sekswal na deepfake at pag-aayos, na pinapalakas ang proteksyong kriminal laban sa non-consensual pornography na nalilikha gamit ang AI at ang pang-aabuso sa mga menor de edad sa pamamagitan ng audiovisual manipulation.
Mga partikular na panganib para sa mga bata, kababaihan, at mga mahihinang grupo
Hindi pantay ang epekto ng mga deepfake sa lahat. Ipinahihiwatig ng datos na ang mga kababaihan, mga menor de edad, at ilang pampublikong grupo ang may malaking bahagi ng epekto, lalo na pagdating sa mga intimate na nilalamang ibinabahagi nang walang pahintulot.
Ipinapahiwatig ng mga kamakailang ulat na ang isang malaking bahagi ng mga deepfake na natukoy online ay mga pornograpikong at tinatarget ang mga kababaihan, marami sa kanila ay mga pampublikong pigura. Ito ay isinasalin sa mga kampanya ng panliligalig, blackmail, at paninirang-puri, na may malakas na bahagi ng digital na karahasan batay sa kasarian.
Tinataya ng ilang pag-aaral at ulat na isa sa limang kabataan sa Espanya ang nag-uulat na nagkaroon ng ilang uri ng karanasan na may kaugnayan sa mga deepfake noong pagkabata o pagbibinata, maging bilang direktang biktima, nakasaksi, o kalahok. Ang maagang pagkakalantad na ito ay nagpapataas ng panganib na maging normal ang mga kasanayan sa panliligalig at sextortion.
Para sa kriminolohiya at sistemang hudisyal, ang mga deepfake ay nagdudulot ng karagdagang sakit ng ulo: maaari itong iharap bilang "ebidensya" sa mga legal na paglilitis , na nagpapahirap sa mga hukom, tagausig, at mga eksperto na matukoy ang pagiging tunay ng mga materyales.
Ang sitwasyon ay nagdudulot din ng mga seryosong problema sa larangan ng personal na seguridad at pampublikong cybersecurity, dahil ang mga biometrics ng access control na nakabatay sa mukha o boses ay maaaring maging lalong hindi maaasahan kung ang matibay na mekanismo para sa pagtukoy ng sintetikong nilalaman ay hindi sabay na mabubuo.
Higit pa sa personal na pinsala, ang paglaganap ng mga deepfake ay nakakatulong sa isang klima ng malawakang kawalan ng tiwala sa digital na impormasyon . Kung ang anumang video o audio ay maaaring peke, ang ideya ay nananatili na "walang ligtas," at sa huli, maraming tao ang tumitigil sa pagsubok na makilala ang pagkakaiba sa pagitan ng kung ano ang totoo at kung ano ang minanipula.
Ang pagkahapo sa impormasyong ito ay lalong mapanganib dahil nagbubukas ito ng daan para sa mga kampanya ng disinformation at manipulasyon ng masa . Ang mga pag-atake ng disinformation na pinagsasama ang pekeng balita at mga audiovisual deepfake ay maaaring makaimpluwensya sa mga halalan, reperendum, mga desisyon sa pamumuhunan, at mga ugnayang internasyonal.
Ang social media ay nagsisilbing pampabilis ng prosesong ito. Ang mali ngunit mabisang nilalaman ay maaaring maging viral sa loob lamang ng ilang minuto , habang ang beripikasyon at mga pagwawasto ay dumarating nang mas huli at mas kaunti ang naaabot. Ang pagkaantala na ito ay malinaw na pabor sa mga gumagamit ng generative AI para sa mga malisyosong layunin.
Ang mga pangunahing plataporma—Facebook, X (dating Twitter), Google, atbp.—ay nag-anunsyo ng mga hakbang upang limitahan ang pagkalat ng mga mapaminsalang deepfake , mula sa mga tahasang pagbabawal hanggang sa paglalagay ng label at mabilis na mga sistema ng pag-alis. Gayunpaman, ang laki ng problema at ang bilis ng pag-unlad ng teknolohiya ay nangangahulugan na ang tugon ay palaging may kinikilingan.
Ang pinakamatinding panganib ay ang mga penomenong ito ay nakakatulong sa pagguho ng kritikal na pag-iisip sa mga mamamayan . Kung "lahat ay maaaring maging kasinungalingan," nagiging mas madali ang paghahasik ng pagdududa, pagkalat ng matinding mga teorya, at pagsira sa tiwala sa media, mga institusyon, at maging sa mismong demokratikong sistema.
Mga estratehiyang teknolohikal at organisasyonal para sa depensa
Dahil sa ganitong komplikadong problema, ang tugon ay dapat na maging pantay na maraming aspeto. Sa teknikal na antas, ang mga algorithm ng pagtukoy na nakabatay sa AI ay binubuo na naghahanap ng mga banayad na hindi pagkakapare-pareho sa mga video: mga error sa lip-sync, hindi natural na pagkurap, mga artifact ng compression, labis na makinis na balat, o malabong mga gilid sa bahagi ng mukha.
Ang isa pang pamamaraan ay kinabibilangan ng pagprotekta sa nilalaman "sa pinagmulan" sa pamamagitan ng paglalagay ng mga hindi nakikitang watermark o napapatunayang metadata na nagpapatunay sa pagiging tunay ng isang video o larawan. Ang mga markang ito ay makakatulong na makilala ang mga orihinal na materyal mula sa mga minanipulang kopya, basta't mayroong tinatanggap na pamantayan at mga kagamitan upang mapatunayan ang mga ito.
Sa mga korporasyon, ang pinahusay na multi-factor authentication ay lalong lumalawak . Nangangahulugan ito na hindi lamang umaasa sa imahe o boses ng isang tao, kundi pagsasama-sama nito sa iba pang mga salik: geolocation, karaniwang mga pattern ng paggamit, mga kumpirmasyon sa pamamagitan ng mga alternatibong channel (SMS, mga secure na application), o mga one-time code.
Inirerekomenda rin na magpatupad ng malinaw na mga protokol para sa mga sensitibong transaksyon , tulad ng mga bank transfer o pagbabago ng mga kredensyal. Halimbawa, tiyakin na walang mahalagang kaayusang pinansyal ang isinasagawa lamang sa pamamagitan ng email o video call, ngunit palaging nangangailangan ng karagdagang pag-verify sa pamamagitan ng ibang channel.
Panghuli, ang patuloy na pagsasanay ay mahalaga. Ang mga organisasyong nagsasagawa ng mga pagsasanay sa phishing at deepfake —na nagtuturo sa kanilang mga tauhan na matukoy ang mga banayad na senyales tulad ng mga isyu sa audio sync, hindi natural na mga kilos, o hindi pangkaraniwang pag-uugali—ay bumubuo ng isang mas matatag na kultura ng seguridad.
Paano matukoy ang isang deepfake: praktikal na mga palatandaan para sa pang-araw-araw na buhay
Mula sa pananaw ng isang gumagamit, may ilang mga palatandaan na makakatulong upang matukoy ang pekeng nilalaman, bagama't hindi palaging tiyak ang mga ito. Ang unang rekomendasyon ay hanapin ang mga halatang depekto sa paningin : malabong mga gilid sa paligid ng mukha, hindi pantay na ilaw kumpara sa background, pabigla-biglang paggalaw, o "kakaibang" ekspresyon ng mukha.
Ang pagkurap ay isa pang kapaki-pakinabang na indikasyon. Maraming deepfake ang nagpapakita pa rin ng hindi natural na mga pattern ng pagkurap : mga matang nananatiling masyadong nakabukas nang matagal na panahon o kumukurap nang may kakaibang ritmo. Bagama't umuunlad ang mga mas bagong modelo sa aspetong ito, nananatili itong isang kahinaan sa maraming pagkakataon.
Mahalaga ring tingnan ang katawan, leeg, at balikat ng tao. Karamihan sa mga manipulasyon ay nakatuon sa mukha , kaya maaaring makita ng iba pang bahagi ng katawan ang pekeng anyo kung ang mga proporsyon, postura, o kilos ay hindi tumutugma sa inaasahan para sa taong iyon.
Ang haba ng video ay maaaring isa pang palatandaan. Ang paggawa ng mahabang deepfake ay nangangailangan ng mas maraming resources at nagpapataas ng posibilidad ng mga error, kaya naman ang maraming minanipulang nilalaman ay medyo maikli at nakatuon sa iisang parirala o eksena na may malaking epekto. Ang isang napakaikling clip na may masasakit na mensahe ay dapat magdulot ng babala.
Panghuli, mahalagang suriin ang konteksto at pinagmulan ng recording . Sino ang unang nagbahagi nito? Lumalabas ba ito sa mga kagalang-galang na outlet ng media o sa mga hindi nagpapakilalang account lamang? Mayroon bang iba pang mga independiyenteng mapagkukunan na nagpapatunay sa iyong nakikita? Ang pagpapabagal sa pag-playback o panonood ng video frame-by-frame ay makakatulong sa pagtukoy ng mga biglaang pagbabago sa background, pagkakahanay ng mukha, o sa loob ng bibig (dila, ngipin)—mga lugar kung saan maraming algorithm pa rin ang nabibigo.
Literasiya sa media at kultura ng beripikasyon
Hindi magiging sapat ang anumang teknolohiya sa pagtukoy kung walang mamamayang nagtataglay ng mga kasanayan sa kritikal na pag-iisip at mga pangunahing kakayahan sa pag-verify . Binibigyang-diin ng mga organisasyong tulad ng INCIBE at ng Internet User Security Office ang pangangailangang maging mapagmatyag tungkol sa impormasyong natatanggap natin, suriin nang detalyado ang nilalaman, at palaging beripikahin ito gamit ang mga mapagkakatiwalaang mapagkukunan.
Ang pag-ugaliang huwag basta-basta magbahagi ng kahit ano , lalo na kung ito ay nakakaakit ng matinding emosyon (takot, galit, poot), ay isa sa mga pinakamahusay na panlaban sa pagkalat ng mga deepfake at pekeng balita. Ang paglalaan ng ilang segundo para tanungin ang iyong sarili, "Sino ang makikinabang kung paniniwalaan ko ito?" ay maaaring magdulot ng malaking pagbabago.
Ang pagsasanay sa cybersecurity, online na pananaliksik, at cyber intelligence ay hindi lamang para sa mga espesyalista. Ang pag-unawa kung paano gumagana ang phishing, social engineering, at mga disinformation attack ay nakakatulong sa sinuman na mabawasan nang malaki ang kanilang kahinaan, kapwa sa kanilang personal at propesyonal na buhay.
Para sa mga bata at tinedyer, lalong mahalaga na isama ang mga paksang ito sa digital at emosyonal na edukasyon , na nagpapaliwanag sa mga panganib ng cyberbullying, sextortion, at pagbabahagi ng mga intimate na larawan. Malaki ang naitutulong ng pagkaalam na ang isang video ay maaaring peke, ngunit ang mga kahihinatnan nito ay maaaring maging totoong-totoo.
Para sa mga negosyo at institusyon, ang pamumuhunan sa mga programang pang-awareness na higit pa sa pangkalahatang payo sa cybersecurity ay isa nang estratehikong pangangailangan. Ang mga hindi nakakaintindi ng mga deepfake, ang kanilang epekto, at kung paano tutugon sa mga ito ay magiging malinaw na disbentaha sa bagong digital na tanawin.
Lahat ng indikasyon ay nagmumungkahi na ang mga deepfake ay patuloy na dadami sa dami at sopistikasyon , na makakaapekto sa seguridad, ekonomiya, politika, at pribadong buhay ng milyun-milyon. Ang pagtanggap na sila ay bahagi ng digital na tanawin, paghingi ng malinaw na mga legal na balangkas, pamumuhunan sa matatag na mga teknolohiya sa pagtukoy, at, higit sa lahat, paglinang ng isang kultura ng beripikasyon at ibinahaging responsibilidad ang mga pinakamahusay na paraan upang maiwasan ang makapangyarihang kasangkapang ito na maging isang sandata na ganap na sumisira sa tiwala sa ating mga online na buhay.