Deepfake – čo to je a ako ho rozpoznať od originálu

Vstupujeme do novej digitálnej éry, v ktorej už nemôžeme veriť všetkému, čo vidíme a počujeme. To, čo bolo kedysi považované za nezvratný dôkaz, že sa niečo naozaj stalo, zachytené ako fotografia, video či zvukový záznam, sa v súčasnosti čoraz častejšie stáva možným nástrojom manipulácie. S nástupom technológie deepfake sa stiera hranica medzi skutočnosťou a ilúziou, podobne ako vo filme Matrix.

S dostupným počítačovým vybavením a programovými nástrojmi môže ktokoľvek pozmeniť akýkoľvek obrázok, zvuk, či dokonca video tak, aby vyzeralo úplne realisticky, aj keď ide o klam. Falošné správy, zmanipulované politické prejavy či hanlivé videá poškodzujúce reputáciu druhých komplikujú rozlíšenie pravdy od podvodu.

Tieto technológie, ktoré kedysi slúžili ako dych-berúce filmové efekty, sa stávajú nebezpečným nástrojom v rukách podvodníkov. Tvorcovia fake videí s ľahkosťou vytvárajú realistické situácie, ktoré ovplyvňujú verejnú mienku, rozširujú dezinformácie na sieťach a narúšajú férovú politickú súťaž. Naopak, konzumenti týchto upravených médií sa stávajú zraniteľnými voči podvodom, manipuláciám a klamstvám, ktoré môžu mať vážne dôsledky na ich životy.

Dôvera v digitálne médiá je čoraz krehkejšia. Stávame sa svedkami množstva nových falošných informácií, ktoré sa šíria virtuálnym priestorom ohromnou rýchlosťou. Vyzerajú až príliš reálne. Dajú sa tieto digitálne podvody rozpoznať a dokážeme sa chrániť pred deepfake hrozbami? Čítaj ďalej.

Deepfake technológia – ukážka 1

Význam deepfake

Deepfake je pokročilá forma digitálnej manipulácie, ktorá pomocou umelej inteligencie (AI) a strojového učenia (ML) vytvára alebo upravuje audiovizuálny obsah. Kvalita falošného obsahu sa určuje podľa toho, ako verne a realisticky na nás pôsobí a ako zložité je ho odlíšiť od skutočného obsahu. Dôležitú úlohu v tomto procese zohrávajú dátoví vedci (AWS Data Scientist), ktorí analyzujú obrovské množstvo vizuálnych a zvukových dát, trénujú AI modely a optimalizujú algoritmy tak, aby deepfakes výstupy pôsobili čo najpresvedčivejšie. 

Samotný výraz deepfake kombinuje slovíčka deep a fake. Deep pochádza z deep learning AI technológie (čo je podmnožina strojového učenia – machine learning, a využíva neurónové siete na spracovanie informácií vo vrstvách) a fake označuje falošný obsah. 

Počiatok deepfake 

Technológia syntetických médií má svoje korene v oblasti počítačového spracovania obrazu a umelej inteligencie, ktorá sa začala rozvíjať už v 90. rokoch 20. storočia. V tomto období sa vyvíjali technológie ako počítačom generovaný obraz (CGI), ktoré umožňovali realistické animácie a simulácie ľudských tvárí. Aj keď tieto technológie boli určené hlavne pre filmový priemysel, predstavili budúcu formu pre pokročilejšie systémy manipulácie obrazu a videa. 

Kedysi slúžili ako dych-berúce filmové efekty, no teraz sa stávajú nebezpečným nástrojom v rukách podvodníkov. Tvorcovia falšovaných videí môžu s ľahkosťou vytvoriť realistické situácie, ktoré môžu ovplyvniť verejnú mienku, rozšíriť dezinformácie na sociálnych sieťach alebo dokonca narušiť férovú politickú súťaž. Naopak, konzumenti týchto upravených médií sa stávajú zraniteľnými voči podvodom, manipuláciám a klamstvám, ktoré môžu mať vážne dôsledky na ich životy. 

Samotné základy technológie deepfake boli položené až s evolúciou v rámci neurónových sieti. V roku 2014 Ian Goodfellow, vedec v oblasti strojového učenia, predstavil koncept generatívnych adversariálnych sietí (GANs). Tieto siete fungujú na princípe dvoch algoritmov, ktoré súperia. 

Algoritmus generátora

Primárnou úlohou generátora je vytvárať počiatočný falošný digitálny obsah, ako napríklad zvuk, fotografia alebo video. Cieľom generátora je čo najvernejšie napodobniť vzhľad, hlas alebo správanie cieľového jedinca. 

Algoritmus diskriminátora

Diskriminátor potom analyzuje obsah vytvorený generátorom, aby určil, do akej miery sa javí ako autentický alebo falošný. 

Spätná väzba medzi generátorom a diskriminátorom opakovaním vytvára nepretržitý proces postupného zlepšovania. Táto technológia sa stala základom pre vytváranie realistických deepfake videí a obrázkov. 

Deepfake technológia – ukážka 2

Vznik výrazu deepfake

Samotný názov sa prvýkrát objavil koncom roku 2017 na platforme Reddit. Užívateľ, ktorý si zvolil prezývku „Deepfake“, začal zdieľať upravené videá známych osobností s pornografickým obsahom, pričom využíval algoritmy strojového učenia na výmenu tvárí celebrít a porno-herečiek. Hoci išlo o amatérske experimenty, tieto falošné videá okamžite vyvolali široký záujem verejnosti, ale aj obavy z toho, ako by sa technológia z neškodnej zábavy mohla dať zneužiť na neetické alebo nelegálne účely. 

Rýchly rozvoj technológie deepfake

Od roku 2018 sa technológia deepfake začala razantne zlepšovať, najmä vďaka dostupnosti výkonných výpočtových zariadení, ako sú GPU, Ryzen Threadripper a rozvoju cloudu. Začali sa pravidelne objavovať prípady, keď deepfake videá boli použité na šírenie dezinformácií, ovplyvňovanie verejnej mienky alebo vytváranie erotického obsahu bez súhlasu zúčastnených osôb. 

Deepfake – exponenciálny nárast falošného obsahu

V posledných rokoch sme však svedkami exponenciálneho rastu v kvalite a dostupnosti deepfake technológie. Len za minulý rok zaznamenal deepfake obsah 1 700 % nárast oproti roku predtým. Kvalita falošných materiálov sa zlepšila až do takej miery, že vyše 75 % ľudí už má problém rozlíšiť reálny obsah od falošného. Zatiaľ, čo na začiatku vyše 95 % deepfake materiálu sa týkalo obsahu pre dospelých, v súčasnosti až 80 % všetkých deepfejkových podvodov sa týka kryptomien. 

Najčastejšie si podvodníci vyberajú na propagáciu rôznych pochybných investícii práve Elona Muska. Ľudia už takýmto spôsobom prišli o miliardy dolárov. Najväčší počet falošných reklám, ktoré nabádajú ľudí, aby investovali do fiktívnych aktív, možno nájsť na Facebooku, ale na tieto účely sa používajú aj sieť X (predtým Twitter), YouTube alebo Instagram. 

Deepfake technológia – ukážka 3

Postup vytvárania deepfake

Proces začína zozbieraním veľkého množstva dát, hlavne fotografií a videí osoby, ktorú sa budeme snažiť napodobniť. Čím viac materiálu zozbierame, tým realistickejšia a presvedčivejšia bude podoba konečného výsledku. Dátami nakŕmime AI systém, ktorý využíva techniky hĺbkového strojového učenia na analýzu a určenie charakteristických čŕt mimiky tváre a pohybov časti tváre ako sú oči, uši, ústa, obočie a pod. 

Následne sa využije ďalší dataset. Pozostáva z materiálu ako obraz a zvuk osoby, ktorú chceme napodobňovať. Najčastejšie je to náš vlastný obraz a zvuk, ktorý chceme preniesť na napodobňovanú osobu. Umelá inteligencia pomocou komplexných algoritmov zlúči tieto dva datasety a vytvorí reálne vyzerajúcu reprezentáciu. 

Samozrejme tento proces nie je priamočiary, ale skôr iteratívny a vyžaduje neustále úpravy. Aby bol deepfake presvedčivý treba popracovať na synchronizácii pier, výrazov tváre a celkového nasvetlenia. Rovnako sa treba pohrať aj s audiom, najmä, ak vytvárame video, v ktorom má osoba rozprávať. 

V súčasnosti existujú deepfake nástroje, ktoré sú schopné vytvoriť pomerne presvedčivý digitálny podvrh už z jednej fotografie, alebo napodobniť hlas na základe niekoľko minútovej audio nahrávky. Spoločnosť Deloitte uvádza, že deepfake software sa dá kúpiť na dark webe už za 20 dolárov. Na druhej strane, lepšie, profesionálnejšie riešenia stoja niekoľko tisíc dolárov. Samozrejme výsledok je priamoúmerný množstvu práce a času, ktorú tomu venujeme. 

Deepfake vs. originál – tváre vytvorené AI

S pokrokom v oblasti umelej inteligencie sme svedkami vzniku technológií schopných generovať syntetické tváre, ktoré sú tak realistické, že ich človek takmer nedokáže rozpoznať od skutočných. Štúdia Sophii J. Nightingale a Hanyho Farida z roku 2022, publikovaná v časopise Proceedings of the National Academy of Sciences (PNAS), sa venovala práve tejto problematike. 

V štúdii autori zistili, že tváre generované pomocou pokročilých algoritmov, konkrétne StyleGAN2, sú pre bežných pozorovateľov takmer nerozoznateľné od skutočných tvárí. V experimentoch, kde účastníci hodnotili, či je tvár reálna alebo syntetická, dosiahli presnosť len okolo 48,2 % až 59 %, čo je na úrovni náhodného odhadu. Dokonca ani poskytnutie tréningu a špecifického návodu na identifikáciu syntetických tvárí neviedlo k podstatnému zlepšeniu presnosti. Syntetické tváre sú dnes tak presné, že človek nemá možnosť ich efektívne odhaliť voľným okom. 

Dôveryhodnosť syntetických tvárí

Okrem toho, že sú syntetické tváre nerozoznateľné od skutočných, štúdia odhalila, že sú v priemere hodnotené ako dôveryhodnejšie. Účastníci experimentu mali hodnotiť dôveryhodnosť tvárí na stupnici od 1 do 7 (na stupnici je 1 – najmenej dôveryhodná tvar, 7 – najviac dôveryhodná tvár), kde syntetické tváre dosiahli priemernú hodnotu 4,82, zatiaľ čo skutočné tváre len 4,48. Tento rozdiel, hoci malý, bol štatisticky významný. Príčina tohto javu môže spočívať v tom, že syntetické tváre často vykazujú jemný úsmev, čo tiež pozitívne ovplyvňuje ich hodnotenie. 

Tieto zistenia majú závažne dôsledky pre digitálny svet. S dostupnosťou tejto technológie sa otvárajú možnosti jej zneužívania – od tvorby falošných identít a podvodov až po anonymné šírenie dezinformácií. V situácii, kde akákoľvek fotografia alebo video môže byť falšované, môže byť autentickosť digitálneho obsahu spochybnená už na začiatku. 

Autori štúdie síce navrhujú napríklad implementáciu vodoznakov do generovaných obrázkov, ale to situáciu nerieši, keďže AI algoritmy ich dokážu jednoducho odstrániť. Lepšie riešenie by bolo využiť verifikáciu na báze kryptografie (cryptographic verification), kde by sa k obsahu pripojil súkromný šifrovací kľúč alebo digitálny podpis a jeho zodpovedajúci verejný kľúč sa sprístupní na dešifrovanie podpisu. 

Deepfake trendy 2024

Poďme sa spätne pozrieť na rok 2024. Štúdia Deepfake Trends 2024 prezrádza, že v tomto roku sa deepfake správam mimoriadne darilo a to hlavne zásluhou voľne prístupných generatívnych AI nástrojov. Deepfake klamstvá sa šírili naprieč rôznymi sektormi, ovplyvňujúc biznisy všetkých veľkostí a nastavujúc pálčivú otázku efektívneho overovania identity. 

Dôležité zistenia

• Frekvencia deepfake podvodov narastá. Až polovica podnikov na celom svete zažila pokusy o podvod pomocou audio alebo video deepfake materiálov.
• Priemerné finančné straty dosahujú až 450 000 dolárov, pričom veľké spoločnosti hlásia škody často presahujúce milión dolárov.
• Pri vnímaní rizika až 66 % manažérov považuje deepfake za vážnu hrozbu, pričom najčastejšie sa obávajú krádeže identity (42 %) a phishingových útokov.

Globálny pohľad a trendy podľa odvetví 

Deepfejky majú najväčší vplyv v krajinách ako Spojené arabské emiráty a Singapur, kde ich za posledný rok zažilo viac ako 50 % podnikov. Najviac zasiahnuté sektory zahŕňajú IT, krypto firmy a finančné služby, no významné riziká hlásia aj zdravotnícke a letecké spoločnosti. 

Ochranné opatrenia firiem

Biometrická verifikácia a viacfaktorová autentifikácia (MFA): Viac ako 84 % podnikov nasadilo pokročilé technológie na detekciu deepfakov, pričom biometrické údaje ako odtlačky prstov a detekcie živosti (liveness detection) hrajú najvýznamnejšiu úlohu.
Pokročilé algoritmy AI: Takmer polovica spoločností využíva strojové učenie na zlepšenie presnosti rozpoznávania deepfake podvodov. 

Ľudia už teraz prichádzajú o miliardy dolárov ročne tým, že dávajú peniaze podvodníkom. Centrum pre finančné služby poradenskej spoločnosti Deloitte predpovedá, že generatívna umelá inteligencia by mohla do roku 2027 spôsobiť v USA straty z podvodov vo výške 40 miliárd dolárov, pričom v roku 2023 to bolo 12,3 miliardy dolárov, čo predstavuje nárast o 32 % ročne. 

V nasledujúcom období bude zaujímavé sledovať, ako sa podnikom podarí adaptovať na stále sofistikovanejšie podvody. 

Deepfake technológia – ukážka 4

Svetlá stránka deepfake technológie

Hoci sa deepfake technológie často spájajú s podvodmi a hrozbami, ich potenciál siaha ďaleko za hranice kriminality. Poďme sa pozrieť na to, ako aplikovanie deepfake môže výrazne obohatiť rôzne odvetvia a zlepšiť kvalitu nášho každodenného života. 

Inovatívna zábava a umenie

Deepfaky transformujú filmový a televízny priemysel. Umožňujú vytvárať realistické špeciálne efekty, oživovať historické postavy alebo dokonca replikovať hercov pre scény, ktoré by inak nebolo možné natočiť. Okrem toho ponúkajú umelcom nové možnosti na vyjadrenie vlastnej kreativity, napríklad premenou statických obrazov na živé portréty. 

Personalizácia a komunikácia

V marketingu a reklame môže deepfake technológia umožniť vytvárať personalizované kampane, ktoré lepšie oslovia cieľové skupiny. Napríklad generovanie videí, v ktorých známe tváre oslovujú jednotlivých zákazníkov menom, môže zvýšiť angažovanosť a budovať silnejšie vzťahy so značkou. 

Vzdelávacie nástroje

Deepfake technológie nachádzajú uplatnenie aj vo vzdelávaní. Školy a univerzity môžu používať realistické simulácie na výučbu histórie, kde „ožívajú“ historické osobnosti a rozprávajú svoje príbehy, alebo na výcvik odborníkov, napríklad lekárov či pilotov, prostredníctvom simulácií skutočných situácií. 

Ochrana kultúrneho dedičstva

Deepfaky sa môžu použiť na rekonštrukciu poškodených alebo stratených kultúrnych artefaktov. Pomáhajú digitálne obnovovať sochy, obrazy či iné historické pamiatky a sprístupňovať ich širšiemu publiku. Môžu tiež slúžiť ako nástroje na uchovávanie spomienok, napríklad vytváraním realistických modelov osôb pre rodinné archívy. 

Výskum a vývoj umelej inteligencie

Deepfake technológie zároveň prispievajú k zlepšovaniu umelej inteligencie v oblasti rozpoznávania podvodov a ochrany dát. Výskum zameraný na detekciu deepfake podvodov prináša nové metódy na zvyšovanie bezpečnosti v digitálnom svete. 

Ako odhaliť deepfake

Ešte pred pár rokmi by som vedel povedať postup na odhalenie deepfake materiálu. V súčasnosti, ak si dá niekto tú prácu a vychytal všetky možné detaily, tak je to takmer nemožné. Dokonca s tým majú problém aj systémy AI zamerané na hľadanie deepfake vzorcov v obsahu. Toto sa týka deepfake materiálu, kde osoba nerobí rýchle pohyby. Pre deepfake technológiu je napr. stále problém vygenerovať realistickú gymnastku pri cvičení, nie nadarmo sa volá gymnastika moderný Turingov test pre deepfake. 

Deepfake technológia – ukážka 5

Ako sa chrániť pred dezinformáciami?

Kyberzločinci a podvodníci si uvedomujú, že mnohí ľudia, najmä starší z nás, nerozlišujú, či ide o deepfake alebo originál. Neoverujú si, či je zobrazený obsah autentický. Jediná ochrana, ktorú sme dostali od prírody je kritické myslenie. Predtým, ako uveríme niečomu, čo vidíme, počujeme alebo čítame, musíme sa zastaviť a položiť si niekoľko otázok. Pravdepodobne si o nich už počul. 

Kto? Kto prezentuje tieto informácie a aký je zdroj?
Čo? Čo je povedané alebo ukázané? Je informácia šokujúca? Znie to príliš dobre na to, aby to bola pravda?
Kde? Odkiaľ tieto informácie pochádzajú? Dá sa zistiť, kde boli prvýkrát zverejnené?
Kedy? Kedy boli tieto informácie zaznamenané? Dá sa to overiť?
Prečo? Prečo sú tieto informácie prezentované? Mohol by byť za tým nejaký postranný úmysel?
Ako? Ako viem, že je to skutočné?  

Kvíz

O tom, že je čoraz zložitejšie rozlíšiť deepfejkový obsah od skutočného sa môžeš presvedčiť aj v tomto kvíze v angličtine. 

Deepfake – riziko alebo príležitosť?

Deepfake technológia je fascinujúcim dôkazom toho, ako ďaleko sa ľudská kreativita a technológia ruka v ruke dokážu posunúť. Umožňuje nám nielen vytvárať realistické obrazy a príbehy, ale aj konfrontovať samotnú podstatu toho, čo považujeme za realitu. Núti nás prehodnocovať dôveru – k tomu, čo vidíme, počujeme a čítame.  

Avšak práve v tejto ilúzii sa skrýva príležitosť. Učí nás pozerať sa hlbšie, klásť si kritické otázky a nepodliehať prvotným dojmom. S pomocou kritického myslenia, overovaním faktov a opatrného  prístupu môžeme túto technológiu nielen zvládnuť, ale aj využiť v prospech spoločnosti. 

Deepfake je výnimočný fenomén, ako oheň, ktorý môže byť nebezpečný, ale aj nesmierne užitočný, ak ho vieme správne ovládať. Otvára nám dvere k novým formám kreativity, vzdelávania a inováciám. Výzvou je nielen sa brániť pred jeho rizikami, ale zároveň nájsť spôsob, ako ho zapojiť do nášho života tak, aby nám slúžil, nie ubližoval. 

Budúcnosť patrí tým, ktorí dokážu technológie skrotiť a premeniť ich na nástroje dobra. Kritické myslenie je našou najväčšou zbraňou. S jeho pomocou dokážeme prekonať ilúziu a vytvoriť digitálny svet, kde bude pravda silnejšia než klamstvo. Deepfake je výzvou aj príležitosťou – na nás záleží, ako s touto ilúziou naložíme. 

FAQ otázky a odpovede

Čo je deepfake?

Deepfake je technológia, ktorá využíva umelú inteligenciu na vytváranie realistických falošných videí alebo zvukových nahrávok. Tieto nahrávky môžu zobrazovať osoby, ktoré hovoria alebo robia veci, ktoré v skutočnosti nikdy neurobili. 

Ako deepfake funguje?

Deepfake využíva algoritmy strojového učenia, najmä techniky ako sú generatívne adversariálne siete (GAN). Tieto siete sa učia na základe veľkého množstva dát, aby mohli reprodukovať tváre a hlasy s vysokou presnosťou. 

Aké sú potenciálne využitia deepfake technológie?

Deepfake môže mať rôzne aplikácie, od zábavy (napr. vo filmoch a videohrach) po vzdelávanie a reklamu. Avšak, môže byť tiež zneužitý na šírenie dezinformácií alebo na vytváranie falošných správ. 

Je možné rozpoznať deepfake?

Rozpoznanie deepfake technológie je výzvou, ale existujú nástroje a techniky, ktoré sa vyvíjajú na identifikáciu falošných videí. Tieto nástroje sledujú nezrovnalosti v pohybe, osvetlení a zvuku. 

Aké sú právne a etické otázky spojené s deepfake? 

Deepfake vyvoláva mnoho etických a právnych otázok, vrátane ochrany osobných údajov, autorských práv a potenciálneho zneužitia na šírenie nepravdivých informácií. Mnohé krajiny už začali prijímať legislatívu na reguláciu tejto technológie. 

Môže deepfake ohroziť bezpečnosť?

Áno, deepfake môže byť použitý na podvody, vydieranie alebo politickú manipuláciu. Existujú prípady, kedy boli deepfake videá použité na diskreditáciu verejných činiteľov alebo na šírenie falošných správ. 

Ako sa môžem chrániť pred deepfake? 

Je dôležité byť obozretný pri konzumácii online obsahu. Overujte zdroje informácií, sledujte oficiálne kanály a buďte skeptickí voči videám, ktoré vyzerajú podozrivo alebo sú šírené bez kontextu. 

Autor: Jozef Wagner, Java programátor senior v msg life Slovakia