Slovo deepfake vzniklo spojením dvou pojmů — „deep learning” (hluboké učení, tedy typ umělé inteligence) a „fake” (falzum). Algoritmus se naučí, jak vypadá obličej konkrétního člověka, jak se hýbe, jak mluví, jaká má mimika. K tomu potřebuje velké množství fotografií nebo videí té osoby. Čím víc dat, tím přesvědčivější výsledek.
Technicky za tím stojí metoda zvaná GAN — generativní adversariální síť. Zjednodušeně: dva algoritmy spolu soutěží. Jeden vyrábí falešné video, druhý se snaží odhalit, co je špatně. Vzájemně se zdokonalují, dokud výsledek není skoro k nerozeznání od originálu. Tenhle princip popsal v roce 2014 Ian Goodfellow, tehdy doktorand na Montrealu, a od té doby se technologie posunula dramaticky dopředu.
Výsledkem může být video, kde celebrity říkají věci, které nikdy neřekly. Nebo audio, kde hlas tvého otce přesvědčivě žádá o převod peněz. Nebo fotografie, která nikdy neexistovala.
Co k tomu potřebují útočníci
Dřív bylo potřeba stovky hodin záznamu a výkonný hardware. Dnes existují aplikace, které zvládnou základní deepfake z několika fotek za pár minut. Zdarma. Na telefonu. Bariéra vstupu zmizela.
Kde se s deepfakem nejčastěji setkáš
Nejviditelnější jsou politické deepfaky. V roce 2022 se na ukrajinských sociálních sítích objevilo video, kde prezident Zelenskyj vyzývá vojáky ke kapitulaci. Video bylo zmanipulované a rychle odhaleno — ale za ty hodiny, než se to stihlo opravit, ho viděly statisíce lidí. Škoda byla hotová.
Druhá, méně viditelná oblast jsou podvody. Útočníci naklonují hlas šéfa firmy a zatelefonují účetní s pokynem k urgentnímu převodu. Případ z Hongkongu z roku 2024 — zaměstnanec finanční firmy převedl přes 25 milionů dolarů poté, co absolvoval videokonferenci s „nadřízenými”. Všichni účastníci byli deepfaky. Žádný z nich neexistoval.
Pak jsou deepfaky v oblasti pornografie. Odhaduje se, že přes 90 % všech deepfake videí online spadá do této kategorie — a naprostá většina obětí jsou ženy, které s tím nikdy nesouhlasily. Tohle není hypotetický scénář, tohle se děje.
Kdy to přestane být zřejmé
Starší deepfaky šlo poznat. Rozmazaný okraj obličeje, špatně blikající oči, nereálný pohyb rtů. Dnes už tyto artefakty mizí. Profesionálně zpracovaný deepfake z roku 2024 zvládne projít i trénovaým okem bez povšimnutí. To je zásadní rozdíl oproti situaci ještě před třemi lety.
Jak deepfake poznat — a proč to nestačí
Existuje několik praktických signálů, na které se dá zaměřit. Žádný z nich ale není stoprocentní zárukou.
- Oči — deepfaky mají problém s přirozeným mrkáním nebo odleskem světla v zornici, i když tohle se rychle zlepšuje
- Vlasy a zuby — jemné detaily, které algoritmy dodnes občas „zapomenou” správně vykreslit
- Pohyb hlavy při otočení — profil obličeje bývá problematičtější než pohled zpříma
- Pozadí — v místech kde se obličej překrývá s pozadím vznikají artefakty
- Nereálná plynulost — hlas bez přirozených zaváhání nebo „hmm” a „yyy” může signalizovat syntézu
Jenže tohle jsou tipy pro lidi, kteří mají čas a zájem věc zkoumat. Ve chvíli, kdy tě soused přepošle video „podívej co říkal ministr”, většina z nás ho zkontroluje za pět sekund na telefonu. To nestačí. Deepfake detekční nástroje existují — například od Microsoftu nebo Sensity AI — ale jsou určeny spíš pro novináře a bezpečnostní týmy, ne pro každodenní použití.
Deepfake a telefonní podvody — spojení, které přibývá
Zajímavé je, jak se deepfake technologie začíná prolínat s klasickými telefonními podvody. Klonování hlasu je dnes dostupné natolik, že útočník potřebuje jen pár vteřin záznamu cizího hlasu — třeba z veřejného videa na YouTube — a dokáže z něj sestavit přesvědčivý telefonní hovor. Volají ti čísla, která neznáš? To může být člověk, robot, nebo syntetický hlas někoho, koho znáš.
Pokud chceš lépe porozumět různým formám digitálních hrozeb a pojmům, na webu cislo.info najdeš co je deepfake vysvětlené v kontextu dalších pojmů spojených s telefonními podvody a phishingem — celkem praktická reference, pokud tě zajímá, co za různými nežádoucími hovory stojí.
Vishing — tedy hlasový phishing — se deepfaky zásadně proměňuje. Dřív bylo špatné česky nebo robotický přízvuk spolehlivý signál. Teď může útočník z druhého konce světa zavolat tvým hlasem tvé vlastní rodině.
Proč tohle není jen „problém slavných”
Deepfaky slavných lidí jsou viditelné, protože o nich píšou média. Ale cílem podvodů jsou běžní lidé. Firemní účetní, starší rodiče, kolegové, kteří netuší, že taková technologie existuje. Čím méně o deepfake víš, tím snadnější jsi cíl. To je celkem prostý vztah.
Co s tím dělají státy a platformy
Reakce jsou pomalé. Evropská unie v rámci AI Act zavedla povinnost označovat syntetický obsah — generátory a platformy budou muset uvádět, že obsah byl vytvořen umělou inteligencí. V USA přijalo označování deepfaků několik států na vlastní pěst, federální zákon ale chybí. Čína zavedla povinné vodoznaky pro AI-generovaný obsah od roku 2023.
Sociální sítě jako Meta nebo YouTube mají vlastní pravidla, která deepfaky zakazují — ale moderace nestíhá. Video může být online hodiny, než ho někdo nahlásí a stáhne. Algoritmy detekce se sice zlepšují, ale výrobci deepfaků se zlepšují taky. Je to závod, ve kterém nikdo jednoznačně nevede.
Vodoznaky a metadata označující AI původ jsou slibný směr, ale mají jednu slabinu — jdou odstranit. Technické řešení samo o sobě nestačí. Potřeba je kombinace regulace, vzdělávání a technologie najednou.
Co si z toho odnést do praxe
Nedůvěřuj automaticky žádnému videu nebo hlasovému záznamu, pokud jde o citlivou věc — peníze, politika, urgentní žádost. Ověř si informaci jiným kanálem. Zavolej přímo té osobě zpět na číslo, které máš uložené, ne na číslo ze které volají. Pokud dostaneš zvláštní hovor od „šéfa” nebo „rodiny” s neobvyklou žádostí, chvilka ověření nestojí nic.
Deepfake neznamená, že nemůžeš věřit vůbec ničemu. Ale znamená, že slepá důvěra ke každému záznamu je dnes naivní. Trochu zdravé skepse a jednoduchý zvyk ověřovat zdroje — to je v podstatě všechno, co tě v naprosté většině případů ochrání.
