Video politika, který pronáší skandální výrok. Známá osobnost doporučující »zaručenou investici«. Manažer firmy žádající kolegu o okamžitý převod peněz. Vše působí přesvědčivě – hlas, mimika, gesta. Jenže nic z toho se ve skutečnosti nestalo. Nejde o filmový trik. Jde o deepfake.
Technologie, která pomocí umělé inteligence dokáže vytvořit digitální kopii člověka – jeho tváře i hlasu – a vložit mu do úst věty, které nikdy nepronesl. To, co ještě před několika lety vyžadovalo specializované studio, dnes zvládne software během několika minut. Některá videa mají charakter parodie nebo zábavy. Jiná však zasahují do politiky, ekonomiky i osobních životů. A právě zde začíná problém.
Obraz už není důkaz
Deepfake je digitální podvrh vytvořený umělou inteligencí tak, aby působil autenticky. Algoritmus se »naučí« obličej a hlas z veřejně dostupných záznamů a následně vytvoří nový obsah, který vypadá reálně. Rozhodující změnou posledních let není samotná existence této technologie, ale její dostupnost a rychlost šíření. Video se může během hodin rozšířit po sociálních sítích a ovlivnit tisíce lidí ještě dříve, než je vyvráceno. Pokud jsme si ještě nedávno mohli říci, »věřím tomu, co vidím«, dnes už tato jistota neplatí.
Souboj: člověk proti stroji
Rozpoznávání deepfake se stalo závodem mezi výrobou a detekcí – často s umělou inteligencí na obou stranách. Výzkum publikovaný v časopise Cognitive Research: Principles and Implications ukázal, že lidé jsou při rozpoznávání falešných statických snímků úspěšní jen přibližně na úrovni náhody, kolem 50 procent. Algoritmy dosahovaly přesnosti mezi 79 až 97 procenty.
U krátkých videí se však situace částečně obrátila. Lidský mozek dokáže někdy zachytit jemné kontextové signály – drobné nesrovnalosti v chování či výrazu – které stroj zatím přehlédne. »Pokud chceme vyvinout spolehlivější detekční systémy, musíme porozumět tomu, jak lidé vnímají autenticitu,« upozorňuje psycholožka Natalie Ebner.
Paradox digitální éry
Deepfake generátory i detekční nástroje využívají podobné principy – neuronové sítě a generativní modely. Každé zlepšení na jedné straně vyvolává reakci na straně druhé. Někdy algoritmus odhalí manipulaci, kterou by lidské oko nikdy nepostřehlo. Jindy je lidská intuice citlivější než automat.
Technologie, která deepfaky vytváří, je zároveň jediným nástrojem, jak je systematicky odhalovat.
Svět hledá obranu
Technologický souboj mezi tvorbou a detekcí deepfake doplňuje ještě jeden rozměr: právní. Státy se snaží reagovat – každý po svém.
USA: odpovědnost platforem
Ve Spojených státech byl přijat například zákon TAKE IT DOWN Act, který ukládá internetovým platformám povinnost rychle odstraňovat nelegální obsah vytvořený pomocí umělé inteligence, zejména v případech zneužití identity či intimních podvrhů.
Vedle federální úrovně přijímají vlastní pravidla i jednotlivé státy, zejména v oblasti ochrany obětí a volební integrity. Americký přístup staví na odpovědnosti technologických firem. Problém však zůstává stejný: legislativa reaguje až na vzniklé škody, zatímco technologický vývoj postupuje rychleji než právní rámce.
Čína: povinné označování
Od září 2025 zavedla Čína povinnost označovat veškerý obsah vytvořený umělou inteligencí – a to jak viditelným upozorněním pro uživatele, tak neviditelnými metadaty umožňujícími dohledat jeho původ.
Regulace přišla v době prudkého rozšíření generativní AI. Podle oficiálních údajů využívá tyto nástroje více než půl miliardy lidí. Platformy tak během prvních měsíců označily stovky miliard položek obsahu.
Zkušenosti ukazují, že označování může zvýšit obezřetnost uživatelů a urychlit dohledání odpovědnosti. Současně se však objevily nástroje nabízející odstraňování těchto značek – vznikl tak nový »šedý trh«, který pravidla obchází.
Indie: etika a globální standardy
Indický premiér Narendra Módí představil vizi MANAV, která zdůrazňuje etický, transparentní a inkluzivní rozvoj umělé inteligence. Významnou část věnoval právě deepfake obsahu.
»Stejně jako mají potraviny nutriční štítky, musí i digitální obsah nést označení pravosti,« uvedl. Indie prosazuje globální standardy označování a digitální vodoznaky, které by pomohly obnovit důvěru. Zároveň však klade důraz na otevřenost technologií a jejich sdílení, nikoli na uzavřený model vývoje.
EU: prevence a rizikové kategorie
Evropská unie zvolila cestu komplexní regulace prostřednictvím AI Act. Ten zavádí povinnost transparentnosti u systémů generujících obsah a pracuje s principem »rizikových kategorií«. Obsah vytvořený nebo manipulovaný pomocí AI musí být označen a systémy, které mohou ovlivnit volby či základní práva, podléhají přísnějším pravidlům.
Ani zde však není systém neprůstřelný. Označení lze technicky odstranit, standardy mezi platformami se liší a část obsahu vzniká mimo evropskou jurisdikci.
Různé cesty, stejný problém
Zatímco USA kladou důraz na odpovědnost platforem, Čína na povinné označování, Indie na etické principy a EU na komplexní regulaci, všechny modely narážejí na stejnou skutečnost: technologie se vyvíjí rychleji než pravidla.
Boj s deepfaky tak není jen technologickým závodem mezi generátory a detektory. Je i testem toho, jak různé části světa chápou svobodu projevu, odpovědnost a důvěru v digitálním prostoru. A především – žádný z přístupů zatím nenabízí stoprocentní ochranu.
Co z toho plyne pro každého z nás?
V éře deepfake už nestačí spoléhat na vlastní oči. To ale neznamená, že jsme bezbranní. Základním pravidlem je zpomalit. Pokud video vyvolává silnou emoci – šok, pobouření, strach nebo nadšení – je to první signál k opatrnosti. Manipulace totiž vždy pracuje s emocemi.
Důležité je ověřovat zdroj. Objevilo se video i na oficiálních kanálech dané osoby či instituce? Informují o něm důvěryhodná média? Není sestříhané z neobvyklého úhlu nebo bez kontextu?
Pomáhá i zdravý skepticismus: čím nepravděpodobnější nebo senzačnější výrok, tím větší důvod k pochybnostem.
Odborníci se shodují, že budoucnost obrany proti deepfake nebude spočívat jen v algoritmech nebo zákonech, ale i v digitální gramotnosti veřejnosti. Schopnost rozlišovat mezi informací a manipulací se stává stejně důležitou jako kdysi schopnost číst a psát.
Deepfake mění pravidla hry, ale základ zůstává stejný: důvěra nevzniká automaticky. V digitálním světě si ji musíme aktivně budovat – a chránit.
Helena KOČOVÁ
2 komentáře
Lhalo se vždycky a vždycky se lhát bude. Před tím lhali články, dnes videa. Kdysi neexistovalo ani jedno a lhali jen lidé. Vlastně v tom není nijak velký rozdíl. Jen lidé musí do kategorie „nedůvěryhodné“ přidat pár dalších položek. Víceméně důvěryhodné zdroje existují pořád a až AI nebude pro mnoho lidí cizí slovo, tak se naučí rozpoznávat. Jen to chce ze začátku trochu tolerance a neobviňovat lidi hned jen proto, že jste o nich viděli nějaké video jen tak někde na internetu. Stejně jako je hloupost obviňovat lidi kvůli tomu, že jste o nich někde něco četli.
Problém je, že dnes lidé neví, čemu věřit. Nejdřív věřili v Boha, pak věřili v Rusko a pak v USA. Až si najdou něco dalšího, tak bez ohledu na umělou inteligenci bude zase vše v pohodě. Televize, noviny i internet ovládají korporace, které jsou ovládány zájmy určitých lidí. Šíření nesmyslů jednotlivci se lze vyhnou bez ohledu na to, jak časté jsou a jestli jsou tvořeny s AI nebo bez ní. A korporace do značné míry vytvářeli naše názory už před AI. Takže se opět ukazuje, že nezáleží na pravdě, ale na tom, o čem někdo lidi přesvědčí.
Komentáře jsou uzavřeny.