Analytik Šlerka: Na deep fake nejsme připraveni. Manipulovat s ostatními dnes může každý

Problematice zneužívání umělé inteligence se aktuálně věnuje série článků publikovaných na webu investigace.cz. „Ukazujeme tam, jak funguje generování obsahu, který napodobuje nějaký styl nebo upozorňujeme na to, jak jednoduché je dnes vyrobit falešné video. Dá se to zvládnou doma v kuchyni, zadarmo nebo s minimem peněz. V podstatě každý může od zítřka začít manipulovat se svým okolím,“ přibližuje v pořadu Jak to vidí... datový analytik Josef Šlerka.

Záplavě falešných videí čelíme už dnes. S nadcházejícím supervolebním rokem u nás i ve světě to však bude podle Šlerky mnohem častější úkaz.

Čtěte také

iROZHLAS

‚Stačí program za pár korun.‘ Jak vzniká hrozba jménem deepfakes a co falešná videa odhalí

„Za velmi varovné ale považuji, že mnoho lidí věří falešnému videu i přesto, že je výrazně označeno jako deep fake. Například našemu videu s Václavem Klausem, kde mluví v rozporu se svými dlouhodobými a všeobecně známými názory, věří až třetina lidí i přesto, že jsme tam zcela jasně označili, čeho si všímat, aby si člověk uvědomil, že to je deep fake. Navíc se to říká i ve zvukové stopě. Pozornost je ale evidentně stržena úplně jiným směrem,“ uvádí vedoucí oboru Studia nových médií na Filozofické fakultě Univerzity Karlovy.

Stačí pár sekund

Citlivost k rozpoznání, že je video falešné, snižuje podle Šlerky stopáž videa, případně jeho formát. „Když trvá video pár sekund, což je délka, na kterou jsme zvyklí ze svých mobilních telefonů, snižuje se naše šance rozpoznat, že je to falešně vytvořeno. Navíc třeba reels na Facebooku jsou na výšku, což zase snižuje naši rozpoznávací pozornost.“

Pozornost ale podle Šlerky velmi zdatně odvádějí i titulky, které mají dvojí funkci. „Většina lidí kouká na videa bez zvuku. Zapínají si ho až ve chvíli, kdy mají pocit, že tam bude něco zajímavého. Tím se ale úplně ztratí zvukový aspekt. Titulky ale zároveň k sobě poutají pozornost, tedy opět oslabují naši schopnost odhalit, že je to fake.“

Jak odhalit deep fake?

Odhalit falešné video je podle experta na nová média kvůli zlepšujícím se technologiím čím dál složitější. „Pro drtivou většinu falešných videí dnes platí koukat se na synchronizaci úst a zvuků a na to, jakým způsobem fungují kupříkladu stíny. U výměny obličejů se totiž ne vždycky daří dobře zachovat světlo, které padá na obličej.“

Čtěte také

Expertka Hejlová: Vypustili jsme Krakena. Dopad umělé inteligence na náš svět bude obrovský

Zásadní také je nesledovat pochybné video na mobilním telefonu, ale zvětšit si ho přes celou obrazovku třeba na stolním počítači, aby vynikly nesrovnalosti. „Důležité je také poslouchat pečlivě hlas. Většina z nás má různé nádechy, výdechy, různé zbylé zvuky. Bohužel i toto začínají systémy velmi dobře imitovat.“

V neposlední řadě je podle Šlerky důležitý kontext. „Je nutné přemýšlet nad tím, jestli obsah, který slyšíme, je uvěřitelný a pravděpodobný. Přece jenom Václav Klaus bojující proti globálnímu oteplování není moc pravděpodobný obraz. Do budoucna to tedy zřejmě bude to poslední, s čím budeme moct nějak zacházet. Bohužel to platí jen pro obsah na sociálních sítích. S falešnými videi se ale budeme setkávat mnohem častěji a jinde,“ dodává Josef Šlerka.