VIDEO: Ženičky z Lendaku tancujú, politici hovoria nezmysly. Deepfake AI klame čoraz presvedčivejšie

Na prvý pohľad obyčajné video dvoch ľudí, ktorí sa rozprávajú o politike, migrácii alebo folklóre. Ale len na prvý pohľad. Internetom – najmä TikTokom a Instagramom – sa totiž šíria AI-generované videá, ktoré sú od reality takmer na nerozoznanie.

Digitálne postavy hovoria plynule aj v iných jazykoch, než je originál. Pohyb pier dokonale sedí aj v češtine či slovenčine, hlas znie prirodzene a ilúzia je takmer dokonalá. Len pár sekúnd videa stačí na to, aby sa aj triezvo uvažujúci človek nechal napáliť.

Na paškál si umelá inteligencia neberie len známe tváre zo sveta politiky – manipulované rozhovory zobrazujú napríklad folkloristov, spevákov, športovcov či influencerov. A hoci niektoré videá pôsobia stále mierne nepresvedčivo, rozdiel medzi dneškom a len nedávnou minulosťou je šokujúci.

Ešte pred dvoma rokmi boli AI-videá ako scéna z lacného sci-fi – nedokázali vykresliť ani prsty či zuby. Dnes? Najnovší model Veo 3 od Googlu vytvára výstupy, ktoré sú neuveriteľne blízke realite. Od simulácie rozhovorov až po celovečerné zábery, ktoré vyzerajú ako reálne natáčané video.

Odborníci bijú na poplach: „Verejnosť nie je pripravená“

Výskumníci z Western University v Kanade tvrdia, že najväčším problémom už nie je len technológia, ale ľudská dôverčivosť. „Nie je dôležité len to, či je niečo deepfake, ale čo si o tom ľudia myslia a ako reagujú,“ varuje výskumník Aleksander Essex.

Portál Wired zas upozorňuje, že sme na prahu éry deepfake podvodov a manipulácií, ktorých dôsledky môžu byť oveľa širšie, než len poškodená povesť. Falošné videá sa čoraz častejšie využívajú aj pri finančných podvodoch, politickej propagande alebo diskreditácii konkrétnych osôb.

Zneužitie hlasu a tváre už nie je sci-fi. Podľa bezpečnostných správ z oblasti umelej inteligencie sú nové deepfake algoritmy schopné oklamať aj niektoré biometrické systémy. Deepfake hlasy sa dnes dajú vytvoriť z niekoľkosekundovej nahrávky – a zneužiť pri telefonických podvodoch či hlasovej autorizácii v banke.

Americký No Fakes Act, pripravovaný v Senáte, chce posilniť ochranu bežných ľudí pred digitálnym zneužitím identity. Medzitým napríklad Dánsko plánuje zaviesť zákon, ktorý dá ľuďom autorské práva na vlastnú tvár – čím chce obmedziť šírenie neetických a manipulovaných výstupov.

Deepfake videá sú čoraz dokonalejšie. A čoraz viac ľudí prestáva rozlišovať medzi realitou a fikciou. Kým dnes sú ešte niektoré manipulácie rozpoznateľné pri detailnejšom pohľade, o rok či dva už môžeme čeliť úplne novému typu hrozby: realite, ktorá nie je skutočná – no všetci jej veria.