Moderní technologie umělé inteligence dnes umožňují vytvářet vysoce realistické nápodoby tváří i hlasů, které podvodníci zneužívají k manipulaci s lidmi. Tyto techniky, souhrnně označované jako deepfake, představují novou úroveň digitálních útoků, při kterých už nemusíte věřit ani tomu, co vidíte na vlastní oči nebo slyšíte ve sluchátku.
Jak funguje deepfake a klonování hlasu
Deepfake je technologie založená na strojovém učení, která dokáže vytvořit věrnou kopii obličeje určité osoby a vložit ji do videa nebo na fotografii. Podobně funguje klonování hlasu - k vytvoření digitálního otisku něčího projevu stačí podvodníkovi jen krátká nahrávka, kterou lze snadno získat ze sociálních sítí nebo veřejných vystoupení. Výsledkem je obsah, který vypadá a zní jako skutečný projev konkrétního člověka, přestože dotyčná osoba nikdy nic takového neřekla ani neudělala. Tyto techniky navazují na starší formy podvodů, jako je vishing (podvodné telefonáty), CEO fraud (falešné pokyny od nadřízených) nebo investiční podvody, kde útočníci využívají důvěryhodnost známých tváří k vylákání financí.
Typické scénáře zneužití
Podvodníci tyto technologie nasazují v několika nebezpečných rolích. Častým jevem jsou podvodné reklamy na sociálních sítích, kde vystupuje populární osobnost a láká na zaručené investice nebo zázračné produkty - ve skutečnosti jde o podvržené video. Dalším scénářem je telefonát, při kterém hlas v telefonu napodobuje blízkého příbuzného, jenž se ocitl v nouzi a naléhavě vyžaduje finanční pomoc. V pracovním prostředí se zase můžete setkat s falešným videohovorem, kde „nadřízený“ nařizuje okamžitou platbu na externí účet. Společným jmenovatelem všech těchto útoků je tlak na rychlost a emoce, které mají zamezit racionálnímu úsudku.
Na co si dát pozor
Ačkoliv se kvalita deepfake obsahu neustále zvyšuje, existují určité detaily, které mohou podvod odhalit. U videí si všímejte nepřirozeného mrkání, zvláštních pohybů úst, které nesedí na vyslovovaná slova, nebo neostrých či rozmazaných okrajů obličeje. U hlasových nahrávek může být varovným signálem divná intonace, nepřirozené pauzy nebo robotické vyznění. Nikdy se však na tyto vizuální či zvukové indicie nespoléhejte stoprocentně, protože technologie se rychle vyvíjí a chyby v obraze postupně mizí.
Praktická ochrana před podvodem
Spolehlivější než hledání chyb v technologii je vždy ověřování informací jiným způsobem. Pokud vám volá někdo blízký s žádostí o peníze, zavěste a zavolejte mu zpět na jeho běžné, ověřené telefonní číslo. Pro rodinné krizové situace si domluvte tajné kontrolní heslo, které bude znát pouze vaše nejužší rodina. V pracovním prostředí každou neobvyklou žádost o platbu potvrďte osobně nebo jiným schváleným komunikačním kanálem. Zároveň omezte sdílení videí, kde je dobře slyšet váš hlas nebo vidět vaše tvář, na veřejně dostupných profilech.
Jak postupovat, když se stanete obětí
Pokud zjistíte, že jste se stali terčem podvodu nebo jste byli zneužiti v rámci deepfake kampaně, neprodleně jednejte. V případě finanční ztráty okamžitě kontaktujte svou banku a informujte ji o transakci. Podvod nahlaste Policii ČR a pokud narazíte na podvrženou reklamu či video na sociálních sítích, využijte nástroje pro nahlášení přímo v dané platformě. Rychlá reakce může pomoci zastavit šíření podvodného obsahu a omezit další škody.
Shrnutí
Deepfake a klonování hlasu jsou nástroje, které zneužívají naši důvěru v digitální média. Základní obranou je zdravá skepse vůči jakýmkoliv náhlým žádostem o peníze, a to i v případě, že hlas nebo tvář vypadají povědomě. Vždy si ověřte identitu volajícího jiným nezávislým způsobem a v rodině si zaveďte ověřovací hesla.
Časté dotazy
Jak poznám, že je video s celebritou v reklamě podvod?
Většina takových videí slibuje nereálné výdělky nebo zázračné výsledky. Pokud video působí podezřele a nabízí „zaručený“ zisk, jde s největší pravděpodobností o podvrh.
Mám si nahrávat hlas svých blízkých pro kontrolu?
To není nutné, stačí si domluvit tajné heslo, které použijete pouze v situaci, kdy si potřebujete ověřit identitu volajícího během tísňového hovoru.
Je možné deepfake video odhalit nějakým programem?
Existují nástroje pro detekci, ale pro běžného uživatele jsou často nepraktické a nespolehlivé, protože podvodníci technologie neustále vylepšují.
Co dělat, když někdo použije mou tvář v podvodném videu?
Nahlaste tento obsah provozovateli sociální sítě nebo platformy, kde se video nachází, a pokud je to nutné, obraťte se na Policii ČR.
Proč podvodníci tak spěchají?
Tlak na rychlost je základní psychologická technika, která má oběť stresovat a zabránit jí v kritickém přemýšlení nebo ověřování faktů.