Umělá inteligence toho spoustu zlevnila a zrychlila. Bohužel to platí i pro podvody. To, co dřív vyžadovalo tým lidí, drahé vybavení a hodiny práce, dnes zvládne jeden podvodník s běžně dostupným AI nástrojem během pár minut. A výsledek je čím dál těžší rozeznat od reality.
Ukázkový je případ inženýrské firmy Arup. V roce 2024 přišla o zhruba 25 milionů dolarů poté, co jednoho ze zaměstnanců oklamal falešný videohovor. „Finanční ředitel" i další kolegové na hovoru přitom vůbec nebyli skuteční – všechny je vygenerovala deepfake technologie. Zaměstnanec viděl známé tváře, slyšel známé hlasy, a proto pokyn k platbě bez váhání provedl.
Tři nejčastější AI podvody dnes
Nemusíte být velká korporace, abyste se stali terčem. Naopak – malé firmy bývají zranitelnější, protože nemají propracované ověřovací procesy. Podívejme se na tři triky, se kterými se dnes setkáte nejčastěji.
- Klonování hlasu: Stačí pár vteřin nahrávky vašeho hlasu z internetu (třeba z videa na sociálních sítích) a AI z něj vytvoří přesvědčivou napodobeninu. Pak přijde falešný telefonát „šéfa", který urgentně žádá o převod peněz, nebo „příbuzného v nouzi", který prosí o okamžitou pomoc.
- Falešné videohovory: Přesně jako v případě firmy Arup. Podvodník dokáže v reálném čase generovat obraz i hlas konkrétní osoby. To, co vidíte na obrazovce, nemusí být pravda.
- Hyper-personalizovaný phishing: Zapomeňte na podvodné e-maily plné pravopisných chyb. AI dnes napíše bezchybný, přesvědčivý e-mail na míru – s vaším jménem, správnou firemní terminologií a odkazem na reálné události. Rozeznat ho od pravého je čím dál obtížnější.
Jak deepfake nebo podvod poznat
Dobrá zpráva je, že i dokonalá technologie zatím dělá chyby. A hlavně – většina podvodů stojí a padá na jedné věci: na tom, aby vás dostala pod tlak a vy jste přestali přemýšlet. Všímejte si těchto signálů.
- Nepřirozené detaily: U videa sledujte mrkání, ruce a prsty, synchronizaci rtů se zvukem. U hlasu si všímejte zvláštního tónu, nepřirozených pauz nebo kovového nádechu.
- Nátlak a spěch: „Pošli to hned, nemáme čas!" Urgentní tón je nejčastější znak podvodu. Podvodníci vědí, že když budete mít čas přemýšlet, prokouknete je.
- Neobvyklý kanál nebo žádost: Šéf, který nikdy nevolá, najednou volá. Nebo přijde požadavek na platbu způsobem, který ve firmě nepoužíváte. To je varovný signál.
- Vždy ověřte druhým kanálem: Máte-li jakoukoli pochybnost, zavěste a zavolejte zpět na číslo, které znáte. Nebo napište zprávu, na kterou znáte odpověď jen vy dva. Nikdy nespoléhejte jen na kanál, kterým vás kontaktovali.
Jak ochránit firmu
Proti AI podvodům se nebráníte složitou technologií, ale jednoduchými pravidly a zdravou obezřetností. Tady je pět kroků, které zastaví většinu útoků.
- Zaveďte ověřovací proces pro platby: Každá neobvyklá nebo urgentní platba musí být potvrzena druhým, nezávislým kanálem. Skvěle funguje domluvené „bezpečné slovo", které zná jen váš tým.
- Školte tým: Kdo trik zná, ten mu nenaletí. Stačí, aby všichni věděli, že klonování hlasu i falešné videohovory existují, a byli ve střehu.
- Zveřejňujte méně nahrávek: Čím méně záznamů hlasu a videa vedení koluje po internetu, tím méně materiálu mají podvodníci pro vytvoření deepfaku.
- Zapněte dvoufaktorové ověření: Všude, kde to jde. Je to jednoduchá bariéra, která podvodníkům výrazně zkomplikuje práci.
- Buďte zdravě skeptičtí k urgentnímu tónu: Naučte sebe i tým, že spěch a nátlak nejsou důvod jednat rychle, ale důvod zpozornět.
Technologie za podvody je pořád stejná jako ta, kterou používáte k práci. Rozdíl nedělá software, ale ostražitost. Většinu AI podvodů zastavíte tím, že se na chvíli zastavíte, ověříte a nenecháte se tlačit do rychlého rozhodnutí. Jednoduchá pravidla jsou dnes vaší nejlepší obranou – a to je vlastně dobrá zpráva.
Zdroj: medializovaný případ firmy Arup – deepfake videohovor, 2024.