Fakturace a kybernetická bezpečnost
Generativní umělá inteligence umí během vteřin vytvořit věrohodné faktury i žádosti o změnu bankovního účtu, které neobsahují žádný škodlivý kód. Antivirové programy, e-mailové filtry i běžné nástroje pro kontrolu PDF je proto vyhodnotí jako čisté a pustí je dál do schvalovacích procesů. Faktura může projít každou bezpečnostní kontrolou, a přesto být podvrh. Firmy musí řešit, zda je skutečně bezpečná k proplacení.
Podle výzkumů se až třetina českých firem už setkala s podvodnými požadavky na platby nebo změnu bankovních účtů. Na rizika upozorňuje česká společnost ComSource, která se zaměřuje na kybernetickou bezpečnost, síťovou infrastrukturu a datovou analytiku, na základě analýzy společnosti OPSWAT. „Dosud jsme se v bezpečnosti ptali, zda je soubor bezpečný k otevření. U podvodných faktur vytvořených umělou inteligencí je ale klíčová jiná otázka: zda je bezpečná k zaplacení. Falešná faktura neobsahuje malware, a proto ji klasické bezpečnostní nástroje nemají jak označit. Útočným prostředkem je samotný dokument,“ říká Michal Štusák, spolumajitel společnosti.
Vrstevný přístup
Podle OPSWAT dnes umělá inteligence dokáže napodobit logo a vizuální identitu dodavatele, vytvořit uvěřitelné položky faktury i přizpůsobit formát konkrétní transakci, a to ve velkém měřítku. Dokumenty přicházejí stejnými cestami jako ty legitimní: e-mailovými přílohami, dodavatelskými portály nebo ručním nahráním do systémů ERP. Schvalující pracovník pak posuzuje obsah dokumentu, nikoli kontext odesílatele.
Stopy po generované podobě lze hledat v metadatech a struktuře souboru, ve vizuální konzistenci (písmo, mezery, artefakty loga) a v obsahu, kde nesedí součty, daňové výpočty nebo bankovní údaje oproti kmenovým datům dodavatele. Žádný signál sám o sobě není průkazný. Spolehlivý je až jejich souběh, který umožňuje dokument ohodnotit a podezřelé kusy předat k lidské kontrole. „Proti této hrozbě nestačí jedna technologie. Firmy potřebují vrstvený přístup: kontrolu autenticity dokumentu už při vstupu do firmy, ověření dodavatele podle kmenových dat a objednávky a pravidla pro výjimky, zejména pro změnu bankovního spojení. Ta by se nikdy neměla schvalovat standardní cestou, ale například zpětným ověřením u známého kontaktu a dvojím schválením,“ dodává Michal Štusák.
Třícestné párování
Odborníci doporučují také třícestné párování faktury s objednávkou a potvrzením přijetí plnění a karanténu faktur bez odpovídající objednávky. Kontroly autenticity by se měly uplatnit všude, kde může falešný dokument spustit platbu: u příjmu faktur, v portálech pro registraci dodavatelů i ve formulářích pro změnu bankovních údajů.
OPSWAT na tuto výzvu reagoval rozšířením platformy MetaDefender o detekci autenticity obsahu. Podle vlastního testování výrobce dosáhla detekce obrázků generovaných AI přibližně 95 % přesnosti na více než 1,1 milionu snímků a detekce textu překročila 90 %. Nejistý výsledek se předá k lidskému posouzení. ComSource nové technologie OPSWAT ověřuje ve vlastní testovací laboratoři. „Hranice mezi kybernetickou bezpečností a ochranou před finančními podvody se stírá. Dříve šlo o to, zda soubor neobsahuje škodlivý kód, dnes musíme ověřovat i pravost jeho obsahu. Všichni plátci faktur, zejména firmy by to měly ve svých procesech zohlednit dříve, než jim první falešná faktura projde do platby,“ uzavírá Michal Štusák.
Podle materiálů společnosti ComSource