Bezpečnostní rizika: phishing, deepfaky a útoky na AI systémy

Rozvoj AI přinesl i nové podoby bezpečnostních hrozeb, které jsou často těžko rozeznatelné od legitimní komunikace. Tento modul vysvětluje, jak tyto hrozby vznikají a jak je v praxi poznat dříve, než způsobí škodu.

Účastníci se seznámí s personalizovaným phishingem a sociálním inženýrstvím, které dnes díky AI působí mnohem věrohodněji než dříve. Modul vysvětluje, jak vzniká syntetický hlas, obraz a video, a jak deepfaky zneužívají důvěru v to, co vidíme nebo slyšíme. Pozornost je věnována i tématům specifickým pro AI systémy samotné – prompt injection, zneužití instrukcí nebo únik dat přes nevhodně formulované zadání.

Modul dále ukazuje, jak může docházet k manipulaci výstupů a falešné autoritě modelu, kdy je přesvědčivá odpověď mylně považována za důvěryhodnou. Účastníci si osvojí základní ochranné návyky pro běžné uživatele a naučí se, jak postupovat při podezření na zneužití nebo podvod – tedy na koho se obrátit a jaké kroky podniknout, než dojde ke škodě.

• zaměstnancům a manažerům, kteří se mohou stát cílem personalizovaného phishingu nebo deepfake podvodu,
• firmám, které chtějí zvýšit bezpečnostní povědomí týmu v souvislosti s AI hrozbami,
• lidem, kteří chtějí rozumět novým typům útoků a vědět, jak na ně reagovat,
• účastníkům navazujícím na předchozí moduly AI Akademie.

• Personalizovaný phishing a sociální inženýrství
• Syntetický hlas, obraz a video
• Deepfaky a manipulace důvěry
• Prompt injection a zneužití instrukcí
• Únik dat přes nevhodné zadání
• Manipulace výstupů a falešná autorita modelu
• Základní ochranné návyky pro běžné uživatele
• Jak reagovat při podezření na zneužití nebo podvod