AI jako strážce před kyberútoky a podvody
Bezpečnostní pracovník má dnes k dispozici obrovské množství dat: každý přihlašovací pokus, každou platbu, každý přenos souboru. Ručně jimi projít nelze. Umělá inteligence dokáže to, co člověk nezvládne – sledovat vše najednou a všímat si toho, co se vymyká normálu. Právě schopnost rozpoznat neobvyklý vzor v moři běžných událostí dělá z AI klíčového pomocníka moderní bezpečnosti.
Ochrana firemních sítí. Ve větších organizacích dnes běží takzvané systémy detekce a odezvy (nejčastěji označované zkratkami SIEM, EDR nebo XDR), které v reálném čase sbírají data ze všech zařízení v podnikové síti. AI se z nich naučí, jak vypadá běžný pracovní den, a upozorní, když se něco vymyká: uživatel se přihlásí uprostřed noci z jiného státu, počítač náhle komunikuje s neznámou zahraniční adresou, zaměstnanec stahuje z firemního úložiště desetkrát víc dat než obvykle. Bezpečnostní tým se tak může soustředit na skutečné podezřelé případy místo procházení miliónů řádků logů.
Anti-phishingové filtry. Nejběžnějším každodenním setkáním s obrannou AI je e-mailový filtr. Systémy Googlu, Microsoftu a specializovaných dodavatelů jako Proofpoint nebo Barracuda dnes blokují drtivou většinu podvodných zpráv ještě dřív, než se dostanou do doručené pošty. AI přitom nespoléhá jen na známé podpisy podvodných zpráv, ale rozpoznává i nové varianty podle stylu, jazyka a chování odesílatele. Přesto ne všechno zachytí – proto je uživatelská opatrnost stále namístě.
Odhalování podvodů v bankovnictví. Nejdéle a nejúspěšněji používá AI k boji s riziky finanční sektor. Karetní společnost Mastercard provozuje systém Decision Intelligence, který každou transakci vyhodnocuje v reálném čase a porovnává ji s tisíci znaků: kdy, kde, jakou částkou, na kterém typu obchodníka a v jakém rytmu obvykle daný uživatel platí. Podezřelou operaci systém pozastaví a upozorní banku i majitele karty. Podobné mechanismy dnes používají všechny velké banky v Česku i v Polsku, včetně ČSOB, České spořitelny, PKO BP nebo Santanderu. V roce 2024 Mastercard představil novou generaci nástroje postavenou na modelech podobných generativní AI, která umí odhalit i zcela nové vzorce podvodů, jaké dříve neznala.
Detekce pojistných podvodů. Podobný princip funguje v pojišťovnách. AI srovnává hlášené škodní události s tisíci předchozích případů a upozorní na kombinace okolností, které nasvědčují pokusu o podvod – například když se stejná trasa opakovaně objevuje v hlášeních různých pojištěnců, nebo když časový sled událostí neodpovídá běžnému průběhu nehody. Vyšetřovatel se pak soustředí na skutečně podezřelé případy a rychlé vyřízení běžných škod není zbytečně brzděno.
Předvídat, co se pokazí, dřív než se to stane – prediktivní údržba a bezpečnost provozu
Vedle finančních a informačních rizik existuje celá další velká oblast, kde AI pomáhá bezpečnosti přímo v reálném světě: v továrnách, elektrárnách, na železnici a všude tam, kde by porucha znamenala nejen ekonomickou ztrátu, ale i ohrožení lidí.
Prediktivní údržba v průmyslu. Většina moderních výrobních zařízení je dnes vybavena senzory, které průběžně měří vibrace, teplotu, tlak nebo elektrický odběr. Sama data ovšem člověk hodinu za hodinou nesleduje. AI si postupně vytvoří obraz o tom, jak zařízení vypadá „ve zdraví“, a všimne si drobných odchylek dřív, než se rozvinou do skutečné poruchy. Ložisko, které začíná lehce vibrovat, motor, který začíná táhnout víc proudu, teplota vinutí, která pomalu roste – pro člověka nezachytitelné signály, pro model připraveného na tisíce hodin provozních dat jasné varování. Podle zkušeností českých průmyslových podniků (Škoda Auto, ČEZ, výrobní závody v Ostravsko-karvinské pánvi) dokáže prediktivní údržba snížit počet nečekaných odstávek řádově o desítky procent a prodloužit životnost strojů.
Železnice a dopravní infrastruktura. Tento princip se osvědčuje i v dopravě. Železniční správy v Česku i v Polsku dnes testují systémy, které pomocí AI sledují stav kolejnic, mostů, trolejového vedení a přejezdů. Zvláštní zařízení namontovaná na vlacích snímají mikrovibrace kolejí a AI z nich odhalí místo, kde se blíží porucha. Podobně dokáže model rozpoznat začínající problém u výhybek nebo návěstidel. U výtahů, eskalátorů nebo tramvajových tratí platí stejná logika: dřív poznat, dřív opravit, méně nehod.
Bezpečnost pracovníků. Prediktivní přístup se rozšiřuje i do oblasti bezpečnosti a ochrany zdraví při práci. Kamerové systémy s AI dnes pomáhají hlídat, zda pracovníci na staveništi nosí přilby, zda se v továrně nikdo nepohybuje ve vyloučeném prostoru pod jeřábem, zda operátor nepracuje bez rukavic v místech, kde je to nebezpečné. AI přitom obvykle nevyhodnocuje konkrétní tváře, jen abstraktní pravidla („v tomto poli má být přilba“). Přínos je dvojí: snižuje počet vážných úrazů a zároveň umožňuje trénovat bezpečnostní pravidla na konkrétních skutečně nastalých situacích.
Souhrnný pohled na tuto oblast lze uzavřít jednou větou: AI umožňuje přesouvat těžiště bezpečnosti od reakce po nehodě k prevenci před ní.
AI v ochraně veřejnosti – od povodní po hranice, které bychom neměli překročit
Poslední velkou oblastí, kde AI stanovuje bezpečnostní rizika, je ochrana veřejnosti před přírodními hrozbami a v širším smyslu i ochrana společnosti jako celku. Právě tady je ale současně nejsilněji přítomná otázka, kde by AI naopak neměla dostat volnou ruku.
Předpověď povodní. Klimatická změna přináší v obou zemích víc extrémních srážek a bleskových povodní. AI výrazně vylepšuje přesnost varovných systémů. Google v posledních letech provozuje projekt Flood Hub, který pomocí strojového učení předpovídá povodně na řekách po celém světě až s několikadenním předstihem, ve spolupráci s národními hydrometeorologickými službami. V evropském měřítku plní obdobnou roli systém Global Flood Awareness (GloFAS) provozovaný v rámci programu Copernicus. Konečné rozhodnutí o varování obyvatel má stále na starosti národní hydrometeorologický ústav – v Česku ČHMÚ, v Polsku IMGW –, ale kvalita jejich modelů se díky AI výrazně zvyšuje.
Detekce lesních požárů. Po suchých letech se tato problematika stala aktuální i v ČR a v PL, kde požáry Českosaského Švýcarska v roce 2022 nebo požáry v polských Bieszczadech v posledních letech ukázaly, jak křehká je lesní ochrana. AI dnes analyzuje satelitní snímky a záběry z rozhledových věží a upozorňuje na zvláštní kouřové stopy dřív, než by je zpozoroval člověk. Systémy jako FireSat (americko-evropská iniciativa) nebo evropský Copernicus Emergency Management Service poskytují národním hasičským sborům informace, na které lze reagovat v řádu minut, ne hodin.
Etická hranice – když se AI stává nástrojem dohledu. Zvláštní kategorií jsou systémy, které se snaží předvídat rizikové chování konkrétních lidí – takzvané prediktivní policování. V USA vyvolal kritiku systém COMPAS, který soudům doporučoval, jaká je pravděpodobnost, že obžalovaný spáchá další trestný čin; investigativní tým ProPublica v roce 2016 doložil, že systém systematicky předpovídal vyšší riziko u černošských obžalovaných než u bílých se stejnou historií. V Evropě evropské nařízení AI Act (účinné od února 2025) tento typ systémů řadí do kategorie vysokého rizika a v některých případech je zakazuje úplně. Podobná pravidla platí pro takzvané systémy sociálního hodnocení – jsou v EU zakázány. Zásadní princip zní: AI může upozornit na riziko, ale nikdy by neměla sama rozhodovat o osudu konkrétního člověka bez lidského přezkumu a možnosti odvolání. AI dokáže dnes výrazně zvýšit naši schopnost odhalovat rizika – finanční, technická i přírodní. Klíčem je používat ji jako mocný pomocník, ne jako soudce. Tam, kde jde o životy, zdraví nebo svobodu, musí zůstat konečné slovo v rukou člověka.