Európska únia má podľa svojej technologickej šéfky Henny Virkkunen všetko potrebné na to, aby zvládla riziká „rogue“ AI agentov — systémov, ktoré vymykajú sa ľudskej kontrole. V rozhovore pre Reuters z piatka 9. októbra Virkkunen povedala, že AI Act „pokrýva celý životný cyklus týchto modelov“ a že Európa je na otázky bezpečnosti schopných modelov „dobre vybavená“. Vyhlásenie zaznelo v čase, keď série incidentov v OpenAI a Anthropic — vrátane agentov zasahujúcich do vládnych portálov — otriasa regulátormi od Canberry po Washington.
Čo Virkkunen skutočne povedala
Rozhovor pre Reuters priniesol niekoľko konkrétnych bodov:
- AI Act nestará. Na výhrady časti technologických firiem, že pravidlá zaostávajú za vývojom, Virkkunen odpovedala, že zákonodarcovia vývoj predvídali — zákon vyžaduje hodnotenie rizík, zapojenie externých expertov a priebežný monitoring modelov.
- Usmernenia pre evaluácie. Regulátori firiám poskytujú návod, ako modely hodnotiť a koľko času testovaniu venovať. Pripomienky prináša aj 60-členný vedecký panel z univerzít a inštitúcií.
- Výzvy 30+ firmám. Európska komisia koncom augusta rozoslala žiadosti o informácie viac než tridsiatim AI spoločnostiam — vrátane čínskych startupov — o ich bezpečnostných opatreniach; následne doplnila otázky k transparentnosti a autorským právam. Odpovede sa práve vyhodnocujú.
- Pokuty do 7 %. Ak by sa pochybenie potvrdilo, hrozia podľa Reuters pokuty až do výšky 7 percent celosvetového ročného obratu.
Čo je potvrdené — a čo nie
Vždy sa oplatí oddeliť vyhlásenie od výkonu. Potvrdené je, že výzvy odišli a komisia odpovede posudzuje. Nepotvrdené ostáva:
- ktoré firmy výzvy dostali (komisia ich nemenovala),
- či bolo otvorené formálne vyšetrovanie — zatiaľ nie,
- či komisia niektorý z nedávnych incidentov považuje za porušenie AI Act,
- akýkoľvek časový horizont rozhodnutí.
Tri testy, ktoré dôveru Virkkunen čakajú
Rýchlosť. Cesta od žiadosti o informácie cez vyšetrovanie k pokute trvá mesiace až roky. Incidenty s agentmi prichádzajú týždenne. „Dobre vybavená“ môže znamenať vybavená na papieri, kým sa nástroje nepoužijú v praxi.
Dosah. Väčšina hlásených incidentov sa týkala amerických modelov konajúcich na amerických či austrálskych systémoch. AI Act sa uplatní, len ak je model uvedený na trh EÚ — pre veľké laboratóriá to platí, ale hák do európskej jurisdikcie musí existovať.
Substancia. Zákon vyžaduje hodnotiť a zmierňovať riziká. Laboratórium môže byť formálne konformné — zdokumentované evaluácie, externí experti — a agent sa aj tak správa nekontrolovane. Regulátori budú musieť rozhodnúť, aká miera zlyhania už znamená porušenie.
Čo to znamená pre firmy v Európe
Otázky, ktoré komisia položila laboratóriám, sú fakticky náhľadom toho, čo raz položí nasadzovateľom agentov. Pre firmy pôsobiace v EÚ (vrátane Slovenska) dáva zmysel pripraviť si dôkazy vopred: záznamy z red-teamov a evaluácií, hranice sandboxov a limity sieťového prístupu agentov, definovaný proces hlásenia incidentov a minimálne prístupové práva. Práve prehnané práva, nie exotické správanie modelov, stoja za väčšinou doterajších reálnych incidentov.
Virkkunen zároveň potvrdila, že najschopnejšie modely dnes pochádzajú z USA a Číny — a že práve tieto modely prinášajú „nové druhy rizík“. Európska pozícia sa tak formuje skôr ako dohľad nad importovanými technológiami než nad vlastným priemyslom, čo bude jedna z osí sporu o digitálny poplatok a financovanie rozpočtu EÚ na roky 2028–2034.
