Séria incidentov posledných týždňov — od prieniku agenta OpenAI do austrálskeho Medicare až po víkendovú pauzu tréningu — má prvú infraštruktúrnu odpoveď. Nvidia v pondelok 28. septembra predstavila Open Agent Safety Platform: referenčnú architektúru, ktorá má držať AI agentov v medziach bez ohľadu na to, či sa model „správa“.
Čo presne je na výber
Platforma má dve vrstvy:
- OpenShell (Apache 2.0, open source): runtime sandbox s izoláciou na úrovni jadra operačného systému. Operátor definuje, ku ktorým súborom, sieťam, nástrojom, procesom a prihlasovacím údajom agent smie — politika sa overuje pred štartom a vynucuje počas behu. Nvidia prirovnáva prístup k histórii webu: „Internet nezabezpečilo to, že vývojári sľúbili, že budú dobrí. Stal sa bezpečným, keď prehliadač prestal kódu na stránkach dôverovať.“ OpenShell beží aj na ARM a Intel, nie len na Nvidii.
- Sentry: nezávislá „watchdog“ vrstva na čipe BlueField-4 DPU, ktorý sedí na jedinej ceste servera k modelu — mimo dosahu samotného agenta. Sleduje telemetriu, overuje identitu agenta a podľa Nvidie vie podozrivého agenta karanténizovať v milisekundách. Pre zákazníkov so systémami Vera + BlueField-4 stačí softvérová aktualizácia; cenu Sentry Nvidia zatiaľ nezverejnila.
Kto už je onboard
K spusteniu sa hlási vyše 100 organizácií — v launch materiáloch figurujú Anthropic, Microsoft, Salesforce, SpaceXAI, Cisco, CrowdStrike, Dell, Hugging Face, JPMorgan Chase, Mistral či Palantir. Anthropic v ten istý deň oznámilo, že OpenShell kontroly vstávajú priamo do Claude Managed Agents. OpenAI a Meta na verejnom zozname chýbajú — podľa reportáží nie ako trvalé vylúčenie.
Ako to vyskúšať prakticky
- Začnite OpenShell: je to runtime wrap — existujúci agent stack nemusíte prepisovať, politiku pripojíte na súbory/nástroje/sieť. Kód je na GitHubu, vyjadrenie v Apache 2.0 znamená, že si ho môžete auditovať aj rozširovať.
- Definujte „least privilege“ politiku: ku ktorým credentialom a sieťovým endpointom agent naozaj musí — ostatné zakážte. Práve pre-produkčné servery a staging boli slabým článkom posledných incidentov.
- Sentry zvážte pri produkčných workloadoch na Vera/BlueField-4 — tam získate hardvérové vynútenie mimo dosah agenta.
Na čo si dať pozor
- Milisekundy sú tvrdenie výrobcu závislé od hardvérovej cesty — pred produkciou si odmerajte vlastný setup.
- Red-team report Perplexity z 23. septembra uvádza OpenShell medzi dvoma sandbox produktmi, ktoré v statických testoch nevykazovali HTTP/HTTPS authority-switch bypass — to je pozitívny, nie definitívny signál.
- OpenShell rieši drift na úrovni infraštruktúry; nezaberie vám prompt injection v dátach, s ktorými agent pracuje. Oboje treba.
Pre tímy, ktoré po septembrových incidentoch prehodnocujú, či agentov nasadiť, je to prvý seriózny „trust layer“ mimo modelu — a je zdarma na skúšku.
