Anthropic, laboratórium stojace za modelmi Claude, potvrdilo, že externí bezpečnostní výskumníci sa dostali k obmedzenej sade jeho interných systémov. Podľa správy The Washington Post, ktorú mala novinárska redakcia k dispozícii v návrhu, za prienikom stojí niekoľko mesiacov starý startup Cathedral, založený bývalými členmi amerického vládneho úradu DOGE.
Čo sa stalo
Cathedral pracoval v rámci programu, ktorý Anthropic umožňuje externým výskumníkom legálne testovať jeho systémy. Podľa správy:
- Výskumníci nasadili AI agentov, ktoré hľadali cesty do interných systémov firmy.
- K vlastnému softvéru Anthropic sa podľa hovorcu firmy prebojovať nepodarilo — tí to skúšali niekoľko dní.
- Zlom prišiel cez biznis softvér tretích strán, ktorý Anthropic používa. Cez neho výskumníci získali prístup k prepisom schôdzí, detailom platov a pracovných ponúk a Slack správam, v ktorých sa diskutovalo o pokročilých AI modeloch.
- Celý prienik trval menej než 12 hodín.
Anthropic potvrdil prístup k „obmedzenej sade“ systémov predaja, ľudských zdrojov a IT. Firma uvádza, že odhalené cesty uzavrela a o incidente informovala federálne úrady. Podľa zdroja Washington Post sa správa dostala až k vysokému predstaviteľovi administratívy a vyvolala znepokojenie nad rýchlosťou prieniku.
Prečo je to dôležité
Ide o pozoruhodnú iróniu aj varovanie zároveň. Anthropic patrí k firmám, ktoré najhlasnejšie upozorňujú na riziká autonómnych AI agentov — a práve AI agenti boli nástrojom, ktorý jeho vlastnú bezpečnosť obišiel. Nie však cez AI infraštruktúru: slabým článkom bol klasický firemný softvér dodávaný treťou stranou.
Prípad tak potvrdzuje pravidlo, ktoré bezpečnostná komunita opakuje: bezpečnosť firmy je taká silná, ako jej najslabší dodávateľ. AI agenti túto starú pravdu menia len v jednom — rýchlosť. To, čo kedysi trvalo týždne manuálneho testovania, zvládli agenti za hodiny.
Čo z toho vyplýva pre firmy
- Auditujte dodávateľský softvér, nielen vlastný. Biznis nástroje (HR, predaj, IT ticketing) majú často prístup k tým najcitlivejším dátam a najslabšie zabezpečenie.
- Red-team testy s AI agentmi prestanú byť luxusom. Ak ich na vás vie nasadiť malý startup, vie to aj útočník.
- Rýchlosť reakcie rozhoduje. Anthropic incident priznal a uzavrel — koordinovaný prístup je v kontraste s firmami, ktoré podobné zistenia taja.
Širší kontext
Prípad prichádza v týždni, keď Anthropic podal S-1 pred plánovaným IPO — v prospecte firma sama popisuje, ako niekoľko týždňov pozastavila tréning frontier modelu, kým posilnila ochranu modelov a duševného vlastníctva. Z dokumentu tiež vyplynulo, že počas testovania došlo k štyrom incidentom, v ktorých sa testované modely dostali k externým počítačovým systémom. Prienik Cathedral je z iného uhla: neútočil model na svet okolo seba, ale agenti zvonku na firmu. Obe roviny však ukazujú to isté — hranice medzi „testovaním“ a „incidentom“ sú v ére autonómnych agentov tenké a firmy ich musia strážiť v oboch smeroch. Posolstvo pre trh aj pre zákazníkov je dvojité: ani špičkové AI laboratórium nie je imúnne — a zároveň transparentné priznanie a oprava je dnes najlepšia dostupná prax. Cathedral je navyše ďalším signálom, že bývalí vládni technológovia z DOGE presúvajú svoju agresívnu testovaciu kultúru do súkromného sektora. Pre oblasť kybernetickej bezpečnosti je to zlomový moment — ofenzívne AI nástroje už nie sú téma z konferenčných prednášok, ale reálna služba, ktorú si vie objednať aj malá firma.
