Šéf Anthropic Dario Amodei v sobotu 12. septembra publikoval esej „We Must Pace the Frontier“, v ktorom vyzýva frontier laboratóriá, aby zámerne spomalili zlepšovanie schopností modelov, kým ich nedobehne alignment, bezpečnosť a nezávislé hodnotenie. Reakcia odvetvia bola bezprecedentná: do dvoch dní sa k výzve prihlásili Sam Altman, Elon Musk, Demis Hassabis aj Satya Nadella. Politická odveta však ukazuje, že jednota má svoje ceny.
Čo Amodei navrhuje
V 3 800-slovnom texte Amodei varuje, že neudržané rekurentné sebazlepšovanie by mohlo do 6 až 12 mesiacov viesť k roju agentov schopnému „ovládnuť celý internet perzistentnou botnetovou sieťou“ so škodami v stovkách miliárd dolárov. Jeho návrh má tri vrstvy:
- Jednostranný záväzok Anthropic: hodnotitelia ako METR dostanú trvalý, „zamestnanecký“ prístup — vrátane pracovných miest v kanceláriách, vstupných kariet a práva publikovať zistenia bez redakčnej kontroly firmy.
- Koordinované limity schopností medzi laboratóriami demokratických krajín.
- Rokovania v štýle kontroly zbrojenia s autoritárskymi vládami.
Kto sa pripojil
Podľa médií výzvu podporili Altman, Musk aj šéf DeepMind Hassabis. Nadella v sobotňajšej eseji napísal, že Microsoft „víta“ zámerné tempo potrebné na to, aby alignment stihol — a predstavil Kódex správania pre modely MAI, ktoré má firma zverejniť na verejnú konzultáciu. Microsoft je tak prvý hyperscaler, ktorý sa k pacing rámcu formálne prihlásil.
Altman zároveň pre Fortune potvrdil, že OpenAI v roku 2026 nepôjde na burzu: „Vzhľadom na všetko, čo sa deje okolo bezpečnosti, by to bol nevhodný moment.“ Naznačil aj možný medzilaboratorný pakt o pauze pri dosiahnutí nových úrovní schopností. A podľa The Information už Google, OpenAI a Anthropic rokujú o vytvorení priemyselného orgánu pre štandardy a auditovanie — rokovania sa údajne začali ešte pred Amodeiho esejom.
Odveta: Washington, Peking, Berlín
- Trump v pondelok na Truth Social zaútočil priamo na Amodeiho, označil ho za „dokonalého anjelika“ a vyhlásil, že jediná potrebná „guardrail“ je „SILNÝ A CHYTRÝ prezident“. Dodal, že jeho administratíva má nad AI firmami „obrovskú TRESTNÚ a REGULAČNÚ moc“, a odpor voči výstavbe dátových centier označil za pomoc Číne.
- Peking cez hovorcu ministerstva zahraničia Kuo Ťia-kuna odmietol Amodeiho výzvu na pokračovanie exportných kontrol ako „strašenie a konfrontáciu“; štátny Global Times hovorí o „tichej AI studenej vojne“.
- Nemecko cez ministerstvo digitálnych záležitostí odkázalo, že pozastavenie vývoja AI je pre Európu neprúchozé, a vyzvalo na medzinárodnú správu AI.
- Kongres: šéf Snemovne Mike Johnson na CNN odmietol legislatívnu akciu; Snemovňa sa má tento týždeň rozpustiť až po novembrové voľby.
Trhy zareagovali ihneď: v pondelok ťahali index S&P 500 kyberbezpečnostné akcie — CrowdStrike +13,9 % na historické maximum, Zscaler +16,5 %, Palo Alto Networks +13,1 % a Fortinet +9 %. Investori podľa analytikov rotujú z čipov do „AI-risk trade“.
Čo to znamená
Zatiaľ ide o slová, nie o artefakty — neexistuje spoločná bezpečnostná latka ani zoznam signatárov. Napriek tomu je to prvýkrát, čo sa lídri všetkých veľkých laboratórií verejne zhodli na tom, že tempo môže byť problém. Podčiarkuje to aj pondelkové verejné varovanie Dana Selsama, prvého známeho súčasného výskumníka OpenAI pracujúceho na schopnostiach modelov, a diskusia predstavenstva CalPERS — najväčšieho amerického dôchodkového fondu — o moratóriu na AI investície.
Pre firmy a používateľov: pripravte sa na pomalšie tempo vydávania modelov a výrazne väčší význam auditov, hodnotení a compliance. Bezpečnosť sa z marketingového hesla stáva predmetom rokovaní — a zápas o to, kto bude pravidlá písať (laboratóriá samy, Kongres, alebo štáty ako Kalifornia), sa práve rozbieha.
