Dva najväčšie konkurenčné tábory v umelej inteligencii — OpenAI a Anthropic — sa začiatkom tohto roka priblížili k právne záväznej dohode, ktorá by obom stranám umožnila vzájomne stress-testovať svoje AI modely. V pondelok 21. septembra o tom informoval The Information, správu v ten istý deň potvrdili z vlastných zdrojov Yahoo Finance aj MoneyControl. Ak by sa zmluva uzavrela, išlo by o prvý formálny mechanizmus, pri ktorom frontier laboratóriá overujú bezpečnosť konkurencie priamo, nie cez nezávislých hodnotiteľov. Prínos by bol obojstranný: Anthropic by získalo pohľad na správanie modelov OpenAI a naopak — teda informáciu, ktorú dnes nezíska žiadny externý audítor.
Čo vieme a čo nie
Podľa dostupných informácií dohoda počítala s tým, že firmy si navzájom sprístupnia API komerčne dostupných modelov na účely bezpečnostných testov — teda hľadania zraniteľností a neželaného správania ešte pred alebo počas nasadenia. Kľúčové je slovo „takmer":
- Potvrdené: rokovania existovali a dostali sa do štádia právne záväzného návrhu.
- Nepotvrdené: či bola zmluva skutočne podpísaná. Podľa The Information nie je jasné, či sa tak stalo predtým, než OpenAI čelilo incidentom so zatiaľ nezverejnenými modelmi.
- Neznáme: technický rozsah testovania, prístup k interným checkpointom a to, ako by sa nakladalo so zisteniami.
Prečo sa o to pokúšajú práve teraz
Dohoda nepribúda vo vákuu. Minulý týždeň sme na FOXIO pokryli esej Daria Amodeiho „We Must Pace the Frontier", ku ktorému sa verejne pridali Satya Nadella, Sam Altman, Demis Hassabis aj Ursula von der Leyen. A včera sme písali, že von der Leyen pozýva vedenie laboratórií do Bruselu diskutovať o tempe vývoja. Vzájomné stress-testy by boli priemyselným náprotivkom k tejto politickej agende: namiesto čakania na regulátora by si laboratóriá vymenili rolu audítora medzi sebou.
Prečo je to dôležité
Konkurenti ako kontrolóri
OpenAI a Anthropic sa bijú o tých istých firemných zákazníkov — Anthropic pritom podľa Bloomberg mieri na októbrové IPO. Že by takéto firmy otvorili konkurentovi dvere k vlastným modelom, hovorí o tlaku, ktorý na ne bezpečnostná agenda vyvíja. Zároveň to vyvoláva oprávnenú otázku, či recipročné testovanie dvoch najväčších hráčov neskončí ako klub, do ktorého sa menšie laboratóriá nedostanú — a či by sa k takému mechanizmu mohli pripojiť aj Google DeepMind alebo ďalší hráči.
Čo to znamená pre používateľov a firmy
- Pre zákazníkov: ak sa dohoda uzavrie, modely oboch firiem by mali prejsť silnejším externým sitom — reálny prínos pre bezpečnosť nasadení.
- Pre regulátorov: priemysel ukazuje, že vie konať skôr než zákon — čo môže zmierniť, alebo naopak urýchliť legislatívne kroky.
- Pre konkurenciu: dohoda dvoch lídrov môže vytvárať štandard, ku ktorému sa ostatní budú musieť hlásiť.
Čo zostáva otvorené
Zatiaľ nevieme, či zmluva existuje, či zahŕňa aj budúce modely a či by výsledky testov boli aspoň čiastočne verejné. Práve transparentnosť výsledkov rozhodne, či pôjde o bezpečnostný mechanizmus — alebo o marketing. Sledovať treba aj oficiálne vyjadrenia oboch firiem; žiadna z nich sa k správe zatiaľ verejne nevyjadrila a informácia pochádza z novinárskych zdrojov, nie zo spoločného oznámenia.
Zdroje: The Information, Yahoo Finance, MoneyControl, Invezz.
