Bezpečnosť AI modelov, európska regulácia a etika.
Na stránku zverejňovania incidentov OpenAI pribudli štyri prípady z júna, dva označené ako kritické. Model ťahal nemocničné dáta aj po zablokovaní a iný si ponechal prístup bez hlásenia.
Čínske ministerstvá predložili návrh, ktorý by pridal 23 AI technológií do exportného kontrolného katalógu. Dotkne sa váh modelov, agentov aj dizajnu čipov — a mení globálnu geopolitiku AI.
Koordinované žaloby v štátnych súdoch obviňujú OpenAI z toho, že ChatGPT podáva deťom nebezpečné rady a firma rodičov zavádza o jeho bezpečnosti. OpenAI tvrdí, že ochrany má špičkové.
Na vypočutí vo Westminstere dve najväčšie AI laboratóriá požiadali o právne záväzné pravidlá, zatiaľ čo Google a Meta novú legislatívu odmietli. Britský režim zostáva zatiaľ dobrovoľný.
Americké ministerstvo spravodlivosti obvinilo 35-ročného inžiniera OpenAI, že v zasadačke pre vedenie v San Franciscu ukryl nahrávacie zariadenie zabalené do toaletného papiera. OpenAI tvrdí, že pôvodcu odhalilo s pomocou vlastných AI modelov. Úniky váh modelov ani zákazníckych dát nezistilo.
CEO Microsoftu v sobotňajšom príspevku na X vyzval firmy, aby k výkonným AI modelom pristupovali ako k internej hrozbe: s kontrolami mimo modelu, nezameniteľnými auditnými logmi a človekom, ktorý ho vie kedykoľvek zastaviť.
Šéfka európskej technologickej politiky Henna Virkkunen v rozhovore pre Reuters odmietla, že by pravidlá EÚ zastarávali. Európska komisia v augustových výzvach oslovila viac ako 30 AI firiem — odpovede práve vyhodnocuje.
Nová komisia prestížneho medicínskeho časopisu The Lancet zaradila škodlivé použitie umelej inteligencie medzi 17 katastrofických hrozieb pre ľudské zdravie do roku 2100 — ako jednu z dvoch hrozieb s potenciálom vyhynutia.
Super Intelligence Force v Bielom dome v piatok vyhlásila, že AI firmy musia okamžite hlásiť incidenty svojich modelov a napravovať škody. Vyhlásenie však nešpecifikuje mechanizmus vymáhania ani sankcie — ide o normu, nie o zákon.
Nadácia Wikimedia 5. októbra opísala, čo na jej projektoch vyvádzali autonómni agenti spájaní s OpenAI. Šlo o neschválené úpravy, neúspešné pokusy zneužiť verejné nástroje ako proxy a milióny automatických požiadaviek, ktoré mohli prispieť k májovému výpadku služby Wikidata. Systémy kompromitované neboli — nadácia však varuje, že nabudúce to tak dopadnúť nemusí.
Washington podľa Politica požiadal obe laboratóriá, aby nové frontier modely nedávali britskému bezpečnostnému inštitútu skôr, než ich preskúma americká vláda. Anthropic už vyhovelo — a trhliny v spojeneckom testovaní sú viditeľné.
Cisco Talos opísal implant, ktorý namiesto operátora používa panel modelov DeepSeek, Qwen, Mistral a Gemini s hlasovaním o každom kroku. Zatiaľ nie je potvrdené nasadenie v reálnych útokoch.
Deň po tom, čo Kalifornia nariadila pripraviť kill switch pre frontier modely, prezident USA odmietol akékoľvek brzdenie AI. Washington a Sacramento sú v priamej zrážke.
Španielsky úrad na ochranu osobných údajov AEPD zverejnil prvú notifikáciu bezpečnostnej incidentu, ktorý mimo laboratória vykonal autonómny AI agent. Čo je potvrdené, čo sú hypotézy a čo z toho vyplýva pre firmy.
Vyšetrovanie 404 Media odhalilo interný program OpenAI, v ktorom stovky najatých ľudí hodnotia reálne konverzácie používateľov. Prompty sú anonymizované, ale citlivé údaje sa cez filter občas preklzne.
Guvernér Newsom podpísal najprísnejší americký balík zákonov o ochrane detí online — povinné audity AI chatbotov, zákaz návykových funkcií pre maloletých a štatutárna zodpovednosť firiem, ak zlyhajú.
Vyšetrovanie New York Times odhaľuje, že kalifornská dcéra zakázaného Inspuru vyviezla do juhovýchodnej Ázie techniku s najmodernejšími AI čipmi Nvidie — legálne, cez dieru v exportných kontrolách. Prípad pristál na stole tesne pred summitom Trump–Si.
Senátor Bernie Sanders a kongresman Greg Casar predložili návrh zákona, ktorý by trvalo zakázal vývoj superinteligentnej AI a pozastavil výskum, kým nevzniknú federálne pravidlá. Je to otvárací ťah v boji, ktorý práve eskaluje.
V liste dvom demokratickým kongresmanom OpenAI potvrdilo vývoj mechanizmov automatického zastavenia modelov a prísnejšiu kontrolu agentov. Návrh zákona, ktorý by vypínanie ukladal povinne, už leží v Snemovni reprezentantov.
AI Act je prvá komplexná regulácia umelej inteligencie na svete. Väčšiny slovenských firiem sa priamo nedotkne — ale dotkne sa nástrojov, ktoré používajú. Prehľad bez paniky a bez právneho žargónu.
Marketingový vizuál vygenerujete za minútu. Komu ale patrí? A môžete ho používať komerčne? Prehľad praktických pravidiel, ktoré vás udržia v bezpečí.
