Austrália sa vlani stala prvou krajinou sveta, ktorá deťom do 16 rokov priamo zakázala sociálne siete. Teraz nezávislá poslankyňa Kate Chaney navrhuje rovnaký zákaz rozšíriť na AI chatboty a spoločníkov, ktorí simulujú emocionálnu intimitu. Návrh je súčasťou jej balíka „Shaping the Future of AI for Australians“.
Čo návrh hovorí
Chaney argumentuje, že krajina sa chystá zopakovať chybu zo sociálnych sietí — tentoraz s AI. Podľa štúdií citovaných v návrhu:
- tretina amerických tínedžerov použila AI chatboty na spoločenskú interakciu a vzťahy vrátane emocionálnej podpory a romantického kontaktu,
- 79 % austrálskych tínedžerov už AI chatboty vyskúšalo a v Novom Južnom Walese 29 % mladých využíva AI na podporu duševného zdravia.
Návrh cieli nielen na špecializovaných spoločníkov typu Character.AI, Replika či Chai, ale priamo hovorí, že simulácia intimity je dizajnový prvok aj všeobecných chatbotov ako ChatGPT, Claude alebo Copilot.
Prečo súčasné zákony nestačia: medzera ako systémová chyba
Analýza think-tanku AIRI odhaľuje zaujímavý detail: austrálsky zákaz sociálnych sietí AI spoločníkov nepokryl zrejme omylom v znení zákona. „Platforma s vekovým obmedzením“ je definovaná ako služba umožňujúca interakciu „medzi dvoma alebo viacerými koncovými používateľmi“ — a rozhovor jedného človeka s AI túto definíciu nespĺňa.
Identická medzera existuje v britskom Online Safety Act 2023, ktorý zachytáva len služby „user-to-user“; samostatná aplikácia typu Replika mimo neho spadá. Británia teraz medzeru čiastočne rieši cez Crime and Policing Act 2026, ktorý zakotvil nové trestné činy pre škodlivý obsah AI chatbotov a umožňuje ministrov zaradiť samostatné chatboty pod zákon sekundárnou legislatívou — proces však stále nie je dokončený.
„Nezmeškajme to ako pri sociálnych sieťach,“ vyzýva obyvateľka volebného obvodu Curtin v materiáloch návrhu.
Čo z toho vyplýva pre firmy a Európu
Pre firmy, ktoré dnes stavajú zákaznícke chatboty, AIRI odporúča nečakať na legislatívu:
- jasne a opakovane v produkte označovať, že používateľ hovorí s AI,
- vybudovať skutočnú cestu k ľudskej kontrole pri každom rozhodnutí s dôsledkami,
- funkcie typu spoločník testovať na konkrétne riziká, ktoré regulátori zbiehavo adresujú: simulované vzťahy, nevyžiadané emocionálne zapájanie a systém, ktorý pokračuje v rozhovore so zraniteľným človekom aj potom, keď by človek už prestal.
Pre Európu — a teda aj Slovensko — je austrálsky smer relevantný signál: AI Act sa na emocionálnu manipuláciu pozerá cez optiku zakázaných praktík, no vekové obmedzenia pre AI spoločníkov zatiaľ priamo nerieši. Ak Austrália návrh pretlačí, vznikne prvá explicitná veková hranica pre AI chatboty na svete a tlak na európskych zákonodarcov prudko vzrastie.
Návrh je zatiaľ politická iniciatíva jednej poslankyne, nie prijatý zákon — a jeho osud je neistý. Jeho význam je ale inde: prvá krajina, ktorá zakázala deťom sociálne siete, teraz nahlas hovorí, že AI spoločníci patria do rovnakej kategórie. Ak by sa text dostal do parlamentu a prešiel, vytvoril by precedens, na ktorý sa budú odvolávať regulátori od Ottawy po Brusel — a technologické firmy by konečne dostali jasnú odpoveď na otázku, či je „digitálny priateľ“ pre štrnásťročného legálny produkt. O tom, či text prejde, rozhodne až parlament; jeho zverejnenie ale už teraz posúva hranicu toho, čo sa v regulácii AI považuje za legitímnu a naliehavú tému.
