Väčšina z vyše 900 miliónov používateľov ChatGPT si zrejme nemyslí, že ich konverzácie číta človek. Vyšetrovanie 404 Media ukazuje, že aspoň časť z nich áno: OpenAI v rámci interného programu s krycím názvom Project Lily najíma stovky dodávateľov, ktorí čítajú skutočné prompty používateľov a hodnotia odpovede chatbota na škále 1 až 7.
Čo 404 Media odhalilo
Médium malo prístup k interným inštrukciám, Slack kanálom, reálnym promptom aj hodnotiacemu systému. Podľa nich:
- Dodávateľov náboruje firma Crossing Hurdles a vypláca ich platforma Mercor; jeden pracovník hlási viac než 50 dolárov na hodinu.
- Hodnotitelia zhrnujú zámer používateľa, porovnávajú viacero odpovedí a vysvetľujú známkovanie — vrátane problémov so štýlom, prílišnou lichôtivosťou a jazykom, ktorý simuluje ľudské skúsenosti. Práve príliš „lichotivý“ model 4o figuruje vo viacerých žalobách súvisiacich so sebepoškodzovaním používateľov.
- Usernames nevidia, no prompty môžu obsahovať citlivé osobné detaily; nad niektorými sa zobrazuje aj sumár „pamäte“ používateľa, ktorý môže naznačiť napríklad oblasť bydliska.
„Nemyslím si, že by si používatelia predstavovali, že niekde nejaký dodávateľ analyzuje ich konverzácie,“ povedal 404 Media človek pracujúci s promptami.
Čo hovorí OpenAI
OpenAI uvádza, že oprávnené konverzácie prechádzajú pred ľudským hodnotením cez Privacy Filter, ktorý má odstrániť osobné údaje. Zároveň priznáva, že filter môže prehliadnuť neobvyklé identifikátory alebo naopak zacenzúrovať priveľa, keď chýba kontext. Po otázkach 404 Media firma doplnila stránku podpory o detaily k odhláseniu — stále však podľa média explicitne neuvádza, že prompty na účely zlepšovania modelu môžu čítať ľudia.
Kde sú hranice nastavení
- Free, Plus a Pro: prepínač „Zlepšiť model pre všetkých“ je štandardne zapnutý. Vypnutie znamená, že nové konverzácie sa nepoužívajú na tréning, no zostávajú v histórii.
- Dočasné chaty sa na zlepšovanie modelov nepoužívajú; OpenAI ich drží 30 dní z bezpečnostných dôvodov a potom maže.
- Enterprise, Business a Edu majú zlepšovanie modelov štandardne vypnuté.
Nie je to len OpenAI — ale to problém nerieši
Anthropic pre 404 Media potvrdilo, že tiež využíva ľudské hodnotenie na zlepšovanie modelov — tvrdí, že konverzácie predtým de-identifikuje. Podobné programy má aj Google. Ľudské hodnotenie je teda odvetvový štandard, nie výnimka.
Jadro problému, ktorý vyšetrovanie otvára, nie je filtrácia dát, ale zverejnenie: či používateľ so štandardne zapnutým súhlasom rozumie tomu, že jeho chaty môže čítať človek. V európskom kontexte je to citlivé o to viac, že GDPR kládie vysoké nároky na informovanosť súhlasu — a OpenAI práve tento mesíc čelí prísnejšiemu dohľadu aj v rámci DSA.
Čo môžete urobiť dnes
- V nastaveniach ChatGPT vypnite „Zlepšiť model pre všetkých“, ak nechcete, aby sa vaše chaty používali na tréning.
- Pre citlivé témy používajte dočasné chaty.
- Firemné a osobné údaje do spotrebiteľských chatbotov vôbec nevkladajte — anonymizácia je štatistický proces, nie záruka.
- Skontrolujte si aj nastavenia „pamäte“ (Memory): ak ju nepotrebujete, vypnite ju, aby sa z vašich chatov nebudoval dlhodobý profil, ktorý môže hodnotiteľom prezradiť viac kontextu, než čakáte.
- Firmám zostáva najčistejšou cestou firemné (Business/Enterprise) úrovne s vypnutým tréningom.
Project Lily je pripomienka, že za „inteligenciou“ chatbotov nestojí len scraping a GPU, ale aj ľudia čítajúci reálne otázky reálnych ľudí. Otázka, ktorú teraz musia regulátori aj používatelia zodpovedať, je, či štandardne zapnutý súhlas stačí.
