Společnost OpenAI spustila verzi svého populárního chatbota speciálně navrženou pro mladší uživatele. S názvem ChatGPT for Teens je určen pro chlapce a dívky ve věku 13 až 17 let, ačkoli v praxi se aktivuje i pro každého uživatele, kterého systém považuje za mladšího 18 let. Společnost chtěla reagovat na rostoucí poptávku: teenageři již používají umělou inteligenci ke studiu, získávání odpovědí na otázky nebo jen pro společnost a společnost chce, aby tak dělali v bezpečnějším a kontrolovanějším prostředí.
Nová funkce nevyžaduje, aby si teenageři vytvářeli samostatný účet ani cokoli ručně aktivovali. Aplikuje se automaticky, když OpenAI zjistí, že je uživatel mladší 18 let, a to buď proto, že to uvede při registraci, nebo proto, že jej systémy pro odhad věku odvodí z více signálů. Cílem společnosti je, aby mladí lidé mohli využívat funkcí ChatGPT, aniž by byli vystaveni nevhodnému obsahu nebo škodlivé dynamice.
Automatizovaný zážitek pro osoby mladší 18 let.
Tato nová funkce funguje na základě systému predikce věku, který analyzuje více než 2 000 signálů, jako jsou typické časy přihlášení, stáří účtu, vzorce používání a typy prováděných dotazů. Pokud systém zjistí, že je uživatel mladší 18 let, účet se automaticky přepne na verzi pro teenagery. V případě pochybností se použije restriktivnější možnost – ta určená pro nezletilé.
Pokud je dospělý omylem klasifikován jako nezletilý, může si ověřit svůj věk pořízením selfie prostřednictvím služby Persona, jak vysvětluje OpenAI. Tento mechanismus se zavádí od začátku roku a nyní se konsoliduje spuštěním této specifické funkce. Společnost uvedla, že zavádění bude probíhat postupně v nadcházejících týdnech a že v Evropské unii bude přizpůsobeno regionálním požadavkům se specifickou implementací pro každou zemi.
Metoda učení: učení bez zkratek
Jednou z nejpozoruhodnějších nových funkcí je vylepšený studijní režim, funkce, která již existovala, ale nyní se stala jádrem zkušeností teenagerů. Místo nabízení přímých odpovědí ChatGPT vede studenta otázkami, podrobnými vysvětleními a praktickými cvičeními. Cílem je, aby student dospěl k řešení samostatně, rozvíjel kritické myšlení a skutečné porozumění daným konceptům.
Kromě toho byly začleněny připomínky zodpovědných domácích úkolů. Systém dokáže rozpoznat, kdy se teenager snaží zkrátit úkol, například tím, že požádá o rychlou odpověď, a přesměruje ho do studijního režimu. Lze také nastavit studijní hodiny – časové úseky, během kterých chatbot automaticky zahajuje konverzace v tomto vzdělávacím režimu. Tyto časové úseky si může nastavit teenager i jeho rodiče.
Společnost OpenAI vysvětlila, že studijní režim byl navržen ve spolupráci s učiteli a pedagogickými specialisty a využívá techniky, jako je scaffolding, aktivní vyhledávání a sebereflexe. Podle společnosti první výsledky ukazují zlepšení výkonu, ačkoli tato data poskytla samotná společnost.
Omezení obsahu a emoční pohoda
Verze pro teenagery obsahuje automatická omezení citlivých témat, jako je sebepoškozování, násilí, poruchy příjmu potravy, nebezpečné aktivity a explicitní sexuální nebo grafický obsah. Tato omezení byla částečně aktivní již od loňského podzimu, ale nyní se rozšiřují a posilují. Chatbot dále nesmí používat romantický jazyk, podněcovat k emocionální závislosti nebo naznačovat, že má city nebo vědomí. Také se nesmí definovat jako přítel uživatele ani používat projevy náklonnosti.
Aby se zabránilo příliš familiárnímu vztahu nezletilých s umělou inteligencí, bude ChatGPT pravidelně zobrazovat připomenutí, že interagují se strojem, a upozorní je, když zjistí delší dobu používání. Byla také přidána oznámení týkající se nahrávání citlivých obrázků, aby si teenageři byli vědomi toho, co sdílejí. Hlasový režim je u těchto účtů ve výchozím nastavení vypnut.
Pokud jde o bezpečnostní upozornění, OpenAI vyvinula systém, který v situacích vážného rizika může zasílat upozornění rodičům nebo zákonným zástupcům. Tato upozornění nejprve zkontroluje tým lidských moderátorů, kteří před odesláním odstraní nepotřebné podrobnosti. Kromě stávajících kategorií pro sebepoškozování a násilí byla přidána nová kategorie speciálně pro poruchy příjmu potravy.
Rodičovská kontrola: nerušivý dohled
Rodiče nebo opatrovníci mohou propojit svůj účet s účtem nezletilého a spravovat tak určité aspekty používání. Mezi dostupné možnosti patří nastavení tichých hodin, během kterých je přístup k ChatGPT blokován, vypnutí hlasového režimu, zabránění systému v ukládání informací o nezletilém, vypnutí generování obrázků a vyloučení konverzací z modelového tréninku. Mohou také nastavit studijní hodiny.
Rodičovská kontrola však rodičům neumožňuje číst ani monitorovat konverzace. OpenAI zdůraznila, že při odeslání bezpečnostního upozornění se sdílejí pouze informace nezbytné k ochraně blaha mladé osoby. Toto rozhodnutí si klade za cíl vyvážit monitorování se soukromím teenagera, což je otázka, která vyvolala debatu mezi rodinami.
Společnost také poznamenala, že používání ChatGPT mezi teenagery je rozšířené. Podle studie Common Sense Media více než 70 % mladých Američanů používá chatboty s umělou inteligencí pro společnost a polovina z nich je používá pravidelně. Tato skutečnost přiměla OpenAI k akci, zejména po kritice a žalobách, které obdržela ohledně dopadu umělé inteligence na duševní zdraví dětí.
Ke spuštění dochází uprostřed rostoucího regulačního a společenského tlaku. Ve Spojených státech probíhá několik soudních sporů proti OpenAI, včetně jednoho souvisejícího s případem teenagera, který spáchal sebevraždu po interakci s chatbotem. V Evropské unii Parlament doporučil stanovit minimální věk pro používání sociálních médií a služeb umělé inteligence na 16 let a Komise pracuje na aplikaci pro ověřování věku, která by mohla být hotová do konce roku.
S touto novou verzí si OpenAI klade za cíl zajistit, aby teenageři i nadále používali ChatGPT, ale bezpečnějším a vzdělávacím způsobem. Nástroj nejen omezuje obsah, ale také se snaží změnit způsob, jakým mladí lidé interagují s umělou inteligencí, a transformuje ji spíše na učební pomůcku než na náhradu úsilí. Zda tato opatření budou stačit k rozptýlení obav rodičů a pedagogů, se teprve uvidí, ale společnost rozhodně učinila důležitý krok k zodpovědnějšímu používání umělé inteligence mezi nezletilými.