Az OpenAI átalakítja a ChatGPT kiskorúakkal való interakcióját, hogy csökkentse a kockázatokat egy olyan időszakban, amikor egyre több fiatal fordul chatbotokhoz tanuláshoz, csevegéshez vagy aggodalmak kimondásához. A vállalat úgy döntött, hogy bizonyos helyzetekben a tinédzserek biztonságát helyezi előtérbe a magánélettel és a szabadsággal szemben , ez a változás számos, a nyilvánosság aggodalmát keltő incidens után következett be.
A terv egy olyan rendszert tartalmaz, amely megpróbálja automatikusan megkülönböztetni a felhasználót attól, hogy kiskorú vagy felnőtt, és kétség esetén alapértelmezés szerint korlátozóbb élményt alkalmaz. Az OpenAI elismeri, hogy egyes országokban hivatalos igazolványra lehet szükség azoktól a felnőttektől, akik teljes mértékben ki szeretnék használni a funkciót; ez egy olyan adatvédelmi engedmény, amelyet a vállalat elfogadhatónak tart a kiskorúak védelme érdekében . A bejelentés növekvő politikai és társadalmi nyomás közepette történt, az amerikai szenátusban meghallgatást tartottak, és pert indítottak egy fiatalember halálát követően, aki csevegtetni kezdett a mesterséges intelligenciával.
Milyen változások történnek a ChatGPT-ben kiskorúak számára?
- Kifejezetten 13-17 éves tinédzserek számára készült élmény, szigorúbb szabályzattal, amely a következő időpontban lép életbe: kor előrejelzése felhasználó.
- Zár nyílt szexuális tartalom és az önkárosítással vagy öngyilkossággal kapcsolatos anyagokkal való együttműködés megtagadása bármilyen kontextusban kiskorúak számára.
- Krízisprotokollok: Súlyos vészhelyzet észlelése esetén a rendszer értesítse a szülőket vagy gondviselőket és ha közvetlen veszély áll fenn, értesítse a sürgősségi szolgálatokat.
- Felnőttek számára továbbra is rugalmasabb használati módok állnak rendelkezésre, beleértve az összetett kreatív kéréseket is, mindig biztosítékok mellett; A vörös vonal nem a valódi károkozás elősegítésére szolgál.
- A ChatGPT nem 12 év alatti gyermekek számára készült, és eddig... hiányoztak a kellően erős korlátok hogy megakadályozza a gyermekek általi használatát.
Hogyan fog működni az életkor-érzékelés és -ellenőrzés ebben a ChatGPT-ben?
Az OpenAI egy olyan életkor-előrejelző rendszert fejleszt, amely nyelvi és kontextusbeli jelzések alapján igazítja az interakciókat. Ha a modell nem tudja pontosan meghatározni egy felnőtt életkorát, elővigyázatosságból automatikusan alkalmazza a kiskorúakra vonatkozó beállításokat .
A felnőtt felhasználóknak lehetőségük lesz igazolni korukat és visszanyerni a teljes funkcionalitást, ha tévesen tinédzserként osztályozták őket. A vállalat elismeri, hogy az adatvédelem és a magánélet védelme közötti egyensúly kényes, de fenntartja, hogy ez az intézkedés csökkenti a kockázatokat egy kiszolgáltatott csoport számára.
Szülői felügyelet és otthoni felügyelet
A tartalomszűrés mellett az OpenAI szülői felügyeleti eszközöket is biztosít a családok számára. A szülők összekapcsolhatják fiókjukat tinédzser gyermekeik fiókjával, hogy használati szabályokat állítsanak be és áttekintsék a legfontosabb beállításokat.
A lehetőségek között szerepel a tárolás és a csevegési előzmények letiltása, bizonyos funkciók korlátozása, valamint a leválasztási idők beállítása az éjszakai használat megakadályozása érdekében. Értesítéseket is küld a rendszer, amikor jelentős szorongást észlel, így a szülők gyorsan beavatkozhatnak.
Szabadság, magánélet és korlátok felnőttek számára
Az OpenAI fenntartja, hogy továbbra is felnőttként kezeli a felnőtteket, bőven hagyva teret a jogos felhasználásoknak, például a segítségkérésnek érzékeny témájú fikció megalkotásához. Ennek ellenére az alapértelmezett modell nem adhat káros utasításokat , és nagyobb körültekintéssel jár el az érzékeny kérések kezelésekor.
A vállalat fenntartja, hogy a beszélgetések bizalmas kezelésének meg kell hasonlítania a szabályozott szakmákban elvárthoz, de elismeri, hogy amikor egyértelmű veszély áll fenn a felhasználó vagy harmadik felek életére , akkor a személy védelmét célzó emberi vagy automatizált beavatkozások megengedettek.
Közvélemény-nyomás, a Szenátus és a közelmúltbeli esetek
Az új biztosítékok a chatbotok fiatalok mentális egészségére gyakorolt hatásával kapcsolatos aggodalmak hullámát követően születtek. Egy tinédzser esete, aki hónapokig mesterséges intelligenciával folytatott beszélgetés után öngyilkos lett, jogi lépéseket eredményezett az OpenAI ellen , és az amerikai törvényhozók intenzív vizsgálatot indítottak ellene.
A szenátusi meghallgatások egy potenciális közegészségügyi válsággal és a hatékony biztosítékok szükségességével foglalkoztak. Eközben olyan hatóságok, mint az Szövetségi Kereskedelmi Bizottság (FTC), információkat kértek a nagyobb technológiai vállalatoktól rendszereik gyermekekre gyakorolt hatásáról. Az OpenAI a maga részéről augusztus végén fejlesztéseket vezetett be az érzelmi válságok észlelésére és a támogató szolgálatokhoz való beutalás felgyorsítására.
Független szervezetek rámutattak a társalgási modellek biztosítékainak gyengeségeire, figyelmeztetve azokra a válaszokra, amelyek normalizálhatják vagy ösztönözhetik a veszélyes viselkedést . Ezek a jelentések megerősítették azt az elképzelést, hogy erősebb ellenőrzésre van szükség, különösen a kiskorúak esetében.
A serdülőkori szerhasználat valósága: bizalom és kockázatok
Számos tanulmány arra utal, hogy a fiatalok jelentős része a mesterséges intelligenciát „társként” használja kapcsolatok, személyes kétségek vagy érzelmek megvitatására, és a kiskorúakat célzó mesterséges intelligencia esetei, mint például BabyGrok, felkorbácsolták a vitát. A lányok körében magasabb azoknak az aránya, akik intim ügyeiket a technológiára bízzák, mint a fiúknál , ami egy olyan használati mintát mutat, amely túlmutat az akadémiai ismereteken.
A mentális egészségügyi szakértők a szimulált empátia veszélyeire figyelmeztetnek: a chatbotok megértőnek tűnhetnek, de nem helyettesítik az emberi kapcsolatot vagy a szakmai támogatást. Ez a közelség látszata , a non-stop elérhetőséggel párosulva, megkönnyíti a tinédzserek számára, hogy a mesterséges intelligenciához forduljanak, amikor egyedül érzik magukat, vagy a környezetük ítéli el őket.
A leggyakoribb aggodalmak közé tartozik a manipulált tartalomtól való félelem, a hamis, szexuálisan explicit képek terjedése , valamint a valóság és az online manipuláció megkülönböztetésének nehézsége. Aggodalomra ad okot a függőség is: sok fiatal fél attól, hogy függővé válik az eszköztől, és elveszíti az önálló gondolkodás képességét.
A mentális egészségügy területén a legtöbb ember nem bízik a mesterséges intelligenciában a diagnózis vagy a terápia terén, és óvatosságra int. A terapeuták között az a konszenzus, hogy a mesterséges intelligencia hasznos eszköz lehet, de a kockázat jelei esetén szakemberhez kell irányítania a betegeket , és nem helyettesítheti a minősített ellátást.
Ami még finomhangolásra vár a ChatGPT ezen verziójában
Az életkor megbízható előrejelzése technikai kihívást jelent, amelynek van egy bizonyos hibahatára, és a biztonsági intézkedések kialakítása folyamatos frissítést igényel. Az OpenAI kijelentette, hogy továbbra is szakemberekkel és érdekvédelmi csoportokkal fog együttműködni a rendszer pontosságának javítása , az elfogultság elkerülése és a protokollok bizonyítékokon alapuló felülvizsgálata érdekében.
A fiatalok körében a mesterséges intelligencia használata csak növekedni fog, így a kulcs a szabályozás gyors és átlátható fejlődése lesz. Ezekkel az intézkedésekkel az OpenAI egy olyan középutat keres, ahol az innováció együtt él a felelősséggel, és ahol a tinédzserek jobban védettek anélkül, hogy megfosztanák a felnőtteket a jogos és kreatív használattól.
Az OpenAI lépése új szakaszt jelent: egy ChatGPT-t, amely több szűrővel és eszközzel rendelkezik a családok számára, speciális élményt nyújt a kiskorúak számára, és egyértelmű szabályokat kínál a kritikus pillanatokra. Ha a megvalósítás beváltja a hozzá fűzött reményeket, a tinédzserek több biztonsági réteget kapnak , a felnőttek pedig megtarthatják a szabadság terét, mindezt pedig tisztábban láthatják azzal kapcsolatban, hogy hogyan és miért születnek ezek a döntések.
