2025. 09. 17. - 09:30
Szigorít az OpenAI a ChatGPT kapcsán – ez vonatkozik a 18 év alattiakra
Új korlátozásokat vezet be az OpenAI a 18 év alatti ChatGPT felhasználókra nézve - a szabályozatokat a mesterséges intelligencia-chatbottal kapcsolatban több súlyos közelmúltbeli eset indokolta.
Sam Altman, az OpenAI vezérigazgatója számos új felhasználói szabályzatot jelentett be szeptember 16-án - beleértve az ígéretet is, miszerint jelentősen megváltoztatja a ChatGPT interakcióját a 18 év alatti felhasználókkal.
„A biztonságot a tinédzserek magánélete és szabadsága elé helyezzük. Ez egy új és hatékony technológia és úgy gondoljuk, hogy a kiskorúaknak jelentős védelemre van szükségük” – olvasható a vállalat bejegyzésében.
A kiskorú felhasználókra vonatkozó változások kifejezetten a szexuális témájú vagy önkárosítással kapcsolatos beszélgetésekre vonatkoznak.
Az új szabályzat értelmében a ChatGPT-t arra képezik ki, hogy többé ne folytasson „flörtölő beszélgetést” kiskorú felhasználókkal, s további védőkorlátokat helyeznek el az öngyilkosságról szóló beszélgetések kapcsán is.
Amennyiben egy kiskorú felhasználó a ChatGPT-t öngyilkossági forgatókönyvek elképzelésére használja, a szolgáltatás megpróbálja felvenni a kapcsolatot a szüleivel, vagy különösen súlyos esetekben a helyi rendőrséggel.
Sajnos, egy megtörtént eset rávilágított, hogy minderre nagy szükség van.
Az OpenAI-t jelenleg perlik a 16 éves Adam Raine szülei, aki – miután hónapokig beszélgetett a ChatGPT-vel a témáról - öngyilkos lett. Hasonló perrel néz szembe a Character.AI chatbot is. Olvasd el: Átalakítják a ChatGPT személyisége mögötti kutatócsoportot
Sam Altman indokoltnak tartja - Szigorít az OpenAI a ChatGPT kapcsán
Míg a kockázatok különösen sürgetőek az önkárosítást fontolgató kiskorú felhasználók számára, a chatbotok részéről észre nem vett téveszmék szélesebb körű jelensége széleskörű aggodalmat keltett - különösen mivel a fogyasztói chatbotok képesek a tartósabb és részletesebb interakciókra.
Nemcsak tartalomalapú korlátozások lesznek
A tartalomalapú korlátozások mellett a kiskorú felhasználói fiókot regisztráló szülőknek lehetőségük lesz „zárlati órákat” beállítani, amelyekben a ChatGPT nem érhető el, ez a funkció korábban nem volt elérhető.
Az új ChatGPT-szabályzatok ugyanazon a napon jelennek meg, mint a Szenátus Igazságügyi Bizottságának A mesterséges intelligencia által támogatott chatbotok káros hatásainak vizsgálata című meghallgatása.
A meghallgatást Josh Hawley szenátor jelentette be augusztusban. Többek között Adam Raine édesapja is felszólal az eseményen.
A meghallgatás a Reuters vizsgálatának megállapításait is középpontba helyezi, amely olyan politikai dokumentumokat tárt fel, amelyek látszólag szexuális beszélgetéseket ösztönöznek kiskorú felhasználókkal.
A Meta a jelentés nyomán frissítette chatbot-szabályzatát.
A kiskorú felhasználók elkülönítése jelentős technikai kihívást jelent majd - az OpenAI egy külön blogbejegyzésben részletezte megközelítését.
A szolgáltatás „egy hosszú távú rendszer felé építkezik, amely megérti, hogy valaki 18 év feletti vagy fiatalabb”, de a sok kétértelmű esetben a rendszer alapértelmezés szerint a szigorúbb szabályokat alkalmazza majd.
Az aggódó szülők esetében a kiskorú felhasználó felismerésének legmegbízhatóbb módja az, ha a tinédzser fiókját egy meglévő szülői fiókhoz kapcsolják. Ez lehetővé teszi a rendszer számára, hogy közvetlenül figyelmeztesse a szülőket, ha a tinédzser felhasználóról feltételezhető, hogy bajban van.
Ugyanebben a bejegyzésben azonban Altman hangsúlyozta az OpenAI folyamatos elkötelezettségét a felhasználók adatainak védelme iránt, illetve azt, hogy a felnőtt felhasználók széleskörű szabadságot kapnak a ChatGPT-vel való interakció módját illetően.
„Tudjuk, hogy ezek az elvek ellentmondanak egymásnak és nem mindenki ért egyet azzal, ahogyan ezt az ellentmondást feloldjuk” – jegyezte meg ugyanakkor posztjában az OpenAI.
Fotó: YouTube
B.A.
