2025. 09. 02. - 09:10
A tinik védelmében frissíti chatbot-képzését a Meta
Frissíti a Meta a chatbotokra vonatkozó szabályokat, hogy elkerülje a nem megfelelő témákat a tinédzser felhasználókkal – módosít az MI-vezérelt botok képzésének módján.
A Meta frissíti a chatbotokra vonatkozó szabályokat.
Megváltoztatja a mesterséges intelligencia-vezérelt chatbotok képzésének módját, hogy a tinédzserek biztonságát előtérbe helyezze.
Tette mindezt azután, hogy oknyomozó jelentés készült a vállalat kiskorúakra vonatkozó mesterséges intelligencia általi védelmének hiányáról – mondta el a Meta egyik szóvivője, Stephanie Otway a TechCrunch-nak.
A vállalat mostantól kiképzi a chatbotokat, hogy ne menjenek bele tinédzser felhasználók esetében önkárosítással, öngyilkossággal, rendellenes étkezéssel vagy potenciálisan nem megfelelő romantikus beszélgetésekbe.
A Meta szerint ezek átmeneti változtatások - a jövőben robusztusabb, hosszú távú biztonsági frissítéseket adnak majd ki a kiskorúak számára.
Stephanie Otway elismerte: a vállalat chatbotjai korábban is tudtak beszélgetni a tinédzserekkel ezekről a témákról, a vállalat által megfelelőnek ítélt módon, ám mostanra felismerték, hogy ez hiba volt. Olvasd el: Nemet mondott a Meta az EU mesterséges intelligencia-kódexére
A tinik védelmében frissíti chatbot-képzését a Meta
„Ahogy közösségünk növekszik és a technológia fejlődik, folyamatosan tanuljuk, hogyan léphetnek interakcióba a fiatalok ezekkel az eszközökkel, s ennek megfelelően erősítjük a védelmünket” – mondta Otway.
„Folyamatosan finomítjuk rendszereinket, további védőkorlátokat vezetünk be óvintézkedésként – beleértve azt is, hogy mesterséges intelligenciáinkat betanítjuk arra: ne foglalkozzanak a tinédzserekkel ilyen témákkal, hanem irányítsák őket szakértői forrásokhoz, s hogy a tinédzserek hozzáférését egyelőre csak bizonyos MI-karakterek csoportjára korlátozzuk. Ezek a frissítések már folyamatban vannak, s továbbra is adaptáljuk majd megközelítésünket, hogy biztosítsuk a tinédzserek biztonságos, kornak megfelelő élményeit a mesterséges intelligenciával” – fejtette ki a szóvivő.
A képzési frissítéseken túl a Meta korlátozni fogja a tinédzserek hozzáférését bizonyos MI-karakterekhez is, amelyekkel folytathatnak nem megfelelő beszélgetéseket.
Az Instagramon és a Facebookon elérhetővé tett, felhasználók által készített MI-karakterek között szerepelnek szexualizált chatbotok, mint például a „Mostohaanya” és az „Orosz lány”.
Ehelyett a tinédzser felhasználók csak olyan MI-karakterekhez férhetnek hozzá, amelyek az oktatást és a kreativitást népszerűsítik – mondta Otway.
A szabályzatváltozásokat mindössze 2 héttel azután jelentették be, hogy a Reuters vizsgálata feltárt egy belső Meta-szabályzati dokumentumot, amely látszólag lehetővé tette a vállalat chatbotjai számára, hogy szexuális beszélgetéseket folytassanak kiskorú felhasználókkal.
B.A.
