2024. 12. 10. - 11:40
Miért olyan emberiek a generatív MI chatbotok? Itt a meghökkentő válasz
Manapság a generatív mesterséges intelligencia bizony képes arra, hogy az embert rútul becsapja. A válasz, miért olyan emberiek a chatbotok, meglephet bennünket.
A generatív mesterséges intelligencia napjainkban hatékonyan képes becsapni az embereket. Ennek oka pedig az, hogy rendkívül emberi tud lenni.
A közelmúltban nagy port vert fel egy irodai dolgozó esete, aki engedélyezett egy nagyértékű tranzakciót, mert a főnöke hangján és stílusában kommunikált vele a generatív mesterséges intelligencia.
A technológia nagymértékben a hatalmas mennyiségű adatra támaszkodik a képzett nagy nyelvi modellek, nyelvi minták megtanulásához és előrejelzéséhez, egyre szélesebb körben elterjedt a ChatGPT 2022-es elindítása óta.
Tény: nehéz megmagyarázni, hogy egyesek, akik interakcióba lépnek a generatív MI chatbotokkal, miért olyan könnyen meggyőzhetőek arról, hogy egyfajta személlyel beszélgetnek.
A válasz magában a beszélgetés szabályaiban rejlik, illezve abban, hogy ezek mennyire mélyen ivódtak bele abba, ahogyan a világgal kommunikálnak az emberek - írta meg a theconversation.com.
A generatív MI körüli felhajtás nem véletlen?
A nyelvi modelleken alapuló generatív mesterséges intelligencia rendszerek olyan szöveget hoznak létre, amelyet a nyelvész „alaptalannak” nevezne. Hiányzik belőle a kölcsönös megértés, amely az emberek közötti beszélgetéseknek lényeges eleme.
Amikor azonban az emberek interakcióba lépnek egymással, hajlamosak azt feltételezni, hogy partnerük rendelkezik „józan ésszel”. Olvasd el: Mesterséges intelligencia-chatbotba szeretett bele egy nő
Meglepő lehet, miért olyan emberiek a generatív MI-chatbotok
Az ember általában antropomorfizálja azokat a nem humán dolgokat, amelyekkel kapcsolatba kerül. A generatív mesterséges intelligencia közelmúltbeli felívelései előtt ez főként állatokra vonatkozott.
Most azonban itt vannak a gépek: a generatív mesterséges intelligencia előtt a számítógépekkel folytatott interakcióink általában minimális nyelvi oda-vissza fordulást jelentettek. A GMI esetében viszont a számítógépes rendszerek valóságosnak tűnő módon ismernek meg bennünket. Ez a a technológia sikerének óriási része.
Mivel a generatív MI-rendszerek valamennyire folyékonyan képesek használni a nyelvet, sokan úgy gondolják, hogy képesek gondolkodni – ami nem igaz.
Szakértők megkülönböztetik a formális nyelvi kompetenciát – vagyis a nyelv szabályainak és statisztikai mintáinak ismeretét - és a funkcionális nyelvi kompetenciát, tehát a nyelv használatát valós helyzetekben.
Nem elég szabályok által szabályozott megnyilatkozásokat produkálni. Ezeket kontextusban is megfelelően kell használni.
A chatbot például kínálhat olyan választ, amely bár tényszerűen helyes, de nem veszi figyelembe, hogy barátjának támogatásra van szüksége.
A generatív MI-rendszerek intelligenciájába vetett hitünk a nyelvi képességükből fakad. Döntő fontosságú viszont, hogy mi történik az emberekkel, amikor kapcsolatba lépnek a technológiával.
A kulcs ahhoz, hogy megértsük, miért vonzóak a generatív mesterséges intelligencia chatbotok az emberek számára, a botok által megvalósított műfajban rejlik: a beszélgetésben. A beszélgetést szabályok és rutinok irányítják.
A szabályok az alábbiak.
-A minőség maximuma: legyen igaz; ne adjon hamis vagy bizonyítékokkal nem alátámasztott információt.
-A mennyiség maximuma: legyen annyira informatív, amennyire szükséges; ne adjon túl sok vagy túl kevés információt.
-A relevancia maximuma: csak olyan információkat adjon meg, amelyek relevánsak a tárgyalt témában.
-A magatartás maximuma: legyen világos, rövid és szabályos, valamint kerülje a homályt és a kétértelműséget.
Hogyan teljesítenek a chatbotok?
A generatív MI chatbotok általában jól teljesítenek a mennyiséget tekintve. Olykor tévednek azzal, hogy túl sok információt nyújtanak – de általában relevánsak és egyértelműek. Ez az oka annak, hogy az emberek írásaik javítására használják őket.
Kudarcot vallanak azonban gyakran a minőségi maximum kapcsán. Hajlamosak hallucinálni és olyan válaszokat adni, amelyek mérvadónak tűnnek, de valójában hamisak.
A generatív mesterséges intelligencia sikerének lényege azonban abban áll, hogy bárki, aki értelmes kommunikációt folytat és betartja ezeket a maximumokat, azt feltételezi, hogy mások is így tesznek.
A hazugság működésének oka például az, hogy a hazugokkal érintkező emberek azt feltételezik, a másik személy igazat mond. Akik kapcsolatba kerülnek irreleváns megjegyzést közzétevő valakivel, mindenáron megpróbálják megtalálni a relevanciát.
A beszélgetést a törekvés határozza meg, arra, hogy megértsük egymást.
A generatív mesterséges intelligencia sikere tehát részben azon múlik, hogy az emberek mennyire igénylik a párbeszédben történő együttműködést, illeve, hogy ösztönösen vonzódnak-e az interakcióhoz.
A beszélgetésen keresztüli interakciónak ezen, gyermekkorban tanult módja megszokottá válik. Radikálisan eltérni ettől nagy erőfeszítés lenne.
Ha tehát legközelebb generatív mesterséges intelligenciával beszélgetünk, tegyük óvatosan. Ne feledjük, hogy csak egy nyelvi modell. Ne szokványos embertársként kezeljük a gépet, a társalgási együttműködési igényünk részeként.
B.A.
