2024. 05. 06. - 08:40
Veszélyes lehet a mesterséges intelligencia-terapeuta
Nem veszélytelen, ha csupán a mentális egészségügyi chatbotokra támaszkodunk. Az emberek túlbecsülhetik a terápiás előnyöket és alábecsülhetik az ilyen technológiák használatának korlátait.
Veszélyes lehet, ha csak a mentális egészségügyi chatbotokra támaszkodunk.
Napjainkban – főként az ellátáshoz való hozzáférés fizikai és pénzügyi akadályai miatt – a mentális egészségügyi problémákkal küzdő emberek közül egyre többen fordulnak mesterséges intelligenciával (MI) működő chatbotokhoz, megkönnyebbülése vagy segítségnyújtásra vágyva.
Lassan a testtel
Bár az Egyesült Államok Élelmiszer- és Gyógyszerügyi Hatósága vagy éppen a Health Canada nem hagyta jóvá azokat orvosi eszközként, az ilyen chatbotok használata azért terjed, mert rendelkezésre állnak a hét minden napján, 24 órában. Személyre szabott támogatásuk és a kognitív viselkedésterápia, amit nyújtanak, kiváló marketing a számukra.
A felhasználók azonban túlbecsülhetik a terápiás előnyöket és alábecsülhetik az ilyen technológiák használatának korlátait - tovább rontva mentális egészségüket.
Egy ilyen jelenség terápiás tévhitnek minősíthető, ahol a rászorulók azt gondolhatják: a chatbot valódi terápiás ellátást biztosít nekik.
Az MI chatbotokkal kapcsolatos terápiás tévhitek négyféleképpen fordulhatnak elő, két fő áramlaton keresztül: a vállalati gyakorlaton és magán az MI-technológia kialakításán keresztül.
De mi hiányzik a chatbotból?
Először is a mentálhigiénés chatbotok pontatlan marketingje „kognitív viselkedésterápiát" említ, valamint „mentális egészséget támogató” eszközökként írja le a chatbotokat. Ez félrevezető lehet, mivel ez arra utal, hogy a chatbotok pszichoterápiát is végezhetnek.
Az ilyen chatbotokból nemcsak a humán terapeuták készsége, képzettsége és tapasztalata hiányzik. Annak említése, hogy „más módon kezelhetik” a mentális betegségeket, azt sugallja, hogy a chatbotok alternatív terápiaként is használhatók. Olvasd el: Beültetett terapeuta is lehet a mesterséges intelligencia?
Ez a fajta marketing taktika igencsak kizsákmányolhatja a felhasználók egészségügyi rendszerbe vetett bizalmát - különösen akkor, ha a terapeutákkal szoros együttműködésben reklámozzák azokat.
Az ilyen marketingtaktikák arra késztethetik az embereket, hogy felfedjenek nagyon személyes és magánjellegű egészségügyi információkat - anélkül, hogy teljesen megértenék, ki birtokolja adataikat és kinek van hozzáférése azokhoz.
A második típusú terápiás tévhit, amikor a felhasználó úgymond digitális terápiás szövetséget köt egy chatbottal.
Digitális szövetség?
A humán terapeutával előnyös egy erős terápiás szövetség kialakítása, hiszen a páciens és a terapeuta is együttműködik és megállapodik a kívánt célokban, melyeket a feladatokkal el lehet érni. Emellett bizalmon és empátián alapuló köteléket alakítanak ki.
Mivel a chatbot nem képes olyan terápiás kapcsolatra, mint ember az emberrel, létrejöhet egy digitális terápiás szövetség, ahol a felhasználó szövetséget észlel a chatbottal - még akkor is, ha a chatbot valójában nem tud ilyet létrehozni.
A chatbotok fejlesztői egyébként nagy erőfeszítéseket tettek a felhasználók bizalmának elnyerésére, illetve a chatbotokkal történő, digitális terápiás szövetség megerősítésére – beleértve a humanisztikus tulajdonságok biztosítását, hogy a robotok hasonlítsanak a tényleges terapeutákkal folytatott beszélgetésekre és utánozzák azokat. Sőt, anonim 24/7 társként reklámozzák őket, akik képesek megismételni egy terápia aspektusait.
Egy ilyen szövetség azonban arra késztetheti a felhasználókat, hogy önkéntelenül is ugyanazt a bizalmas kezelést és a magánélet védelmét várják el a chatbottól, mint egy egészségügyi szolgáltatótól.
Sajnos minél megtévesztőbb a chatbot, annál hatékonyabb lesz a digitális terápiás szövetség.
A terápiás tévhitek közé tartozik az is, hogy a felhasználók korlátozott ismeretekkel rendelkeznek az MI algoritmusának lehetséges torzításairól. A marginalizált emberek gyakran kimaradnak az ilyen technológiák tervezési és fejlesztési szakaszából, ami oda vezethet, hogy elfogult és nem megfelelő válaszokat kapnak.
Ha az ilyen chatbotok nem képesek felismerni a kockázatos viselkedést, vagy nem tudnak kulturálisan és nyelvileg releváns mentális egészségügyi forrásokat biztosítani, az ronthatja a kiszolgáltatott csoportok mentális egészségi állapotát - akik nem csak megbélyegzéssel és diszkriminációval szembesülnek, hanem az ellátáshoz sem jutnak hozzá.
Terápiás tévhit akkor fordul elő, ha a felhasználók azt várják, hogy a chatbot terápiás előnyöket nyújt, de végül káros tanácsokat kapnak.
Végezetül, az is terápiás tévhit, amikor a mentális egészséggel foglalkozó chatbotok nem képesek támogatni és előmozdítani a kapcsolati autonómiát – ez a koncepció azt hangsúlyozza, hogy az egyén autonómiáját kapcsolatai és társadalmi kontextusa alakítja.
Ezután a terapeuta felelőssége, hogy segítse a páciens autonómiájának helyreállítását, azzal, hogy támogatja és motiválja őt a terápiában való aktív részvételre.
Igazi paradoxon
Az MI-chatbotok olyan paradoxont jelentenek, melyben a hét minden napján, 24 órában rendelkezésre állnak és azt ígérik, javítják az önellátást a mentális egészség kezelésében.
Ez nemcsak a segítségkérő magatartást teheti rendkívül elszigetelővé és egyénre szabottá, hanem egy olyan terápiás tévképzetet is létrehoz, melyben az egyének azt hiszik, önállóan tesznek pozitív lépést mentális egészségük javítása felé. Pedig sajnos nem ez a teljes igazság. A chatbotok ráadásul nem létesítenek valós kapcsolatot az emberrel.
Fontos tehát, hogy a felhasználók tisztában legyenek a chatbot korlátozott terápiás képességeivel és hagyományosabb terápiás formákat keressenek. Lehet használni őket természetesen, de teljes mértékben rájuk hagyatkozni meglehetősen rizikós.
L.A.
