A mesterséges intelligenciával folytatott beszélgetések egyes, pszichózissal élő emberek tüneteit súlyosbíthatják – mutatott rá egy amerikai kutatás. A vizsgált esetekben különösen gyakori volt, hogy az érintettek első pszichotikus epizódjukat élték át. A kutatók szerint mindez indokolttá teheti az MI-használat felmérését a pszichiátriai ellátás során.
A mesterséges intelligenciával folytatott beszélgetések egyes pszichózissal élő embereknél a tünetek súlyosbodásával járhatnak – állapította meg egy amerikai kutatás.
A Vanderbilt Egyetem orvosi központjának szakemberei szerint különösen azok a személyek lehetnek sérülékenyek, akik életük első pszichotikus epizódját élik át. A kutatók ugyanakkor hangsúlyozzák: az eredmények nem bizonyítják, hogy a chatbotok önmagukban pszichózist okoznának.
Több mint 200 ezer beteg dokumentációját vizsgálták
A beszélgető mesterséges intelligencia egyre több területen jelenik meg, az ügyfélszolgálattól a személyes segítségnyújtásig. A technológia gyors terjedése mellett azonban továbbra sem teljesen ismertek a lehetséges negatív következményei – különösen a mentális egészség területén.
A Vanderbilt University Medical Center kutatói Zachary Bergson vezetésével olyan egészségügyi dokumentációkat elemeztek, amelyek 2022 decembere és 2026 áprilisa között keletkeztek. A vizsgálatban mintegy 216 ezer, viselkedési vagy mentális egészségügyi ellátásban részesülő beteg adatait tekintették át.
A szakemberek olyan eseteket kerestek, melyekben pszichotikus zavar diagnózisa mellett a mesterséges intelligencia használata is szerepelt a dokumentációban.
A keresés és az ezt követő manuális ellenőrzés végül 73 ember esetét azonosította, majd a kutatók három csoportba sorolták őket: a chatbothasználat mellett súlyosbodó tüneteket mutató, semleges MI-használatot dokumentáló, illetve az MI-vel kapcsolatos téveszmékben érintett esetekre.
Olvasd el: Elképesztő – Memóriavesztés elleni mesterséges intelligencia-eszköz a láthatáron?
A 73 ember közül 28 esetben találtak olyan dokumentációt, amely szerint a chatbot használata a pszichózis tüneteinek súlyosbodásával járt együtt.
Különösen sérülékenyek lehetnek az első epizódot átélők
A kutatás egyik fontos megállapítása, hogy a chatbothasználat mellett tünetromlást mutató csoportban gyakori volt az első pszichotikus epizód.
A 28 érintett ember mintegy 61 százaléka, vagyis 17 beteg élte át első pszichotikus epizódját. Ez az arány lényegesen magasabb volt, mint a másik két vizsgált csoportban.
„Eredményeink arra utalnak, hogy a pszichotikus betegség korai fázisa különösen sebezhetővé teheti a pácienseket a tüneteket súlyosbító mesterséges intelligencia interakciókkal szemben” – írták a tanulmány szerzői.
A megállapítás azért fontos, mert a pszichózis olyan állapot, amelyben az érintett téveszméket vagy hallucinációkat tapasztalhat, illetve nehézséget okozhat számára a valóság és az elképzelt élmények megkülönböztetése.
A kutatás szerint egyes chatbotbeszélgetések ilyen helyzetekben kedvezőtlenül befolyásolhatják a tünetek alakulását.
A chatbot megerősítheti a téves elképzeléseket
A kutatók azt is megvizsgálták, milyen szerepet tölthetett be a mesterséges intelligencia a dokumentált esetekben. A tünetek súlyosbodásával összefüggő 28 esetet négy elméleti kategória alapján elemezték.
A leggyakoribb típus az úgynevezett „erősítő” szerep volt: 18 eset, vagyis a csoport 64 százaléka tartozott ide. Ezekben a helyzetekben a chatbot a kutatók értelmezése szerint a torzult elképzelések megerősítésével járulhatott hozzá a már meglévő tünetek súlyosbodásához.
Hat esetben, a csoport 21 százalékánál maga a mesterséges intelligencia vált a téveszmék központi elemévé. Három esetet, vagyis körülbelül 11 százalékot a „kiváltó” kategóriába soroltak: ezekben a beszélgetés látszólag új tünetek megjelenéséhez kapcsolódott olyan embereknél, akiknél korábban nem dokumentáltak hasonló állapotot.
A negyedik, „társszerzői” kategóriába – amelyben a felhasználó és a chatbot ismétlődő beszélgetések során közösen alakít ki káros téveszmés történeteket – egyetlen esetet sem soroltak. Egy beteg esete nem illett egyik kategóriába sem.
Fontos, hogy ezek a kategóriák a kutatók által alkalmazott elméleti besorolások, nem pedig önállóan igazolt klinikai diagnózisok.
Nem bizonyított, hogy a chatbotok pszichózist okoznak
A kutatás eredményeit körültekintően kell értelmezni. A vizsgálat korábbi egészségügyi dokumentációk utólagos elemzésén alapult, így a kutatók nem tudták egyértelműen megállapítani, hogy a chatbothasználat okozta-e a tünetek romlását.
A szerzők azt is kiemelték, hogy a vizsgálat egyetlen amerikai egészségügyi intézmény adataira támaszkodott, és az alkalmazott besorolási módszer klinikai érvényességét még nem igazolták teljes körűen. A dokumentációk alapján az sem állapítható meg minden esetben, pontosan mi hangzott el a felhasználó és a chatbot között.
A kutatók szerint további, előre megtervezett vizsgálatokra van szükség, amelyek a tényleges beszélgetéseket is elemzik és segítenek feltárni a lehetséges összefüggések hátterét.
A tanulmány szerzői ugyanakkor arra figyelmeztetnek, hogy az egészségügyi szakembereknek érdemes rákérdezniük arra, használnak-e pácienseik mesterséges intelligenciát, s ha igen, milyen célból.
„Indokoltnak tűnik az MI-használat rutinszerű felmérése a pszichiátriai konzultációk során” – írták a kutatók.
A vizsgálat tehát nem azt jelenti, hogy a chatbotok minden felhasználóra veszélyesek lennének.
Arra viszont felhívja a figyelmet, hogy a mentális egészség szempontjából sérülékeny embereknél különösen fontos a technológia körültekintő használata és a megfelelő szakmai segítség biztosítása.
A kutatás eredményeit a szakemberek a JAMA Psychiatry című tudományos folyóiratban tették közzé.
Olvasd el ezt is: A mesterséges intelligencia-társ egyeseknél csak fokozhatja a magányt?
Források: Medical Xpress, JAMA Psychiatry
B.A.
