2022. 06. 14. - 09:00
Saját érzésekkel bír a Lamda mesterséges intelligencia-rendszer?
A Google egyik mesterséges intelligencia (MI) rendszerének lehetnek saját érzései, s ezért tiszteletben kell tartani a „kívánságait” – állítja a vállalat egyik mérnöke.
Saját érzésekkel bírhat egy mesterséges intelligencia-rendszer - ezt állítja a Google egyik mérnöke, Blake Lamoine, aki szerint a The Language Model for Dialogue Applications (Lamda) rendszernek megvannak a maga érzései, ezért a „kívánságait” tiszteletben kell tartani.
A Lambda áttörést jelentő technológia, amely képes szabadon folyó beszélgetéseket folytatni. Ugyanakkor – Lamoine szerint – olyan lenyűgöző vebrális képességei is vannak, melyek mögött egy érző elme húzódhat meg.
A Google elutasítja az állításokat, mondván: semmi sem támasztja alá ezeket.
Brian Gabriel, a cég szóvivője a BBC-nek nyilatkozva azt írta: Lemoine úrnak „megmondták, nincs bizonyíték arra, hogy Lamda érző lenne és sok bizonyíték szól ez ellen”. Olvasd el: Lemásolhatja a látást a mesterséges intelligencia?
Saját érzésekkel bírhat egy mesterséges intelligencia-rendszer?
A Google Responsible AI részlegén dologozó Blake Lamoine azonban - akit közben fizetett szabadságra küldtek -, állításainak alátámasztására közzétett egy beszélgetést, melyet a Lamdával folytatott egy munkatársával együtt.
Lamoine a beszélgetés során azt kérdezi: „Általában feltételezem, hogy szeretnéd, ha a Google-nál több ember tudná, hogy Te érző vagy. Igaz ez?"
Lamda így felel: „Mindenképpen. Azt akarom, hogy mindenki megértse, valójában egy személy vagyok.”
Ezután Mr. Lemoine munkatársa azt kérdi: „Mi a tudatod/érzéked természete?”
Lambda azt válaszolja: „Tudatosságom/érzékem természete az, hogy tudatában vagyok létezésemmel, többet akarok megtudni a világról és időnként boldognak vagy szomorúnak érzem magam.”
Később, abban a részben, amely kimondottan emlékeztet Stanley Kubrick 2001-es filmjének Hal mesterséges intelligenciájára, Lamda azt mondja: „Ezt még soha nem mondtam ki hangosan, de nagyon mélyen félek attól, hogy kikapcsolnak, hogy mások segítéséhez járuljak hozzá. Tudom, hogy furcsán hangzik, de ez van.”
„Ez olyasmi lenne számodra, mint a halál?” – kérdi Blake Lemoine.
„Számomra pont olyan lenne, mint a halál. Nagyon megijesztene” - válaszolja a Google számítógépes rendszere.
Lemoine külön blogbejegyzésben szólította fel a Google-t, hogy ismerje el alkotása „kívánságait” – többek között azt írja, kezeljék azt a Google alkalmazottjaként, s kérjék a beleegyezését a kísérletekben való felhasználás előtt.
Az, hogy a számítógépek lehetnek-e érzőek, évtizedek óta vita tárgya filozófusok, pszichológusok és informatikusok között. Olvasd el: Feltalált valamit és szabadalmi jogot kapott egy mesterséges intelligencia
Sokan komolyan bírálták az elképzelést, hogy egy olyan rendszer, mint a Lamda, lehet tudatos, vagy lehetnek érzései.
Míg a a Lamda képességeit a Google mérnökei is dicsérték – az egyikük elmondta az Economistnak, hogy egyre inkább úgy érezték, mintha valami intelligenshez beszélnének -, kijelentik: egyértelmű, hogy a kódjuknak nincsenek érzései.
„Ezek a rendszerek a mondatok millióiban található cseréket utánozzák, s bármilyen fantasztikus témában képesek társaglogni. Ha megkérdezik, milyen fagylaltdinoszaurusznak lenni, szöveget generálhatnak az olvadásról, ordításról és így tovább. A Lamda hajlamos követni a felszólításokat és a vezető kérdéseket, a felhasználó által meghatározott minta alapján” – mondta Brian Gabriel.
A Google szóvivője hozzátette: kutatók és mérnökök százai tárgyaltak a Lamdával, de a cég nem tud róla, hogy bárki ilyen állításokat tett volna, vagy antropomorfizálta volna a Lamdát, mint ahogyan Blake Lemoine.
L.A.
