2024. 12. 04. - 09:30
A mesterséges intelligencia-ügynökök már a nyakunkon vannak
A mesterséges intelligencia-ügynökök jelenléte emelkedőben van, miközben a szakértők a kiberbiztonsági kockázatokra is felhívják a figyelmet.
Egyre nagyobb teret nyerhetnek már napjainkban a mesterséges intelligencia-ügynökök.
Az autonóm technológia segítséget jelenthet az informatikai igazgatóknak mesterséges intelligencia-céljaik elérésében, ugyanakkor jogi és etikai irányelvekre is szükség van.
A Gartner vezetési tanácsadó cég szerint a mesterséges intelligencia-ügynökök drámai mértékben képesek javítani a mesterséges intelligencia-potenciált - 2028-ra a vállalati szoftveralkalmazások 33 százalékában szerepelhet, szemben a mai csupán 1 százalékkal.
Ugyanakkor, a potenciálisan nagy mértékű változást hozó előnyök mellett a technológia új kockázatokat és biztonsági fenyegetéseket is jelent a mesterséges intelligencia-modellek és -alkalmazások mentén – hívta fel a figyelmet Avivah Litan, a Gartner alelnöke.
Miért jó a mesterséges intelligencia-ügynök?
A nagy nyelvi modellek (avagy LLM-ek) eddig nem saját kezdeményezésükre léptek fel. Az ügynöki mesterséges intelligencia segítségével azonban ezek autonóm módon, minimális emberi felügyelet mellett is képesek működni. Olvasd el: Ügynöki MI - Így lehet a mesterséges intelligencia a döntéshozatal szerves része
A mesterséges intelligencia-ügynökök már a nyakunkon vannak
Tudnak alkalmazkodni a kontextushoz és összetett környezetben valósíthatják meg céljaikat.
A képesség drasztikusan növelheti a mesterséges intelligencia potenciálját, hiszen lehetővé teszi az adatok vizsgálatát, kutatásokat, feladatok összeállítását és elvégzését a digitális vagy fizikai világban, API-kon vagy robotrendszereken keresztül.
Mesterséges intelligencia-ügynök csapatok önálló döntésekkel
A jövőbeli ügynöki mesterséges intelligencia-rendszerek például – úgymond - egy teljes ügynökséggel tanulhatnak a környezetükből, önállóan hozhatnak döntéseket és hajthatnak végre feladatokat.
A Gartner 2025-re a legfontosabb stratégiai technológiai trendjeként jelölte meg ügynöki mesterséges intelligenciát. Jóslata szerint 2028-ra a mesterslges intelligencia-ügynökgépek beszerzői helyettesíthetik a digitális kirakatok interakcióinak 20 százalékát – amelyeket manapság az emberek nézni és olvasni tudnak.
A cég szerint 2028-ra a napi munkával kapcsolatos döntések legalább 15 százaléka autonóm módon meghozható lesz, az ügynöki mesterséges intelligencia segítségével – szemben azzal, hogy napjainkban ez a szám nulla.
A kiberfenyegetések nagy rizikót jelenthetnek
A Gartner ugyanakkor azt sem rejti véka alá, hogy a felhasználóknak tisztában kell lenniük a további kockázatokkal.
„A szabványos mesterséges intelligencia-modellek és -alkalmazások esetében a fenyegetés felülete gyakran korlátozódik a bemenetekre, a modellfeldolgozásra és -kimenetekre, a hangszerelési réteg szoftveres sebezhetőségeire és az ezeket kiszolgáló környezetekre – mondta Avivah Litan. - A mesterséges intelligencia ágensek alkalmazásakor a fenyegetés felülete kiterjed az általuk kezdeményezett és részét képező események és interakciók láncolatára, amelyek alapértelmezés szerint nem láthatók az emberi vagy rendszerüzemeltetők számára és nem is állíthatók le”.
A Gartner alelnöke hozzátette: a fenyegetések közé tartozik az adatok nyilvánosságra hozatala vagy kiszűrése az ügynökesemények láncolatának bármely pontján, az MI-ügynökök által elkövetett jogosulatlan, nem szándékos vagy rosszindulatú kódolási logikai hibák, amelyek adatszivárgáshoz vagy más fenyegetésekhez vezetnek.
Az ellátási lánc esetében is fennállnak kockázatok, ha könyvtárakat vagy harmadik fél webhelyeiről letöltött kódot használnak a mesterséges intelligencia-ügynökökhöz.
Litan szerint ezen fenyegetések kezelése érdekében az IT-vezetőknek meg kell tanítaniuk szervezetüket a mesterséges intelligencia-ügynökökben rejlő kockázatokra, amelyeket a vállalati termékekben népszerűsíthetnek és fontos lépéseket tenniük ezek mérséklésére.
A tevékenységek magukban foglalhatják a rendellenes mesterséges intelligencia-ügynöktevékenységek észlelését és megjelölését - azokat, amelyek megsértik az előre meghatározott vállalati szabályzatokat, valamint az összes mesterséges intelligencia-ügynöki tevékenység és információáramlás megtekintését és feltérképezését.
A cégek egyébként már bevezetik vagy testreszabják a mesterséges intelligencia-ügynöki képességekkel rendelkező termékeket - köztük a Microsoft Copilot Studio-t, az Azure AI Studio-t, az AWS Bedrock-ot és a Google NotebookLM-et.
Ugyanakkor, még mindig nagy a szakadék a jelenlegi LLM-alapú asszisztensek és a teljes értékű MI-ügynökök között. Ez várhatóan először a szűk hatókörű tevékenységek esetében zárulhat be. Végül pedig kibővülhet, ahogyan a világ megtanulja, miként kell ágens mesterséges intelligencia-megoldásokat felépíteni, irányítani és megbízni – vélekedik a Gartner.
B.A.
