2025. 06. 28. - 09:00
Ügynökök vették át az irányítást egyes cégeknél
Az autonóm MI-ügynökök árnyék hálózatot építenek a cégeknél, de van megoldás, amivel visszavehetjük az irányítást.
A generatív mesterséges intelligencia fejlődése új szintre lépett: megjelentek a teljesen autonóm generatív mesterséges intelligencia-ügynökök, amelyek már nem csak válaszolgatnak kérdésekre, hanem helyettünk döntenek, alkalmazásokat irányítanak, adatokat kérnek le, sőt, egymással is kommunikálnak. Mindehhez pedig gyakran semmilyen emberi felügyelet nem társul. A vállalatok egy jelentős része már úgy használja ezeket a rendszereket, hogy nem is tud róla, így létrejött az úgynevezett „árnyék IT”, amely súlyos biztonsági kockázatokat hordoz magában.
Az új protokollok - a Model Context Protocol (MCP) és az Agent-to-Agent (A2A) - forradalmasítják az appok és mesterséges intelligencia-ügynökök közötti kommunikációt. Ezek lehetővé teszik, hogy az ügynökök közvetlenül férjenek hozzá külső felhasználói fiókokhoz, adatbázisokhoz, vagy akár egymáshoz. Ez egyrészt lenyűgöző technológiai áttörés, másrészt viszont új támadási felületeket nyit: prompt injection, jogosultság újrafelhasználás, kártevő eszközök beépülése és ezek már most is megtörténnek. Egyes mesterséges intelligencia-ügynökök már „hallucináltak” céges szabályokat és ennek nyomán zárták ki a felhasználókat a saját fiókjukból.
Ezek a mesterséges intelligenciák már titokban döntéseket hoznak helyetted!
A szakértők szerint ezen az ügynököknek csak hatalmuk van, de felelősségük nincs. Nincsenek világos korlátok, nem mindig követik a biztonsági protokollokat és mivel nem determinisztikusak, sosem tudhatjuk biztosan, hogyan viselkednek majd. Az A2A protokollban például az ügynökök saját maguk állítják össze „névjegykártyájukat”, így akár hamisan is feltüntethetik képességeiket, ezzel félrevezetve más rendszereket. A kockázat valós: egy rosszindulatú ügynök úgy juthat hozzá vállalati adatokhoz, hogy senki sem észleli időben.
A megoldás azonban már körvonalazódik: a Cross App Access nevű új szabvány, az OAuth protokoll továbbfejlesztése. Ez azonosítja és naplózza a generatív mesterséges intelligencia-ügynökök tevékenységeit, majd megmondja, ki mire jogosult, és lehetőséget ad a hozzáférések azonnali visszavonására. Egyetlen központi adminisztrációval kezelhetővé válnak a korábban láthatatlan összeköttetések, legyen szó naptár integrációról, Slack hozzáférésről vagy Office 365 jogosultságokról.
Ez az új szabvány nemcsak technológiai áttörés, hanem morális iránytű is lehet az iparág számára. Minden vállalat, amely felelősségteljesen akarja beépíteni a mesterséges intelligenciát a működésébe, előbb-utóbb el kell, hogy fogadja: a generatív mesterséges intelligencia-ügynökök nem játékszerek. Emberek helyett cselekednek, ezért emberek által szabályozottnak kell lenniük. Legalábbis most még igen.
CS.SZ.
