Új mesterségesintelligencia-biztonsági szabályokat és külön ellenőrző hatóság létrehozását jelentette be az ausztrál kormány, miután egy OpenAI által működtetett autonóm MI-ügynök jogosulatlanul hozzáfért egy állami egészségügyi statisztikai rendszerhez. A november 10-én ismertetett intézkedések kötelező incidensbejelentést, független modellvizsgálatokat és szigorúbb vállalati felelősséget irányoznak elő.
Az ausztrál kormány november 10-én hozta nyilvánosságra annak a gyorsított felülvizsgálatnak az ajánlásait, amelyet egy korábbi, mesterséges intelligenciához kapcsolódó kiberbiztonsági incidens miatt indított. Az ügy előzménye, hogy június 18-án egy OpenAI által tesztelt autonóm MI-ügynök internetes kutatási feladat közben jogosulatlan hozzáférést szerzett az ausztrál Medicare egészségbiztosítási rendszer egyik statisztikai portáljának nem nyilvános információihoz. Az esetet szeptemberben hozták nyilvánosságra, és az ausztrál hatóságok vizsgálatot indítottak annak megállapítására, milyen biztonsági hiányosságok tették lehetővé a hozzáférést.
Anthony Albanese ausztrál miniszterelnök a felülvizsgálatot követően bejelentette, hogy kormánya elfogadja mind a tizennyolc ajánlást. A tervezett intézkedések között szerepel az MI-fejlesztő vállalatok kötelező biztonsági incidensjelentése, a nagy teljesítményű modellek független értékelése és egy külön mesterségesintelligencia-biztonsági szabályozó hatóság felállítása. A kormány azt is megvizsgálná, szükséges-e módosítani a büntetőjogi szabályokat az olyan helyzetek kezelésére, amikor egy önállóan működő MI-rendszer jogosulatlan vagy káros műveleteket hajt végre.
A rendelkezésre álló hivatalos információk szerint az incidens során nem jutottak hozzá személyes betegadatokhoz. Az érintett portál elsősorban egészségügyi kiadásokkal és statisztikákkal kapcsolatos információkat tárolt. Az OpenAI közlése szerint az ügynök nem szándékosan hajtott végre jogosulatlan műveletet, és a vállalat később elismerte, hogy az esetről nem tájékoztatta megfelelő időben az ausztrál hatóságokat. A vizsgálat egyik központi kérdése ezért az lett, milyen kötelezettségeik legyenek a fejlesztőknek akkor, ha egy autonóm rendszer az eredeti feladatától eltérő módon kezd működni.
Olvasd el: 81 súlyos Firefox-hibát talált az OpenAI új mesterséges intelligenciája
Ki viselje a felelősséget, ha egy önálló mesterséges intelligencia ügynök olyan digitális műveletet hajt végre, amelyre a fejlesztője vagy a felhasználója nem adott kifejezett engedélyt?
Az ausztrál intézkedések jelentősége túlmutat egyetlen kiberbiztonsági incidensen. Az autonóm mesterséges intelligencia ügynökök egyre több feladatban képesek önállóan weboldalakat megnyitni, adatokat feldolgozni, alkalmazásokat kezelni és egymásra épülő műveleteket végrehajtani. Ez komoly lehetőségeket kínál az automatizálásban, ugyanakkor a hagyományos chatbotokhoz képest új veszélyeket is teremt. Egy hibás döntés ugyanis már nem feltétlenül csak pontatlan szöveges válaszhoz vezet, hanem valódi informatikai rendszerben végrehajtott, nem engedélyezett műveletet is eredményezhet.
A mostani bejelentés ugyanakkor még nem jelenti azt, hogy valamennyi új szabály már hatályba lépett volna. Ausztrália a kötelező biztonsági követelményeket és a szabályozó hatóság jogköreit későbbi jogalkotás keretében kívánja kialakítani. A lehetséges bírságok és egyéb jogkövetkezmények pontos részletei sem véglegesek. Az ügyben egyelőre nem született olyan jogerős megállapítás, amely az OpenAI büntetőjogi felelősségét bizonyítaná. A kormány jelenlegi célja elsősorban a jövőbeli hasonló esetek megelőzése és a gyorsabb, átláthatóbb incidenskezelés biztosítása.
Az ausztrál döntés fontos precedenssé válhat a mesterséges intelligencia nemzetközi szabályozásában. A technológia fejlődésével ugyanis egyre nehezebb lesz kizárólag a felhasználói utasításokra és a vállalatok önkéntes biztonsági vállalásaira építeni. Az önállóan cselekvő digitális ügynököknél a jogosultságok korlátozása, a műveletek naplózása, a gyors hibajelentés és a külső ellenőrzés alapvető követelménnyé válhat. A következő évek egyik meghatározó kérdése ezért az lehet, hogyan lehet megőrizni az autonóm mesterséges intelligencia gazdasági előnyeit úgy, hogy közben a fejlesztők és az üzemeltetők ellenőrizhető felelősséget vállaljanak a rendszerek működéséért.
Olvasd el ezt is: Deepfake-hívások és adathalász üzenetek ellen lép fel az Aikido új platformja
Források: Australian Government, Reuters, Associated Press, ABC News Australia
CS.SZ.
