Nemotron 3.5 Super VL néven új, nyílt és testre szabható multimodális modellt adott ki az NVIDIA. A 120 milliárd összparaméteres generatív mesterséges intelligencia feldolgozásonként 12 milliárd paramétert aktivál, miközben szövegek, képek, dokumentumok és videók értelmezését is egyetlen modellben egyesíti.
Az NVIDIA október 15-én tette elérhetővé a Nemotron 3.5 Super VL modellt, amelyet elsősorban hosszabban dolgozó, eszközöket használó mesterséges intelligencia ügynökökhöz fejlesztettek. A rendszer nemcsak természetes nyelvű utasításokat képes feldolgozni, hanem vizuális információkat, dokumentumokat, táblázatokat és videókat is értelmezhet, valamint külső eszközökkel is együttműködhet. A modell súlyait a fejlesztők saját környezetükben is felhasználhatják és specializálhatják.
A rendszer szakértőkeverékes, vagyis Mixture-of-Experts architektúrát használ. Bár összesen 120 milliárd paraméterrel rendelkezik, egy adott token feldolgozásakor ezekből körülbelül 12 milliárd aktív. Ennek célja, hogy a nagy modell képességeit alacsonyabb számítási igénnyel lehessen kihasználni. Az NVIDIA különösen olyan folyamatosan működő ügynöki feladatokra pozicionálja a modellt, amelyeknél a rendszernek információt kell keresnie, képi vagy dokumentumos adatokat értelmeznie, döntéseket hoznia és több egymást követő műveletet végrehajtania.
Az NVIDIA saját összehasonlításai szerint a Nemotron 3.5 Super VL egyetlen GPU-n bizonyos ügynöki munkafolyamatoknál akár ötször nagyobb áteresztést érhet el, mint más, hasonló méretkategóriába tartozó nyílt modellek. A vállalat chartértelmezési tesztjében 80,8 százalékos eredményt közölt, amely Python-alapú kódértelmezéssel 84 százalékra emelkedett. Ezek NVIDIA által közölt benchmarkeredmények, ezért nem jelentik azt, hogy a modell minden valós multimodális feladatban ugyanilyen előnyt mutat.
Olvasd el: Valódi kódbázisokon tanult dolgozni a JetBrains új generatív mesterséges intelligencia modellje
Az ügynöki mesterséges intelligencia következő versenyét már nem a legnagyobb modell, hanem a legjobb képesség–számítási költség arány döntheti el?
A multimodális működés azért lehet fontos az üzleti alkalmazásokban, mert egy valódi munkafolyamat ritkán csak szövegből áll. Egy ügynöknek egyszerre kellhet e-maileket, PDF-dokumentumokat, grafikonokat, képeket vagy akár videófelvételeket elemeznie, majd ezek alapján valamilyen műveletet végrehajtania. Ha mindehhez nem kell külön látási, nyelvi és dokumentumfeldolgozó modellt összeilleszteni, egyszerűbbé válhat az összetett mesterséges intelligencia rendszerek felépítése és karbantartása.
A 120 milliárd paraméter ugyanakkor továbbra is jelentős infrastruktúrát igényel, még akkor is, ha egyszerre csak a modell egy része aktív. A vállalat által közölt sebességi előny ráadásul NVIDIA-hardveren és meghatározott szoftveres környezetben mért eredmény, ezért más konfigurációban eltérő teljesítmény adódhat. A nyílt súlyú hozzáférés sem jelenti azt, hogy egy vállalkozás különösebb mérnöki munka nélkül saját infrastruktúrán tudja üzemeltetni a rendszert.
A Nemotron 3.5 Super VL mégis jól mutatja, merre mozdul a generatív mesterséges intelligencia fejlesztése. A nagy modellek versenye már nem kizárólag arról szól, melyik rendszer tud több kérdésre válaszolni, hanem arról is, melyik képes hosszabb időn át, többféle adatformátummal és külső eszközökkel együtt dolgozni. A következő fontos lépés az lesz, hogy ezek a képességek mennyire maradnak megbízhatók akkor is, amikor a modellek már nem tesztfeladatokat, hanem valódi vállalati folyamatokat kapnak.
Olvasd el ezt is: Világszerte megkapja az Intelligent UI-t a ChatGPT generatív mesterséges intelligencia rendszere
Források: NVIDIA, NVIDIA Technical Blog, Artificial Analysis
CS.SZ.
