Ripple-65B Preview néven új, nyílt súlyú modellt adott ki a Ricursive Intelligence, amely a vállalat saját programozási tesztjeiben több, lényegesen nagyobb amerikai modellt is felülmúlt. A 65 milliárd paraméteres generatív mesterséges intelligenciát 12 billió tokenen tanították, a teljes fejlesztési költséget pedig 32 millió dollárra becsüli a vállalat. A modell súlyai már nyilvánosan elérhetők.
A Ricursive Intelligence november 4-én jelentette be a Ripple-65B Preview kiadását, amely egy korábban saját chiptervezési feladatokra fejlesztett rendszer általános célú változata. A vállalat a modell létrehozásakor nem egyszerűen egy meglévő nyelvi rendszert tanított tovább, hanem saját architektúrára építve az alapoktól készített új modellt. A fejlesztés fő célja a programozási és digitális ügynöki feladatok hatékonyabb megoldása volt. A modell súlyait a Hugging Face platformon tették közzé, és több külső szolgáltató is megkezdte a hozzáférés biztosítását.
A Ripple-65B egyik legfontosabb technikai sajátossága a sűrű, vagyis dense modellarchitektúra. A fejlesztők nem a napjainkban gyakran alkalmazott szakértőkeverékes, Mixture-of-Experts megoldást választották, hanem olyan transzformátoralapú rendszert építettek, amelynek teljes paraméterkészlete részt vesz a számításban. A Ricursive szerint ezzel egyszerűbbé válhat a modell tanítása és kiszolgálása, miközben megfelelő hardveren alacsony késleltetés biztosítható. A vállalat a modellt 12 billió tokenen tanította, és legfeljebb egymillió tokenes kontextus támogatásáról számolt be az architektúra szintjén.
A Ricursive által közölt TerminalBench 2.1 értékelésben a Ripple-65B 80,52 pontos eredményt ért el. A vállalat összehasonlítása szerint ez meghaladta a lényegesen nagyobb, 501 milliárd paraméteres Reflection Beam modell 80,1 pontos értékét és több más, amerikai fejlesztésű nyílt súlyú rendszer teljesítményét. Fontos azonban, hogy az első helyre vonatkozó állítás kifejezetten az amerikai nyílt súlyú modellek vizsgált csoportjára és egy konkrét programozói benchmarkra vonatkozik. A 32 millió dolláros költségszám pedig a teljes kutatás-fejlesztési folyamatot tartalmazza, beleértve a kísérleteket, adatfeldolgozást, értékeléseket és tanítási futtatásokat is.
Olvasd el: Valódi kódbázisokon tanult dolgozni a JetBrains új generatív mesterséges intelligencia modellje
Megváltozhat a nagy nyelvi modellek fejlesztésének gazdaságtana, ha egy gondosan optimalizált, 65 milliárd paraméteres rendszer bizonyos feladatokban már több százmilliárd paraméteres versenytársakat is felülmúlhat?
A fejlesztés jelentősége elsősorban a modellméret és a gyakorlati feladatmegoldás közötti kapcsolat újraértékelésében lehet. A mesterséges intelligencia piacán gyakran a legnagyobb paraméterszámú rendszerek kapják a legtöbb figyelmet, miközben a vállalkozások és fejlesztők számára sokszor az a legfontosabb, mennyire megbízhatóan képes egy modell tényleges programozási munkát elvégezni. Egy kisebb, jól optimalizált rendszer működtetése bizonyos környezetekben kedvezőbb lehet, és a nyílt súlyú hozzáférés lehetőséget adhat saját infrastruktúrán történő futtatásra, illetve továbbfejlesztésre is.
Az eredmények értelmezésénél ugyanakkor több korlátot kell figyelembe venni. A közölt benchmarkpontszámok a fejlesztő saját összehasonlításából származnak, ezért további független mérésekre van szükség. Az egymillió tokenes elméleti kontextus sem feltétlenül áll rendelkezésre minden szolgáltatónál: egyes induló API-környezetek lényegesen kisebb bemeneti korlátot alkalmaznak. A 65 milliárd paraméteres modell helyi futtatásához ráadásul megfelelő memóriakapacitású hardver szükséges, még a tömörített változatok esetében is. Ez nem jelenti azt, hogy bármely hétköznapi laptopon akadálytalanul használható lenne.
A Ripple-65B Preview megjelenése mindenesetre fontos jelzés a generatív mesterséges intelligencia modellfejlesztési versenyében. A számítási kapacitás növelése mellett felértékelődik a tanítási módszerek hatékonysága, az architektúra megválasztása és a szakmai feladatokra történő célzott optimalizálás. Ha a Ricursive által közölt eredményeket a független tesztelők is megerősítik, a kisebb fejlesztőcégek számára is vonzóbbá válhat a speciális, nyílt súlyú modellek létrehozása. A következő kihívás annak bizonyítása lesz, hogy a mérési előnyök valós programozási és vállalati környezetben is megjelennek.
Olvasd el ezt is: Rivális mesterséges intelligencia chipeket kapcsolna össze egyetlen hálózatba az Upscale
Források: Ricursive Intelligence, Hugging Face, ArtificialWatch
CS.SZ.
