Mellum2.1 néven új, nyílt súlyú programozási modellt adott ki a JetBrains. A generatív mesterséges intelligencia nemcsak kódrészletek létrehozására készült: fájlokat kereshet egy teljes kódbázisban, módosíthatja őket, majd saját változtatásait is ellenőrizheti, miközben a modell saját hardveren is futtatható.
A JetBrains október 8-án jelentette be a Mellum2.1-et, amely a júniusban nyílt forráskódúvá tett Mellum2 továbbfejlesztett változata. Az alaparchitektúra nem változott: továbbra is egy 12 milliárd összparaméteres, szakértőkeverékes modellről van szó, amelyből egy-egy feldolgozás során körülbelül 2,5 milliárd paraméter aktív. A modellt Apache 2.0 licenc alatt tették közzé, így kutatási és kereskedelmi projektekben is felhasználható, valamint saját infrastruktúrán is futtatható.
A legnagyobb változás nem az alapmodell méretében, hanem az utólagos tanításban történt. A JetBrains szerint a Mellum2 gyorsan generált kódot, de egy teljes szoftverprojektben még nem dolgozott elég megbízhatóan. A 2.1-es változatot ezért megerősítéses tanulással finomították valódi programozási környezetekben. A tréning során több millió elkülönített, úgynevezett sandbox futtatást végeztek több ezer különböző környezetben, ahol a modellnek nemcsak választ kellett adnia, hanem ténylegesen dolgoznia kellett egy kódbázison.
Ennek eredményeként a Mellum2.1 már képes lehet feltérképezni egy projekt fájljait, megkeresni a módosítandó részeket, változtatásokat végrehajtani, majd ellenőrizni azok eredményét. Ez lényegesen más feladat, mint egy rövid függvény vagy kódrészlet generálása, mert az ügynöknek több lépésen keresztül meg kell őriznie a projekt szerkezetét és követnie kell a korábbi műveleteinek következményeit. A JetBrains saját mérései jelentős előrelépést mutatnak az előző Mellum-változathoz képest, de ezeknél is fontos elkülöníteni a gyártói benchmarkot a független valós használattól.
Olvasd el: A Xiaomi új modellje az élre ugrott a nyílt súlyú mesterséges intelligenciák között
Megváltozhat a programozási modellek versenye, ha a kisebb, saját hardveren futtatható generatív mesterséges intelligencia már önálló részfeladatokat is képes elvégezni egy valódi szoftverprojektben?
A nyílt súlyú működés különösen vállalati környezetben lehet érdekes. Egy saját infrastruktúrán futtatott modellnél a forráskódnak nem feltétlenül kell külső felhőszolgáltatóhoz kerülnie, és a fejlesztők a rendszert saját eszközeikhez, kódolási szabályaikhoz vagy belső munkafolyamataikhoz is igazíthatják. A Mellum2.1 viszonylag alacsony aktív paraméterszáma emellett azért fontos, mert csökkentheti a futtatáshoz szükséges számítási kapacitást a jóval nagyobb programozási modellekhez képest.
A kisebb modell azonban kompromisszumokat is jelenthet. A Mellum2.1-et célzottan programozási ügynökökhöz és gyors részfeladatokhoz fejlesztették, nem általános csúcsmodellnek. A nyílt súlyok önmagukban sem garantálják az egyszerű telepítést: egy stabil vállalati rendszerhez megfelelő GPU-kapacitás, modellkiszolgálás, biztonsági kontroll és folyamatos ellenőrzés is szükséges. A JetBrains saját benchmarkeredményeit pedig más környezetekben is reprodukálni kell ahhoz, hogy pontosan látható legyen a modell helye a konkurensekhez képest.
A Mellum2.1 mégis jól mutatja, hogyan változik a generatív programozás következő szakasza. A cél már nem egyszerűen az, hogy a modell gyorsabban írjon egy kódrészletet a fejlesztő helyett, hanem hogy kisebb önálló ügynökként belépjen egy valódi projektbe, tájékozódjon benne, végrehajtson egy feladatot és ellenőrizze saját munkáját. Ha ehhez egyre kisebb és olcsóbban futtatható modellek is elegendők lesznek, a programozási ügynökök szélesebb vállalati bevezetésének egyik legnagyobb technikai akadálya is csökkenhet.
Olvasd el ezt is: Európa új csúcsmodellje lehet a Mistral Large 4 generatív mesterséges intelligencia
Források: JetBrains, Hugging Face
CS.SZ.
