Új, nagy teljesítményű generatív mesterségesintelligencia-modellt mutatott be a Meta, amely összetett programozási feladatok megoldására és önálló munkafolyamatok végrehajtására is képes lehet. A Muse Spark Open különlegessége, hogy megfelelő Apple Mac számítógépeken helyben is futtatható, ám a működtetéséhez rendkívül nagy memóriára van szükség.
Újabb jelentős lépést tett a mesterséges intelligencia fejlesztésében a Meta. A vállalat október 15-én mutatta be a Muse Spark Open nevű modellt, amelyet kifejezetten összetett programozási feladatokhoz és MI-ügynökök működtetéséhez fejlesztettek ki.
A fejlesztés egyik legérdekesebb tulajdonsága, hogy a megfelelő hardverrel rendelkező felhasználók nemcsak online szolgáltatáson keresztül vehetik igénybe, hanem saját számítógépükön is futtathatják.
Ez azért fontos, mert a helyben működtetett mesterséges intelligencia nagyobb ellenőrzést biztosíthat a felhasználóknak a feldolgozott adatok és a munkafolyamatok felett.
Ha a modell teljes egészében a saját infrastruktúrán működik, a bevitt információknak nem feltétlenül kell egy külső szolgáltató rendszerébe kerülniük.
A Meta szerint a Muse Spark Open az Egyesült Államokban fejlesztett, nyílt súlyú modellek között a legerősebbek közé tartozik. A vállalat a modell súlyait is elérhetővé tette, így a fejlesztők letölthetik, saját környezetben futtathatják és bizonyos keretek között tovább is alakíthatják a rendszert.
Fontos különbség azonban, hogy a nyílt súlyú modell nem feltétlenül jelent teljesen nyílt forráskódú mesterséges intelligenciát. A Muse Spark Open felhasználását külön licenc és elfogadható felhasználási szabályzat határozza meg.
A rendszer 816 milliárd paraméterrel dolgozik
A Muse Spark Open mérete első pillantásra is figyelemre méltó. A modell összesen 816 milliárd paraméterrel rendelkezik, amelyek közül egy adott feldolgozási lépésben nagyjából 42 milliárd aktív.
Ez a felépítés az úgynevezett szakértői keverék, vagyis a Mixture of Experts architektúrához kapcsolódik. Lényege, hogy a rendszer az adott feladatnak megfelelően a modell bizonyos részeit aktiválja, ahelyett, hogy minden paramétert minden alkalommal egyformán használna.
A nagy paraméterszám önmagában nem garantál jobb teljesítményt, ám megfelelő architektúrával és tanítással összetett feladatok megoldására is alkalmassá teheti a modellt.
Olvasd el: Már percek alatt készíthet építészeti tervrajzokat a mesterséges intelligencia
A Meta közlése szerint a Muse Spark Open egymillió tokenes kontextusablakkal rendelkezik. Ez azt jelenti, hogy egyetlen feldolgozási folyamatban rendkívül nagy mennyiségű információt képes figyelembe venni. Ez különösen hasznos lehet nagyobb programkódok, hosszú dokumentumok vagy összetett fejlesztési projektek elemzésekor.
A rendszer több mint száz nyelven tanult és nem kizárólag szöveges információkkal dolgozik. Natívan multimodális modellként képeket, valamint hang- és videóbemeneteket is képes feldolgozni.
Két nagy teljesítményű Mac számítógép is kellhet hozzá
Bár a Meta lehetővé tette a modell helyi futtatását, ez nem jelenti azt, hogy egy átlagos otthoni laptopon is problémamentesen működik.
A TechCrunch beszámolója szerint a Muse Spark Open teljes értékű helyi futtatásához legalább egy terabájtnyi memória szükséges. A Meta és az Apple együttműködésében a modellt két, M5 Ultra chippel felszerelt Mac Studio számítógépen optimalizálták.
A két gép együttesen akár egy terabájt egyesített memóriát biztosíthat. Ez lehetővé teszi, hogy a hatalmas modell súlyai elférjenek a rendszerben és a számítógépek együtt végezzék el a szükséges számításokat.
A fejlesztés tehát nem elsősorban az átlagos otthoni felhasználóknak szól: a modell helyi futtatásához jelenleg rendkívül drága és nagy teljesítményű hardverre lehet szükség.
A nyílt súlyok ugyanakkor más módon is felhasználhatók. A fejlesztők különböző felhőalapú szolgáltatásokon keresztül is elérhetik a modellt, így nem feltétlenül kell saját számítógépes infrastruktúrát kiépíteniük.
A Meta a Muse Spark Open súlyait többek között a Hugging Face felületén, valamint egyes nagy felhőszolgáltatók modellkatalógusaiban tette elérhetővé.
A rendszer különböző következtetési keretrendszerekkel is használható, így többféle hardveres környezetben tesztelhető.
Programozásban és összetett munkafolyamatokban segíthet
A Muse Spark Open egyik legfontosabb felhasználási területe a szoftverfejlesztés. A Meta szerint a modell képes lehet hosszabb, több lépésből álló programozási feladatok végrehajtására, hibák kijavítására és új funkciók megvalósítására.
A vállalat a Muse Code nevű MI-alapú fejlesztőeszközzel együtt is alkalmazta a rendszert. A beszámoló szerint a modell egy Mastodon-kliens fejlesztésénél hibajavításokban és új funkciók létrehozásában is részt vett.
Az ilyen megoldások túlmutathatnak azon, amikor egy chatbot egyszerűen kódrészleteket javasol. Az MI-ügynökök a feladatot több részre bonthatják, eszközöket használhatnak, ellenőrizhetik az eredményeket és hosszabb munkafolyamatokon keresztül dolgozhatnak.
Ez a vállalkozások és a fejlesztők számára különösen hasznos lehet, hiszen a mesterséges intelligencia nemcsak tanácsokat adhat, hanem a megfelelő jogosultságok mellett a munkavégzés egyes lépéseit is elvégezheti.
A rendszerrel kapcsolatos kísérletek során a Meta a DaVinci Resolve videószerkesztő programot is bevonta a munkafolyamatokba. A modell képes volt a videóanyagok áttekintésére és a felvételek kivágására irányuló feladatok támogatására.
Mindez azt mutatja, hogy a fejlesztés nem kizárólag a kódolásra korlátozódik: a megfelelő eszközökkel összekapcsolva különböző digitális munkafolyamatokban is alkalmazható lehet.
Miért fontosak a nyílt súlyú MI-modellek?
A Meta fejlesztése egy szélesebb technológiai folyamatba illeszkedik. A mesterséges intelligencia-piacon egyre nagyobb jelentőséget kapnak azok a modellek, amelyek súlyai letölthetők, és amelyeket a fejlesztők saját környezetükben is működtethetnek.
A zárt rendszereknél a felhasználók jellemzően a szolgáltató által biztosított felületen vagy API-n keresztül férnek hozzá az MI-hez. A nyílt súlyú megoldások ezzel szemben nagyobb szabadságot adhatnak a telepítés, a testreszabás és az infrastruktúra megválasztása terén.
A vállalatok számára ez költségelőnyöket is jelenthet, különösen akkor, ha nagy mennyiségű MI-feladatot szeretnének elvégezni. A tényleges megtakarítás azonban függ a hardver árától, az energiafogyasztástól, az üzemeltetéshez szükséges szakértelemtől és a felhasználás jellegétől.
A helyi futtatás emellett adatvédelmi szempontból is előnyös lehet, amennyiben a teljes feldolgozás a vállalat saját rendszerében történik. Ugyanakkor a megfelelő biztonsági intézkedésekre, hozzáférés-szabályozásra és licencfeltételekre ebben az esetben is figyelni kell.
A Meta új modellje ezért elsősorban azoknak a fejlesztőknek és szervezeteknek lehet érdekes, amelyek nagy teljesítményű MI-rendszereket szeretnének saját munkafolyamataikba integrálni.
A Muse Spark Open megjelenése azt jelzi, hogy a generatív mesterséges intelligencia fejlődése egyre inkább az összetett feladatok végrehajtása, az MI-ügynökök és a saját infrastruktúrán futtatható modellek irányába halad.
A következő időszak egyik fontos kérdése az lesz, hogy a hasonló rendszerek milyen teljesítményt tudnak nyújtani a gyakorlatban és mennyire válhatnak elérhetővé a kisebb fejlesztőcsapatok és vállalkozások számára is.
Forrás: TechCrunch
B.A.
