Stratégiai együttműködést jelentett be a SambaNova és a Supermicro, amelynek keretében új, mesterséges intelligencia modellek futtatására fejlesztett adatközponti rendszereket készítenének. A kezdeti tervek tízezer SambaNova SN50 gyorsítóchip felhasználásával számolnak. A technológia különlegessége, hogy az NVIDIA grafikus processzorait speciális, a válaszok előállítására optimalizált gyorsítókkal kapcsolja össze, így hatékonyabban kezelheti a nagy nyelvi modellek különböző számítási feladatait.
A SambaNova november 3-án jelentette be, hogy együttműködésre lép a Supermicro szervergyártóval új mesterségesintelligencia-kiszolgáló rendszerek fejlesztésében és értékesítésében. A Supermicro feladata a hardverek integrálása, tesztelése, szállítása és későbbi támogatása lesz, míg a SambaNova saját SN50 gyorsítóit és a hozzájuk kapcsolódó szoftveres technológiát biztosítja. Az új szerverrendszerek a Supermicro adatközponti megoldásainak részeként jelenhetnek meg. A vállalatok elsősorban nagy felhőszolgáltatókat, önálló mesterségesintelligencia-infrastruktúrát üzemeltető cégeket és később vállalati adatközpontokat céloznak.
A fejlesztés egy fontos technikai különbségre épít a nagy nyelvi modellek működésében. Amikor a felhasználó kérdést tesz fel, a rendszer először feldolgozza a teljes bemenetet, majd egymás után állítja elő a válasz új tokenjeit. Az első szakaszt prefillnek, a másodikat decode-nak nevezik. A prefill általában jelentős párhuzamos számítási teljesítményt igényel, amelyben az NVIDIA grafikus processzorai erősek. A válasz előállításának következő szakaszában viszont a memóriaelérés és az adatok mozgatása is meghatározó lehet. A SambaNova az SN50 gyorsítókat kifejezetten az ilyen munkafolyamatok hatékony kiszolgálására fejlesztette.
Az együttműködés lényege, hogy a két eltérő típusú chip más-más feladatot kapjon ugyanabban a rendszerben. Az NVIDIA GPU-k a bemeneti információk feldolgozásában, a SambaNova SN50 RDU-k pedig a válaszok előállításában vállalhatnak fontosabb szerepet. Az RDU, vagyis Reconfigurable Dataflow Unit egy újrakonfigurálható adatfolyam-feldolgozó gyorsító, amelynek működését a SambaNova a nagy nyelvi modellek következtetési feladataihoz optimalizálja. A kezdeti tervek tízezer SN50 chip felhasználásával számolnak, de a vállalatok nem közöltek pontos szállítási időpontot, végleges beszerzési értéket vagy a teljes mennyiségre vonatkozó teljesített megrendelést.
Olvasd el: Rivális mesterséges intelligencia chipeket kapcsolna össze egyetlen hálózatba az Upscale
Átalakulhat a mesterséges intelligencia chipversenye, ha az adatközpontok nem egyetlen processzortípussal próbálnak minden feladatot megoldani, hanem különböző gyártók gyorsítóit használják a számítás egyes szakaszaiban?
A technológia jelentőségét az autonóm mesterséges intelligencia ügynökök terjedése növelheti. Egy egyszerű chatbot általában egy kérdésre válaszol, míg egy összetett digitális ügynök akár sok száz vagy több ezer különálló modellhívást is végrehajthat egyetlen nagyobb feladat során. Minden ilyen művelet számítási kapacitást, memóriát és adatmozgatást igényel. Ha az egyes feldolgozási szakaszok hatékonyabban oszthatók szét a különböző chiparchitektúrák között, a rendszer üzemeltetői elvileg gyorsabb válaszidőt vagy kedvezőbb számítási költséget érhetnek el. A tényleges előny azonban a futtatott modelltől, a hálózati kapcsolatoktól és a szerverek teljes kialakításától is függ.
A mostani bejelentésből ugyanakkor nem következik, hogy a tervezett rendszerek már bizonyítottan gyorsabbak vagy gazdaságosabbak az összes NVIDIA-alapú megoldásnál. A SambaNova és a Supermicro még a közös rendszerek fejlesztését, integrálását és fokozatos bevezetését készíti elő. A tízezer chipre vonatkozó adat tervezett kezdeti mennyiség, nem a leszállított hardverek száma. A vállalatok nem tettek közzé olyan átfogó, független összehasonlító tesztet, amelyből a teljes infrastruktúra különböző munkaterheléseken várható költségelőnye általánosan meghatározható lenne. A rendszer teljesítményét a későbbi, éles adatközponti mérések igazolhatják.
A SambaNova és a Supermicro együttműködése mégis fontos irányt mutat a mesterséges intelligencia infrastruktúrájának fejlődésében. Az egyre nagyobb számítási igény miatt a technológiai vállalatok már nem kizárólag erősebb grafikus processzorokat keresnek, hanem olyan rendszereket is fejlesztenek, amelyek különböző chipek előnyeit kapcsolják össze. A következő években így a mesterséges intelligencia hardveres versenyét egyre inkább a teljes rendszer hatékonysága határozhatja meg. Nem feltétlenül az lesz a döntő kérdés, melyik egyedi chip a legerősebb, hanem az, hogy egy összetett adatközpont milyen gyorsan, megbízhatóan és gazdaságosan képes kiszolgálni a folyamatosan dolgozó mesterséges intelligencia rendszereket.
Olvasd el ezt is: Akár ötször nagyobb áteresztést ígér az NVIDIA új generatív mesterséges intelligencia modellje
Források: SambaNova, Supermicro, StorageReview, Data Center Dynamics
CS.SZ.
