Gyorsabb és olcsóbb generatív mesterséges intelligenciát indított a DeepSeek

Új generációt indított mesterséges intelligencia modelljeinél a DeepSeek. A V4.1-Flash nem egyszerű frissítés, hanem egy teljesen új architektúracsalád első tagja, amely natív vizuális megértést, gyorsabb következtetést és jelentősen kisebb memóriaigényt ígér.

A DeepSeek hivatalosan elérhetővé tette a V4.1-Flash modellt, amely a vállalat új architektúracsaládjának legkisebb tagja. A fejlesztő szerint a rendszert eleve magasabb képességplafonra, gyorsabb következtetésre, nagyobb áteresztőképességre és későbbi, nagyobb modellek skálázására tervezték. A Reuters is megerősítette, hogy a mostani megjelenés egy új DeepSeek-modellgeneráció első lépését jelenti.

Technikai szempontból különösen érdekes az új Causal Encoder–Decoder felépítés. A V4.1-Flash egy 552 milliárd paraméteres Mixture-of-Experts modell, de bemeneti feldolgozásnál mindössze 8 milliárd, kimenetnél pedig 16 milliárd paramétert aktivál. A cél az, hogy a rendszer ne használja egyszerre a teljes modell számítási kapacitását minden feladathoz, hanem csak a szükséges részeket mozgósítsa.

A változás a memóriahasználatban is jelentős. A DeepSeek saját adatai szerint az új modell KV-cache-ének működtetéséhez az előző generációhoz képest negyedannyi HBM-memória és nyolcadannyi SSD-tárhely szükséges. Ez különösen hosszú beszélgetések, programozási feladatok és mesterséges intelligencia ügynökök esetén lehet fontos, mert ezeknél a korábbi kontextus tárolása jelentős költséget okozhat. A számok ugyanakkor a vállalat saját technikai összehasonlításából származnak.

Olvasd el: Hat hét alatt már a harmadik új Gemini Flash modellt adta ki a Google

Lehet, hogy a következő generatív mesterséges intelligencia versenyt már nem a legnagyobb modell nyeri meg, hanem az, amely ugyanazt a feladatot jóval kevesebb számítási erőforrásból képes elvégezni?

A V4.1-Flash natív multimodális képességekkel is rendelkezik, vagyis a vizuális információk feldolgozása már az új modellcsalád alapvető része. Ez fontos irányváltás, mert a vezető generatív mesterséges intelligencia rendszereknél egyre kevésbé különül el a szöveg, a kép és a digitális munkafolyamatok értelmezése. A DeepSeek így már az architektúra szintjén készül arra, hogy a későbbi nagyobb modellek többféle információval egyszerre dolgozzanak.

A vállalat azt is állítja, hogy több külső és saját tesztben a V4.1-Flash teljesítmény, sebesség, költség és teljes futási idő alapján is kedvezőbb eredményt ért el a korábbi V4-Pro modellnél. Ezt nem érdemes általános teljesítményelőnyként kezelni, amíg szélesebb független tesztek nem állnak rendelkezésre, de a DeepSeek annyira bízik az új rendszerben, hogy a V4-Pro forgalmát is fokozatosan erre a modellre tervezi átirányítani.

A fejlesztés legérdekesebb része ezért talán nem maga a V4.1-Flash, hanem az, amit előrevetít. A DeepSeek kifejezetten úgy beszél róla, mint egy nagyobb rendszerekre skálázható architektúra első tagjáról. Ha a memória- és sebességelőny a következő, erősebb modellekben is megmarad, a generatív mesterséges intelligencia következő versenyét nem pusztán a paraméterszám, hanem az egy feladatra jutó számítási és működési költség is egyre inkább meghatározhatja.

Olvasd el ezt is: Saját virtuális számítógépet kapott a Meta új generatív mesterséges intelligenciája

Források: DeepSeek, Reuters

CS.SZ.

MI - KKV

Bemutatta eddigi legnagyobb és legerősebb modelljét a francia Mistral AI. A Mistral Large 4 több mint ezermilliárd paraméteres multimodális generatív mesterséges intelligencia, …

Már egy teljes webáruház kialakításában is segíthet a mesterséges intelligencia. A Shopify új Canvas felületén a kereskedők természetes nyelven adhatnak utasításokat a …

Kisvállalkozásokra is kiterjeszti Muse ügynökét a Meta. Már nemcsak válaszokat adhat, konkrét üzleti feladatokat is elvégezhet a mesterséges intelligencia a KKV-k helyett. …

Ahogy a reggeli fuvallatok egyre hűvösebbé válnak, a táskánk megszokott tartalmát érdemes felváltanunk olyan gondosan összeállított apróságoknak, amely felkészítenek a váratlan helyzetekre. …

Már meglévő CT-felvételek alapján is segíthet felismerni a csontritkulást egy új mesterséges intelligencia-alapú szoftver. A technológia akár olyan vizsgálatokból is képes lehet …