Gyorsabb és olcsóbb generatív mesterséges intelligenciát indított a DeepSeek

Új generációt indított mesterséges intelligencia modelljeinél a DeepSeek. A V4.1-Flash nem egyszerű frissítés, hanem egy teljesen új architektúracsalád első tagja, amely natív vizuális megértést, gyorsabb következtetést és jelentősen kisebb memóriaigényt ígér.

A DeepSeek hivatalosan elérhetővé tette a V4.1-Flash modellt, amely a vállalat új architektúracsaládjának legkisebb tagja. A fejlesztő szerint a rendszert eleve magasabb képességplafonra, gyorsabb következtetésre, nagyobb áteresztőképességre és későbbi, nagyobb modellek skálázására tervezték. A Reuters is megerősítette, hogy a mostani megjelenés egy új DeepSeek-modellgeneráció első lépését jelenti.

Technikai szempontból különösen érdekes az új Causal Encoder–Decoder felépítés. A V4.1-Flash egy 552 milliárd paraméteres Mixture-of-Experts modell, de bemeneti feldolgozásnál mindössze 8 milliárd, kimenetnél pedig 16 milliárd paramétert aktivál. A cél az, hogy a rendszer ne használja egyszerre a teljes modell számítási kapacitását minden feladathoz, hanem csak a szükséges részeket mozgósítsa.

A változás a memóriahasználatban is jelentős. A DeepSeek saját adatai szerint az új modell KV-cache-ének működtetéséhez az előző generációhoz képest negyedannyi HBM-memória és nyolcadannyi SSD-tárhely szükséges. Ez különösen hosszú beszélgetések, programozási feladatok és mesterséges intelligencia ügynökök esetén lehet fontos, mert ezeknél a korábbi kontextus tárolása jelentős költséget okozhat. A számok ugyanakkor a vállalat saját technikai összehasonlításából származnak.

Olvasd el: Hat hét alatt már a harmadik új Gemini Flash modellt adta ki a Google

Lehet, hogy a következő generatív mesterséges intelligencia versenyt már nem a legnagyobb modell nyeri meg, hanem az, amely ugyanazt a feladatot jóval kevesebb számítási erőforrásból képes elvégezni?

A V4.1-Flash natív multimodális képességekkel is rendelkezik, vagyis a vizuális információk feldolgozása már az új modellcsalád alapvető része. Ez fontos irányváltás, mert a vezető generatív mesterséges intelligencia rendszereknél egyre kevésbé különül el a szöveg, a kép és a digitális munkafolyamatok értelmezése. A DeepSeek így már az architektúra szintjén készül arra, hogy a későbbi nagyobb modellek többféle információval egyszerre dolgozzanak.

A vállalat azt is állítja, hogy több külső és saját tesztben a V4.1-Flash teljesítmény, sebesség, költség és teljes futási idő alapján is kedvezőbb eredményt ért el a korábbi V4-Pro modellnél. Ezt nem érdemes általános teljesítményelőnyként kezelni, amíg szélesebb független tesztek nem állnak rendelkezésre, de a DeepSeek annyira bízik az új rendszerben, hogy a V4-Pro forgalmát is fokozatosan erre a modellre tervezi átirányítani.

A fejlesztés legérdekesebb része ezért talán nem maga a V4.1-Flash, hanem az, amit előrevetít. A DeepSeek kifejezetten úgy beszél róla, mint egy nagyobb rendszerekre skálázható architektúra első tagjáról. Ha a memória- és sebességelőny a következő, erősebb modellekben is megmarad, a generatív mesterséges intelligencia következő versenyét nem pusztán a paraméterszám, hanem az egy feladatra jutó számítási és működési költség is egyre inkább meghatározhatja.

Olvasd el ezt is: Saját virtuális számítógépet kapott a Meta új generatív mesterséges intelligenciája

Források: DeepSeek, Reuters

CS.SZ.

MI - KKV

AutoDNA néven új, nagyrészt önállóan működő molekuláris biológiai laboratóriumot mutattak be kínai kutatók a Nature tudományos folyóiratban. A mesterséges intelligencia által vezérelt …

Hatz Spaces néven új, közös mesterséges intelligencia munkakörnyezetet indított a Hatz AI, kifejezetten kis- és középvállalkozások, valamint informatikai szolgáltatópartnereik számára. A rendszer …

A gyermekkori agydaganatok kezelését is személyre szabottabbá teheti egy új mesterségesintelligencia-modell. A MANTIS a daganatok molekuláris jellemzőiből készít túlélési előrejelzést és abban …

Új videókészítési lehetőséggel bővült a ChatGPT: a Synthesia november 3-án elindította saját integrációját, amellyel a felhasználók közvetlenül egy beszélgetésből készíthetnek professzionális videós …

Images 2.6 néven jelentős frissítést adott ki az OpenAI, amellyel a generatív mesterséges intelligencia már animált GIF-eket is létrehozhat, miközben a vállalat …