Mesterséges intelligencia fokozza a Samsung új memóriáinak teljesítményét
A memóriában történő feldolgozási (processing-in-memory - PIM) architektúra hatékony mesterséges intelligencia alapú számítási képességeket hoz a nagy teljesítményű memóriába, hogy felgyorsítsa az adatközpontokban végzett magas számú feldolgozást, a nagy teljesítményű számítástechnikai (HPC) rendszereket és az MI-t támogató mobilalkalmazásokat.
Kwangil Park, a Samsung Electronics memóriatermék-tervezésért felelős alelnöke kijelentette: "Úttörő HBM-PIM-ünk az iparág első programozható PIM-megoldása, amely a különféle mesterségesintelligencia-vezérelt feladatokhoz igazodik. Ezt az áttörést arra tervezzük, hogy további együttműködést építsünk ki az MI-megoldások szolgáltatóival a még fejlettebb PIM-alapú alkalmazások terén."
Jobb teljesítmény kevesebb energiával: ez a mesterséges intelligencia érdeme
A mai számítástechnikai rendszerek többsége a Neumann-féle architektúrára épül, amely különálló processzort és memóriaegységeket használ bonyolult adatfeldolgozási feladatok millióihoz. Ez a szekvenciális feldolgozási megközelítés megköveteli, hogy az adatok folyamatosan előre-hátra mozogjanak, ami a rendszer lassulásának szűk keresztmetszetét eredményezi, különösen nagyobb mennyiségű adatok kezelésekor.
Ehelyett a HBM-PIM a feldolgozási energiát közvetlenül az adatok tárolásának helyéhez vezeti azáltal, hogy DRAM-ra optimalizált mesterséges intelligencia motort helyez el minden memóriabankban (vagyis minden egyes tároló alegységben), ezzel lehetővé téve az adatok párhuzamosan feldolgozását minimális adatmozgatás mellett.
A Samsung meglévő HBM2 Aquabolt megoldásával ötvözve az új architektúra a rendszer teljesítményét meg tudja duplázni, miközben az energiafogyasztást több mint 70%-kal csökkenti. A HBM-PIM nem igényel speciális hardver- vagy szoftverváltoztatásokat, ami gyorsabb integrációt tesz lehetővé a meglévő rendszerekkel.
A Samsung HBM-PIM-jét a vezető mesterséges intelligencia partnerek már tesztelik az MI-alapú gyorsítóikban, a validálás pedig várhatóan még ebben a félévben befejeződik.
- Varga Viktor -