Másodpercenként több mint ezer tokent generálhat az Inception új mesterséges intelligencia-modellje, a Mercury 3. A diffúziós technológiára épülő fejlesztés valós idejű keresésben, MI-ügynökök működtetésében, interaktív oktatásban és ügyfélszolgálati feladatokban is alkalmazható lehet.
A hagyományos nyelvi modellektől eltérő technológiával gyorsítaná fel a szöveggenerálást az Inception. A vállalat új, Mercury 3 nevű mesterségesintelligencia-modellje valós idejű keresésben, böngészővezérlő MI-ügynökökben és interaktív oktatásban is alkalmazható lehet.
Újfajta technológia gyorsíthatja a szöveggenerálást
Új generatív mesterséges intelligencia-modellt mutatott be az Inception, amely a hagyományos nyelvi modellektől eltérő, úgynevezett diffúziós technológiára épül. A Mercury 3 a fejlesztő közlése szerint másodpercenként több mint ezer tokent képes előállítani, miközben egymillió tokenes kontextusablakkal rendelkezik.
A hagyományos, autoregresszív nyelvi modellek jellemzően egymás után generálják a szöveg elemeit. A diffúziós megközelítés más módon építi fel a kimenetet és – az Inception szerint – ez lehetőséget ad arra, hogy a rendszer a válasz minőségének megőrzése mellett gyorsabban működjön.
A vállalat beszámolója alapján a Mercury 3 a korábbi Mercury 1 modellnél több mint negyvenszer nagyobb, a különböző teljesítményméréseken pedig jelentős előrelépést ért el. Ezek az eredmények a fejlesztő által közölt teszteken alapulnak.
Böngészésben és keresésben is segíthet
A Mercury 3 egyik fontos felhasználási területe az MI-ügynökök működtetése lehet. Ezek a rendszerek weboldalakon navigálhatnak, információkat gyűjthetnek több forrásból, illetve összetettebb feladatokat hajthatnak végre.
Olvasd el: Már percek alatt készíthet építészeti tervrajzokat a mesterséges intelligencia
A gyors válaszkészség különösen fontos az ilyen alkalmazásoknál, mivel egy-egy késlekedés a munkafolyamat minden további lépését lassíthatja. Az Inception szerint a Mercury 3 lehetővé teheti, hogy az ügynökök rövidebb idő alatt végezzenek a feladataikkal és több lehetséges megoldást is kipróbáljanak.
A modell valós idejű keresési feladatokra is használható. A vállalat egyik partnere, az Octen AI vezetője, Kuan Zou arról számolt be, hogy a tesztjeik során a Mercury 3 medián generálási ideje 0,9 másodperc, a teljes válaszadás medián ideje pedig 2,2 másodperc volt. Ezek az adatok a partner saját méréseiből származnak.
Az oktatásban is gyors visszajelzést adhat
A technológia az interaktív oktatásban is szerepet kaphat. Egy MI-alapú tanulási alkalmazás például szinte azonnal reagálhat a diákok kérdéseire, magyarázatokat adhat, értékelheti a válaszokat és a tanuló hibáihoz igazíthatja a következő feladatokat.
Michael Tong, a General Learning – más néven RevisionDojo – társalapítója és technológiai vezetője szerint a Mercury 3 segítségével a diákok gyors visszajelzést kaphatnak anélkül, hogy a rendszernek le kellene mondania a következtetési képességekről.
A szakember elmondása szerint a tippek, a kijelölt válaszok és a definíciók körülbelül egy másodperc alatt jelenhetnek meg. Ez segíthet abban, hogy a tanulók ne veszítsék el a fonalat a várakozás miatt.
Ügyfélszolgálati feladatokra is bevethető
A Mercury 3 hangalapú és szöveges ügyfélszolgálati rendszerek működtetésére is alkalmas lehet. Az ilyen alkalmazásoknál a gyors válaszadás mellett a pontosság is kiemelt jelentőségű, különösen a szabályozott iparágakban, ahol egy hibás tájékoztatás komoly következményekkel járhat.
A Lorikeet munkatársa, Michael Gribben szerint a vállalat korai tesztjeiben a modell rövidebb válaszidőt produkált más vizsgált rendszereknél, miközben a teljesítményméréseken és a gyakorlati használat során is kedvező eredményeket ért el.
A Mercury 3 az Inception közlése szerint már elérhető a vállalat API-platformján, valamint több partner szolgáltatásán keresztül. A fejlesztés OpenAI API-kompatibilis, így a már meglévő alkalmazásokba is könnyebben beilleszthető lehet.
A teljesítményadatokat egyelőre a fejlesztő közölte
Az Inception új modellje azt mutatja, hogy a generatív mesterséges intelligencia fejlesztése nem kizárólag a nagyobb modellek létrehozásáról szól. A gyorsaság és a hosszabb kontextus kezelése szintén fontos szempont lehet az olyan területeken, ahol a rendszernek valós időben kell reagálnia.
A Mercury 3 teljesítményére vonatkozó összehasonlítások ugyanakkor a fejlesztő és partnerei által közzétett tesztekből származnak. A tényleges eredmények az alkalmazástól, a feladattól és a működtetés körülményeitől is függhetnek.
Forrás: inceptionlabs.ai
B.A.
