2025. 12. 16. - 09:40
Új modellekkel állt elő az OpenAI mesterséges intelligencia biztonsági feladatokhoz
Új nyílt modelleket tesz közzé az OpenAI a mesterséges intelligencia biztonsági feladatokhoz. Az érvelési modellek gondolkodási láncon alapuló megközelítést alkalmaznak a fejlesztői irányelvek meghatározására a következtetés során.
Az OpenAI új nyílt modelleket jelentet meg mesterséges intelligencia biztonsági feladatokhoz. Az érvelési modellek a következtetés során gondolkodási láncon alapuló megközelítést használnak a fejlesztői irányelvek meghatározására.
Az OpenAI már közzétette a gpt-oss-safeguard kutatási előzetesét - ez egy nyílt súlyozású érvelési modellcsalád a biztonsági osztályozási feladatokhoz.
Mit jelentenek a nyílt súlyozású modellek?
A nyílt súlyozású modellek hozzáférést biztosítanak a betanított modellparaméterekhez vagy súlyokhoz, jellemzően azonban nem tartalmazzák a teljes betanítási kódot vagy adatkészleteket, illetve az infrastruktúra-specifikációkat. Olvasd el: Brutálisan sok pénzt éget el az OpenAI, de ez a jövőben megtérülhet
Új modellekkel állt elő az OpenAI mesterséges intelligencia biztonsági feladatokhoz
A nyílt forráskódú modellek ugyanakkor teljes hozzáférést adnak nem csupán a modell súlyaihoz, hanem a teljes betanítási kódhoz, az adatkészletekhez, a dokumentációhoz és az értékelési referenciaértékekhez is.
Az új modellek az OpenAI gpt-oss modelljeinek finomhangolt változatai, melyeket a gyártó 2025 elején dobott piacra.
A biztonsági osztályozási modellek két méretben érhetők el: gpt-oss-safeguard-120b és gpt-oss-safeguard-20b. Az Apache 2.0 licenc alatt találhatók meg és letölthetők a Hugging Face oldalról.
Kis lépésekben megoldott problémák
A modellek érvelést használnak a fejlesztői irányelvek értelmezésére a következtetés során. Egyfajta gondolkodási láncszem-megközelítést alkalmaznak, amelyben egy nagy nyelvi modell (LLM) kis lépésekre bontva képes megoldani egy problémát.
Az OpenAI egy nappal azután adta ki a nyílt modelleket, hogy a gyártó profitorientált közhasznú vállalattá válva új feltételeket kötött partnerével, a Microsofttal – ezek pedig tartalmaztak egy rendelkezést, amely lehetővé teszi az OpenAI számára a nyílt súlyú modellek fejlesztését és forgalmazását.
Az OpenAI-t korábban már bírálták a nyílt modellek relatív hiánya miatt a generatív MI-termékportfóliójában, mivel a nyílt forráskódú és nyílt súlyú modellek egyre népszerűbbek a vállalatok körében.
Ennek oka az alacsonyabb költségük, a betanítási adatokkal és a modell torzításával kapcsolatos átláthatóságuk, valamint a szervezetek belső adataik feletti kontrollja a generatív MI-technológia használatakor.
A technológiai cég legújabb nyílt modelljei azt jelzik, hogy a MI-gyártó visszatér gyökereihez – jegyezte meg Bradley Shimmin, a Futurum Group elemzője. Korábban ugyanis teljes mértékben nonprofit szervezetként működött és kimondott céljai az átláthatóság és a nyitottság voltak. Csak később vált - többnyire saját fejlesztésű – modellek készítőjévé.
B.A.
