„Kioxia“ išleidžia „AISAQ“ technologiją kaip atvirojo kodo programinę įrangą, siekdama sumažinti DRAM reikalavimus generuojamoms AI sistemoms

Pasaulyje pirmaujanti atminties sprendimų teikėja „Kioxia Corporation“ šiandien paskelbė apie savo naujos „All-Storage ANNS“ produkto Quantalization (AISAQ) technologijos (1) atvirojo kodo išleidimą.Programinė įranga „Kioxia AISAQ ™“ pristato naują artimiausio kaimyno paieškos (ANNS) algoritmą, optimizuotą kietojo kūno diskams (SSD), pateikdama keičiamąjį našumą gavimo gavimo kartai (RAG), tuo pačiu pašalinant poreikį saugoti indekso duomenis DRAM-užfiksuoti, užfiksuoti, užfiksuoti, užfiksuoti, užfiksuoti, užfiksuoti, užfiksuoti, užfiksuoti, užfiksuoti, patekimo į DRAM-užfiksuotą.Paieškos atliekamos tiesiogiai SSD.

Generacinėms AI sistemoms reikia reikšmingų skaičiavimo, atminties ir saugojimo išteklių.Nors AI gali skatinti transformacinius proveržius įvairiose pramonės šakose, jos diegimas dažnai būna dideles išlaidas.RAG yra esminis AI kūrimo etapas, tobulinantis didelių kalbos modelius (LLMS), panaudojant konkrečių programų ar įmonės duomenis.

Rago esmė yra vektorinės duomenų bazė, kuri kaupia ir paverčia domeno specifinius duomenis į funkcijų vektorius.RAG taip pat remiasi ANNS algoritmais, kad nustatytų vektorius, kurie sustiprina modelį, įvertinant sukauptų ir tikslinių vektorių panašumą.Norėdami būti veiksmingi, RAG turi greitai nuskaityti svarbiausią informaciją.Tradiciškai ANNS algoritmai buvo naudojami DRAM, kad būtų pasiektas reikiamas greitas našumas.

„Kioxia AISAQ“ technologija pateikia keičiamą ir efektyvų ANNS sprendimą, galintį tvarkyti milijardų masto duomenų rinkinius, kurių atminties naudojimas ir greito rodyklės perjungimo galimybės yra minimali.