ARM ir Alibaba partneris, siekiantis padidinti daugialypį AI įrenginį su Kleidiai

„ARM Holdings PLC“ (NASDAQ: ARM), toliau, vadinama „ARM“, šiandien paskelbė naują bendradarbiavimą su „Alibaba“ Taotian grupe dėl savo lengvos giluminio mokymosi sistemos MNN.Integruodamos ARM Kleidiai, abi bendrovės sėkmingai įgalino multimodalinį dirbtinio intelekto (AI) darbo krūvį, kad galėtų vykdyti ARM CPU varomus mobiliuosius įrenginius, naudojant „Alibaba“ instrukcijų sureguliuotą QWEN2-VL-2B instruktoriaus modelį.Ši „Qwen“ multimodalinio modelio versija yra specialiai sukurta vaizdo įrašų vaizdų supratimui, samprotavimui tekste ir multimodaliniai generavimą keliomis kalbomis.Šis bendradarbiavimas žymiai pagerina multimodalinių AI darbo krūvių našumą krašte, teikiant visiškai naują vartotojo patirtį.

Stefanas Rosingeris, „ARM“ klientų verslo produktų valdymo direktorius, pareiškė: „Mes esame AI revoliucijos viduryje, liudijant daugiamodalinių AI modelių, kurie gali apdoroti ir suprasti įvairius duomenų tipus, įskaitant tekstą, vaizdus, ​​garso, vaizdo ir jutiklių duomenis.Tačiau šių pažangių multimodalinių modelių diegimas krašto įrenginiuose kelia didelių iššūkių dėl aparatūros apribojimų, tokių kaip energijos suvartojimas ir atminties apribojimai, taip pat tuo pačiu metu tvarkant kelis duomenų būdus. “

ARM Kleidi pateikia idealų sprendimą šiems iššūkiams spręsti, pateikdamas sklandų našumo optimizavimą AI išvadų darbo krūviams, veikiantiems ARM procesoriuose.„Kleidiai“ yra lengvas, aukštos kokybės, atvirojo kodo rankų rutinos kolekcija, sukurta specialiai AI pagreičiui.Jis buvo integruotas į naujausias pagrindinių įrenginių AI sistemų versijas, įskaitant „ExecutorCh“, „Llama.cpp“, „Litert“ (per „XNNPACK“) ir „MediaPipe“.Tai leidžia milijonams kūrėjų automatiškai pasiekti reikšmingą AI našumo padidėjimą - be jokių papildomų pastangų.