Root NationUutisetIT-uutisiaIntel luo tehokkaimman supertietokoneen, jossa on tuhansia Gaudi2 AI -kiihdyttimiä

Intel luo tehokkaimman supertietokoneen, jossa on tuhansia Gaudi2 AI -kiihdyttimiä

-

Intel Corporation aikoo Datacenter Dynamics -sivuston mukaan luoda yhden maailman tehokkaimmista supertietokoneista generatiivisen tekoälyn kanssa työskentelemiseen. Alustan resursseja käyttää Stability AI, joka toteuttaa alan projekteja. LPC-alusta perustuu Xeon-prosessoreihin. Lisäksi sen sanotaan käyttävän noin 4000 2 GaudiXNUMX-kiihdytintä.

Gaudin prosessori syntyi, kun Intel osti Habana Labsin 2019 miljardilla dollarilla vuonna 2. Tuolloin se luopui aiemmasta Nervana-ostostaan ​​tekoälysiruista Israelin liiketoiminnan hyväksi.

Intel julkaisi äskettäin Gaudi2-testauksen tulokset GPT-J-benchmarkissa (sisältyy MLPerf Inference v3.1:een), joka perustuu suureen kielimalliin (LLM), jossa on 6 miljardia parametria. Arvioiden mukaan Gaudi2:sta voi tulla vaihtoehtoinen ratkaisu NVIDIA H100 tekoälymarkkinoilla.

Intel

Kuitenkin H100 ylittää kilpailijansa tekoälysovellusten käsittelyssä. Ennen NVIDIA ilmoitti ohjelmistosta TensorRT-LLM avoimen lähdekoodin, joka on erityisesti suunniteltu nopeuttamaan suurten kielimallien (LLM) suorittamista. Arvioiden mukaan NVIDIA, TensorRT-LLM:n sovellus mahdollistaa H100-kiihdyttimen suorituskyvyn kaksinkertaistamisen GPT-J 6B -testissä. Llama2-mallia käytettäessä nopeuden lisäys A100:aan verrattuna on 4,6x.

Intel and Stability AI -projekti auttaa yrityksiä vahvistamaan asemiaan generatiivisen tekoälyn markkinoilla. Järjestelmän käyttöönoton ajoituksesta ja sen odotetusta suorituskyvystä ei raportoida mitään.

Lue myös:

Kirjaudu
Ilmoita asiasta
vieras

0 Kommentit
Upotetut arvostelut
Näytä kaikki kommentit