Nextron toimittaa nyt B300-palvelimia

ChatGPT:n (GPT-6) kääntämä

Lasse Melsæter testaa ja valmistelee HGX B300 -järjestelmää asiakkaalle — Lasse Melsæter valmistelee HGX B300 -järjestelmää asiakkaalle *Kuva: Nextron AS*

Ensimmäiset NVIDIAn ja Supermicron B300-järjestelmät on toimitettu asiakkaillemme. NVIDIA Blackwell Ultra tarjoaa yrityksille enemmän GPU-muistia ja lisää kapasiteettia vaativien tekoälymallien kouluttamiseen, hienosäätöön ja suorittamiseen.

Kuvissa Nextronilla valmistellaan B300-palvelinta asiakkaalle. Kyseessä on tehokas laitteisto, joka tulee osaksi laajempaa ympäristöä, jossa GPU:iden, verkon, tallennuksen ja jäähdytyksen on toimittava yhdessä halutun suorituskyvyn saavuttamiseksi. B300:n myötä NVIDIA Blackwell -tuoteperheen seuraava kehitysaskel on nyt osa toimituksiamme. Alusta soveltuu erityisen hyvin suurille kielimalleille, tekstiä, kuvia ja videota yhdistäville tekoälymalleille sekä päättelymalleille, jotka ratkaisevat monimutkaisia tehtäviä useiden laskentavaiheiden avulla.

8U-palvelin painaa noin 119 kg, sisältää 8 NVIDIA HGX B300 -GPU:ta ja sen mitat ovat 356x449x950 mm (KxLxS) *Kuva: Nextron AS*

Enemmän tilaa malleille ja kontekstille

Kahdeksalla GPU:lla varustetussa B300-järjestelmässä on yli 2 Tt HBM3e GPU-muistia. Suurempi kapasiteetti tarjoaa enemmän tilaa malleille ja niiden tarvitsemalle datalle käytön aikana. Asiakkaille tämä voi tarkoittaa mahdollisuutta käyttää suurempia malleja, käsitellä pidempiä dokumentteja ja keskusteluja tai palvella useampia samanaikaisia pyyntöjä. Kun suurempi osa työkuormasta mahtuu GPU-muistiin, tarve siirtää dataa hitaampaan muistiin tai jakaa mallia useille palvelimille voi vähentyä.

B300-järjestelmä, jossa on kahdeksan NVIDIA HGX B300 -GPU:ta *Kuva: Nextron AS*

Lisää laskentatehoa vaativiin tekoälytehtäviin

NVIDIA ilmoittaa, että DGX B300 tarjoaa DGX B200 -järjestelmään verrattuna 1,5-kertaisen suorituskyvyn tiheissä FP4-laskutoimituksissa ja kaksinkertaisen suorituskyvyn attention-laskennassa. Attention-mekanismi on keskeinen osa sitä, miten kielimallit käsittelevät tiedon välisiä yhteyksiä. FP4 mahdollistaa tekoälylaskennan pienemmällä numeerisella tarkkuudella ja suurella kapasiteetilla, kun malli ja ohjelmisto on optimoitu sitä varten. Attention-laskennan parannukset ovat erityisen merkittäviä pitkien kontekstien ja päättelymallien kannalta. Todellinen suorituskykyhyöty riippuu mallista, ohjelmistosta ja järjestelmän käyttötavasta. B300 tarjoaa kuitenkin entistä tehokkaamman perustan yrityksille, joiden on käsiteltävä suurempia ja vaativampia tekoälytyökuormia.

2 Intel Xeon 6700 -prosessoria, 32 DDR5-muistimoduulia, 2 PCIe-kytkintä ja 4 tuuletinta — 2 Intel Xeon 6700 -prosessoria, jopa 32 DDR5-muistimoduulia, 2 PCIe-kytkintä ja 4 tuuletinta *Kuva: Nextron AS*

Suunniteltu toimimaan yhdessä

Kahdeksan GPU:ta on yhdistetty toisiinsa viidennen sukupolven NVIDIA NVLink- ja NVSwitch-teknologioilla. Tämä mahdollistaa nopean tiedonsiirron, kun malleja ja laskentatehtäviä jaetaan GPU:iden kesken. NVIDIA ConnectX-8:n ja jopa 800 Gb/s:n verkkoyhteyksien ansiosta alusta soveltuu myös useiden palvelimien yhdistämiseen suuremmiksi tekoälyympäristöiksi.

Useita järjestelmävaihtoehtoja – apua oikean ratkaisun valintaan

Nextron tarjoaa NVIDIA DGX B300 -järjestelmiä sekä Supermicron ja ASUSin NVIDIA HGX B300 -pohjaisia palvelimia. Ensimmäiset toimitukset on toteutettu NVIDIAn ja Supermicron järjestelmillä. Järjestelmän valintaan vaikuttavat sekä tekoälytyökuorman vaatimukset että infrastruktuuri, johon järjestelmä liitetään. Autamme arvioimaan GPU-kapasiteettia, verkkoyhteyksiä, tallennusta, virransyöttöä ja jäähdytystä kokonaisuutena. Suunnitteletteko tekoälykapasiteettinne laajentamista? Ottakaa yhteyttä Nextroniin keskustellaksenne B300-järjestelmistä ja siitä, mikä ratkaisu sopii parhaiten tarpeisiinne.