Nextron levererar nu B300-servrar

Översatt av ChatGPT (GPT-6)

Lasse Melsæter testar och förbereder HGX B300-system för kund — Lasse Melsæter förbereder HGX B300-system för kund *Foto: Nextron AS*

De första B300-systemen från NVIDIA och Supermicro har levererats till våra kunder. Med NVIDIA Blackwell Ultra får företag mer GPU-minne och ökad kapacitet för att träna, finjustera och köra krävande AI-modeller.

På bilderna förbereds en B300-server för en kund hos Nextron. Det är kraftfull hårdvara som ska ingå i en större miljö, där GPU:er, nätverk, lagring och kylning måste samverka för att leverera önskad prestanda. Med B300 har nästa steg i NVIDIA Blackwell-familjen blivit en del av våra leveranser. Plattformen är särskilt intressant för stora språkmodeller, AI som kombinerar text, bilder och video samt resonerande modeller som använder flera beräkningssteg för att lösa komplexa uppgifter.

8U-servern väger cirka 119 kg med 8x NVIDIA HGX B300 GPU:er och mäter 356x449x950 mm (HxBxD) *Foto: Nextron AS*

Mer utrymme för modeller och kontext

Ett B300-system med åtta GPU:er har över 2 TB HBM3e GPU-minne. Den ökade kapaciteten ger mer utrymme för modellerna och de data som behövs under körning. För kunderna kan det innebära plats för större modeller, längre dokument och konversationer eller fler samtidiga förfrågningar. När en större del av arbetsbelastningen får plats i GPU-minnet kan behovet av att flytta data till långsammare minne eller fördela modellen över flera servrar minska.

B300-system med åtta NVIDIA HGX B300 GPU:er *Foto: Nextron AS*

Ökad beräkningskraft för krävande AI

Jämfört med DGX B200 uppger NVIDIA att DGX B300 ger 1,5 gånger så hög prestanda vid täta FP4-beräkningar och dubbelt så hög prestanda vid attention-beräkningar – en central del av hur språkmodeller bearbetar samband i information. FP4 gör det möjligt att utföra AI-beräkningar med lägre numerisk precision och hög kapacitet när modellen och programvaran är anpassade för detta. Förbättringarna inom attention är särskilt relevanta för långa kontexter och resonerande modeller. Den faktiska prestandavinsten beror på modellen, programvaran och hur systemet används. B300 ger ändå en starkare grund för företag som behöver hantera större och mer krävande AI-arbetsbelastningar.

2x Intel Xeon 6700-processorer, 32x DDR5-minnesmoduler, 2x PCIe-switchar och 4 fläktar — 2x Intel Xeon 6700-processorer, upp till 32x DDR5-minnesmoduler, 2x PCIe-switchar och 4 fläktar *Foto: Nextron AS*

Byggd för att samverka

De åtta GPU:erna är sammankopplade med femte generationens NVIDIA NVLink och NVSwitch. Det ger snabb kommunikation när modeller och beräkningar fördelas mellan GPU:erna. Med NVIDIA ConnectX-8 och nätverk på upp till 800 Gb/s per adapter är plattformen också utformad för att koppla samman flera servrar i större AI-miljöer.

Flera systemalternativ – hjälp att välja rätt

Nextron erbjuder NVIDIA DGX B300 och servrar baserade på NVIDIA HGX B300 från Supermicro och ASUS. De första leveranserna har genomförts med system från NVIDIA och Supermicro. Valet av system beror både på AI-arbetsbelastningen och den infrastruktur som systemet ska ingå i. Vi hjälper till att utvärdera GPU-kapacitet, nätverk, lagring, strömförsörjning och kylning som en helhet. Planerar ni att utöka er AI-kapacitet? Kontakta Nextron för att diskutera B300 och vilket system som passar era behov.