• Vragen? Wacht niet langer op de antwoorden! Login of Registreer en plaats jouw vraag! Wij zullen je vragen z.s.m. beantwoorden.

HWI Nvidia H100 NVL: dual-GPU accelerator met 188 GB HBM3 voor AI-modellen zoals ChatGPT

HighFlow

Moderator
Forumleiding
Terwijl Nvidia-ceo Jensen Huang geen nieuwe 3D-chips of acceleratoren heeft aangekondigd tijdens de GTC-keynote, zijn er wel enkele nieuwe oplossingen aan bod gekomen. Zo heeft de fabrikant de H100 NVL onthuld, waarbij twee bestaande Hopper-acceleratoren aaneen worden gekoppeld om large language models zoals ChatGPT te versnellen. Een configuratie met vier H100 NVL’s moet tot tien keer beter presteren in ai-workloads dan een HGX A100-cluster. In essentie gaat het om cherrypicked GH100-chips,...

Continue reading...
 
Terug
Bovenaan