ఎన్విడియా యొక్క తాజా బ్లాక్‌వెల్ కార్డ్‌లు 4 GPUలు, 2 గ్రేస్ CPUలను కలిగి ఉన్నాయి మరియు 5.4 kW వినియోగిస్తాయి
SC24 Nvidia యొక్క తాజా HPC మరియు AI చిప్ అనేది నాలుగు బ్లాక్‌వెల్ GPUలు, 144 ఆర్మ్ నియోవర్స్ కోర్‌లు, 1.3 టెరాబైట్‌ల వరకు HBM మరియు 5.4 కిలోవాట్ TDPతో కూడిన భారీ సింగిల్-బోర్డ్ కంప్యూటర్.
అనేక విధాలుగా, కొత్త GB200 NVL4 ఫారమ్ ఫ్యాక్టర్, ఈ వారం అట్లాంటాలోని సూపర్‌కంప్యూటింగ్‌లో వివరించబడింది, Nvidia యొక్క రాబోయే రెండు గ్రేస్-బ్లాక్‌వెల్ సూపర్‌చిప్‌లు ఒకదానితో ఒకటి కుట్టిన విధంగా ఉన్నాయి.
అయితే, మా వద్ద ఉన్న 2.7 కిలోవాట్ GB200 కార్డ్‌ల మాదిరిగా కాకుండా చూశారు గతంలో, Nvidia యొక్క NVL4 కాన్ఫిగరేషన్‌లో కనుగొనబడిన వేగవంతమైన NVLink కమ్యూనికేషన్‌లు నాలుగు బ్లాక్‌వెల్ GPUలు మరియు రెండు గ్రేస్ CPUలకు బోర్డుపై పరిమితం చేయబడ్డాయి. బోర్డులో లేదా వెలుపల ఉన్న అన్ని I/O మీ సాధారణ ఈథర్‌నెట్ లేదా InfiniBand NICల ద్వారా నిర్వహించబడుతుంది.
GB200 NVL4 అనేది తప్పనిసరిగా రెండు GB200 సూపర్‌చిప్‌లు ఒకదానితో ఒకటి అతుక్కొని ఉంటుంది, బాహ్య NVLink మైనస్ – వచ్చేలా క్లిక్ చేయండి
ఇది ఒక విచిత్రమైన ఎంపికగా అనిపించినప్పటికీ, వాస్తవానికి ఎన్ని HPC సిస్టమ్‌లు నిర్మించబడ్డాయి అనే దానితో ఇది సంపూర్ణంగా ఉంటుంది. ఉదాహరణకు, ఫ్రాంటియర్‌లో కనుగొనబడిన క్రే EX బ్లేడ్‌లు సమర్పించారు నాలుగు MI250X యాక్సిలరేటర్‌లతో పాటు మూడవ తరం Epyc CPU.
దీని అర్థం HPE, Eviden మరియు Lenovo వంటి ప్రముఖ HPC సిస్టమ్ బిల్డర్‌లు విస్తరణ మరియు విస్తరణ కోసం Nvidia యొక్క యాజమాన్య ఇంటర్‌కనెక్ట్‌లకు మాత్రమే పరిమితం కాలేదు. HPE మరియు Eviden రెండూ తమ స్వంత ఇంటర్‌కనెక్ట్ టెక్నాలజీని కలిగి ఉన్నాయి.
నిజానికి, HPE ఇప్పటికే ఉంది రెచ్చిపోయాడు కొత్త EX సిస్టమ్‌లు, 2025 చివర్లో షెడ్యూల్ చేయబడ్డాయి, ఇవి Nvidia యొక్క GB200 NVL4 కార్డ్‌లను ఉపయోగించుకుంటాయి. గత వారం ప్రకటించిన EX154n, దాని భారీ లిక్విడ్-కూల్డ్ HPC కేసులలో 56 అదనపు-పెద్ద సూపర్‌చిప్‌లను కలిగి ఉంటుంది – ఒక్కో బ్లేడ్‌కు ఒకటి.
ఈ కాన్ఫిగరేషన్‌లో, ఒకే EX ఎన్‌క్లోజర్ FP64 వెక్టర్ లేదా మ్యాట్రిక్స్ కంప్యూటింగ్‌లో 10 కంటే ఎక్కువ పెటాఫ్లాప్స్‌ను ఉత్పత్తి చేయగలదు. ఇది చాలా ఎక్కువ అనిపించవచ్చు, అయితే అత్యంత ఖచ్చితమైన శాస్త్రీయ కంప్యూటింగ్ ముఖ్యమైనది అయితే, HPE యొక్క AMD-ఆధారిత సిస్టమ్‌లు ఎక్కువ ఫ్లోటింగ్ పాయింట్ పనితీరును అందిస్తాయి.
ది APU MI300A క్రే యొక్క EX255a బ్లేడ్‌లలో కనుగొనబడింది, ప్రతి బ్లాక్‌వెల్ GPUలో కనిపించే డబుల్-ప్రెసిషన్ వెక్టర్/మ్యాట్రిక్స్ పనితీరు యొక్క 45 టెరాఫ్లాప్స్‌తో పోలిస్తే ప్రతి ఒక్కటి FP64 వెక్టర్ యొక్క 61.3 టెరాఫ్లాప్స్ లేదా FP64 మ్యాట్రిక్స్ యొక్క 122.6 టెరాఫ్లోప్స్‌ను కలిగి ఉంటుంది.
AI-సెంట్రిక్ వర్క్‌లోడ్‌ల కోసం, ప్రతి MI300A 3.9 petaFLOPS స్పేర్స్ FP8 పనితీరును ఉత్పత్తి చేయగలదు కాబట్టి పనితీరు అంతరం చాలా తక్కువగా ఉంటుంది. కాబట్టి పూర్తిగా ప్యాక్ చేయబడిన EX కేస్ కోసం, మీరు సగం కంటే తక్కువ GPUలను ఉపయోగిస్తున్న బ్లాక్‌వెల్ సిస్టమ్ యొక్క 2.2 exaFLOPSతో పోలిస్తే FP8 యొక్క 2 exaFLOPSని చూస్తారు – మీరు MI300A ద్వారా సపోర్ట్ చేయని FP4 డేటా రకాల ప్రయోజనాన్ని పొందగలిగితే రెట్టింపు.
Nvidia యొక్క NVL4 ఫార్మాట్‌కు మద్దతును ప్రకటించిన వారిలో HPE క్రే మొదటిది అయినప్పటికీ, Eviden, Lenovo మరియు ఇతరులు డిజైన్ ఆధారంగా వారి స్వంత కంప్యూటింగ్ బ్లేడ్‌లు మరియు సర్వర్‌లను విడుదల చేయడం ప్రారంభించే ముందు ఇది చాలా కాలం ఉంటుందని మేము ఆశించము.
H200 PCIe కార్డ్‌లు NVL అప్‌డేట్‌ను అందుకుంటాయి
Nvidia యొక్క డబుల్-వైడ్ GB200 NVL4తో పాటు, Nvidia దాని PCIe-ఆధారిత H200 NVL కాన్ఫిగరేషన్ కోసం సాధారణ లభ్యతను కూడా ప్రకటించింది.
కానీ మీరు చాలా సంతోషిస్తున్నాము ముందు, పోలి H100 NVL మేము 2023 ప్రారంభంలో పొందాము, H200 NVL అనేది కేవలం డబుల్-వైడ్ PCIe కార్డ్‌ల సమూహం మాత్రమే – ఈసారి నాలుగు వరకు – అవి NVLink బ్రిడ్జ్‌తో అతికించబడ్డాయి.
Nvidia యొక్క పెద్ద SXM-ఆధారిత DGX మరియు HGX ప్లాట్‌ఫారమ్‌ల మాదిరిగానే, ఈ NVLink బ్రిడ్జ్ GPUలను కంప్యూట్ చేయడానికి మరియు మెమరీ వనరులను స్లోగా PCIe 5.0 x16 ఇంటర్‌ఫేస్‌లలో అడ్డంకులు లేకుండా పెద్ద టాస్క్‌లను నిర్వహించడానికి అనుమతిస్తుంది, ఇది ద్విదిశాత్మక NVLk 90GB బ్యాండ్‌విడ్‌విడ్ 0GB నుండి 128 GBps వెడల్పుకు చేరుకుంటుంది. .
గరిష్టంగా, H200 NVL గరిష్టంగా 564 GB వరకు HBM3e మెమరీని మరియు 13.3 petaFLOPS గరిష్ట FP8 పనితీరును స్కాటరింగ్‌తో సపోర్ట్ చేయగలదు. మళ్ళీ, ఇది కేవలం నాలుగు H200 PCIe కార్డ్‌లు చాలా వేగవంతమైన ఇంటర్‌కనెక్ట్ బ్రిడ్జ్‌తో కలిసి ఉండటమే దీనికి కారణం.
అయితే, ఈ పనితీరు అంతా శక్తి మరియు ఉష్ణాల వ్యయంతో వస్తుంది. నాలుగు స్టాక్‌లోని ప్రతి H200 కార్డ్ గరిష్టంగా 600W పవర్ లేదా 2.4 కిలోవాట్‌ల వరకు రేట్ చేయబడుతుంది.
విధానం దాని ప్రయోజనాలను కలిగి ఉందని పేర్కొంది. ఒకదానికి, ఈ కార్డ్‌లను వర్చువల్‌గా ఏదైనా 19-అంగుళాల ర్యాక్ సర్వర్‌లో తగినంత స్థలం, శక్తి మరియు వాయుప్రసరణతో వాటిని చల్లగా ఉంచడానికి అమర్చవచ్చు. ®
