AI యాక్సిలరేటర్లకు అవసరమైన HBM చిప్‌లను కొనుగోలు చేయకుండా బిడెన్ పరిపాలన చైనాను నిషేధించింది
బిడెన్ అడ్మినిస్ట్రేషన్ AI యాక్సిలరేటర్‌ల ఉత్పత్తికి కీలకమైన మెమరీ ఎగుమతిని పరిమితం చేసే పరిమితులను ప్రకటించింది మరియు వంద కంటే ఎక్కువ సంస్థలకు అమ్మకాలను నిషేధించింది.
వాణిజ్య పరిమితులు, నవీకరించబడింది [PDF] బ్యూరో ఆఫ్ ఇండస్ట్రీ అండ్ సెక్యూరిటీ (BIS) సోమవారం నాడు, లైసెన్స్ లేని హై-బ్యాండ్‌విడ్త్ మెమరీ (HBM)ని ఆందోళన దేశాలకు విక్రయించడంపై పరిమితులను విధించింది. ఈ సందర్భంలో, ప్రశ్నలో ఉన్న దేశం పీపుల్స్ రిపబ్లిక్ ఆఫ్ చైనా.
కొరియన్లు Samsung మరియు SK హైనిక్స్ మరియు నార్త్ అమెరికన్ మైక్రాన్‌లతో సహా – అత్యంత అధునాతన HBM మాడ్యూల్‌లు అనేక సరఫరాదారులచే ఉత్పత్తి చేయబడ్డాయి. విమర్శనాత్మకంగా, AI శిక్షణ, అనుమితి మరియు శాస్త్రీయ కంప్యూటింగ్‌లో ఉపయోగించే అత్యాధునిక GPUలు మరియు యాక్సిలరేటర్‌లలో HBM ఒక ముఖ్యమైన భాగం.
ఈ వర్క్‌లోడ్‌లలో HBM పాత్ర దాని పేరులోనే స్పష్టంగా చెప్పబడింది: ఇది సాంప్రదాయ DDR లేదా GDDR మెమరీతో పోల్చితే, అధిక ధర మరియు విద్యుత్ వినియోగంతో పోలిస్తే గణనీయంగా అధిక బ్యాండ్‌విడ్త్‌ను అందిస్తుంది.
మెమరీ బ్యాండ్‌విడ్త్ AI మరియు సూపర్‌కంప్యూటింగ్ పనితీరుకు అతిపెద్ద అడ్డంకులలో ఒకటిగా ఉంది, కాబట్టి చాలా చిప్ కంపెనీలు ఇటీవలి సంవత్సరాలలో ఫ్లోటింగ్ పాయింట్ పనితీరు కంటే దీనికి ప్రాధాన్యత ఇవ్వడం ప్రారంభించాయి. తరాలు మీ హార్డ్‌వేర్. Nvidia యొక్క H200 మరియు AMD యొక్క MI325X లు వాటి పూర్వీకుల యొక్క పెరిగిన బ్యాండ్‌విడ్త్ వెర్షన్‌లు, ఇవి HBM3ని వేగవంతమైన HBM3e మెమరీతో భర్తీ చేస్తాయి.
Baidu’s ChatGPT లేదా Ernie వంటి జనాదరణ పొందిన చాట్‌బాట్‌లకు శక్తినిచ్చే పెద్ద భాషా నమూనాలను (LLMలు) అమలు చేస్తున్నప్పుడు ఫలితం ప్రత్యేకంగా గమనించవచ్చు. బ్యాండ్‌విడ్త్ ఎంత ఎక్కువగా ఉంటే, చాట్‌బాట్ వేగంగా ప్రతిస్పందనను అందిస్తుంది – మరియు, పొడిగింపు ద్వారా, అది ఎక్కువ మంది వినియోగదారులకు సేవ చేయగలదు.
కొత్త నిబంధనల ప్రకారం, చైనా కంపెనీలకు విడిభాగాలను విక్రయించడానికి HBM నిర్మాతలు ప్రత్యేక ఎగుమతి లైసెన్స్‌లను పొందవలసి ఉంటుంది. హెచ్‌బిఎమ్‌పై ఆంక్షలతో పాటు, బిడెన్ అడ్మినిస్ట్రేషన్ 140 చైనీస్ కంపెనీలను యుఎస్ ఎంటిటీ బ్లాక్ లిస్ట్‌కు జోడిస్తోంది.
HBM సాధారణంగా TSMC నుండి వచ్చిన అధునాతన ప్యాకేజింగ్ టెక్నాలజీలను ఉపయోగిస్తుందని దయచేసి గమనించండి CoWoS – Huaweiతో సహా అనేక ప్రధాన చైనీస్ చిప్‌మేకర్‌లు మరియు టెక్నాలజీ దిగ్గజాలకు యాక్సెస్ ఇప్పటికే పరిమితం చేయబడింది.
చైనా యొక్క సెమీకండక్టర్ పరిశ్రమ US సమర్థవంతంగా నిషేధించిన వాటితో పోల్చదగిన ఉత్పత్తులను అభివృద్ధి చేయడానికి ప్రయత్నిస్తోంది. ఎలా మేము గతంలో నివేదించబడిందిసెమీకండక్టర్ మాన్యుఫ్యాక్చరింగ్ ఇంటర్నేషనల్ కార్పొరేషన్ (SMIC) ఇప్పటికే కొన్ని Huawei పరికరాలలో ఉపయోగించిన 7nm ప్రాసెస్ నోడ్ ఉత్పత్తిని పెంచడానికి కృషి చేస్తోంది.
ఇంతలో, చైనీస్ మెమరీ విక్రేతలు వారి స్వంత HBMపై పని చేస్తున్నారు. ఈ సంవత్సరం ప్రారంభంలో, CXMT అని కూడా పిలువబడే ChangXin మెమరీ టెక్నాలజీస్, అధిక పరిమాణంలో చిప్‌లను ఉత్పత్తి చేయగల పరీక్ష మరియు తయారీ పరికరాలను ఏర్పాటు చేయడం ప్రారంభించింది. CXMT అసెంబ్లీ లైన్ నుండి మొదటి HBM మాడ్యూల్‌లు ఎప్పుడు రోల్ అవుతాయి – మరియు అవి ఎలాంటి పనితీరును సాధించగలవు అనేది ఇంకా తెలియదు.
AI అప్లికేషన్‌లకు మద్దతు ఇవ్వడానికి HBM ఖచ్చితంగా అవసరం లేదు. అనేక Nvidia మరియు AMD GPUలు ఇప్పటికీ GDDR మెమరీని ఉపయోగిస్తున్నాయి మరియు తగినంత మెమరీ బ్యాండ్‌విడ్త్ 800-960 GB/sని సాధించగలవు. ఇది ఆధునిక HBM కంటే చాలా నెమ్మదిగా ఉంటుంది, కానీ Meta’s Llama 8B లేదా Alibaba’s Qwen 2.5 7B వంటి చిన్న LLMలపై అనుమానం కోసం మరింత ఉపయోగకరంగా ఉంటుంది.
అది పని చేయకపోతే, SRAM మరియు స్కేల్ కూడా HBMకి సమర్థవంతమైన ప్రత్యామ్నాయాలుగా నిరూపించబడ్డాయి, ప్రదర్శించారు సెరెబ్రాస్ మరియు గ్రోక్ వంటి సంస్థల ద్వారా. ప్రతి చిప్‌కు పెద్ద మొత్తంలో SRAMను కేటాయించడం ద్వారా మరియు వాటిని కనెక్ట్ చేయడానికి హై-స్పీడ్ ఇంటర్‌కనెక్ట్‌లు లేదా వేఫర్-స్కేల్ ప్యాకేజింగ్‌ను ఉపయోగించడం ద్వారా, డెవలపర్‌లు ఇద్దరూ AI అనుమితి కోసం చాలా ఎక్కువ నిర్గమాంశను సాధించగలిగారు – HBM అటానమస్‌ని ఉపయోగించే ప్లాట్‌ఫారమ్‌లతో పోలిస్తే. దేశీయంగా ఈ ఉత్పత్తులను పునరావృతం చేయడానికి SMICకి సాంకేతికత లేదా అనుభవం ఉందా లేదా అనేది మరొక ప్రశ్న.
కాబట్టి చైనాకు HBM ఎగుమతులపై పరిమితులు ఎదురుదెబ్బ అయితే, చైనా యొక్క AI మరియు సెమీకండక్టర్ ఆశయాలు సాధించలేనివిగా మారాయని దీని అర్థం కాదు.
సెమీకండక్టర్ తయారీ మరియు AI యాక్సిలరేటర్లకు సంబంధించిన సాంకేతికతలను చైనాకు అందకుండా చేసేందుకు బిడెన్ పరిపాలన సాంకేతికత ఎగుమతులపై అనేక పరిమితులను విధించింది. ఈ ప్రయత్నాలలో అధిక-పనితీరు గల చిప్‌ల ఎగుమతిని పరిమితం చేయడం మరియు వాటిని ఉత్పత్తి చేయడానికి అవసరమైన అతినీలలోహిత మరియు లోతైన అతినీలలోహిత లితోగ్రఫీ పరికరాల అమ్మకాలను నిషేధించడం వంటివి ఉన్నాయి.
అయితే, ఇటీవలి పరిణామాలు విఫలమయ్యాయి సందేహం ఈ నియంత్రణల ప్రభావంపై. ®
