GPU బిల్లుల అవకాశంతో మేఘావృతం: AI యొక్క శక్తి ఆకలి CIOలకు చెమటలు పట్టిస్తుంది
కెనాలిస్ EMEA ఫోరమ్లు 2024 పెరుగుతున్న శక్తి బిల్లులతో పాటు పెరుగుతున్న AI డిమాండ్లకు ప్రతిస్పందనగా వారు పనిభారాన్ని ఎక్కడ హోస్ట్ చేస్తారో సంస్థలు పునరాలోచించవలసి వస్తుంది మరియు వాటిని పబ్లిక్ క్లౌడ్లో ఉంచడం సమాధానం కాకపోవచ్చు.
శిక్షణ మరియు అధునాతన AI నమూనాలను అమలు చేయడం యొక్క అపారమైన గణన డిమాండ్ల కారణంగా CIOలు పెరుగుతున్న శక్తి వినియోగానికి సంబంధించి గందరగోళాన్ని ఎదుర్కొంటున్నాయి, అయితే శక్తి ఖర్చులు ఏకకాలంలో పెరుగుతాయి. కెనాలిస్ ప్రకారం, ఆ సర్కిల్ను వర్గీకరించడానికి ఒక మార్గాన్ని కనుగొనడం పెద్ద కంపెనీలకు ప్రధాన ఆందోళనగా మారుతోంది.
బెర్లిన్లో ఇటీవల జరిగిన కెనాలిస్ EMEA ఫోరమ్లో ముఖ్య విశ్లేషకుడు అలస్టైర్ ఎడ్వర్డ్స్ మాట్లాడుతూ, “AI వాగ్దానం చేసే” వ్యాపార పరివర్తనను ఎక్కువగా ఉపయోగించుకోవడానికి ప్రతి కంపెనీ వారు ఏ IT మోడల్ లేదా ఆర్కిటెక్చర్ని ఉపయోగించాలో గుర్తించడానికి ప్రయత్నిస్తున్నారని చెప్పారు.
పబ్లిక్ క్లౌడ్ విక్రేతలు AI వర్క్లోడ్లకు శిక్షణ ఇవ్వడానికి తమను తాము ఇష్టపడే గమ్యస్థానంగా ఉంచుకుంటారు మరియు ఖచ్చితంగా మౌలిక సదుపాయాల వనరులను కలిగి ఉంటారు, AI- సామర్థ్యం గల సర్వర్లపై మూలధన వ్యయం దాదాపుగా పెరుగుతోంది. ఈ ఏడాది 30 శాతంకొన్ని అంచనాల ప్రకారం.
ఎడ్వర్డ్స్ ప్రకారం, ఒక సంస్థ ఈ నమూనాలను పని చేయడానికి శిక్షణకు మించి చూడటం ప్రారంభించినప్పుడు – వాటిని చక్కగా ట్యూనింగ్ చేయడం మరియు ఊహించడం – వాటిని ఎలా మరియు ఎక్కడ అమలు చేయాలనే ప్రశ్న తలెత్తుతుంది, ఎడ్వర్డ్స్ ప్రకారం.
“పబ్లిక్ క్లౌడ్లో, మీరు ఈ వినియోగ కేసులను అమలు చేయడం ప్రారంభించినప్పుడు, మనమందరం దృష్టి కేంద్రీకరించాము మరియు మీరు దీన్ని పబ్లిక్ క్లౌడ్లో చేస్తే, ఖర్చు కోణం నుండి అది నిలకడలేనిదిగా మారుతుంది” అని అతను చెప్పాడు.
అయితే క్లౌడ్కు ప్రత్యామ్నాయం ఏమిటి? ఇతర కారణాలతో పాటు సంక్లిష్టమైన అవస్థాపనను నిర్వహించడంలో ఇబ్బంది కారణంగా కంపెనీలు సుమారు ఒక దశాబ్దం పాటు క్లౌడ్కు పనిభారాన్ని తరలిస్తున్నాయి మరియు చాలా మంది ప్రతిస్పందనగా తమ స్వంత బిట్ బార్న్లను తగ్గించారు.
“ఈ రోజు దాదాపు ఏ సంస్థ కూడా దాని స్వంత ఆన్-ప్రాంగణ డేటా సెంటర్ను నిర్మించాలనుకోలేదు” అని ఎడ్వర్డ్స్ చెప్పారు. “వారు నియంత్రణ, సార్వభౌమాధికారం, భద్రత మరియు సమ్మతిని కలిగి ఉండాలని కోరుకుంటారు, కానీ వారు శక్తి కోసం పెరిగిన అవసరం, ద్రవ శీతలీకరణ యొక్క పెరిగిన అవసరాన్ని ఎదుర్కోవాల్సిన అవసరం లేని చోట వారు దానిని గుర్తించాలనుకుంటున్నారు, ఇది మీరు కేవలం పునర్నిర్మించలేరు. ఇప్పటికే ఉన్న డేటా సెంటర్.”
దీనర్థం కొన్ని కంపెనీలు ఇప్పుడు కెనాలిస్ దృష్టి ప్రకారం, సాధారణ పబ్లిక్ క్లౌడ్ ఆపరేటర్ల కంటే ప్రత్యేక కలలోకేషన్ మరియు హోస్టింగ్ ప్రొవైడర్ల వైపు మొగ్గు చూపుతున్నాయి.
“మేము కొత్త వ్యాపార నమూనాల ఆవిర్భావాన్ని చూస్తున్నాము, GPU సామర్థ్యంలో పెట్టుబడి పెట్టిన కంపెనీలు మరియు ఇప్పుడు కస్టమర్లు దీన్ని యాక్సెస్ చేయడంలో GPU-యాజ్-ఎ-సర్వీస్ మోడల్లను అభివృద్ధి చేస్తున్నాయి. ఇది స్థిరమైన మోడల్ కాదా అనేది చర్చనీయాంశం, కానీ ముఖ్యంగా , అది ఎలా ఉంటుందో నిజంగా నిర్వచించడానికి ప్రతి క్లయింట్కు సహాయం కావాలి” అని ఎడ్వర్డ్స్ వివరించారు.
ఈ GPU-యాజ్-ఎ-సర్వీస్ ఆపరేటర్లు ఉన్నాయి కోర్వీవ్ మరియు ఫౌండ్రీరాక్స్పేస్ కూడా (వాటిని గుర్తుంచుకోవాలా?) GPU-a-a-service ఉత్పత్తిని ప్రకటించింది.
మార్కెట్ పరిశీలకుడు IDC నుండి వచ్చిన తాజా సూచన ప్రకారం, యాక్సెస్ రూపం ఏదైనప్పటికీ, AIని శక్తివంతం చేసే మౌలిక సదుపాయాలు సమీప భవిష్యత్తులో పెట్టుబడికి వృద్ధి ప్రాంతంగా కనిపిస్తాయి. 2024 ప్రథమార్థంలో కంపెనీలు AI విస్తరణల కోసం కంప్యూటింగ్ మరియు స్టోరేజ్ హార్డ్వేర్పై ఖర్చును 37% పెంచాయని అంచనా వేసింది మరియు ఇది 2028 నాటికి $100 బిలియన్లకు విస్తరిస్తుందని అంచనా వేసింది.
మైక్రోసాఫ్ట్ మాత్రమే ఇటీవల ప్రకటించింది US$100 బిలియన్లను సమీకరించాలని యోచిస్తోంది డేటా సెంటర్లలో పెట్టుబడి పెట్టడం మరియు AWS $10.4 బిలియన్లు ఖర్చు చేయాలని యోచిస్తోంది UK లో సౌకర్యాలుఈ సంఖ్య సాంప్రదాయిక అంచనా లాగా ఉంది.
హైపర్స్కేలర్లు, క్లౌడ్ సర్వీస్ ప్రొవైడర్లు మరియు డిజిటల్ సర్వీస్ ప్రొవైడర్లు తమ సామర్థ్యాలను అభివృద్ధి చేసుకున్నందున, క్లౌడ్ మరియు షేర్డ్ ఎన్విరాన్మెంట్లలో AI-ప్రారంభించబడిన సిస్టమ్లు 2024 మొదటి అర్ధభాగంలో మొత్తం AI సర్వర్ ఖర్చులో 65% వాటాను కలిగి ఉన్నాయని IDC పేర్కొంది. దీనికి విరుద్ధంగా, ఆన్-ఆవరణలో AI కిట్ను స్వీకరించడంలో కంపెనీలు చాలా వెనుకబడి ఉన్నాయి.
Omdia చేస్తున్న విశ్లేషణల సంస్థకు ఇది సరిపోలుతుంది మాకు చెప్పడం: AI శిక్షణ కోసం సర్వర్ల డిమాండ్ సాపేక్షంగా తక్కువ సంఖ్యలో ఉన్న హైపర్స్కేలర్లచే నడపబడుతుంది మరియు సర్వర్ ఖర్చు వేగంగా పెరుగుతోంది ఎందుకంటే AIకి ఖరీదైన GPU యాక్సిలరేటర్లతో కూడిన అధిక-పనితీరు గల వ్యవస్థలు అవసరం.
IDC ప్రకారం, 1H24లో మొత్తం ఖర్చులో దాదాపు సగం వాటాను కలిగి ఉన్న గ్లోబల్ AI ఇన్ఫ్రాస్ట్రక్చర్లో US అగ్రగామిగా ఉండటంలో ఆశ్చర్యం లేదు. దీని తర్వాత చైనా 23 శాతం, ఆ తర్వాత ఆసియా-పసిఫిక్ ప్రాంతం 16 శాతం మరియు EMEA కేవలం 10 శాతంతో ఉన్నాయి.
అయితే, రాబోయే ఐదేళ్లలో, IDC ఆసియా-పసిఫిక్ అత్యంత వేగంగా వృద్ధి చెందుతుందని అంచనా వేస్తుంది, సమ్మేళనం వార్షిక వృద్ధి రేటు (CAGR) 20 శాతం, దాని తర్వాత US. యాక్సిలరేటెడ్ సర్వర్లు 2028 నాటికి మొత్తం మార్కెట్ వ్యయంలో 56% ప్రాతినిధ్యం వహిస్తాయని అంచనా వేయబడింది.
ప్రపంచవ్యాప్తంగా ఉన్న హైపర్స్కేలర్లు, CSPలు, ప్రైవేట్ ఎంటర్ప్రైజెస్ మరియు ప్రభుత్వాలు ఎక్కువగా AIకి ప్రాధాన్యత ఇస్తున్నందున, AI స్వీకరణ “అద్భుతమైన వేగంతో” పెరుగుతుందని IDC ఆశిస్తోంది, అయితే హోరిజోన్లో ఒక క్లౌడ్ ఉంది (పన్లు లేవు).
“డేటా సెంటర్లు వాటి నిర్మాణాలను ఆప్టిమైజ్ చేయడానికి మరియు విద్యుత్ వినియోగాన్ని తగ్గించడానికి ప్రత్యామ్నాయాల కోసం చూస్తున్నందున AI మౌలిక సదుపాయాల కోసం విద్యుత్ వినియోగం గురించి పెరుగుతున్న ఆందోళనలు ఒక కారకంగా మారతాయి” అని కంపెనీ వరల్డ్వైడ్ ఎంటర్ప్రైజ్ ఇన్ఫ్రాస్ట్రక్చర్ ట్రాకర్స్ గ్రూప్ వైస్ ప్రెసిడెంట్ లిడిస్ ఫెర్నాండెజ్ అన్నారు.
ఇటీవలి నివేదికలు AI-ఆధారిత డేటా సెంటర్ పవర్ డిమాండ్లను కలిగి ఉండవచ్చని హెచ్చరికలు ఉన్నాయి 160 శాతం పెరుగుతుంది రాబోయే రెండు సంవత్సరాల్లో, యుటిలిటీ ప్రొవైడర్ల కంటే వేగంగా అదనపు ఉత్పాదక సామర్థ్యాన్ని జోడించగలుగుతారు.
ఇది డేటాసెంటర్ విస్తరణ ప్లాన్లకు హాని కలిగించవచ్చు, కానీ అలా కనిపించడం లేదు పెట్టుబడిదారుల ఉత్సాహాన్ని అరికట్టడం అయినప్పటికీ, వారిలో 98 శాతం మంది శక్తి లభ్యత గురించి ఆందోళన చెందుతున్నారని ఒక సర్వే కనుగొన్నప్పటికీ. లేదా ఉండవచ్చు AI బబుల్ పగిలిపోతుందిఈ సందర్భంలో మనమందరం దాని శక్తి వినియోగం గురించి ఆందోళన చెందడం మానేయవచ్చు మరియు దానికి మద్దతుగా డేటా సెంటర్లలో బిలియన్ల కొద్దీ పెట్టుబడి పెట్టవచ్చు. ®