मेमोरी चिप की कमी कब और कैसे खत्म होगी

संयुक्त राज्य अमेरिका - इख़बारी समाचार एजेंसी

मेमोरी चिप की कमी कब और कैसे खत्म होगी

अगर आजकल आपको ऐसा लगता है कि तकनीक में हर चीज़ AI के बारे में है, तो ऐसा इसलिए है क्योंकि यह है। और कंप्यूटर मेमोरी बाज़ार में यह कहीं और से ज़्यादा सच है। AI डेटा सेंटरों में ग्राफिक्स प्रोसेसिंग यूनिट (GPU) और अन्य एक्सेलेरेटर को शक्ति देने के लिए उपयोग की जाने वाली डायनामिक रैंडम-एक्सेस मेमोरी (DRAM) की मांग और लाभप्रदता इतनी अधिक है कि यह अन्य उपयोगों के लिए आपूर्ति को डायवर्ट कर रही है, जिससे कीमतों में भारी वृद्धि हो रही है। Counterpoint Research के अनुसार, DRAM की कीमतें इस तिमाही में अब तक 80-90% बढ़ चुकी हैं।

सबसे बड़ी AI हार्डवेयर कंपनियां यह रिपोर्ट करती हैं कि उन्होंने 2028 तक अपनी चिप आपूर्ति सुरक्षित कर ली है। हालांकि, यह बाकी सभी को—पीसी, उपभोक्ता गैजेट्स और अरबों बिट्स को अस्थायी रूप से स्टोर करने की आवश्यकता वाले हर दूसरे उपकरण के निर्माताओं—को दुर्लभ आपूर्ति और बढ़े हुए लागतों से निपटने के लिए संघर्ष करने पर छोड़ देता है। इलेक्ट्रॉनिक्स उद्योग इस दुर्दशा में कैसे फंसा, और इससे भी महत्वपूर्ण बात यह है कि यह इससे कैसे निकलेगा?

अर्थशास्त्री और मेमोरी विशेषज्ञ बताते हैं कि यह स्थिति DRAM उद्योग के ऐतिहासिक उतार-चढ़ाव और अभूतपूर्व पैमाने के AI हार्डवेयर इंफ्रास्ट्रक्चर के निर्माण के बीच टकराव का परिणाम है। AI क्षेत्र में किसी बड़े पतन के बिना, आपूर्ति को मांग के अनुरूप लाने के लिए नई क्षमता और तकनीकी प्रगति में वर्षों लगेंगे। यह भी संभव है कि संतुलन हासिल होने के बाद भी कीमतें ऊंची बनी रहें।

इस स्थिति की गतिशीलता को समझने के लिए, आपूर्ति और मांग में उतार-चढ़ाव के प्राथमिक चालक—हाई-बैंडविड्थ मेमोरी (HBM)—को समझना महत्वपूर्ण है। HBM, 3D चिप पैकेजिंग तकनीक का उपयोग करके मूर के नियम की धीमी गति को दरकिनार करने के लिए DRAM उद्योग की रणनीति का प्रतिनिधित्व करता है। प्रत्येक HBM चिप में 12 पतले कटे हुए DRAM चिप्स होते हैं, जिन्हें 'डाई' (dies) कहा जाता है। प्रत्येक डाई में थ्रू-सिलिकॉन वाया (TSVs) नामक कई वर्टिकल कनेक्शन होते हैं। ये डाई एक-दूसरे के ऊपर स्टैक किए जाते हैं, और TSV के साथ संरेखित सूक्ष्म टांका गेंदों की सरणियों से जुड़े होते हैं। यह DRAM स्टैक—लगभग 750 माइक्रोमीटर मोटा, एक पतली मीनार के बजाय एक ब्रूटलिस्ट ऑफिस ब्लॉक जैसा दिखता है—फिर एक बेस डाई पर लगाया जाता है, जो मेमोरी डाई और प्रोसेसर के बीच डेटा ट्रांसफर का प्रबंधन करता है।

यह परिष्कृत तकनीकी असेंबली एक GPU या अन्य AI एक्सेलेरेटर से एक मिलीमीटर के भीतर स्थित होती है, जो 2,048 माइक्रो-स्केल कनेक्शन तक से जुड़ी होती है। HBM आमतौर पर प्रोसेसर के दोनों तरफ लगाए जाते हैं, जिससे GPU और मेमोरी एक ही पैकेज्ड यूनिट में एकीकृत होते हैं। GPU के साथ इस निकटता और उच्च-गति कनेक्शन का उद्देश्य "मेमोरी वॉल"—वह ऊर्जा और समय की बाधा जिसे बड़े भाषा मॉडल (LLM) को चलाने के लिए आवश्यक प्रति सेकंड टेराबाइट्स डेटा को GPU में फीड करने का प्रयास करते समय सामना करना पड़ता है—को दूर करना है। मेमोरी बैंडविड्थ LLM के संचालन की गति को सीमित करने वाला एक महत्वपूर्ण बाधा है।

जबकि HBM तकनीक एक दशक से अधिक समय से मौजूद है, और DRAM निर्माता लगातार अपनी क्षमताओं में सुधार कर रहे हैं, AI मॉडल के आकार में वृद्धि के साथ GPU के लिए इसका महत्व बढ़ गया है। इस महत्व में वृद्धि एक महत्वपूर्ण लागत के साथ आई है। SemiAnalysis का अनुमान है कि HBM की लागत आमतौर पर अन्य मेमोरी प्रकारों की तुलना में तीन गुना अधिक होती है और यह एक पैक्ड GPU की कुल लागत का 50% या उससे अधिक होती है।

उद्योग पर्यवेक्षक सहमत हैं कि DRAM क्षेत्र स्वाभाविक रूप से चक्रीय है, जिसमें बड़े उतार-चढ़ाव के बाद गंभीर गिरावट देखी जाती है। $15 बिलियन अमेरिकी डॉलर या उससे अधिक लागत वाली नई निर्माण सुविधाओं (fabs) के साथ, कंपनियां क्षमता बढ़ाने में अत्यधिक हिचकिचाती हैं। जैसा कि स्टोरेज और मेमोरी विशेषज्ञ और Coughlin Associates के अध्यक्ष Thomas Coughlin ने बताया है, उनके पास अक्सर केवल बाजार की चरम स्थितियों के दौरान ऐसा करने के लिए वित्तीय संसाधन होते हैं। हालांकि, ऐसी फैक्ट्री के निर्माण और चालू होने में 18 महीने या उससे अधिक समय लग सकता है, जो प्रभावी रूप से यह सुनिश्चित करता है कि नई क्षमता प्रारंभिक मांग में वृद्धि के बहुत बाद ऑनलाइन आए। इससे अक्सर बाजार में संतृप्ति और कीमतों में गिरावट आती है।

Coughlin के अनुसार, वर्तमान चक्र की जड़ें COVID-19 महामारी के दौरान चिप आपूर्ति की घबराहट से जुड़ी हैं। आपूर्ति श्रृंखला में व्यवधानों को कम करने और दूरस्थ कार्य में तेजी से बदलाव का समर्थन करने के लिए, Amazon, Google और Microsoft जैसे हाइपरस्केल डेटा सेंटर ऑपरेटरों ने स्मृति और भंडारण की विशाल इन्वेंट्री खरीदी, जिससे कीमतें कृत्रिम रूप से बढ़ गईं। बाद में, जैसे ही आपूर्ति श्रृंखलाएं सामान्य हुईं और 2022 में डेटा सेंटर का विस्तार धीमा हो गया, मेमोरी और स्टोरेज की कीमतें गिर गईं। यह गिरावट 2023 तक जारी रही, और इसने Samsung जैसी बड़ी मेमोरी और स्टोरेज कंपनियों को उत्पादन लागत से नीचे कीमतों को गिरने से रोकने के प्रयास में उत्पादन को 50% तक कम करने के लिए मजबूर किया। यह एक असामान्य और हताश करने वाला उपाय था, क्योंकि कंपनियां आमतौर पर अपने निवेश को वसूलने के लिए अपने संयंत्रों को पूरी क्षमता से चलाने पर निर्भर करती हैं।

2023 के अंत में शुरू हुई रिकवरी के बाद, "सभी मेमोरी और स्टोरेज कंपनियां अपनी उत्पादन क्षमता को फिर से बढ़ाने के बारे में बहुत सतर्क हो गई हैं," Coughlin कहते हैं। "नतीजतन, 2024 के दौरान और 2025 के अधिकांश समय में नई उत्पादन क्षमता में बहुत कम या कोई निवेश नहीं हुआ।"

नए निवेशों की यह कमी अब नए डेटा केंद्रों से प्रेरित मांग में भारी वृद्धि से टकरा रही है। Data Center Map के अनुसार, विश्व स्तर पर लगभग 2,000 नए डेटा केंद्र या तो नियोजित हैं या निर्माणाधीन हैं। यदि ये सभी सुविधाएं पूरी हो जाती हैं, तो यह वैश्विक आपूर्ति में 20% की वृद्धि का प्रतिनिधित्व करेगा, जो वर्तमान में लगभग 9,000 सुविधाओं पर है।

यदि वर्तमान निर्माण अपनी अनुमानित गति से जारी रहता है, तो McKinsey का अनुमान है कि कंपनियां 2030 तक $7 ट्रिलियन का निवेश करेंगी। इस निवेश का बड़ा हिस्सा - $5.2 ट्रिलियन - AI-केंद्रित डेटा केंद्रों के लिए होगा। इस खंड के भीतर, फर्म का अनुमान है कि $3.3 ट्रिलियन सर्वर, डेटा स्टोरेज और नेटवर्क उपकरण के लिए आवंटित किया जाएगा।

GPU निर्माता Nvidia, AI डेटा सेंटर बूम का सबसे महत्वपूर्ण लाभार्थी रहा है। इसके डेटा सेंटर व्यवसाय के राजस्व में 2019 की चौथी तिमाही में 1 बिलियन डॉलर से बढ़कर अक्टूबर 2025 में समाप्त हुई तिमाही में $51 बिलियन हो गया। इस अवधि के दौरान, इसके सर्वर GPU को न केवल DRAM के अधिक से अधिक गीगाबाइट्स की आवश्यकता हुई, बल्कि DRAM चिप्स की बढ़ती संख्या भी। हाल ही में लॉन्च किए गए B300 मॉडल में आठ HBM चिप्स का उपयोग किया गया है, जिनमें से प्रत्येक 12 DRAM डाई का एक स्टैक है। प्रतिस्पर्धी भी काफी हद तक Nvidia के HBM अपनाने को दोहरा रहे हैं; उदाहरण के लिए, AMD का MI350 GPU भी आठ 12-डाई HBM चिप्स को शामिल करता है।

इतनी भारी मांग के साथ, HBM DRAM निर्माताओं के राजस्व प्रवाह में तेजी से योगदान दे रहा है। SK Hynix और Samsung के बाद तीसरे सबसे बड़े उत्पादक Micron ने बताया कि HBM और अन्य क्लाउड-संबंधित मेमोरी 2023 में उसके DRAM राजस्व का 17% थी, जो 2025 में लगभग 50% तक बढ़ गई। Micron का अनुमान है कि HBM का कुल बाजार 2025 में $35 बिलियन से बढ़कर 2028 तक $100 बिलियन हो जाएगा, जो 2024 के संपूर्ण DRAM बाजार से बड़ा आंकड़ा है।

इख़बारी समाचार एजेंसी