حافظه HBM چیست و چرا هوش مصنوعی مدرن بدون آن رشد نمی‌کند؟

آی تی جو > شبکه > سخت افزار > حافظه HBM چیست و چرا هوش مصنوعی مدرن بدون آن رشد نمی‌کند؟ حافظه HBM چیست و چرا هوش مصنوعی مدرن بدون آن رشد نمی‌کند؟ حافظه HBM (High Bandwidth Memory) یا حافظه با پهنای‌باند بالا، نوعی رم پرسرعت است که به‌صورت لایه‌لایه روی خود پردازنده گرافیکی (GPU) نصب می‌شود. برخلاف رم معمولی، HBM می‌تواند در هر ثانیه چند ترابایت داده جابه‌جا کند و همین موضوع آن را به یکی از حیاتی‌ترین قطعات پردازنده‌های هوش مصنوعی مثل Nvidia H100 و B200 تبدیل کرده است. بدون HBM، مدل‌های بزرگ زبانی به‌دلیل کمبود پهنای‌باند حافظه، سرعت پردازش‌شان به‌شدت افت می‌کند. ارسال شده توسط تیم تحریریه آی‌تی‌جو ۹ شهریور ۱۴۰۵ سخت افزار هوش مصنوعی لایه‌های حافظه HBM نصب‌شده روی بسته‌بندی پردازنده گرافیکی هوش مصنوعی فهرست مطالب حافظه HBM چیست؟ تفاوت HBM با حافظه معمولی (GDDR و DDR) چرا هوش مصنوعی به HBM نیاز دارد؟ نسل‌های HBM؛ از HBM3E تا HBM4 بازار HBM؛ چه شرکت‌هایی این حافظه را می‌سازند؟ محدودیت‌ها و چالش‌های تولید HBM نکات کلیدی جمع‌بندی سؤالات متداول حافظه HBM چیست؟ HBM مخفف High Bandwidth Memory یا حافظه با پهنای‌باند بالا است. این حافظه به‌جای قرارگیری روی مادربرد در کنار پردازنده، به‌صورت چند لایه (Stack) روی همان بسته‌بندی تراشه اصلی (GPU) نصب می‌شود. این نزدیکی فیزیکی باعث می‌شود مسیر انتقال داده بین حافظه و پردازنده بسیار کوتاه‌تر از رم‌های معمولی باشد. نتیجه، پهنای‌باند بسیار بالاتر و مصرف انرژی کمتر به ازای هر بیت داده است. هر Stack حافظه HBM از چند لایه تراشه DRAM تشکیل شده که با فناوری اتصال عمودی (TSV یا Through-Silicon Via) به هم متصل می‌شوند. تفاوت HBM با حافظه معمولی (GDDR و DDR) ویژگی HBM GDDR6 DDR5 محل قرارگیری روی بسته‌بندی GPU روی برد کارت گرافیک روی مادربرد پهنای‌باند هر واحد بیش از ۱ ترابایت بر ثانیه حدود ۶۰۰ تا ۸۰۰ گیگابایت بر ثانیه حدود ۵۰ تا ۶۰ گیگابایت بر ثانیه مصرف انرژی به ازای داده کمتر متوسط بیشتر هزینه تولید بالا متوسط پایین کاربرد اصلی شتاب‌دهنده‌های AI و دیتاسنتر کارت‌های گرافیک مصرفی کامپیوترهای عمومی و سرور همان‌طور که از جدول بالا مشخص است، HBM برای رسیدن به بالاترین پهنای‌باند ممکن طراحی شده، حتی اگر هزینه تولید آن بیشتر باشد. چرا هوش مصنوعی به HBM نیاز دارد؟ مدل‌های زبانی بزرگ (LLM) مثل GPT یا Gemini، در هر ثانیه باید میلیاردها پارامتر را از حافظه بخوانند و پردازش کنند. اگر سرعت انتقال داده بین حافظه و پردازنده کم باشد، GPU با وجود قدرت پردازشی بالا، بیکار می‌ماند و منتظر رسیدن داده از حافظه است. این پدیده را در صنعت «دیوار حافظه» یا Memory Wall می‌نامند. HBM دقیقاً همین گلوگاه را برطرف می‌کند. به همین دلیل، تقریباً تمام شتاب‌دهنده‌های AI پیشرفته امروز از جمله Nvidia H100، H200 و B200 و همچنین تراشه‌های AMD MI300 از HBM استفاده می‌کنند. نکته مهم این است که ظرفیت HBM هم به‌اندازه سرعت آن اهمیت دارد؛ مدل‌های بزرگ‌تر به حافظه بیشتری برای نگه‌داشتن پارامترها روی خود GPU نیاز دارند، بدون اینکه مجبور باشند مدام از حافظه کندتر سیستم داده بخوانند. نسل‌های HBM؛ از HBM3E تا HBM4 فناوری HBM هر چند سال یک نسل جدید عرضه می‌کند که هم سرعت و هم ظرفیت را افزایش می‌دهد. HBM3E؛ نسل فعلی صنعت HBM3E که امروز پایه اصلی شتاب‌دهنده‌های نسل Blackwell شرکت Nvidia است، در پیکربندی ۱۲ لایه به ظرفیت ۳۶ گیگابایت و پهنای‌باندی در حدود ۱.۲ ترابایت بر ثانیه در هر Stack می‌رسد. HBM4؛ نسل بعدی استاندارد HBM4 با دوبرابر کردن عرض رابط حافظه به ۲۰۴۸ بیت (در برابر ۱۰۲۴ بیت نسل قبل) و افزایش تعداد کانال‌ها، پهنای‌باندی بیش از ۲ ترابایت بر ثانیه در هر Stack ارائه می‌کند. برخی پیکربندی‌های پیشرفته آن حتی به حدود ۳.۳ ترابایت بر ثانیه هم می‌رسند. طبق گزارش‌های صنعتی، تولید انبوه HBM4 در سال ۲۰۲۶ توسط سامسونگ، اس‌کی‌هاینیکس و Micron آغاز شده و این نسل برای پلتفرم‌های آینده مثل Nvidia Rubin و AMD MI455X طراحی شده است. HBM4E؛ گام بعدی که زودتر از انتظار رسید سامسونگ در اردیبهشت ۱۴۰۵ (می ۲۰۲۶) نمونه‌های اولیه HBM4E را با پهنای‌باندی حدود ۳.۶ ترابایت بر ثانیه در هر Stack و سرعت پین تا ۱۶ گیگابیت بر ثانیه به مشتریان اصلی خود عرضه کرد؛ این حرکت چند ماه زودتر از رقبا انجام شد. بازار HBM؛ چه شرکت‌هایی این حافظه را می‌سازند؟ تولید HBM در انحصار سه شرکت بزرگ کره‌ای و آمریکایی قرار دارد: اس‌کی‌هاینیکس (SK Hynix): به گزارش Counterpoint Research، این شرکت با حدود ۵۷ درصد سهم درآمدی، رهبر بازار جهانی HBM است. سامسونگ (Samsung): با سهمی نزدیک به ۲۲ درصد، دومین تأمین‌کننده بزرگ است و در نسل HBM4E پیشتاز شده. مایکرون (Micron): با حدود ۲۱ درصد سهم بازار، سومین بازیگر اصلی است. این سه شرکت به‌تنهایی بیش از ۹۰ درصد بازار HBM جهان را در اختیار دارند؛ همین انحصار باعث شده تأمین HBM به یکی از مهم‌ترین گلوگاه‌های صنعت هوش مصنوعی تبدیل شود. محدودیت‌ها و چالش‌های تولید HBM تولید HBM از نظر فنی بسیار پیچیده‌تر از رم معمولی است و همین موضوع چند چالش جدی ایجاد کرده: ظرفیت تولید محدود: رشد سریع تقاضای مراکز داده هوش مصنوعی باعث شده تأمین‌کنندگان با کمبود ظرفیت مواجه شوند و برخی گزارش‌ها از بحران عرضه حافظه تا دو سال آینده خبر می‌دهند. افزایش قیمت: به‌دلیل همین کمبود عرضه، قیمت DRAM سرور در برخی گزارش‌ها تا ۶۰ تا ۷۰ درصد رشد کرده است. پیچیدگی بسته‌بندی: چیدن لایه‌های DRAM روی هم و اتصال آن‌ها با فناوری TSV، نرخ خرابی (Yield) پایین‌تری نسبت به تولید رم معمولی دارد. وابستگی به چند تأمین‌کننده: تمرکز تولید در دست سه شرکت، ریسک زنجیره تأمین را برای سازندگان GPU افزایش می‌دهد. نکات کلیدی HBM حافظه‌ای پرسرعت و لایه‌لایه است که مستقیماً روی بسته‌بندی GPU نصب می‌شود. پهنای‌باند بالای HBM، گلوگاه معروف به «دیوار حافظه» در پردازش هوش مصنوعی را برطرف می‌کند. نسل فعلی صنعت HBM3E است؛ نسل بعدی یعنی HBM4 از سال ۲۰۲۶ وارد تولید انبوه شده است. سه شرکت اس‌کی‌هاینیکس، سامسونگ و مایکرون بیش از ۹۰ درصد بازار جهانی HBM را در اختیار دارند. کمبود ظرفیت تولید HBM، یکی از عوامل اصلی افزایش قیمت و تأخیر در ساخت مراکز داده هوش مصنوعی است. جمع‌بندی حافظه HBM یکی از کلیدی‌ترین اما کمتردیده‌شده‌ترین قطعات پشت رشد سریع هوش مصنوعی است. بدون این حافظه، پردازنده‌های گرافیکی قدرتمند امروز نمی‌توانستند داده کافی برای اجرای مدل‌های بزرگ زبانی را به‌موقع دریافت کنند. با ورود نسل‌های HBM4 و HBM4E، پهنای‌باند حافظه باز هم افزایش می‌یابد، اما تا زمانی که ظرفیت تولید این حافظه به تقاضای بازار برسد، کمبود عرضه همچنان یکی از چالش‌های اصلی توسعه زیرساخت‌های AI باقی خواهد ماند. سؤالات متداول 1.حافظه HBM چه تفاوتی با رم معمولی کامپیوتر دارد؟ HBM روی بسته‌بندی خود پردازنده گرافیکی نصب می‌شود و پهنای‌باندی بسیار بالاتر از رم‌های معمولی مثل DDR5 دارد، اما هزینه تولید و پیچیدگی ساخت آن هم بیشتر است. 2. چرا شرکت‌های سازنده GPU مثل Nvidia از HBM استفاده می‌کنند؟ چون مدل‌های هوش مصنوعی به انتقال حجم عظیمی از داده در کسری از ثانیه نیاز دارند و فقط HBM می‌تواند این حجم از پهنای‌باند را در کنار GPU فراهم کند. 3.آیا HBM4 در دسترس عموم قرار می‌گیرد؟ خیر، HBM4 و نسل‌های بعدی آن مستقیماً به سازندگان شتاب‌دهنده‌های AI و مراکز داده فروخته می‌شوند و در محصولات مصرفی معمولی استفاده نمی‌شوند. 4. چه شرکت‌هایی HBM تولید می‌کنند؟ اس‌کی‌هاینیکس، سامسونگ و مایکرون سه تأمین‌کننده اصلی HBM در جهان هستند و بیش از ۹۰ درصد بازار را در اختیار دارند. 5. کمبود HBM چه تأثیری روی صنعت هوش مصنوعی دارد؟ کمبود ظرفیت تولید HBM باعث افزایش قیمت DRAM سرور و تأخیر در تحویل شتاب‌دهنده‌های AI به مراکز داده شده است. موضوع GPU HBM Micron NVIDIA Samsung SK Hynix حافظه دیتاسنتر هوش مصنوعی منبع Siemens Semiconductor Packaging Blog اشتراک در اشتراک‌گذاری در ایکس اشتراک‌گذاری در واتس‌اپ اشتراک‌گذاری در واتس‌اپ اشتراک‌گذاری در تلگرام