دیتاسنتر هوش مصنوعی چیست؟ GPU، برق، HBM، شبکه و هزینه AI Data Center

دیتاسنتر هوش مصنوعی یا AI Data Center مرکزی است که برای آموزش و اجرای مدل‌های AI با تراکم بالای محاسبات طراحی می‌شود. تفاوت اصلی آن با دیتاسنتر معمولی در تعداد و توان GPU/XPU، حافظه پرسرعت، شبکه با پهنای باند بالا، مصرف برق بسیار بیشتر و نیاز جدی‌تر به خنک‌کننده است.

دیتاسنتر هوش مصنوعی چیست؟

IEA دیتاسنتر را مجموعه‌ای از سرورها، سیستم‌های ذخیره‌سازی، تجهیزات شبکه و زیرساخت‌های پشتیبان می‌داند که در rackها سازمان‌دهی می‌شوند. در دیتاسنتر AI، سهم acceleratorها و تراکم توان بیشتر است؛ یعنی یک rack می‌تواند برق و خنک‌کننده بسیار بیشتری نسبت به rack سنتی نیاز داشته باشد.

چرا AI به دیتاسنتر ویژه نیاز دارد؟

مدل‌های زبانی بزرگ و مدل‌های multimodal برای training و inference به تعداد زیادی عملیات ماتریسی نیاز دارند. GPU و accelerator برای این نوع پردازش موازی مناسب‌اند، اما فقط داشتن GPU کافی نیست. اگر حافظه، شبکه یا برق گلوگاه باشد، پردازنده گران‌قیمت بخشی از زمان بدون استفاده می‌ماند.

GPU چه نقشی دارد؟

GPU بخش اصلی compute در بسیاری از AI factories است. هزاران accelerator می‌توانند برای یک training job یا workload inference کنار هم کار کنند. در راهنمای NVIDIA چیست؟ توضیح داده‌ایم چرا GPU، CUDA و شبکه به‌صورت یک stack واحد اهمیت پیدا کرده‌اند.

چرا HBM و حافظه مهم‌اند؟

مدل باید وزن‌ها و داده میانی را سریع میان memory و accelerator جابه‌جا کند. HBM یا High Bandwidth Memory برای پهنای باند بالا طراحی شده و در acceleratorهای پیشرفته استفاده می‌شود. اگر memory bandwidth کافی نباشد، GPU منتظر داده می‌ماند.

به همین دلیل رونق AI فقط به سازندگان GPU سود نمی‌رساند؛ تولیدکنندگان DRAM و HBM هم به حلقه مهم زنجیره تبدیل شده‌اند.

Networking چرا گلوگاه می‌شود؟

در cluster بزرگ، صدها یا هزاران accelerator باید مرتب داده تبادل کنند. شبکه ضعیف می‌تواند scaling را محدود کند. معماری‌های AI معمولاً دو نوع اتصال مهم دارند:

• Scale-up: اتصال سریع acceleratorها در یک node یا rack؛
• Scale-out: اتصال rackها و clusterهای بزرگ به هم.

در مقیاس‌های جدید، fabric شبکه تقریباً به اندازه خود پردازنده مهم شده است.

Training و Inference چه تفاوتی در دیتاسنتر دارند؟

Training معمولاً jobهای بسیار بزرگ و طولانی با ارتباط سنگین بین GPUها دارد. Inference باید درخواست کاربران را با latency قابل‌قبول پاسخ دهد و ممکن است به تعداد بسیار زیادی درخواست هم‌زمان برسد.

Agentها و reasoning طولانی می‌توانند token بیشتری مصرف کنند و فشار inference را افزایش دهند.

برق دیتاسنتر AI چقدر مهم است؟

برق به یکی از اصلی‌ترین محدودیت‌های رشد AI تبدیل شده است. IEA در گزارش ۲۰۲۶ برآورد کرده مصرف برق دیتاسنترهای جهان از حدود ۴۸۵ تراوات‌ساعت در ۲۰۲۵ به حدود ۹۵۰ تراوات‌ساعت در ۲۰۳۰ برسد. مصرف دیتاسنترهای متمرکز بر AI در همین بازه سریع‌تر رشد می‌کند و در سناریوی مرکزی IEA حدود سه برابر می‌شود.

IEA همچنین گزارش کرده ظرفیت «AI factory»های پیشرفته در ۱۸ ماه بیش از سه برابر شده است.

نمونه آمریکا؛ رکورد تازه مصرف برق

در آمریکا نیز EIA در اکتبر ۲۰۲۶ پیش‌بینی کرده مصرف برق از حدود ۴٬۱۹۵ میلیارد کیلووات‌ساعت در ۲۰۲۵ به ۴٬۲۸۸ میلیارد کیلووات‌ساعت در ۲۰۲۶ و ۴٬۳۵۶ میلیارد کیلووات‌ساعت در ۲۰۲۷ برسد. EIA رشد دیتاسنترهای AI و رمزارز را یکی از محرک‌های مهم این افزایش می‌داند. این داده نشان می‌دهد مسئله برق دیتاسنتر فقط برآورد بلندمدت نیست و همین حالا در forecast شبکه دیده می‌شود.

Google چرا ۳.۵۹ گیگاوات برق قرارداد بست؟

Google در اکتبر ۲۰۲۶ با Constellation Energy برای حدود ۳٬۵۹۰ مگاوات برق قرارداد بست: ۸۹۰ مگاوات در قالب قرارداد ۲۰ ساله از ظرفیت هسته‌ای ارتقایافته و ۲٬۷۰۰ مگاوات دیگر در قرارداد ۱۵ ساله در شبکه PJM. Constellation نیز بیش از ۴.۳ میلیارد دلار سرمایه‌گذاری برای افزایش ظرفیت ناوگان خود اعلام کرده است.

این قرارداد نمونه‌ای از تغییر مدل توسعه دیتاسنتر است: شرکت فناوری دیگر فقط خریدار برق نیست و ممکن است برای ایجاد ظرفیت جدید، قرارداد بلندمدت، سرمایه‌گذاری نیروگاهی یا demand response را هم وارد برنامه زیرساخت کند. منبع: Reuters – Google/Constellation power deal و Reuters – EIA power forecast.

چرا اتصال به شبکه برق سخت شده است؟

ساخت ساختمان یا خرید GPU می‌تواند سریع‌تر از ساخت پست برق، خط انتقال یا نیروگاه انجام شود. در برخی مناطق، پروژه دیتاسنتر چند سال منتظر grid connection می‌ماند. بنابراین محل ساخت دیتاسنتر به دسترسی به برق، زمین، فیبر و مجوز وابسته است.

آیا دیتاسنتر AI می‌تواند مصرف برق را در ساعت اوج کم کند؟

یکی از راهکارهای جدید demand response یا مصرف انعطاف‌پذیر است. Reuters در ۸ اکتبر گزارش کرد بعضی hyperscalerها می‌توانند در دوره‌های فشار شبکه حدود ۱۰ تا ۳۰ درصد از مصرف پیک خود را موقتاً کاهش یا جابه‌جا کنند، بدون اینکه همه workloadها متوقف شوند. مطالعه Duke University نیز برآورد کرده گسترش این انعطاف می‌تواند طی دهه آینده حدود ۴۰ تا ۱۵۰ میلیارد دلار از سرمایه‌گذاری شبکه برق را کاهش دهد و اتصال پروژه‌های همکاری‌کننده را سریع‌تر کند.

این راهکار محدودیت دارد: workloadهای latency-sensitive همیشه قابل جابه‌جایی نیستند و قرارداد با utility، software orchestration و ظرفیت backup لازم است. بنابراین demand response جای ساخت شبکه جدید را نمی‌گیرد، اما می‌تواند بخشی از فشار پیک را مدیریت کند.

منبع: Reuters – Data centers’ flexible power usage.

Cooling چرا حیاتی است؟

rackهای AI می‌توانند توان حرارتی بسیار بالایی تولید کنند. با افزایش power density، خنک‌سازی مایع اهمیت بیشتری پیدا کرده است. روش‌هایی مانند direct-to-chip liquid cooling گرما را نزدیک پردازنده جذب می‌کنند و در rackهای بسیار متراکم کارایی بیشتری دارند.

PUE چیست؟

Power Usage Effectiveness نسبت کل برق مصرفی دیتاسنتر به برق مصرف‌شده توسط تجهیزات IT است. اگر PUE برابر 1.2 باشد، برای هر 1 واحد برق IT حدود 0.2 واحد دیگر صرف cooling، power conversion و تجهیزات کمکی می‌شود.

PUE پایین‌تر معمولاً بهتر است، اما به‌تنهایی معیار کامل بهره‌وری AI نیست؛ ممکن است دو دیتاسنتر PUE مشابه داشته باشند ولی تعداد token تولیدشده به ازای هر وات کاملاً متفاوت باشد.

AI Factory چیست؟

NVIDIA و برخی شرکت‌ها از اصطلاح AI Factory برای دیتاسنتری استفاده می‌کنند که هدف آن «تولید intelligence» در مقیاس است؛ یعنی compute، network، storage و software مانند یک خط تولید واحد طراحی می‌شوند.

Hyperscaler و Neocloud چه تفاوتی دارند؟

Hyperscaler شرکت بسیار بزرگی مانند AWS، Microsoft Azure یا Google Cloud است که زیرساخت cloud گسترده دارد. Neocloud معمولاً شرکت جدیدتری است که به‌طور تخصصی GPU و compute AI ارائه می‌دهد.

Neocloudها می‌توانند سریع‌تر روی GPUهای جدید تمرکز کنند، اما به سرمایه زیاد، قرارداد مشتری و دسترسی مطمئن به برق نیاز دارند.

Capex دیتاسنتر AI شامل چه چیزهایی است؟

• زمین و ساختمان؛
• GPU و سرور؛
• HBM و storage؛
• switch و تجهیزات شبکه؛
• UPS، transformer و پست برق؛
• سیستم cooling؛
• فیبر و اتصال شبکه؛
• نرم‌افزار و عملیات؛
• هزینه تأمین مالی.

IEA گزارش کرده Capex فقط پنج شرکت بزرگ فناوری در ۲۰۲۵ از ۴۰۰ میلیارد دلار عبور کرده و برای ۲۰۲۶ رشد حدود ۷۵ درصدی پیش‌بینی شده است.

چرا تأمین مالی به ریسک مهم تبدیل شده؟

AI infrastructure باید قبل از تحقق کامل درآمد ساخته شود. وقتی پروژه با بدهی تأمین مالی شود، افزایش نرخ بهره می‌تواند economics آن را تغییر دهد. این بخش از چرخه سرمایه را باید در کنار هزینه و سررسید بدهی، نرخ بهره و جریان نقدی پروژه سنجید.

Advanced Packaging چه ارتباطی دارد؟

پردازنده و HBM باید در یک پکیج با ارتباط بسیار سریع کنار هم قرار گیرند. فناوری‌هایی مانند silicon interposer و CoWoS بخشی از زنجیره AI هستند. کمبود packaging می‌تواند حتی در صورت وجود wafer کافی، عرضه accelerator را محدود کند.

چرا مجوز و پذیرش محلی هم گلوگاه شده است؟

گلوگاه دیتاسنتر فقط تراشه و برق نیست. در مناطقی که پروژه نزدیک محله‌های مسکونی ساخته می‌شود، مصرف آب، صدا، تغییر کاربری زمین، خطوط انتقال و فشار روی قبض برق می‌توانند به مخالفت محلی تبدیل شوند.

Reuters در اکتبر ۲۰۲۶ از اعتراض بخشی از ساکنان هند به توسعه مراکز داده شرکت‌های بزرگ گزارش کرده است. برای نمونه، Amazon برنامه سرمایه‌گذاری حدود ۲۱ میلیارد دلار تا ۲۰۳۰ در زیرساخت AI هند دارد و برخی ساکنان اطراف یک پروژه نزدیک بمبئی درباره قطع درختان و فشار محیطی اعتراض کرده‌اند. Amazon گفته از راهکارهایی مانند cooling بدون مصرف آب و منابع اختصاصی برای کاهش اثر پروژه استفاده می‌کند. این اختلاف نشان می‌دهد «social license» و فرایند مشورت محلی می‌تواند روی زمان اجرای پروژه اثر بگذارد. منبع: Reuters – AI data centers and local opposition in India.

مهم‌ترین گلوگاه‌های دیتاسنتر AI چیست؟

• برق و grid connection؛
• GPU و accelerator؛
• HBM؛
• advanced packaging؛
• networking؛
• cooling؛
• سرمایه و نرخ بهره؛
• نیروی انسانی عملیاتی؛
• مجوز و محدودیت محیط‌زیستی.

چگونه اقتصاد یک دیتاسنتر AI را بسنجیم؟

ظرفیت اسمی GPU به‌تنهایی کافی نیست. شاخص‌های مهم عبارت‌اند از utilization، token throughput، latency، درآمد به ازای GPU، هزینه برق، PUE، هزینه سرمایه و میزان قرارداد بلندمدت مشتری.

اگر GPU گران خریداری شود اما utilization پایین بماند، بازده پروژه می‌تواند ضعیف باشد.

آیا رشد دیتاسنتر AI حتماً ادامه پیدا می‌کند؟

تقاضا قوی است، اما همه پروژه‌های اعلام‌شده ساخته نمی‌شوند. IEA نیز تأکید می‌کند bottleneckهای برق، تجهیزات و سرمایه می‌توانند سناریوهای بسیار تهاجمی را محدود کنند. علاوه بر آن، افزایش efficiency مدل و سخت‌افزار ممکن است مسیر مصرف compute را تغییر دهد.

برای دنبال‌کردن بازار چه شاخص‌هایی مهم‌اند؟

• Capex شرکت‌های hyperscaler؛
• سفارش GPU و HBM؛
• قرارداد برق و grid connection؛
• ظرفیت MW/GW عملیاتی؛
• utilization؛
• هزینه هر token؛
• بازده پروژه و جریان نقدی؛
• نرخ بهره و spread بدهی.

منابع

IEA – Key Questions on Energy and AI (2026)

IEA – Energy demand from AI

NVIDIA – Data Center Infrastructure

NVIDIA – AI networking

جمع‌بندی

دیتاسنتر AI فقط ساختمانی پر از GPU نیست. عملکرد آن به compute، HBM، شبکه، packaging، برق، cooling، software و سرمایه بستگی دارد. هر حلقه می‌تواند گلوگاه کل سیستم شود. به همین دلیل تحلیل اقتصاد AI باید از مدل و تراشه فراتر برود و کل زنجیره زیرساخت را ببیند.