رقابت شبکه دیتاسنتر AI داغ‌تر شد؛ Upscale می‌خواهد GPUهای رقیب را به هم وصل کند
Upscale AI، استارتاپ مورد حمایت NVIDIA، پلتفرم Token Fabric را معرفی کرده است؛ معماری‌ای که هدفش اتصال شتاب‌دهنده‌های AI از تأمین‌کنندگان مختلف در یک دیتاسنتر است. این خبر نشان می‌دهد یکی از گلوگاه‌های بعدی AI نه خود GPU، بلکه شبکه‌ای است که هزاران پردازنده را به هم متصل می‌کند.
خلاصه خبر
- Token Fabric سخت‌افزار و نرم‌افزار شبکه AI را در یک معماری مشترک ترکیب می‌کند.
- هدف، پشتیبانی از GPU و XPUهای مختلف در یک زیرساخت heterogeneous است.
- بخشی از سیستم scale-out از فناوری NVIDIA Spectrum-X استفاده می‌کند.
- Upscale در ژوئن ۲۰۲۶ با جذب سرمایه جدید به ارزش‌گذاری حدود ۲ میلیارد دلار رسید.
- نسخه‌های اولیه در اواخر ۲۰۲۶ و گسترش بیشتر در ۲۰۲۷ برنامه‌ریزی شده‌اند.
چرا شبکه برای AI این‌قدر مهم است؟
شبکه یکی از گلوگاه‌های اصلی دیتاسنتر هوش مصنوعی است؛ اگر acceleratorها سریع باشند اما fabric نتواند داده را جابه‌جا کند، utilization پایین می‌آید.
یک مدل بزرگ معمولاً روی یک GPU اجرا نمی‌شود. صدها یا هزاران accelerator باید داده را با سرعت بسیار بالا بین خود جابه‌جا کنند. اگر شبکه کند باشد، GPU گران‌قیمت بخشی از زمان منتظر داده می‌ماند و utilization پایین می‌آید.
Scale-up و Scale-out چه تفاوتی دارند؟
Scale-up اتصال acceleratorها درون یک rack یا pod را پوشش می‌دهد و scale-out چند rack یا cluster را به هم وصل می‌کند. یک workload بزرگ می‌تواند هم‌زمان به هر دو نیاز داشته باشد. Upscale می‌گوید Token Fabric این دو لایه را با یک software stack مشترک مدیریت می‌کند.
چرا پشتیبانی از تراشه‌های مختلف مهم است؟
اپراتور دیتاسنتر ممکن است در آینده ترکیبی از GPUهای NVIDIA، acceleratorهای سفارشی یا تراشه‌های دیگر داشته باشد. اگر هر سخت‌افزار شبکه و مدیریت جداگانه بخواهد، هزینه و پیچیدگی بالا می‌رود. معماری open می‌تواند switching cost را پایین بیاورد.
آیا این تهدیدی برای NVIDIA است؟
نه لزوماً. NVIDIA خود از سرمایه‌گذاران Upscale است و Spectrum-X در بخشی از پلتفرم استفاده می‌شود. اما رشد استانداردهای باز می‌تواند بازار را از وابستگی کامل به یک stack واحد دور کند. رقابت اصلی ممکن است روی این باشد که چه کسی بهترین ترکیب performance، openness و software tooling را ارائه می‌دهد.
چرا «توکن به ازای دلار» معیار مهمی شده؟
برای شرکت AI، هدف فقط داشتن سریع‌ترین شبکه نیست؛ هدف تولید بیشترین خروجی مفید با کمترین هزینه است. اگر شبکه utilization GPU را بهتر کند، هزینه هر token یا task کاهش می‌یابد و economics کل دیتاسنتر بهتر می‌شود.
بازار شبکه AI چقدر بزرگ است؟
برآوردهای صنعتی به رشد بسیار سریع switching و networking دیتاسنترهای AI اشاره دارند. با افزایش clusterهای چند هزار GPU، شبکه از یک جزء جانبی به بخشی از معماری اصلی compute تبدیل می‌شود.
برای شناخت نقش GPU و CUDA، راهنمای NVIDIA را بخوانید.
منابع
جمع‌بندی
رقابت AI از مدل و GPU به شبکه، برق و orchestration گسترش پیدا کرده است. Token Fabric روی یک مسئله واقعی دست می‌گذارد: چگونه چند نوع accelerator را طوری به هم متصل کنیم که ظرفیت گران دیتاسنتر هدر نرود.