ابرشتاب‌دهنده محاسباتی و هوش مصنوعی دیتاسنتر NVIDIA H200 SXM 141GB HBM3e

شتاب‌دهنده دیتاسنتری فوق‌سنگین NVIDIA H200 مجهز به ۱۴۱ گیگابایت حافظه خارق‌العاده HBM3e با معماری SXM5، پیشرفته‌ترین غول محاسباتی معماری هاپر جهت آموزش، فاین‌تون و استنتاج مدل‌های هوش مصنوعی زبانی عظیم (LLM) در مقیاس کلاسترهای ابری است.

  • حافظه شگفت‌انگیز ۱۴۱ گیگابایت نسل نوین HBM3e با پهنای باند بی‌نظیر ۴.۸ ترابایت بر ثانیه
  • معماری انقلابی NVIDIA Hopper با موتور بهینه‌ساز پیشرفته Transformer Engine
  • افزایش چشمگیر سرعت استنتاج هوش مصنوعی (Inference) تا دو برابر نسبت به کارت H100
  • فرم فاکتور مجتمع SXM5 با پشتیبانی از اتصالات پرسرعت NVLink تا ۹۰۰ گیگابایت بر ثانیه
  • پشتیبانی بومی از فرمت‌های محاسباتی FP8، FP16، TF32 و FP64 دیتاسنتری

تماس بگیرید

توضیحات محصول

اوج سرعت در آموزش شبکه‌های زبانی با شتاب‌دهنده و کارت گرافیک دیتاسنتر H200 SXM

شتاب‌دهنده NVIDIA H200 SXM نقطه عطفی در اجرای پردازش‌های کلان داده است. ارتقای حجم حافظه به ۱۴۱ گیگابایت و استفاده از سریع‌ترین تراشه‌های HBM3e جهان موجب شده است تا این کارت گرافیک دیتاسنتری بتواند بزرگ‌ترین مدل‌های زبانی مانند LLaMA 70B و GPT را به صورت مستقیم در حافظه خود نگهداری کرده و زمان پاسخگویی به درخواست‌های بلادرنگ کاربران را به حداقل ممکن برساند.

عنوان رسمی کالاNVIDIA H200 SXM5 141GB Tensor Core GPU
دسته‌بندیابرشتاب‌دهنده هوش مصنوعی و کارت گرافیک پردازش کلاستر دیتاسنتری
معماری سخت‌افزارNVIDIA Hopper (تراشه سیلیکونی ۴ نانومتری GH100)
تعداد هسته‌های پردازشی۱۶۸۹۶ هسته CUDA و ۵۲۸ هسته Tensor نسل چهارم
ظرفیت و نوع حافظه141GB HBM3e Memory
پهنای باند رم (Bandwidth)۴.۸ ترابایت بر ثانیه (4.8TB/s) بر بستر باس عریض ۶۱۴۴ بیتی
اتصالات بین‌ماژولیNVIDIA NVLink با پهنای باند دوطرفه 900GB/s (نسل چهارم NVLink)
فرم فاکتور ساختاریماژول یکپارچه برد پایه SXM5
توان طراحی حرارتی (TDP)حداکثر ۷۰۰ وات (خنک‌سازی مایع Liquid-Cooled یا ایرفلو اختصاصی شاسی کلاستر)
پلتفرم‌های سازگارسیستم‌های محاسباتی NVIDIA HGX H200، سرورهای کلاستر HPE Cray، Dell PowerEdge XE9680 و Supermicro

توسعه پایدار ابررایانه‌ها با کاهش زمان آموزش مدل‌های هوش مصنوعی

پهنای باند ۴.۸ ترابایتی این کارت گرافیک دیتاسنتری گلوگاه‌های ارتباطی تراشه را حذف کرده و امکان پیاده‌سازی کلاسترهای با مقیاس ده‌ها هزار گره پردازشی را با کمترین میزان مصرف انرژی در سطح دیتا میسر می‌سازد.

اطلاعات محصول

دیدگاه مشتریان

Reviews

There are no reviews yet.

Be the first to review “ابرشتاب‌دهنده محاسباتی و هوش مصنوعی دیتاسنتر NVIDIA H200 SXM 141GB HBM3e”

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

شما باید وارد حساب خود شده باشید تا قادر به اضافه کردن تصاویر در نظرات باشید.