ابرشتاب‌دهنده هوش مصنوعی دیتاسنتر AMD Instinct MI325X 256GB HBM3e OAM

کارت گرافیک محاسباتی و ابرشتاب‌دهنده دیتاسنتر AMD Instinct MI325X با حافظه فوق‌العاده ۲۵۶ گیگابایت HBM3e، راه‌حل انقلابی کمپانی AMD بر پایه معماری نوین CDNA 3 با پهنای باند استثنایی ۶ ترابایت بر ثانیه جهت تسلط بر آموزش و استنتاج عظیم‌ترین مدل‌های هوش مصنوعی زبانی در کلاسترهای سوپرکامپیوتر است.

  • حافظه پرچمدار ۲۵۶ گیگابایت HBM3e با پهنای باند خیره‌کننده بیش از ۶.۰ ترابایت بر ثانیه
  • معماری پردازشی پیشرفته AMD CDNA 3 مجهز به ۱۹۴۵۶ هسته استریم و ۱۲۱۶ هسته ماتریسی (Matrix Cores)
  • شتاب‌دهی بومی به انواع فرمت‌های داده‌ای FP8، FP16، BF16 و INT8
  • فرم فاکتور ماژول سازمانی OCP Accelerator Module (OAM) با اتصالات پرسرعت AMD Infinity Fabric
  • سازگاری بومی با پلتفرم نرم‌افزاری متن‌باز AMD ROCm جهت توسعه آسان کدهای هوش مصنوعی

تماس بگیرید

توضیحات محصول

شکستن رکورد ظرفیت رم و سرعت داده با کارت گرافیک AMD Instinct MI325X

شتاب‌دهنده دیتاسنتری AMD Instinct MI325X برای از میان برداشتن محدودیت‌های گره‌های پردازشی هوش مصنوعی مهندسی شده است. تجهیز این کارت گرافیک محاسباتی به حافظه سرسام‌آور ۲۵۶ گیگابایتی HBM3e به مهندسان اجازه می‌دهد مدل‌های چندصد میلیارد پارامتری نظیر LLaMA-3 و Falcon را با کمترین تقسیم‌بندی روی تعداد محدودی گره پردازشی لود کنند. این امر ضمن کاهش زمان تبادل داده بین سرورها، سرعت استنتاج زنده را به شکل چشمگیری ارتقا می‌دهد.

مدل و پارت نامبر رسمیAMD Instinct MI325X OAM Accelerator (تراشه سیلیکونی Aqua Vanjaram)
کاربری محصولکارت گرافیک محاسباتی و ابرشتاب‌دهنده هوش مصنوعی و سوپرکامپیوترها (HPC)
معماری سخت‌افزارAMD CDNA 3 Architecture (فناوری ساخت ۵ و ۶ نانومتری TSMC)
واحدهای محاسباتی۳۰۴ واحد محاسباتی (۱۹۴۵۶ هسته پردازشی Stream و ۱۲۱۶ هسته Matrix Core)
ظرفیت و نوع VRAM256GB HBM3e Memory
پهنای باند رم (Bandwidth)۶.۰ تا ۶.۱۴ ترابایت بر ثانیه (6.14TB/s) بر روی باس عریض ۸۱۹۲ بیتی
پشتیبانی از داده‌های عددیFP4, FP8, FP16, BF16, TF32, FP32, FP64
رابط و فرم فاکتور ساختاریOCP Accelerator Module (OAM v2.0) با لینک‌های اتصالی پرسرعت AMD Infinity Fabric
توان طراحی حرارتی (TDP)تا ۱۰۰۰ وات (خنک‌سازی صنعتی مایع دیتاسنتر یا جریان هوای توربو کلاستر)
شاسی‌های سازگارسرورهای 8-Way OAM هوش مصنوعی از پلتفرم‌های HPE Cray، Dell PowerEdge و Supermicro

توسعه آزاد و بدون انحصار هوش مصنوعی با اکوسیستم ROCm

اکوسیستم باز AMD ROCm بر روی این کارت گرافیک، پیاده‌سازی و اجرای روان کتابخانه‌های PyTorch و vLLM را بدون نیاز به کدهای انحصاری با بالاترین راندمان ممکن می‌سازد.

اطلاعات محصول

دیدگاه مشتریان

Reviews

There are no reviews yet.

Be the first to review “ابرشتاب‌دهنده هوش مصنوعی دیتاسنتر AMD Instinct MI325X 256GB HBM3e OAM”

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

شما باید وارد حساب خود شده باشید تا قادر به اضافه کردن تصاویر در نظرات باشید.