انویدیا و شرکای تجاری آن در حال حرکت به سوی مرحله بعدی «حافظه هوش مصنوعی» هستند و بر اساس گزارشی تازه، شرکت Kioxia قصد دارد نسل جدیدی از حافظه‌های SSD را توسعه دهد که تا ۱۰۰ برابر سریع‌تر از نمونه‌های مرسوم عمل خواهند کرد.
بر اساس گزارش منتشرشده، انویدیا ظاهراً برنامه دارد به تدریج از فناوری HBM فاصله بگیرد و به سمت راهکارهایی برود که با ارتقا دادن معماری‌های موجود در SSD می‌توانند سرعتی فراتر از عملکرد HBMهای امروزی ارائه کنند. به گفته نشریه nikki، شرکت Kioxia در همکاری با انویدیا مشغول توسعه SSDهای ویژه هوش مصنوعی است که می‌توانند تا ۱۰۰ برابر سریع‌تر از SSDهای متداول عمل کنند و این فناوری به‌گونه‌ای طراحی خواهد شد که جایگزین HBM شود. این حافظه‌ها نه‌تنها ظرفیت بالاتری ارائه می‌دهند بلکه مستقیماً روی پردازنده‌های گرافیکی نصب می‌شوند.
انویدیا هدف‌گذاری کرده است تا با راهکار Kioxia به سطح ۲۰۰ میلیون عملیات IOPS دست یابد. برای رسیدن به این هدف، Kioxia احتمالاً از دو ماژول SSD مجزا بهره خواهد برد که هر یک توان پردازشی معادل ۱۰۰ میلیون IOPS دارند. این راهکار قرار است با اتصال PCIe 7.0 عرضه شود تا سرعت‌های مدنظر انویدیا محقق گردد. از سوی دیگر، یک بازطراحی کامل برای جایگزینی HBM با معماری شبیه به SSD ضرورت دارد و با توجه به اطلاعاتی که Kioxia پیش‌تر منتشر کرده بود، احتمالاً شاهد ورود حافظه HBF یا همان High-Bandwidth Flash به بازار خواهیم بود.
عملکرد HBF طبق داده‌های منتشرشده تنها ۲.۲ درصد پایین‌تر از عملکرد فرضی HBM قرار دارد و این موضوع در مقایسه‌های انجام‌شده در حوزه Attn OKV، خروجی، پیش‌بینی‌های FFN و همچنین مدل Llama 3.1 با پارامترهای 405B قابل مشاهده است. تصاویر منتشرشده توسط برند سندیسک این موضوع را تأیید می‌کند. HBF در واقع پاسخی به محدودیت‌های موجود در حافظه NAND محسوب می‌شود و استاندارد اولیه آن توسط سندیسک معرفی شده است.
مزیت کلیدی HBF در این است که می‌تواند ظرفیت‌های بسیار عظیمی را ارائه کند و تا چندین ترابایت حافظه در هر دستگاه مقیاس‌پذیر باشد. چنین ظرفیتی به مراکز داده اجازه می‌دهد منابع حافظه گسترده‌ای را در اختیار داشته باشند تا بتوانند پردازش‌های پیچیده در حوزه استنتاج هوش مصنوعی را بهینه‌سازی کنند. با این حال، HBF تنها گزینه Kioxia برای تحقق اهداف انویدیا نیست و این شرکت روی فناوری‌هایی همچون XL-Flash نیز حساب باز کرده است؛ حافظه‌ای که گونه‌ای از NAND با عملکرد بسیار بالا به شمار می‌رود.
مشاهده روندی که صنعت فناوری در حال پشت سر گذاشتن محدودیت‌های HBM بوده و به سمت معماری‌های تازه گام برمی‌دارد، نکته‌ای جالب توجه است. به این ترتیب، حافظه‌های مبتنی بر NAND به شکل پررنگی در آینده‌ی «حافظه هوش مصنوعی» نقش‌آفرینی خواهند کرد.
