Kompakt bilgi işlem sistemleri için verimli AI işleme yetenekleri sağlamak üzere tasarlanmıştır. Modül, güç verimliliğinin ve kompakt tasarımın kritik olduğu uç bilgi işlem uygulamalarını hedef alır.
Standart bir M.2 2280 form faktörüne dört MemryX MX3 AI hızlandırıcı çipi yerleştirmek, modülün PCIe Gen 3 M.2 yuvasıyla donatılmış sistemlere kolayca entegre edilmesini sağlar. Her MX3 çipinin 6 TOPS (Saniyede Tera İşlem) sağladığı ve yalnızca 6 ila 8 watt güç tüketirken toplamda 24 TOPS’a kadar işlem gücü sunduğu söylenmektedir. Ayrıca 4 bit, 8 bit, 16 bit ağırlıklar ve BFloat16 dahil olmak üzere bir dizi veri biçimini destekler. Özellikle, modül termal performansı yönetmek için dahil edilen pasif bir soğutucuya güvenerek aktif soğutma olmadan çalışır.
Phoronix, MemryX MX3 M.2 modülünü test ederek bir AI hızlandırıcı olarak performansını ve kullanılabilirliğini değerlendirdi. Ubuntu 24.04 LTS çalıştıran bir M.2 PCIe Gen 3 yuvasına sahip bir sisteme kurulan modül, MemryX’in açık kaynaklı sürücüleri ve geliştirici araçları sayesinde entegrasyonunun kolay olduğunu kanıtladı. Modülün dört MemryX MX3 çipinden elde ettiği 24 TOPS performansının, özellikle 8 bit ağırlıklar için optimize edilmiş olanlar olmak üzere çeşitli çıkarım iş yükleri için yeterli olduğu söyleniyor.
İncelemede ayrıca modülün TensorFlow ve ONNX gibi çerçeveleri destekleyen güçlü yazılım uyumluluğu ve küçük ila orta ölçekli AI modellerini çalıştırmadaki verimliliği vurgulandı. Her MX3 çipi 10,5 milyona kadar 8 bitlik parametreyi desteklerken, modülün dört çipi toplamda 42 milyona kadar parametreyi işliyor. Bu sınırlama, yerleşik DRAM’in olmamasından kaynaklanıyor. MemryX, 2025’te yerleşik daha fazla MX3 AI çipi içerecek yeni bir PCIe kartıyla bunu ele almayı planlıyor.
MX3 M.2 modülü 149 ABD doları karşılığında satışa sunuluyor ve bu da onu uç cihazlara AI işleme yetenekleri eklemek isteyen geliştiriciler ve kuruluşlar için uygun fiyatlı bir seçenek haline getiriyor. MemryX ayrıca modülün Las Vegas’ta düzenlenecek olan Tüketici Elektroniği Fuarı’nda (CES) sergileneceğini ve burada MX3’ün çeşitli gerçek dünya uygulamalarındaki performansını göstererek çok yönlülüğünü daha da vurgulamayı planladığını duyurdu.
