Marvell 推出 AI 基礎設施內存解決方案組合,瞄準 Agentic AI 推理瓶頸
來源:
www.marvell.com
數據基礎設施半導體巨頭 Marvell Technology 宣佈,推出面向 AI 基礎設施的新一代內存解決方案組合,覆蓋服務器級 AI 存儲、機架級 CXL 內存擴展與池化,以及多機櫃光互聯共享內存,旨在解決 Agentic AI 推理過程中日益增長的內存容量和帶寬瓶頸。Marvell 表示,隨着 AI 模型規模擴大、上下文窗口延長以及 KV Cache 需求增長,傳統計算與內存緊耦合架構正限制 AI 推理效率。通過內存解耦(memory disaggregation),可以讓內存資源更加獨立於計算資源擴展,提高 GPU 利用率並降低數據移動延遲。