SK hynix展示MARS架構與HBM4E 以CXL與近記憶體運算緩解AI推論瓶頸

SKhynix展區攤位(來源: SKhynix)
SK hynix在SC26端出MARS機櫃架構與HBM4E,直接以CXL池化與近記憶體運算,回應資料中心最棘手的GPU閒置難題。

韓國記憶體大廠SK hynix於11月15日至20日在美國芝加哥舉行的Supercomputing 2026中,展示以記憶體為核心的次世代AI伺服器機櫃系統「MARS」、CXL記憶體池化技術、近記憶體運算架構,以及HBM4與HBM4E等產品線,解決資料中心的記憶體容量限制與資料傳輸瓶頸。

針對市場轉向多輪對話的代理式AI與多模態服務,運算系統面臨鍵值快取(KV Cache)管理與前置處理延遲等問題。SK hynix在會中重點展示的MARS(Memory-centric AI Rack System),即是將解決方案整合至單一機櫃、並以記憶體為核心的架構。

在首項實機展示中,該公司結合CXL記憶體與整合DRAM及SSD的CXL混合記憶體,建立機櫃層級的池化記憶體,將持續生成的大規模KV快取存入SSD,並依據對話與任務歷史預測需求、預先載入DRAM,藉此兼顧大容量儲存與快速讀取效能。

今日新聞免費閱讀額度已用完

免費註冊會員,每日可讀 3 篇新聞。

額度於明天 00:00 重新計算。

讀者留言