
EP23 I 重新定義邊緣 AI:Arm 與 MSI EdgeXpert 讓資料中心級 LLM 走出雲端
在本集《Innovation on Arm》中,我們邀請到 MSI 專家 Rick 與 Arm 解決方案架構師 Odin 深入探討 EdgeXpert 如何在 Arm 架構上,將原本只能在資料中心運行的大型語言模型帶到邊緣端。 透過 20 核心 Arm CPU、128GB Unified Memory 以及完整的軟體堆疊,EdgeXpert 能夠在本地端高效運行 120B 級開源 LLM 與醫療專用模型,如 MedGemma 27B,同



























