SLM 革命:為什麼小型語言模型將主導代理式 AI
AI 領域正在轉變,挑戰語言模型「越大越好」的典範。NVIDIA 研究人員認為小型語言模型(SLM)是智慧 AI 代理的未來,以極少成本提供與大型語言模型(LLM)相當的性能。微軟的 Phi-2 和 NVIDIA 的 Nemotron-H 系列等現代 SLM 展現了與更大型模型匹敵的能力。SLM 更經濟、靈活,且更符合代理式應用需求。實用的轉換演算法讓組織能從 LLM 轉向 SLM。儘管採用存在障礙,轉向以 SLM 為優先的架構代表更永續且具成本效益的 AI 部署方法。未來很可能屬於策略性部署較小專門模型處理大多數任務,僅在需要額外能力的特定情況下保留較大模型的做法。










