Granite 4.1：IBM 的 8B 模型性能媲美 32B MoE 模型

背景

IBM 近期發布了 Granite 4.1 系列開源語言模型，包含 3B、8B 與 30B 三種尺寸，並採用 Apache 2.0 授權。該系列最受矚目的成果在於其 8B 稠密模型在多項基準測試中，成功超越了前代參數規模達四倍之多的 32B 混合專家模型（MoE），顯示出 IBM 在數據品質過濾與多階段訓練策略上的顯著進步。

社群觀點

在 Hacker News 的討論中，社群對於 Granite 4.1 的評價呈現出務實且謹慎樂觀的態度。部分使用者在初步實測後指出，8B 模型在一般消費級硬體上的運行速度極快，且由於其訓練數據較新，在處理具時效性的資訊時表現優於許多尚未更新微調的同級模型。然而，即便 Granite 4.1 的進步顯著，社群中仍存在強勁的競爭對手對照，例如 Qwen 2.5 系列（留言者誤植為 3.6）在許多本地部署者的心目中依然是目前的效能冠軍，特別是在處理複雜任務時，Granite 的小尺寸模型可能更適合用於自動補全或特定工具調用等輕量化場景。

關於模型架構的選擇也引發了有趣的討論。有觀點觀察到，當前頂尖的大型模型多趨向於使用 MoE 架構以平衡效能與運算成本，但 IBM 與 Mistral 等廠商近期卻似乎有回歸稠密模型的趨勢。這種「去 MoE 化」的設計讓模型在推理延遲與成本預測上更具優勢，且 Granite 4.1 展現出的臨床式冷靜語氣，被認為非常適合企業端的數據處理任務，避免了過多不必要的表情符號或情緒化贅字。

此外，社群對於 IBM 的視覺模型 Granite-Vision-4.1-4B 抱持高度期待，認為如果其在表格辨識與語義鍵值提取的基準測試能保持水準，這類超小型視覺模型將成為市場上的黑馬。不過，討論中也出現了對文章品質的質疑，有讀者批評部分報導內容帶有明顯的 AI 生成痕跡，認為這種缺乏精煉的內容產出方式可能會損害讀者的信任。整體而言，社群認可 IBM 在數據治理上的執著，並期待未來能看到配套的嵌入模型釋出，以完善其企業級應用的生態系。

延伸閱讀

在討論中，使用者特別推薦關注 IBM 同步推出的視覺模型：ibm-granite/granite-vision-4.1-4b，該模型在處理表格與語義提取任務上展現了挑戰前沿模型的潛力。