Zml-smi：適用於 GPU、TPU 與 NPU 的通用監控工具

背景

ZML 團隊近期推出了 zml-smi，這是一款標榜萬用且具備沙盒化特性的硬體監控工具，旨在整合 NVIDIA、AMD、Google TPU 以及 AWS Trainium 等多種運算平台的診斷功能。該工具結合了 nvidia-smi 的診斷深度與 nvtop 的即時視覺化介面，試圖解決目前 AI 硬體監控工具碎片化的問題，讓開發者能在單一介面掌握從主機 CPU 到各類加速器的運行狀態。

社群觀點

針對 zml-smi 的推出，Hacker News 社群展開了關於工具碎片化與技術實作路徑的討論。部分開發者質疑為何不直接將功能貢獻給已具備高知名度的開源工具 nvtop，認為另起爐灶可能會導致生態系更加混亂。對此，ZML 團隊成員 steeve 回應指出，zml-smi 的核心價值在於其「完全沙盒化」的設計，這種設計能讓工具在不污染目標機器環境的前提下運行，而這類涉及底層攔截的架構改動難以直接整合進 nvtop 的上游代碼中。

在技術實作層面，zml-smi 為了在沙盒中支援 AMD 硬體，採取了重新命名 fopen64 並攔截函式庫呼叫的手段，以重新定向硬體識別文件的路徑。這種做法引發了兩極評價：有留言者批評這是一種脆弱且具風險的駭客手段，不應被美化為沙盒化技術；但也有觀點認為，考慮到各硬體廠商驅動程式的封閉性與差異，若將這些複雜的攔截邏輯強行塞入 nvtop，反而會讓該專案的程式碼變得難以維護。

此外，關於硬體支援的實際覆蓋範圍也引起了討論。雖然 zml-smi 宣稱支援 NPU，但有使用者反應在最新的 Ryzen AI 處理器上仍無法正確顯示數據，顯示出 Linux 環境下 NPU 支援度尚不成熟的現狀。同時，社群也指出 zml-smi 並非市場上唯一的萬用監控方案，目前已有如 all-smi 等工具支援包括 Apple Silicon 在內的更多元硬體架構。整體而言，社群對於 zml-smi 提供的跨平台便利性表示肯定，但對其長期維護性與技術實作的穩定性仍抱持觀望態度。

延伸閱讀

在討論過程中，社群成員分享了其他具備類似功能的監控工具與資源，包括支援 Apple Silicon 與多種 AI 加速卡的 all-smi 專案。另外，針對 TPU 的監控需求，也有開發者分享了 libtpuinfo 函式庫，該資源能讓 nvtop 具備監控 Google TPU 的能力。