Quanta：用於轉換和量化大型語言模型（LLM）的工具

Hacker News·

GitHub 上的「Mainframework/Quanta」儲存庫介紹了一款專為進階使用者設計的 Windows 應用程式，可高效地轉換和量化 .safetensors 格式的大型語言模型（LLM）。該工具支援多種量化類型，並可在 FP16、FP32 等格式之間進行轉換。

暫無內容

— Hacker News

相關文章

  1. 為使用大型語言模型的AI工程師精選的100多個函式庫與框架列表

    5 個月前

  2. 從零開始理解量化技術

    29 天前

  3. Show HN：一個為大型語言模型優化的程式語言

    3 個月前

  4. Show HN：我們開發了一個用於處理大型語言模型聊天記錄數據集的 AI 工具

    5 個月前

  5. Show HN：qqqa – 快速、無狀態的 LLM 加速器，為您的終端機而生

    6 個月前