Show HN:Butter – 大型語言模型的行為快取
Hacker News·
Butter 是一款針對大型語言模型(LLMs)的新型行為快取,旨在識別回應中的模式,透過提供快取結果來降低成本,並確保 AI 系統的確定性行為。它與 Chat Completions API 相容,並針對執行重複性任務的自主代理。
暫無內容
相關文章
Butter 是一款針對大型語言模型(LLMs)的新型行為快取,旨在識別回應中的模式,透過提供快取結果來降低成本,並確保 AI 系統的確定性行為。它與 Chat Completions API 相容,並針對執行重複性任務的自主代理。
暫無內容
相關文章