回榜單 Back to trending

jundot/omlx

專為 Apple Silicon 設計的本機 LLM 推論伺服器,支援連續 batching 與 SSD 分層快取。 LLM inference server with continuous batching & SSD caching for Apple Silicon — managed from the macOS menu bar

Python 21k 1.7k 官網 Website
apple-siliconinference-serverllmmacosmlxopenai-api
在 GitHub 開啟 View on GitHub X Facebook LINE
jundot/omlx project preview 查看原圖 Open original

上榜紀錄 Trending history

最佳名次 #8 Best rank #8 上榜 9 天 9 days listed 首次上榜 2026-08-18 First seen 2026-08-18