PrismML-Eng/Bonsai-demo

執行 Bonsai 1-bit 與 Ternary-Bonsai 量化語言模型的本地範例，支援多種硬體加速 Bonsai Demo

Shell 2.2k 224 官網 Website

bonsaillamacppllmmlxprism-mlsmall-models

AI 分析 AI analysis

AI 閱讀專案 README 後撰寫的導讀。 Written by AI after reading the project README.

Bonsai Demo 讓你在本機跑 Prism ML 的極低精度語言模型，從 1.7B 到 27B 都有，支援視覺、工具呼叫與長上下文。如果你需要在消費級硬體（甚至手機）上跑 LLM，又想省記憶體又不犧牲太多能力，這專案值得試。對初學者來說，照著 setup.sh 跑就能開聊，難度不高。

最佳名次 #6 Best rank #6 上榜 5 天 5 days listed 首次上榜 2026-07-17 First seen 2026-07-17