PrismML-Eng/Bonsai-demo

Bonsai Demo 讓你在本機跑 Prism ML 的極低精度語言模型，從 1.7B 到 27B 都有，支援視覺、工具呼叫與長上下文。如果你需要在消費級硬體（甚至手機）上跑 LLM，又想省記憶體又不犧牲太多能力，這專案值得試。對初學者來說，照著 setup.sh 跑就能開聊，難度不高。