GitHub 上又诞生了一款本地运行 AI 模型的开源工具：Shimmy，全面超越 Ollama。

仅仅 5MB 大小单文件，便提供快速、可靠的本地 AI 推理，同时提供完整的 OpenAI 兼容 API。

基于 Rust 构建，性能优化达到了极致，启动时间不到 100ms、内存占用仅 50MB。

GitHub：https://t.co/2E8IOaHZN8