ggml-org/llama.cpp
最后更新
llama.cpp是一个用C/C++实现的大语言模型推理框架，支持多种硬件架构和量化方式，可在本地和云端高效运行LLM和VLM模型。项目提供多种安装方式和使用示例，适合需要在多种设备上部署大语言模型的开发者。
难度依据：提供多种简单安装方式，包括curl命令、Docker和预构建二进制文件
- 纯C/C++实现，无需依赖
- 支持多种硬件架构和量化方式
- 提供OpenAI兼容的API服务器
项目资料
| 主语言 | C++ |
|---|---|
| 开源许可 | MIT |
| 累计 star | 134732 |
| 累计 fork | 25528 |
| 首次上榜 | 2026-11-13 |
| 累计上榜 | 1 次 |
| 连续上榜 | — |
上榜记录
| 日期 | 榜单 | 排名 | 本期新增 star |
|---|---|---|---|
| 2026-11-13 | 日榜 | #13 | +176 |
摘要由 AI 生成，仅供参考，请以官方仓库为准。