ashhart/TensorFold
最后更新
TensorFold是一个用Zig语言编写的LLM推理引擎,支持在Apple Silicon和NVIDIA GPU上运行语言模型。它可以直接读取检查点、标记化请求并运行Metal或CUDA内核,无需Python或MLX安装。项目提供API服务,支持聊天完成、响应和Anthropic消息,并包含一个本地Web应用界面。
难度依据:可通过Homebrew一键安装或下载发布归档,有快速开始文档
- 支持Apple Silicon和NVIDIA GPU
- 无需Python环境直接运行
- 提供API服务和Web界面
项目资料
| 主语言 | Zig |
|---|---|
| 开源许可 | Apache-2.0 |
| 累计 star | 2024 |
| 累计 fork | 397 |
| 首次上榜 | 2026-11-13 |
| 累计上榜 | 1 次 |
| 连续上榜 | — |
上榜记录
| 日期 | 榜单 | 排名 | 本期新增 star |
|---|---|---|---|
| 2026-11-13 | 日榜 | #7 | +54 |
摘要由 AI 生成,仅供参考,请以官方仓库为准。