全部项目 / 端侧 AI
魔搭模型库
浏览 25.9 万模型 · 下载 GGUF · 本地推理，模型能自己调工具
迭代中端侧推理 GGUF Agent llama.cpp
把魔搭社区的模型目录装进手机，下载 .gguf 后用内置 llama.cpp 纯 CPU 离线对话。对话页是个真正闭环的智能体——模型可以自己调终端、联网、读写文件，拿到真实结果再继续推理。
25.9 万模型总量
37测试
技术亮点
- 六个维度筛选许可证 / 框架库 / 标签 / 语言 / 模型结构 / 领域，取值与数量实时来自接口聚合。
- 下载可靠断点续传 + 前台服务通知，进程被杀后再进来自动接着下；完成后校验字节数与 GGUF 魔数。
- 多档指令集arm64 编了多档后端，运行时按芯片自动选档，不用用户自己判断。
- 工具调用闭环模型自己发指令 → 真执行 → 结果回灌 → 继续推理，不是假装的 function calling。
已知限制
- 引入了 8 个 AndroidX / Material / Markwon 库，与账号整体的「零第三方依赖」口径不一致，README 中已注明 AndroidX 属框架层的口径说明。
- 首次编译需拉取 llama.cpp 源码（约 50 MB）。
技术栈
JavaC++llama.cppCMake