llamafile 单文件运行大模型

把大模型和运行环境打包成一个文件,下载后直接在本机运行

需要技术AI 整理,待开发者认领模型运行与部署
评分人数不足呦探分评分人数不足大众分评分方法
这个页面由 AI 根据官网公开信息整理,可能有错。产品团队可以认领后修改。 认领这个产品

这个项目只有源代码,需要会编程才能用。

星标
2.7万
GitHub 下载量
32.6万
复刻
1674
主要语言
C++
许可证
Other
最近更新
复制安装指令(给 AI 编程工具)

粘贴到 Codex、Claude Code、Cursor、Trae 等 AI 编程工具里,回车就会开始安装。第一次复制前请先阅读风险提示。

这些文件由项目作者放在 GitHub 上,本站不开发、不托管这些软件,也不检测其代码;国内访问 GitHub 可能较慢。使用前请阅读 第三方软件风险提示和项目的许可证。 数据更新于 2026/11/01 报告问题

介绍

llamafile 最初是 Mozilla Builders 的项目,现由 Mozilla.ai 重新开发维护。它把 llama.cpp 与 Cosmopolitan Libc 结合,把模型和运行程序打包成一个可执行文件,无需安装即可在多数操作系统和 CPU 架构上运行,模型完全在本机推理。

能做什么

  • 下载现成的 llamafile(例如 Qwen 小模型)后直接在本机运行大模型
  • 用 whisperfile 单文件工具做语音转文字和翻译
  • 较大的模型可作为外部 GGUF 权重文件加载

运行需要:macOS、Linux、BSD 或 Windows(Windows 需加 .exe 后缀,且不能运行超过 4GB 的单个文件);内存需能容纳所选模型;模型文件通常从 Hugging Face(海外)下载。

这段介绍由 AI 根据项目的公开说明整理,可能有疏漏,以项目主页为准。

评测

0 条评测

还没有评测。用过的话,来写第一条吧。

写评测