ncnn 移动端推理框架

在手机、嵌入式设备和电脑上高效运行神经网络模型的推理库

需要技术AI 整理,待开发者认领模型运行与部署
评分人数不足呦探分评分人数不足大众分评分方法
这个页面由 AI 根据官网公开信息整理,可能有错。产品团队可以认领后修改。 认领这个产品

这个项目只有源代码,需要会编程才能用。

星标
2.4万
GitHub 下载量
56万
复刻
4535
主要语言
C++
许可证
Other
最近更新
复制安装指令(给 AI 编程工具)

粘贴到 Codex、Claude Code、Cursor、Trae 等 AI 编程工具里,回车就会开始安装。第一次复制前请先阅读风险提示。

这些文件由项目作者放在 GitHub 上,本站不开发、不托管这些软件,也不检测其代码;国内访问 GitHub 可能较慢。使用前请阅读 第三方软件风险提示和项目的许可证。 数据更新于 2026/11/01 报告问题

介绍

ncnn 是腾讯开源的神经网络推理框架,主要针对手机和嵌入式设备优化,已用于 QQ、微信等腾讯应用。它用纯 C++ 编写,不依赖第三方库,针对 ARM NEON 等 CPU 指令做了优化,并可通过 Vulkan 使用 GPU。支持 Android、iOS、HarmonyOS、Windows、Linux、macOS、WebAssembly 以及树莓派、Jetson 等硬件。

能做什么

  • 把训练好的模型部署到手机、开发板等设备上离线运行
  • 用 PNNX 把 PyTorch、ONNX 模型转换为 ncnn 格式,并支持 int8 量化
  • 运行图像分类、目标检测、分割、OCR 等常见视觉模型

运行需要:用 CMake 从源码编译,或下载各平台的预编译包;提供 C++、C 和 Python 接口;GPU 加速需要设备支持 Vulkan。

这段介绍由 AI 根据项目的公开说明整理,可能有疏漏,以项目主页为准。

评测

0 条评测

还没有评测。用过的话,来写第一条吧。

写评测