腾讯开源的移动端神经网络推理框架,无第三方运行时依赖,微信、QQ 等应用在用
ncnn 是腾讯开源的高性能神经网络推理框架,面向移动端、嵌入式与桌面端部署优化,GitHub 23.9k stars(2026-10-14)。无第三方运行时依赖,支持 CPU 与 Vulkan GPU 后端,通过 pnnx 工具把 PyTorch 与 ONNX 模型转换成 ncnn 格式,纯 C++ 实现附 C API 与 Python 绑定,支持 fp16 与 int8 量化推理。提供 Android、iOS、HarmonyOS、Linux、Windows、WebAssembly 等平台预编译库,已在 QQ、Qzone、微信、天天 P 图等腾讯应用中使用,BSD 3-Clause 许可。



暂无相关文章。