2020年2月5日 · MNN（Mobile Neural Network）是一个轻量级、跨平台的深度学习框架，特别适合于移动和嵌入式设备上的推理任务。MNN拥有高效的执行能力，能够优化模型的运行速度和内存消耗，因此在移动AI领域得到了广泛的应用。MNN的...

2023年2月15日 · MNN is a blazing fast, lightweight deep learning framework, battle-tested by business-critical use cases in Alibaba. Full multimodal LLM Android App:[MNN-LLM-Android](./apps/Android/MnnLlmChat/READ...

MNN是阿里针对移动设备开发的DL 推理引擎，主要做了三个方面的优化：1）预推理；2）算子优化；3）多后端抽象，混合调度。 对比于TVM，它最大的特点是半自动的搜索，而TVM是通过ML进行全自动的搜索。 这使得MNN在某些网络结构上会比没有精细化优化的TVM效率要高。 预推理过程是进行离线图优化和在线的小数据测试，在小数据上进行优化后再建立pipeline大规模输入数据。 算子的优化主要体现在两个经典算法的应用上，优化了卷积和大规模 矩阵乘法。 同时，MNN …

- 支持加载`.mnn`模型 。 - 支持将可视化的图导出成图片保存。 - 支持拓扑结构的展示、`Operator`/`Input`/`Output`的内容展示。 - 支持结构化的`weight`，`scale`，`bias`等数据的展示，**并支持将此类数据持久化保存**。

欢迎使用MNN文档 . 遇到问题请先查看文档和FAQ，如果没有答案请在Github提issue或在钉钉群提问。

如果直接转为mnn模型遇到问题，或者需要其他bits数的量化（如5bit/6bit），可以先将模型先转为onnx模型，使用--export onnx ，然后使用./MNNConvert工具将onnx模型转为mnn模型:

mnn是一个轻量级的深度神经网络引擎，支持深度学习的推理与训练。 适用于服务器/个人电脑/手机/嵌入式各类设备。 目前，MNN已经在阿里巴巴的手机淘宝、手机天猫、优酷等30多个App中使用，覆盖直播、短视频、搜索推荐、商品图像搜索、互动营销、权益发放 ...

2023年4月16日 · MNN中Executor给用户提供接口来配置推理后端、线程数等属性，以及做性能统计、算子执行的回调函数、内存回收等功能。 提供一个全局的Exector对象，用户不用创建或持有对象即可直接使用。

2022年9月7日 · MNN（Mobile Neural Network）是一个轻量级的深度学习框架，由阿里巴巴开源。它专为移动端和嵌入式设备设计，支持多种硬件平台，包括ARM、OpenCL、Metal、OpenGL、Vulkan等。MNN的目标是提供高性能和低功耗的神经网络推理能力，适用于手机、IoT设备以及其他边缘计算设备。

2020年5月15日 · 这里介绍一下如何用VS2019编译MNN的windows工程。首先，仍然需要按照官方的Windows编译的步骤，编译MNN。操作这一步，是因为有些第三方库需要编译，还有一些代码可能需要protobuf从proto编译为c的文件。这一步尽量在win._mnn windows编译