mnn chat

应用介绍

MNN Chat 是一款支持完全离线运行的轻量级大模型应用，可在手机端加载多种语言模型并作为聊天工具使用。它整合魔道搭、魔乐、HuggingFace 等模型来源，覆盖深度思考、图像理解、文生图、音频理解与音频生成等能力，用户可按需筛选、测试和管理可用模型。

模型文件存放位置

在 Android 手机中，MNN Chat 默认把下载或手动拷贝的模型放在以下路径：/sdcard/MNN/chat/

模型转换方法

1. 先下载需要使用的目标模型。

2. 接着进入“我的模型”，选择想要转换的模型即可。

使用方法

1. 根据自己的需求选择 AI 模型，打开 MNN Chat 软件。

2. 选择目标文件，点击下载。

3. 也可以在搜索框中输入关键词，查找后下载。

应用亮点

• 可在手机端运行多种大型模型，随时体验本地深度学习，效率较高。
• 可根据机型特点灵活选择模型，兼容性较强。
• 界面简洁，点击即可快速下载安装；无需联网也能离线使用。

功能特色

• 基于 MNN LLM 技术，处理速度快，运算效率高，可完成较复杂的任务。
• 设计友好直观，容易上手，使用体验智能便利。
• 开发团队定期推出新版本，持续引入新功能并优化性能。

技术优势

1. 核心模型推理功能支持 CPU 与 GPU，独立无依赖，代码精简，适合移动设备和嵌入式系统部署。
2. 支持 iOS 平台，提供 MNN 静态库，兼容 armv7 及 arm64 架构，库文件约 12MB，集成后增加可执行文件约 2MB。
3. 支持 Android 平台，提供 armv7a 架构的 c++_shared 动态库，约 800KB。
4. 支持 Mini 编辑选项，可缩减包体积，较基础库减少约 25%。
5. 具备模型压缩与量化功能，支持 FP16/Int8 格式，模型体积减少 50% 至 75%。

更新日志

v0.7.5

• 新增 Qwen3-VL 支持（4B、8B、30B-A3B）。
• 支持 smolvlm-video 系列的视频输入。