MindIE Motor

🔥Latest News

[2025/12] MindIE Motor正式宣布开源并面向公众开放！会议日历

🚀简介

MindIE Motor是面向通用模型场景的推理服务化框架，通过开放、可扩展的推理服务化平台架构提供推理服务化能力，支持对接业界主流推理框架接口，满足大语言模型的高性能推理需求。

以下是两个MindIE Motor代码仓库智能体，只需点击 "Ask AI" 徽章，即可进入其专属页面，有效缓解源码阅读的困难，开启智能代码学习与问答体验！它们将帮助您更深入地理解MindIE Motor的运行原理，并协助解决使用过程中遇到的问题与错误。

    

🔍目录结构

├── docs                                     # 项目文档
├── mindie_motor                             # 服务框架总模块
│   ├── python                               # Python封装与脚本
│   ├── src                                  # 服务管理模块
│   │   ├── common                           # 公共代码
│   │   ├── config                           # 配置文件
│   │   ├── controller                       # 控制器
│   │   ├── coordinator                      # 调度器
│   │   ├── example                          # 部署与样例
│   │   ├── http_client_ctl                  # HTTP客户端与管控
│   │   ├── node_health_management           # 节点状态探针
│   │   ├── test                             # 单元测试
├── module                                   # MindIE-LLM推理引擎模块
├── third_party                              # 第三方依赖
├── README.md

⚡️版本说明

MindIE软件版本	CANN版本兼容性
2.3.0	8.5.0

⚡️环境部署

通过软件包或镜像方式安装MindIE Motor，请参见安装指南。 通过拉取最新代码编译安装MindIE Motor，请参见编译安装指南。

⚡️快速入门

快速体验启动服务、接口调用、精度&性能测试和停止服务全流程，请参见快速入门。

📝学习文档

• 集群服务部署：介绍MindIE Motor集群服务部署方式，包括单机（非分布式）服务部署和PD分离单、多机服务部署。
• 集群管理组件：介绍MindIE Motor集群管理组件，包括Controller和Coordinator。
• 服务化接口：介绍MindIE Motor提供的用户侧接口和集群内通信接口。
• 配套工具：介绍MindIE Motor提供的配套工具，包括性能/精度测试工具、MindIE探针工具、服务化调优工具、CertTools、OM Adapter和Node Manager。

📝免责声明

版权所有© 2025 MindIE Project.

您对"本文档"的复制、使用、修改及分发受知识共享（Creative Commons）署名——相同方式共享4.0国际公共许可协议（以下简称"CC BY-SA 4.0"）的约束。为了方便用户理解，您可以通过访问链接了解CC BY-SA 4.0的概要（但不是替代）。CC BY-SA 4.0的完整协议内容您可以访问链接获取。

📝贡献指南

1. 提交错误报错：如果您在MindIE Motor中发现了一个不存在安全问题的漏洞，请在MindIE Motor仓库中的Issues中搜索，以防该漏洞被重复提交，如果找不到漏洞可以创建一个新的Issues。如果发现了一个安全问题请不要将其公开，请参阅安全问题处理方式。提交错误报告时应该包含完整信息。
2. 安全问题处理：本项目中对安全问题处理的形式，请通过邮箱通知项目核心人员确认编辑。
3. 解决现有问题：通过查看仓库的Issues列表可以发现需要处理的问题信息，可以尝试解决其中的某个问题。
4. 如何提供新功能：请使用Issues的Feature标签进行标记，我们会定期处理和确认开发。
5. 开始贡献：
   1. Fork本项目的仓库。
   2. Clone到本地。
   3. 创建开发分支。
   4. 本地测试：提交前请通过所有单元测试，包括新增的测试用例。
   5. 提交代码。
   6. 新建Pull Request。
   7. 代码检视：您需要根据评审意见修改代码，并重新提交更新。此流程可能涉及多轮迭代。
   8. 当您的PR获得足够数量的检视者批准后，Committer会进行最终审核。
   9. 审核和测试通过后，CI会将您的PR合并到项目的主干分支。

更多贡献相关文档请参见贡献指南。

📝相关信息

• 安全声明
• LICENSE