1. OM模型序列化概述
在昇腾AI计算架构中，OM模型文件扮演着类似可执行程序的角色。作为AI模型从训练框架到硬件部署的关键载体，它封装了完整的网络结构、权重参数和硬件优化信息。理解其二进制序列化机制，对于开发者处理模型部署问题、进行性能优化以及实现定制化功能都具有重要意义。
OM文件的核心价值体现在三个维度：
- 部署效率：单个文件包含模型运行所需的全部元素，无需额外依赖
- 硬件亲和：数据布局针对NPU内存访问特性专门优化
- 版本管控：内置完善的版本控制机制确保兼容性
通过分析cann/ge仓库的源码，我们可以发现OM序列化过程并非简单的内存转储，而是经过精心设计的系统工程。其技术实现涉及计算图转换、数据结构对齐、版本控制策略等多个关键技术点。
2. 二进制格式设计原理
2.1 自定义格式的架构决策
在众多序列化方案中，CANN选择自研二进制格式主要基于以下工程考量：
性能优化方面：
- 内存映射友好：权重数据采用64字节对齐，使得NPU的DMA控制器可直接读取
- 零拷贝加载：文件布局与运行时内存结构高度匹配，减少数据搬运
- 紧凑编码：使用最小必要字段，避免通用序列化方案的元数据开销
硬件适配方面：
- 内置Tiling策略：存储算子切分方案，避免运行时重复计算
- 内存分配预案：记录各层显存需求，加速运行时资源分配
- 指令集优化：嵌入针对不同NPU型号的定制化计算指令
典型的OM文件结构如下所示：
| 段名称 | 作用描述 | 访问频率 |
|---|---|---|
| File Header | 存储全局元数据和段索引 | 1次 |
| Model Descriptor | 包含计算图结构和算子属性 | 1次 |
| Weight Data | 存储所有可训练参数 | 高频 |
| Task Queue | 记录并行执行计划和资源映射 | 中频 |