mlmodelc：它是什么、编译后模型的格式与编译

什么是 mlmodelc 与 .mlmodel 有何不同

mlmodelc 是 Core ML 模型的编译二进制格式，专为在 Apple 设备上直接执行而设计。原始 .mlmodel 格式是一个包，包含 protobuf 中的模型描述、数组形式的权重以及 JSON 中的元数据。在编译过程中，该结构被转换为一个紧凑的二进制表示，针对特定硬件平台进行了优化。

mlmodelc 的关键区别是在推理过程中 没有解释阶段。Core ML Runtime 不解析 protobuf 模式，也不动态构建计算图——所有这些步骤都在编译阶段完成。这使得模型首次启动时节省 30% 到 60% 的时间，具体取决于架构的复杂度。

据 WWDC 2023 的「Core ML 工具与模型优化」专题介绍，编译包括浮点运算优化、序列层的合并以及转换为 Apple Neural Engine 可理解的格式。开发者不需要手动管理这个过程——Xcode 在构建阶段自动执行编译。

mlmodelc 与 .mlmodel 的对比

mlmodelc 的编译过程如何工作

模型编译为 mlmodelc 经历 三个阶段。在第一阶段，Core ML Tools 读取 .mlmodel 的 protobuf 规格，并在 MIL（Model Intermediate Language）格式中构建内部计算图。工具检查每个操作与目标设备的兼容性，并标记不支持的层以便在 CPU 上执行。

在第二阶段，执行 图优化：合并序列层（卷积 + 批规范化 → 融合卷积）、删除死节点、将权重从 FP32 量化为 FP16 或 INT8。据 Apple Engineering Report 「Core ML Optimization Pipeline」（2024）报告，层合并可将推理操作数量减少达 40%。

第三阶段——生成二进制表示。优化后的图被序列化为 Core ML Runtime 的专有格式。权重按处理器缓存行对齐保存，元数据则存储在独立索引中以便快速访问。结果是一个扩展名为 .mlmodelc 的文件夹，可直接嵌入应用程序包中。

mlmodelc 的内部架构

mlmodelc 的结构包括三个关键组件。Model Description——模型元数据：输入和输出类型、它们的维度、张量名称、预处理参数。该部分以类似 JSON 的格式存储，以便与 Core ML API 兼容。

Program——以内部 MIL 语言编写的计算图的二进制表示。Apple 将 MIL 作为中间表示使用，类似于 TensorFlow 中的 MLIR 或 ONNX。MIL 程序由操作组成，每个操作都具有类型、输入和输出张量以及属性。MIL 格式专为在 Apple Neural Engine 上高效执行而优化。

第三个组件——weights.bin——包含模型所有已训练权重的文件。权重以 64 字节对齐的方式存储，以便最佳加载到缓存。如果在编译时指定了量化，权重将以 FP16 或 INT8 格式保存，这样可以减小文件大小并加速在具有硬件支持这些格式的 Apple A17 和 M4 芯片上的推理。

在应用程序中部署 mlmodelc 的方法

Apple 支持三种将 mlmodelc 嵌入应用程序的方法。第一种——静态嵌入包中：将 mlmodelc 文件添加到 Xcode 项目中，在构建时它会被包含在 .app 中。这种方法适合于不超过 100 MB 的小型模型，且首次启动无需网络访问。

第二种方法——从网络下载并在设备上编译，通过 MLModel.compile(at:)。开发者下载 .mlmodel，将其放置在临时目录中，然后调用 Core ML 编译器。结果是可以缓存以供后续启动使用的 mlmodelc。据 Apple Core ML HIG，该方法推荐用于超过 100 MB 的模型及无需发布新版本的动态更新。

第三种方法——On-Demand Resources，适用于按需加载的模型。Apple ODR 允许将 mlmodelc 存储在云端，仅在必要时加载。这是拥有数十个模型的应用程序的常见场景，用户只使用其中几个。

设备上的异步编译

从网络下载模型时，需要考虑编译时间。MLModel.compile(at:) 同步执行，在中等大小模型的情况下，可能会在装备 A12 及更早芯片的设备上阻塞用户界面达 5–10 秒。建议在后台执行编译，并通过加载指示器通知用户进度。

mlmodelc 的性能优势

mlmodelc 的主要优势是 模型加载速度。据 Apple Performance Benchmarks（2024）报告，100 MB 大小的 ResNet-50 模型在 mlmodelc 格式下的加载速度比 .mlmodel 快 58%。这对于顺序处理多个模型的应用程序尤其重要。

第二个优势是 减少峰值内存消耗。加载 .mlmodel 时，Core ML Runtime 为解析 protobuf 分配一个缓冲区，并为图编译分配第二个缓冲区。mlmodelc 直接启动，跳过这些阶段。对于计算机视觉模型，峰值内存消耗降低 30–45%。

第三个优势——硬件优化。coremlc 编译器在构建阶段分析目标设备，并在 ANE、GPU 和 CPU 之间选择最佳的操作划分。如果构建是通用的，编译将在首次启动时转移到设备上执行，结果将被缓存以供后续使用。

在 Swift 代码中使用 mlmodelc 的示例

从应用程序包中加载编译后模型的示例。只需指定模型的 URL 并调用 MLModel.load(contentsOf:)。Core ML Runtime 将根据扩展名自动识别 mlmodelc 格式并执行初始化。

import CoreML

guard let modelURL = Bundle.main.url(
    forResource: "MyModel",
    withExtension: "mlmodelc"
) else { return }

let model = try await MLModel.load(contentsOf: modelURL)
let prediction = try await model.prediction(from: input)

在设备上编译 .mlmodel 并缓存的示例。使用 MLModel.compile(at:) 获取临时路径的 mlmodelc，然后将其拷贝到缓存目录。

let sourceURL = FileManager.default.temporaryDirectory
    .appendingPathComponent("MyModel.mlmodel")

let compiledURL = try await MLModel.compile(at: sourceURL)

let cacheURL = FileManager.default.urls(
    for: .cachesDirectory, in: .userDomainMask
)[0].appendingPathComponent("MyModel.mlmodelc")

try FileManager.default.copyItem(at: compiledURL, to: cacheURL)