Core ML Model Conversion: bu nima, bosqichlar va konvertatsiya usullari

Core ML Model Conversion nima

Core ML Model Conversion — bu o‘qitilgan mashina o‘rganish modelini original freymvork formatidan Apple qurilmalarida Core ML Runtime uchun tushunarli bo‘lgan .mlmodel formatiga aylantirish jarayonidir. Konvertatsiyasiz, PyTorch yoki TensorFlow da o‘qitilgan model iOS yoki macOS da to‘g‘ridan-to‘g‘ri yuklanishi va bajarilishi mumkin emas.

Konvertatsiya jarayoni hisoblash grafigini tarjima qilishni o‘z ichiga oladi: original freymvorkning har bir operatori (Conv2D, BatchNorm, ReLU) Core ML ning mos operatoriga xaritalanadi. To‘g‘ridan-to‘g‘ri o‘rnini bosuvchi bo‘lmasa, coremltools murakkab operatsiyalar yoki maxsus qatlamlardan foydalanadi. Apple ML Research ma‘lumotlariga ko‘ra, kutubxona turli freymvorklardan 200 dan ortiq operatorlarni qamrab oladi.

Konvertatsiyadan so‘ng model .mlmodel paket formatida saqlanadi, u grafning protobuf tavsifini, ikkilik shakldagi og‘irliklarni va metama‘lumotlarni o‘z ichiga oladi. Bu fayl keyinchalik maqsadli qurilmada bajarish uchun mlmodelc ga kompilyatsiya qilinadi.

Qo‘llab-quvvatlanadigan freymvorklar va formatlar

coremltools 7.x versiyasi olti manbadan konvertatsiyani qo‘llab-quvvatlaydi. PyTorch — torch.jit.trace yoki torch.export orqali, TensorFlow 2.x — SavedModel va Keras H5 orqali, TensorFlow 1.x — frozen graph .pb orqali. ONNX uchun oraliq tasvirdan foydalaniladi, keyin Core ML ga tarjima qilinadi.

Freymvork moslik matritsasi

Konvertatsiya vositalari: coremltools

coremltools — bu Apple ning rasmiy ochiq manbali Python kutubxonasi bo‘lib, pip install coremltools orqali o‘rnatiladi. Kutubxona barcha qo‘llab-quvvatlanadigan freymvorklardan konvertatsiya uchun yagona API, shuningdek, keyingi ishlov berish vositalarini taqdim etadi: kvantlash, aniqlikni tekshirish va graf vizualizatsiyasi.

PyTorch dan modelni o‘rnatish va asosiy konvertatsiya:

import coremltools as ct
import torch
import torchvision

model = torchvision.models.resnet18(pretrained=True)
model.eval()

example_input = torch.rand(1, 3, 224, 224)
traced_model = torch.jit.trace(model, example_input)

mlmodel = ct.convert(
    traced_model,
    source="pytorch",
    inputs=[ct.ImageType(shape=example_input.shape)]
)
mlmodel.save("ResNet18.mlmodel")

TensorFlow dan konvertatsiya qilish uchun manba sifatida SavedModel dan foydalaning. coremltools signature_def asosida kirish va chiqish tensorlarini avtomatik aniqlaydi:

import coremltools as ct

mlmodel = ct.convert(
    "saved_model_dir",
    source="tensorflow",
    @minimum_deployment_target=ct.target.iOS16
)
mlmodel.save("MyTFModel.mlmodel")

Model konvertatsiyasi bosqichlari

Konvertatsiya jarayoni to‘rt bosqichdan iborat. Birinchi bosqichda coremltools original modelni yuklaydi va tracing yoki graf skanerlashni amalga oshiradi. PyTorch uchun namunaviy kirish ma‘lumotlarini model orqali o‘tkazadigan va operatsiyalar ketma-ketligini yozadigan torch.jit.trace ishlatiladi.

Ikkinchi bosqichda operator xaritalash (operator mapping) amalga oshiriladi. Original grafdagi har bir operator Core ML operatori bilan moslashtiriladi. To‘g‘ridan-to‘g‘ri o‘rnini bosuvchi bo‘lmasa, coremltools operatorni qo‘llab-quvvatlanadiganlar ketma-ketligiga bo‘ladi. coremltools hujjatlariga ko‘ra, odatiy arxitekturalar uchun PyTorch operatorlari qamrovi 95% dan oshadi.

Uchinchi bosqich — graf optimallashtirish. coremltools operatsiyalarni birlashtirish (mas., conv + batch norm), keraksiz o‘zgartirishlarni olib tashlash va samaradorlikni oshirish uchun operatorlarni qayta tartiblashni amalga oshiradi. To‘rtinchi bosqich — og‘irliklar va metama‘lumotlarni saqlash bilan .mlmodel formatiga serializatsiya.

Oddiy muammolar va ularning yechimlari

Konvertatsiyadagi eng keng tarqalgan muammo qo‘llab-quvvatlanmaydigan operatsiyalardir. Agar modelda Core ML da mavjud bo‘lmagan operator bo‘lsa, coremltools operatsiya nomi bilan xato haqida xabar beradi. Yechim — operatorni qo‘llab-quvvatlanadiganlarning ekvivalent kombinatsiyasi bilan almashtiring yoki custom layer API orqali maxsus qatlamni amalga oshiring.

Ikkinchi muammo — o‘lcham nomuvofiqligi. PyTorch NCHW formatidan, Core ML esa standart sifatida NHWC dan foydalanadi. coremltools avtomatik transpozitsiyani kiritadi, lekin ba‘zan o‘qlarning tartibi noto‘g‘ri aniqlanadi. Konvertatsiya jurnallarida kirish va chiqish o‘lchamlarini tekshiring va kerak bo‘lsa, to‘g‘ri nomlar bilan input_features ni belgilang.

Uchinchi muammo — kvantlashdan so‘ng aniqlikni yo‘qotish. FP16 yoki INT8 palitrasi bilan konvertatsiya qilishda model aniqligi kamayishi mumkin. coremltools bir xil kirish ma‘lumotlarida original va konvertatsiya qilingan model chiqishlarini solishtirish uchun ct.models.CompiledModel yordamchi dasturini taqdim etadi. Farq 1% dan oshsa, kalibrlashsiz FP16 palitrasi bilan kvantlashdan foydalaning yoki kvantlashdan voz keching.

PyTorch va TensorFlow dan konvertatsiya misollari

Kirish ma‘lumotlari turini va minimal iOS versiyasini ko‘rsatgan holda PyTorch dan MobileNetV3 modelini konvertatsiya qilish misoli. Rasmlarni avtomatik normallashtirish uchun ct.ImageType dan foydalaning:

import coremltools as ct
import torchvision

model = torchvision.models.mobilenet_v3_small(
    pretrained=True
)
model.eval()
example = torch.rand(1, 3, 224, 224)
traced = torch.jit.trace(model, example)

mlmodel = ct.convert(
    traced,
    source="pytorch",
    inputs=[ct.ImageType(
        shape=example.shape,
        scale=1.0/255.0,
        bias=[0, 0, 0]
    )],
    @minimum_deployment_target=ct.target.iOS16
)

# Keyinchalik Xcode da kompilyatsiya qilish uchun .mlmodel ga saqlang
mlmodel.save("MobileNetV3.mlmodel")

FP16 kvantlash bilan TensorFlow Keras dan konvertatsiya misoli. Apple A13 va undan yangi qurilmalarda FP16 qo‘llab-quvvatlashni faollashtirish uchun minimum_deployment_target ni belgilang:

import coremltools as ct
from tensorflow import keras

keras_model = keras.applications.EfficientNetB0(
    weights="imagenet"
)

mlmodel = ct.convert(
    keras_model,
    source="tensorflow",
    @minimum_deployment_target=ct.target.iOS17
)

# Og‘irliklarni hajmni 2 marta kamaytirish uchun FP16 ga kvantlang
mlmodel_fp16 = ct.models.neural_network.quantization_utils.quantize_weights(
    mlmodel, 16
)
mlmodel_fp16.save("EfficientNetB0_fp16.mlmodel")