Core ML: ফ্রেমওয়ার্ক আর্কিটেকচার এবং মডেল ইন্টিগ্রেশন

Core ML কি?

Core ML হল Apple এর মশিন লার্নিং ইকোসিস্টেমের একটি গুরুত্বপূর্ণ উপাদান, যা WWDC 2017 এ উপস্থাপিত হয়েছিল। Core ML এর আগে, iOS ডেভেলপাররা ডিভাইসে ML মডেল চালানোর জন্য তৃতীয় পক্ষের লাইব্রেরি (TensorFlow Mobile, Caffe2) বা কাস্টম সমাধান ব্যবহার করতেন। Core ML সব ধরনের মডেলের জন্য — শাস্ত্রীয় রিগ্রেশন থেকে গভীর নিউরাল নেটওয়ার্ক পর্যন্ত — একটি এককীভূত ইন্টারফেস প্রদান করেছে এবং নির্দিষ্ট ডিভাইসের জন্য নিম্ন-স্তরের ঑প্টিমাইজেশন নিয়েছে।

বিকাশের ইতিহাস

Core ML (2017) এর প্রথম সংস্করণ শুধুমাত্র নির্দিষ্ট ইনপুট আকারের সাথে স্থির মডেল সমর্থন করতো। Core ML 2 (2018) ব্যাচ প্রেডিক্শন এবং চলমান মডেল আপডেটের সমর্থন যোগ করেছে। Core ML 3 (2019) ডিভাইসে প্রশিক্ষণ এবং ডজেন নতুন নিউরাল নেটওয়ার্ক লেয়ারের সমর্থন এনেছে। Core ML 4 (2021) মাল্টি-আউটপুট মডেল এবং উন্নত ইমেজ প্রক্রিয়াকরণের সমর্থন চালু করেছে। Core ML 5 (2024) ডাইনামিক নিউরাল নেটওয়ার্ক এবং নতুন ML লেয়ার ব্যবহার করে ডিভাইসে পরিতবেশন শিখনের সমর্থন যোগ করেছে।

অন-ডিভাইস ML: সুবিধা

ডিভাইসে মশিন লার্নিং চালালে তিনটি মূল সুবিধা মিলে: গোপনীয়তা — ডেটা কখনো ডিভাইস ছাড়ে না (GDPR এবং HIPAA আবশ্যকতা পূরণ করে), গতি — ইনফারেন্স কোনো নেটওয়ার্ক বিলম্ব ছাড়া মিলিসেকেন্ডে সম্পন্ন হয়, অফলাইন প্রাপ্যতা — মডেল ইন্টারনেট সংযোগ ছাড়াও কাজ করে। Apple Privacy Report (2025) এর মতে, Apple প্লেটফর্মগুলিতে 90% এর বেশি ML ইনফারেন্স Core ML এর কারণে ডিভাইসে সম্পন্ন হয়।

Core ML আর্কিটেকচার এবং কম্পিউট ব্যাকএন্ড

Core ML আর্কিটেকচার বহু-স্তরের নীতিতে নির্মিত: সর্বোচ্চ স্তরে — ডেভেলপার API (MLModel, MLFeatureProvider, MLPredictionOptions), মধ্য স্তরে — .mlpackage ফরম্যাটে মডেল, নিচ্চ স্তরে — কম্পিউট ব্যাকএন্ড: Apple Neural Engine (ANE), GPU (Metal Shaders), এবং CPU (BNNS, Accelerate framework)। Core ML স্বয়ংক্রিয়ভাবে মডেল এবং ডিভাইস হার্ডওয়্যারের উপর ভিত্তি করে সর্বোৎম ব্যাকএন্ড নির্বাচন করে।

Apple Neural Engine

Neural Engine (ANE) হল Apple A12+ এবং M1+ চিপে নির্মিত একটি বিশেষায়িত নিউরাল প্রোসেসর। ANE A17 Pro এ 15.8 TOPS এবং M4 এ 38 TOPS পর্যন্ত কর্মদক্ষতা সহ কনভোলিউশনাল নিউরাল নেটওয়ার্ক (CNN) কার্যকলাপ এবং মেট্রিক্স গুণকের জন্য ঑প্টিমাইজ্ড। Core ML স্বয়ংক্রিয়ভাবে নির্ধারণ করে যে মডেলটি ANE এ চলানো যায় কিনা, এবং যদি হয়, তাকে সেখানে লোড করে। যদি মডেলের মধ্যে ANE সমর্থিত নয় এমন কার্যকলাপ থাকে, তবে Core ML গণনা GPU এবং CPU এর মধ্যে বন্টি করে দেয়।

Metal Performance Shaders

GPU গণনার জন্য, Core ML Metal Performance Shaders Graph (MPSGraph) ব্যবহার করে, যা GPU এ গণনামূলক গ্রাফ নির্মাণ এবং কর্মকরনের জন্য একটি ফ্রেমওয়ার্ক। MPSGraph Core ML থেকে নিউরাল নেটওয়ার্ক গ্রাফ নিয়ে এবং নির্দিষ্ট GPU আর্কিটেকচারের (7-কোর A17 GPU বা 40-কোর M4 Ultra GPU) জন্য ঑প্টিমাইজ্ড Metal Shaders এ কম্পাইল করে। MPSGraph এর স্বচালিত ঑প্টিমাইজেশনের মধ্যে রয়েছে লেয়ার ফিউজন, অনাবশ্যক কার্যকলাপ দূরীকরণ এবং ঑প্টিমাল ডেটা ফরম্যাট নির্বাচন।

সমর্থিত মডেল ধরন এবং ফরম্যাট

Core ML সকল প্রধান মশিন লার্নিং মডেল ধরনের সমর্থন করে, তিনটি বিভাগে বিভক্ত: নিউরাল নেটওয়ার্ক (কনভোলিউশনাল CNN, পুনরাবৃত্ত RNN/LSTM, ট্রান্সফর্মার), এনসেম্বল মডেল (Random Forest, Gradient Boosting, XGBoost, সিদ্ধান্ত গাছ) এবং রিগ্রেশন মডেল (রৈখিক রিগ্রেশন, SVM, CRF)। প্রতিটি মডেল ধরনের নিজস্ব MLModelType উপ-প্রোটোকল আছে, এবং Core ML স্বয়ংক্রিয়ভাবে উপযুক্ত ব্যাকএন্ড এবং কার্যকরন ফরম্যাট নির্বাচন করে।

সমর্থিত নিউরাল নেটওয়ার্ক লেয়ার

Core ML নিউরাল নেটওয়ার্ক লেয়ারের 150 এর বেশি ধরন সমর্থন করে: Convolution (1D/2D/3D), BatchNormalization, Pooling (Max/Average), Activation (ReLU, Sigmoid, Tanh, LeakyReLU, PReLU), Recurrent (LSTM/GRU/SimpleRNN), Transformers (MultiHeadAttention, LayerNorm), Metal-বিশেষ লেয়ার। অসমর্থিত লেয়ারের জন্য, Core ML কাস্টম লেয়ার প্রক্রিয়া প্রদান করে — Metal Shading Language বা Swift এ একটি লেয়ার বাস্তবায়ন লিখার ক্ষমতা।

let model = try MLModel(contentsOf: modelURL)
let input = try MLMultiArray(shape: [1, 224, 224, 3], dataType: .float32)
let prediction = try model.prediction(from: input)

মডেল ফাইল ফরম্যাট

2021 এর আগে, Core ML .mlmodel ফরম্যাট ব্যবহার করতো — একটি বাইনারি ফাইল যাতে সকল মডেল ওজন এবং মেটাডেটা থাকতো। Xcode 13 এবং Core ML 4 থেকে শুরু করে, Apple নতুন .mlpackage ফরম্যাট প্রবর্তন করেছে — একটি ডিরেক্টরি-ভিত্তিক প্যাকেজ গঠন যাতে মডেল, মেটাডেটা, ইনপুট/আউটপুট বর্ণনা এবং JSON এ প্রাক-পরবর্তী প্রক্রিয়াকরণ ফাইল রয়েছে। mlpackage git ভার্সনিং সমর্থন করে, যা টিম ডেভেলপমেন্ট সরল করে। .mlmodel থেকে .mlpackage এ রূপান্তর Xcode Model Compiler ইউটিলিটি বা coremltools Python স্ক্রিপ্ট দিয়ে করা হয়।

মডেল কে Core ML এ রূপান্তর

রূপান্তর তৃতীয় পক্ষের ফ্রেমওয়ার্ক থেকে Core ML এ Python এ coremltools লাইব্রেরি ব্যবহার করে করা হয়। coremltools TensorFlow 1.x/2.x (SavedModel, PB, HDF5), PyTorch (TorchScript, traced/scripted মডেল), Keras (H5), ONNX এবং Create ML দিয়ে তৈরি মডেল আমদানি সমর্থন করে। স্ট্যান্ডার্ড রূপান্তর পাইপলাইনে তিনটি ধাপ রয়েছে: মূল ফরম্যাটে মডেল লোড করা, MIL (Model Intermediate Language) — Core ML এর অভ্যন্তরীণ উপস্থাপন — এ রূপান্তর করা, এবং .mlpackage এ রাপতানি।

import coremltools as ct

model = ct.converters.pytorch.convert(
    source = "model.pt",
    inputs = [ct.TensorType(shape=(1, 3, 224, 224))]
)
model.author = "IT Sectr"
model.short_description = "Image classifier"
model.save("MyModel.mlpackage")

রূপান্তরের পর মডেল যাচাই

রূপান্তরের পর, আপনাকে একই ডেটায় মূল মডেল এবং রূপান্তরিত Core ML মডেলের ভবিষ্যবাণী তুলনা করে মডেল সথূলতা যাচাই করতে হবে। গ্রহণযোগ্য বিচ্যুতি Float32 এর জন্য 1e-3 (0.1%) এবং Float16/Int8 এর জন্য 1e-2 (1%) এর বেশি নয়। coremltools স্বচালিত তুলনার জন্য ct.utils.compare_models() ইউটিলিটি প্রদান করে। যদি বিচ্যুতি মান অতিক্রম করে, তবে অসমর্থিত কার্যকলাপের সমস্যা থাকতে পারে — সেগুলিকে কাস্টম লেয়ার দিয়ে প্রতিস্থাপন বা মডেল সরলীকরণ করা প্রয়োজন।

Core ML কর্মদক্ষতা ঑প্টিমাইজেশন

঑প্টিমাইজিং একটি Core ML মডেল হল মডেলের আকার কমানো এবং উল্লেখযোগ্য সথূলতা হানি ছাড়া ইনফারেন্স গতি বাড়ানোর প্রক্রিয়া। Apple coremltools এবং Xcode এ নির্মিত বেশ কয়েকটি ঑প্টিমাইজেশন টুল প্রদান করে: ক্যান্টিজেশন (ওজন সথূলতা কমানো), প্রূনিং (তুছ্ছ নিউরন সরানো), অনাবশ্যক লেয়ার সরানো এবং গণনামূলক গ্রাফ কমানোর জন্য লেয়ার ফিউজন।

Float16 এবং Int8 এ ক্যান্টিজেশন

ক্যান্টিজেশন Float32 এর তুলনায় মডেলের আকার প্রায় 2 গুণ (Float16) বা 4 গুণ (Int8) কমায়। Core ML তিনটি ক্যান্টিজেশন মোড সমর্থন করে: একটি ক্রমাংশ ডেটাসেট সহ প্রশিক্ষণ-পরবর্তী ক্যান্টিজেশন (PTQ), coremltools এর মাধ্যমে রূপান্তরের সময়, এবং ক্যান্টিজেশন-সচেতন প্রশিক্ষণ (QAT)। অধিকাংশ কম্পিউটার ভিজন মডেলের জন্য, PTQ থেকে Float16 ইনফারেন্স গতি দ্বিগুণ করার সময় 0.5% এর কম সথূলতা হানি দেয়।

Xcode এ মডেল প্রোফাইলিং

Xcode Core ML Model Profiler টুল প্রদান করে, যা আপনাকে সিমুলেটরে বা বাস্তব ডিভাইসে বিভিন্ন ডিভাইসে মডেলের কর্মদক্ষতা মাপতে দেয়। প্রোফাইলার প্রতিটি লেয়ারের কার্যকরন সময়, ব্যাকএন্ড লোড (ANE/GPU/CPU), পিক মেমোরি ব্যবহার এবং মডেল প্রতিবন্ধক দেখায়। Apple Performance Optimization Guide এর মতে, 80% এর বেশি মডেলে অন্যদের তুলনায় যে কায়েকটি লেয়ার উল্লেখযোগ্যভাবে ধীরে চালে (লেয়ার বিসংগতি) থাকে না কিনা তা দেখার জন্য।

Core ML সমন্বিতকরণের ব্যাবহারিক উদাহরণ

আসুন Swift ব্যবহার করে একটি iOS অ্যাপ্লিকেশনে একটি প্রশিক্ষিত Core ML মডেলের সমন্বিতকরণ দেখি। Xcode প্রজেক্টে .mlpackage ফাইল যোগ করার পর (টেনে আনা বা Swift Package Manager এর মাধ্যমে), Xcode স্বচালিতভাবে টাইপড ইনপুট এবং আউটপুট সহ একটি Swift মডেল ক্লাস জেনারেট করে। ডেভেলপারকে ম্যানুয়ালি ইনপুট ডেটা পার্স করতে হবে না — জেনারেটেড ক্লাস মডেল মেটাডেটার উপর ভিত্তি করে UIImage, MLMultiArray, String বা অন্যান্য ধরন গ্রহণ করে।

import CoreML
import Vision

guard let model = try? VNCoreMLModel(
    for: MyImageClassifier().model
) else { return }

let request = VNCoreMLRequest(model: model) { request, error in
    guard let results = request.results
        as? [VNClassificationObservation]
    else { return }

    if let topResult = results.first {
        print("Class: \(topResult.identifier)")
        print("Confidence: \(topResult.confidence)")
    }
}

let handler = VNImageRequestHandler(
    cgImage: image.cgImage!,
    options: [:]
)
try handler.perform([request])

ত্রুটি পরিচালনা এবং ফলব্যাক

Core ML সমন্বিত করার সময়, আপনাকে ত্রুটি পরিচালনা বাস্তবায়ন করতে হবে: ডিভাইস অসংগতি (অতি পুরনো iOS সংস্করণ), অপর্যাপ্ত মেমোরি বা মডেল ফাইল দূষিতের কারণে মডেল লোড হতে বিফল হতে পারে। ফলব্যাক লজিক বাস্তবায়নের পরামর্শ দেওয়া হয়: যদি মডেল ক্যান্টিজ্ড Int8 ফরম্যাটে লোড হতে বিফল হয়, তবে Float16 সংস্করণ লোড করুন, এবং যদি তাও বিফল হয় — Float32। Apple Crash Analytics এর মতে, 5% এর বেশি ML অ্যাপ্লিকেশন ক্র্যাশ ভুল মডেল লোডিংয়ের কারণে হয়।

Core ML বসাম Create ML: পার্থক্য

Core ML এবং Create ML হল Apple ML ইকোসিস্টেমের দুটি পরিপূরক টুল। Core ML ডিভাইসে মডেল কর্মকরন (ইনফারেন্স) সম্পাদন করে, যদিও Create ML মডেল প্রশিক্ষণ সম্পাদন করে। Create ML এ তৈরি মডেলগুলি অ্যাপ্লিকেশনে পরবর্তী সমন্বিতকরণের জন্য বিশেষ করে Core ML ফরম্যাটে (.mlpackage) রাপতানি করা হয়। ওয়েব ডেভেলপমেন্ট পরিভাষায়, Core ML হল ব্রাউজার (কর্মকরন), এবং Create ML হল কোড লেখার জন্য IDE (প্রশিক্ষণ)।