mlmodelc: τι είναι, μορφή μεταγλωττισμένου μοντέλου και μεταγλώττιση

Τι είναι το mlmodelc και πώς διαφέρει από το .mlmodel

mlmodelc είναι μια μεταγλωττισμένη δυαδική μορφή του μοντέλου Core ML, προορισμένη για απευθείας εκτέλεση σε συσκευές Apple. Η αρχική μορφή .mlmodel είναι ένα πακέτο που περιέχει περιγραφή του μοντέλου σε protobuf, βάρη σε μορφή πινάκων και μεταδεδομένα σε JSON. Κατά τη μεταγλώττιση, αυτή η δομή μετατρέπεται σε μια συμπαγή δυαδική αναπαράσταση, βελτιστοποιημένη για μια συγκεκριμένη πλατφόρμα υλικού.

Η κλειδί διαφορά του mlmodelc είναι η απουσία φάσης ερμηνείας κατά την συμπερασμολογία. Το Core ML Runtime δεν αναλύει το σχήμα protobuf ούτε δημιουργεί δυναμικά το γράφημα υπολογισμών — όλα αυτά τα βήματα εκτελούνται στη φάση μεταγλώττισης. Αυτό εξοικονομεί χρόνο στην πρώτη εκκίνηση του μοντέλου από 30% έως 60% ανάλογα με την πολυπλοκότητα της αρχιτεκτονικής.

Σύμφωνα με τη συνεδρία WWDC 2023 «Core ML Tools και βελτιστοποίηση μοντέλων», η μεταγλώττιση περιλαμβάνει βελτιστοποίηση πράξεων κινητής υποδιαστολής, συγχώνευση διαδοχικών επιπέδων και μετατροπή σε μορφή κατανοητή από το Apple Neural Engine. Ο αναπτυκτής δεν χρειάζεται να διαχειρίζεται αυτή τη διαδικασία χειροκίνητα — το Xcode εκτελεί αυτόματα τη μεταγλώττιση στη φάση δημιουργίας.

Σύγκριση mlmodelc και .mlmodel

Πώς λειτουργεί η διαδικασία μεταγλώττισης του mlmodelc

Η μεταγλώττιση του μοντέλου σε mlmodelc περνάει από τρεις φάσεις. Στην πρώτη φάση, τα Core ML Tools διαβάζουν την προδιαγραφή protobuf του .mlmodel και δημιουργούν ένα εσωτερικό γράφημα υπολογισμών σε μορφή MIL (Model Intermediate Language). Το εργαλείο ελέγχει τη συμβατότητα κάθε λειτουργίας με τη συσκευή-στόχο και σημειώνει τα μη υποστηριζόμενα επίπεδα για εκτέλεση στην CPU.

Στη δεύτερη φάση εκτελείται βελτιστοποίηση του γράφηματος: συγχώνευση διαδοχικών επιπέδων (convolution + batch norm → fused convolution), αφαίρεση νεκρών κόμβων, κβαντισμός βαρών από FP32 σε FP16 ή INT8. Σύμφωνα με την Apple Engineering Report «Core ML Optimization Pipeline» (2024), η συγχώνευση επιπέδων μειώνει τον αριθμό των πράξεων συμπερασμολογίας έως και 40%.

Η τρίτη φάση — δημιουργία δυαδικής αναπαράστασης. Το βελτιστοποιημένο γράφημα σειριοποιείται στην ιδιοκτητεία μορφή του Core ML Runtime. Τα βάρη αποθηκεύονται με στοίχιση στις γραμμές καωθετήρα του επεξεργαστή, και τα μεταδεδομένα σε ενα ενδέκτη για γρήγορη πρόσβαση. Το αποτέλεσμα — ένας φάκελος με την επέκταση .mlmodelc, έτοιμος για συμπερίληψη στο πακέτο της εφαρμογής.

Εσωτερική αρχιτεκτονική του mlmodelc

Η δομή του mlmodelc περιλαμβάνει τρία βασικά στοιχεία. Model Description — τα μεταδεδομένα του μοντέλου: οι τύποι εισόδου και εξόδου, οι διαστάσεις τους, τα ονόματα των τανυστών, οι παράμετροι προεπεξεργασίας. Αυτή η ενότητα αποθηκεύεται σε μορφή παρόμοια με JSON για συμβατότητα με το API Core ML.

Program — η δυαδική αναπαράσταση του γράφηματος υπολογισμών στην εσωτερική γλώσσα MIL. Η Apple χρησιμοποιεί το MIL ως ενδιάμεση αναπαράσταση, παρόμοια με το MLIR στο TensorFlow ή το ONNX. Ένα πρόγραμμα MIL αποτελείται από λειτουργίες, κάθε μία από τις οποίες έχει έναν τύπο, εισαγωγικούς και εξαγωγικούς τανυστές και χαρακτηριστικά. Η μορφή MIL είναι βελτιστοποιημένη για αποδοτική εκτέλεση σε Apple Neural Engine.

Το τρίτο στοιχείο — weights.bin — το αρχείο που περιέχει όλα τα εκπαιδευμένα βάρη του μοντέλου. Τα βάρη αποθηκεύονται με στοίχιση 64 byte για βελτιστη φόρτωση στην καωθετήρα. Εάν κατά τη μεταγλώττιση έχει καθοριστεί κβαντισμός, τα βάρη αποθηκεύονται σε FP16 ή INT8, πράγμα που μειώνει το μέγεθος του αρχείου και επιταχύνει τη συμπερασμολογία σε τσιπ Apple A17 και M4 με υποστήριξη υλικού για αυτές τις μορφές.

Μέθοδοι ανάπτυξης του mlmodelc στην εφαρμογή

Η Apple υποστηρίζει τρεις μεθόδους συμπερίληψης του mlmodelc στην εφαρμογή. Η πρώτη — στατική συμπερίληψη στο πακέτο: το αρχείο mlmodelc προστίθεται στο έργο Xcode και καταλήγει στο .app κατά τη δημιουργία. Αυτή η μέθοδος είναι βελτιστη για μικρά μοντέλα έως 100 MB και δεν απαιτεί πρόσβαση στο δίκτυο για την πρώτη εκκίνηση.

Η δεύτερη μέθοδος — λήψη από το δίκτυο με μεταγλώττιση στη συσκευή μέσω MLModel.compile(at:). Ο αναπτυκτής κατεβάζει το .mlmodel, το ποτίζει σε έναν προσωρινό κατάλογο και καλεί τον μεταγλωττιστή Core ML. Το αποτέλεσμα — mlmodelc, που μπορεί να αποθηκευτεί στην καωθετήρα για επόμενες εκκινήσεις. Σύμφωνα με το Apple HIG για Core ML, αυτή η προσέγγιση συνιστάται για μοντέλα μεγαλύτερα από 100 MB και για δυναμικές ενημερώσεις χωρίς τη δημοσίευση νέας έκδοσης της εφαρμογής.

Η τρίτη μέθοδος — On-Demand Resources για μοντέλα που φορτώνονται κατόπιν. Το Apple ODR επιτρέπει την αποθήκευση του mlmodelc στο cloud και τη φόρτωσή του μόνο όταν χρειαστεί. Αυτό είναι ένα δημοφιλές σενάριο για εφαρμογές με δοσοντερύς μοντέλα, όπου ο χρήστης χρησιμοποιεί μόνο μερικά.

Ασύγχρονη μεταγλώττιση στη συσκευή

Κατά τη λήψη του μοντέλου από το δίκτυο, είναι σημαντικό να λαμβάνεται υπόψη ο χρόνος μεταγλώττισης. MLModel.compile(at:) εκτελείται σύγχρονα και μπορεί να αποκλείσει τη διεπαφή σε συσκευές με A12 και παλαιότερες για 5–10 δευτερόλεπτα για μοντέλα μεσαίου μεγέθους. Συνιστάται η εκτέλεση της μεταγλώττισης στο πραγκάρδο και η ενημέρωση του χρήστη μέσω ενδείκτη φόρτωσης.

Πλεονεκτήματα απόδοσης του mlmodelc

Το κύριο πλεονέκτημα του mlmodelc είναι η ταχύτητα φόρτωσης του μοντέλου. Σύμφωνα με τα Apple Performance Benchmarks (2024), το μοντέλο ResNet-50 μεγέθους 100 MB φορτώνεται 58% γρηγότερα σε mlmodelc σύγκριση με .mlmodel. Αυτό είναι ιδιαίτερα σημαντικό για εφαρμογές που εργάζονται με πολλά μοντέλα διαδοχικά.

Το δεύτερο πλεονέκτημα — μείωση της κορυφαίας κατανάλωσης μνήμης. Κατά τη φόρτωση του .mlmodel, το Core ML Runtime διαθέτει ένα buffer για την ανάλυση protobuf και ένα δεύτερο buffer για τη μεταγλώττιση του γράφηματος. Το mlmodelc εκκινά απευθείας, παρακάμπτοντας αυτές τις φάσεις. Η κορυφαία κατανάλωση μνήμης μειώνεται κατά 30–45% για μοντέλα υπολογιστικής όρασης.

Το τρίτο — βελτιστοποίηση υλικού. Ο μεταγλωττιστής coremlc αναλύει τη συσκευή-στόχο στη φάση δημιουργίας και επιλέγει τη βελτιστη κατανομή των λειτουργιών μεταξύ ANE, GPU και CPU. Εάν η δημιουργία είναι καθολική, η μεταγλώττιση μεταφέρεται στη συσκευή κατά την πρώτη εκκίνηση, και το αποτέλεσμα αποθηκεύεται στην καωθετήρα για επόμενες συνεδρίες.

Παραδείγματα εργασίας με mlmodelc σε κώδικα Swift

Παράδειγμα φόρτωσης ενός μεταγλωττισμένου μοντέλου από το πακέτο της εφαρμογής. Αρκεί να καθορίσετε το URL του μοντέλου και να καλέσετε την MLModel.load(contentsOf:). Το Core ML Runtime θα αναγνωρίσει αυτόματα τη μορφή mlmodelc από την επέκταση και θα εκτελέσει την αρχικοποίηση.

import CoreML

guard let modelURL = Bundle.main.url(
    forResource: "MyModel",
    withExtension: "mlmodelc"
) else { return }

let model = try await MLModel.load(contentsOf: modelURL)
let prediction = try await model.prediction(from: input)

Παράδειγμα μεταγλώττισης .mlmodel στη συσκευή με επακόλουθη αποθήκευση στην καωθετήρα. Χρησιμοποιήστε την MLModel.compile(at:) για να λάβετε την προσωρινή διαδρομή προς το mlmodelc, στη συνέχεια αντιγράψτε τον στον κατάλογο προσωρινής μνήμης.

let sourceURL = FileManager.default.temporaryDirectory
    .appendingPathComponent("MyModel.mlmodel")

let compiledURL = try await MLModel.compile(at: sourceURL)

let cacheURL = FileManager.default.urls(
    for: .cachesDirectory, in: .userDomainMask
)[0].appendingPathComponent("MyModel.mlmodelc")

try FileManager.default.copyItem(at: compiledURL, to: cacheURL)