Cihazda ML (on-device ML) — məlumatları serverə göndərmədən birbaşa mobil cihazda maşın öyrənmə modellərinin icrası. Google AI, 2025 hesabatına görə, istifadəçilərin 70%-dən çoxu məxfilik və şəbəkə gecikməsinin olmaması səbəbindən on-device ML olan tətbiqlərə üstünlük verir. Apple-in Core ML-i, Google-ın TensorFlow Lite-ı və ML Kit Vision, NLP, üz və obyekt tanıma tapşırıqlarını tamamilə cihazda həll etməyə imkan verir — internet olmadan və minimal enerji sərfiyyatı ilə.
Əsas Məqamlar
Cihazda ML (on-device ML) maşın öyrənmə modellərinin uzaq serverə məlumat göndərmədən birbaşa mobil cihazda icra edildiyi bir yanaşmadır. Məxfilik əsas üstünlükdür: istifadəçi məlumatları cihazı tərk etmir. Google tədqiqatına (2024) görə, istifadəçilərin 63%-i serverə məlumat göndərməyi tələb edən ML funksiyalarını rədd edir. On-device ML şəbəkə gecikməsini aradan qaldırır, oflayn işləyir və aparat sürətləndirməsi vasitəsilə enerji sərfiyyatını azaldır.
On-device ML məlumatları saniyələr əvəzinə millisaniyələr ərzində emal edir — real vaxtda üz və obyekt tanıma üçün kritik əhəmiyyət daşıyır. İnternet bağlantısı tələb olunmaması başqa bir üstünlükdür: ML funksiyaları təyyarə rejimində və qeyri-sabit bağlantısı olan bölgələrdə mövcuddur. Core ML Apple A12+ çiplərində Neural Engine-dən istifadə edərək 1 Vt-dan az enerji sərfiyyatı ilə saniyədə 11 trilyon əməliyyat təmin edir. Mobil tətbiqlər üçün on-device ML Vision, NLP və obyekt tanıma tapşırıqlarında de-fakto standarta çevrilmişdir.
Mobil tətbiqlərdə ML üz doğrulaması (Face ID), Snapchat və Instagram-da AR filtrləri, Pose Detection ilə fitnes izləyiciləri, Adobe Scan-də OCR skan etmə və klaviatura-larda proqnozlaşdırıcı daxiletmə üçün istifadə olunur. Xüsusi tapşırıqlar üçün fərdi modellər Core ML (iOS) və ya TensorFlow Lite (Android) vasitəsilə yaradılır. ML Kit model öyrətməyə ehtiyac olmadan mətn, üz və barkod tanıma kimi tipik ssenarilər üçün uyğundur.
Core ML iPhone, iPad, Mac və Apple Watch-da ML modellərini işə salmaq üçün Apple-ın freymvorkudur. Optimal aparat sürətləndirməsini avtomatik seçir: A12+ olan cihazlarda neyron şəbəkələri üçün Neural Engine (11 TOPS), şəkil emalı tapşırıqları üçün GPU və ardıcıl hesablamalar üçün CPU. Core ML .mlmodel (orijinal) və .mlmodelc (tərtib edilmiş) formatlarını dəstəkləyir. PyTorch və TensorFlow-dan model çevrilməsi coremltools vasitəsilə həyata keçirilir — topologiyanı və çəkiləri qoruyan Python kitabxanası.
Create ML kod yazmadan sadə modelləri öyrətmək üçün Apple-ın tətbiqidir. İstehsal üçün coremltools istifadə olunur — PyTorch, TensorFlow və scikit-learn-dən çevirmə aləti. Coremltools float32 → float16 və int8 kvantlaşdırması, rəng məkanı paletləşdirməsi və model ölçüsünü azaltmaq üçün lazımsız əməliyyatların silinməsini dəstəkləyir.
import coremltools as ct
model = ct.convert(
"resnet50.mlmodel",
source="pytorch",
convert_to="mlprogram"
)
model.save("Resnet50.mlpackage")
Neural Engine Apple A12 və daha yeni çiplərdə ixtisaslaşmış neyroprosesordur. 16 nüvə 1 Vt-dan az enerji sərfiyyatı ilə saniyədə 11 trilyona qədər əməliyyat yerinə yetirir. Core ML neyron şəbəkə hesablamalarını avtomatik olaraq Neural Engine-ə, GPU uyğun hesablamaları isə Metal GPU-ya yönləndirir. Tərtibatçı cihaz seçməli deyil — Core ML bunu Performance Report vasitəsilə modeli və mövcud aparatı təhlil edərək edir.
TensorFlow Lite (TFLite) Android, iOS və Linux-da ML modellərini işə salmaq üçün Google-ın platformalararası həllidir. Modellər .tflite formatındadır və TensorFlow ekosistemindən TFLiteConverter vasitəsilə yaradılır. TFLite float32 → int8 kvantlaşdırmasını dəstəkləyir, bu da təsnifat tapşırıqlarında 97–99% dəqiqliyi qoruyarkən model ölçüsünü 4 dəfə azaldır. Google Play Services for TFLite tətbiqi yenidən buraxmadan iş vaxtını avtomatik yeniləyir.
TFLiteConverter TensorFlow modellərini .tflite formatına çevirmək üçün əsas alətdir. Təlim sonrası int8 kvantlaşdırması tam məlumat dəstinə giriş olmadan modeli 300 MB-dan 75 MB-a sıxışdırır. Kvantlaşdırmadan xəbərdar təlim (QAT) ImageNet-də 1%-dən az minimal dəqiqlik itkisi verir. TFLiteConverter həmçinin qraf budama və TFLite iş vaxtı tərəfindən dəstəklənməyən əməliyyatların silinməsini dəstəkləyir.
import tensorflow as tf
converter = tf.lite.TFLiteConverter.from_saved_model(
"saved_model_dir"
)
converter.optimizations = [tf.lite.Optimize.DEFAULT]
tflite_model = converter.convert()
Deleqat olmadan TFLite modeli CPU-da aparat sürətləndirməsi ilə müqayisədə 3–5 dəfə yavaş işə salır. GPU Deleqatı Android-də OpenCL və OpenGL ES 3.1 istifadə edir, Core ML Deleqatı iOS-da Neural Engine istifadə edir. NNAPI Deleqatı Android 8.1+-də NPU və DSP-dən yararlanır. XNNPACK Deleqatı mobil prosessorlar üçün optimallaşdırmalarla ARM CPU-da platformalararası sürətləndirmə təmin edir. Deleqat seçmək üçün nəticədə null yoxlaması ilə TfLiteGpuDelegate.create() istifadə edin.
ML Kit on-device ML üçün hazır API-lərə malik Google-ın SDK-sıdır. Mobil tətbiqlərdə ML Kit mətn tanıma (əl yazısı daxil olmaqla 50+ dil), Üz Aşkarlama (468 üz əsas nöqtəsi), Barkod Skan etmə (QR, EAN-13, Code 128, PDF417, Data Matrix) və Obyekt Aşkarlama üçün istifadə olunur. Bütün API-lər internet olmadan tamamilə cihazda işləyir. ML Kit vahid API ilə iOS və Android-də mövcuddur.
Üz Aşkarlama üz konturu, qaşlar, gözlər, burun və dodaqların koordinatlarını, həmçinin başın əyilmə bucağını və göz vəziyyətini qaytarır. AR maskaları və kamera filtrləri ən populyar istifadə ssenarisidir. Mətn Tanıma çap edilmiş simvollarda 99% dəqiqliklə fotoşəkillərdən mətn çıxarır. API CameraX vasitəsilə real vaxt tanımasını dəstəkləyir.
val recognizer = TextRecognition.getClient()
val image = InputImage.fromBitmap(bitmap)
recognizer.process(image)
.addOnSuccessListener { result ->
result.textBlocks.forEach { block ->
println(block.text)
}
}
Barkod Skan etmə kameranın video axınından real vaxtda barkodları tanıyır. Obyekt Aşkarlama sərhədləyici qutu və sinif etiketi (insan, maşın, heyvan) ilə təsvirdə obyektləri müəyyən edir. Poz Aşkarlama fitnes tətbiqləri və hərəkət analizi üçün 33 bədən əsas nöqtəsini təyin edir. Şəkil Etiketləmə maksimum 10 semantik şəkil etiketi qaytarır — "təbiət", "şəhər", "yemək".
Apple üçüncü tərəf SDK-ları quraşdırmadan Vision və NaturalLanguage vasitəsilə daxili ML həlləri təmin edir. Vision (VNRequest) cihazda üz, mətn, barkod və kontur aşkarlama həyata keçirir. NaturalLanguage (NLTokenizer) tokenizasiya, lemmatizasiya, dil identifikasiyası və sentiment analizi təmin edir. Android-də ekvivalentlər ML Kit (tanıma) və android.speech-dən SpeechRecognizer (nitq) vasitəsilə tətbiq olunur. Daxili alətlər model yükləmə tələb etmir — onlar sistemdə əvvəlcədən quraşdırılıb.
Vision VNDetectFaceRectanglesRequest (üz aşkarlama), VNRecognizeTextRequest (mətn tanıma), VNDetectBarcodesRequest (barkodlar) və VNDetectHumanBodyPoseRequest (skelet) daxildir. VNCoreMLRequest fərdi Core ML modelini Vision boru kəmərinə inteqrasiya edir — məsələn, aşkarlanmış üzlərdə emosiya təsnifatı. Bütün sorğular minimal gecikmə ilə Neural Engine-də icra olunur.
let request = VNRecognizeTextRequest { request, error in
guard let observations = request.results
as? [VNRecognizedTextObservation] else { return }
for observation in observations {
let topCandidate = observation
.topCandidates(1).first
print(topCandidate?.string as? String ?? "")
}
}
let handler = VNImageRequestHandler(
cgImage: image, options: [:]
)
try? handler.perform([request])
NaturalLanguage mətni tokenlərə bölmək üçün NLTokenizer, dil identifikasiyası üçün NLLanguageRecognizer (72 dil) və NLSentimentAnalyzer mətn sentiment analizi təmin edir. SFSpeechRecognizer cihazda 50+ dili dəstəkləyən nitq tanıma API-sidir (iOS 13+). İstifadədən əvvəl SFSpeechRecognizerAuthorizationStatus icazəsi tələb olunur. Nəticələr SFSpeechRecognitionResultHandler vasitəsilə asinxron olaraq gəlir.
Tez-tez Verilən Suallar
Cihazda ML (on-device ML) maşın öyrənmə modellərinin serverə məlumat göndərmədən birbaşa mobil cihazda işə salındığı bir yanaşmadır. Core ML, TensorFlow Lite və ML Kit on-device ML üçün əsas freymvorklardır.
Core ML Neural Engine sürətləndirməsi ilə iOS və macOS üçün Apple-ın freymvorkudur. TensorFlow Lite Android, iOS və Linux üçün Google-ın platformalararası həllidir. Core ML Apple cihazlarında daha yaxşı performans təklif edir, TFLite çox yönlülük təklif edir.
ML Kit tipik kompüter görmə və NLP tapşırıqlarını həll edir: mətn, üz, barkod, obyekt və bədən duruşu tanıma. Bütün API-lər internet olmadan cihazda işləyir və öz modelinizi yaratmağı tələb etmir.
Xeyr, on-device ML tamamilə lokal işləyir. Modellər cihaza yüklənir və internet bağlantısı olmadan icra olunur. ML Kit daha yüksək dəqiqlikli bulud əsaslı API versiyaları da təklif edir, lakin on-device rejimi oflayn mövcuddur.
Yalnız iOS üçün Core ML seçin — Neural Engine istifadə edir və Apple ekosistemi ilə sıx inteqrasiya olunub. Platformalararası layihələr üçün TensorFlow Lite seçin. Fərdi model olmadan tipik tapşırıqlar üçün hazır API-ləri ilə ML Kit seçin.
Xülasə
Açar təslim mobil tətbiq hazırlayacağıq
IT Sectr 2017-ci ildən startaplar və bizneslər üçün iOS və Android tətbiqləri yaradır. Sizə məsləhət verəcəyik və ən yaxşı həlli təklif edəcəyik.