ML sa device (on-device ML) — pagpapatakbo ng mga modelo ng machine learning nang direkta sa mobile device nang hindi nagpapadala ng data sa server. Ayon sa ulat ng Google AI, 2025, mahigit 70% ng mga user ang mas gusto ang mga app na may on-device ML dahil sa privacy at kawalan ng network latency. Ang Core ML ng Apple, TensorFlow Lite ng Google at ML Kit ay nagbibigay-daan sa paglutas ng mga gawain sa Vision, NLP, pagkilala ng mukha at bagay nang buo sa device — walang internet at may minimal na konsumo ng kuryente.
Mga Pangunahing Punto
Ang ML sa device (on-device ML) ay isang diskarte kung saan ang mga modelo ng machine learning ay pinapatakbo nang direkta sa mobile device nang hindi nagpapadala ng data sa malayuang server. Privacy ang pangunahing bentahe: hindi umaalis ang data ng user sa device. Ayon sa pananaliksik ng Google (2024), 63% ng mga user ay tumatanggi sa mga feature ng ML na nangangailangan ng pagpapadala ng data sa server. Inaalis ng on-device ML ang network latency, gumagana offline, at binabawasan ang konsumo ng kuryente sa pamamagitan ng hardware acceleration.
Pinoproseso ng on-device ML ang data sa millisecond sa halip na segundo — kritikal para sa real-time na pagkilala ng mukha at bagay. Walang kinakailangang koneksyon sa internet ay isa pang bentahe: available ang mga feature ng ML sa airplane mode at sa mga rehiyong may hindi matatag na koneksyon. Ginagamit ng Core ML ang Neural Engine sa mga chip ng Apple A12+, na naghahatid ng 11 trilyong operasyon bawat segundo na may konsumo ng kuryente na mas mababa sa 1 W. Para sa mga mobile app, ang on-device ML ay naging de facto na pamantayan sa mga gawain ng Vision, NLP at pagkilala ng bagay.
Ang ML sa mga mobile app ay ginagamit para sa authentication ng mukha (Face ID), mga AR filter sa Snapchat at Instagram, mga fitness tracker na may Pose Detection, OCR scanning sa Adobe Scan at predictive input sa mga keyboard. Ang mga custom na modelo para sa mga partikular na gawain ay nilikha sa pamamagitan ng Core ML (iOS) o TensorFlow Lite (Android). Ang ML Kit ay angkop para sa mga tipikal na sitwasyon — pagkilala ng teksto, mukha at barcode nang hindi kinakailangang magsanay ng modelo.
Ang Core ML ay framework ng Apple para sa pagpapatakbo ng mga modelo ng ML sa iPhone, iPad, Mac at Apple Watch. Awtomatiko itong pumipili ng pinakamainam na hardware acceleration: Neural Engine para sa mga neural network sa mga device na may A12+ (11 TOPS), GPU para sa mga gawain sa pagproseso ng larawan at CPU para sa sunud-sunod na pag-compute. Sinusuportahan ng Core ML ang mga format na .mlmodel (orihinal) at .mlmodelc (na-compile). Ang conversion ng modelo mula sa PyTorch at TensorFlow ay ginagawa sa pamamagitan ng coremltools — isang Python library na nagpapanatili ng topology at weights.
Ang Create ML ay app ng Apple para sa pagsasanay ng mga simpleng modelo nang hindi nagsusulat ng code. Para sa produksyon, ginagamit ang coremltools — isang tool sa conversion mula sa PyTorch, TensorFlow at scikit-learn. Sinusuportahan ng coremltools ang quantization float32 → float16 at int8, palettization ng color space at pag-alis ng mga kalabisan na operasyon upang bawasan ang laki ng modelo.
import coremltools as ct
model = ct.convert(
"resnet50.mlmodel",
source="pytorch",
convert_to="mlprogram"
)
model.save("Resnet50.mlpackage")
Ang Neural Engine ay isang espesyal na neuroprocessor sa mga chip ng Apple A12 at mas bago. 16 na core ay nagsasagawa ng hanggang 11 trilyong operasyon bawat segundo na may konsumo ng kuryente na mas mababa sa 1 W. Awtomatikong iruruta ng Core ML ang mga kalkulasyon ng neural network sa Neural Engine at ang mga GPU-compatible sa Metal GPU. Ang developer ay hindi kailangang pumili ng device — ginagawa ito ng Core ML sa pamamagitan ng Performance Report, na sinusuri ang modelo at available na hardware.
Ang TensorFlow Lite (TFLite) ay cross-platform na solusyon ng Google para sa pagpapatakbo ng mga modelo ng ML sa Android, iOS at Linux. Ang mga modelo ay nasa .tflite na format at nilikha sa pamamagitan ng TFLiteConverter mula sa TensorFlow ecosystem. Sinusuportahan ng TFLite ang quantization float32 → int8, na nagpapaliit sa laki ng modelo ng 4 na beses habang pinapanatili ang 97–99% na accuracy sa mga gawain sa pag-uuri. Awtomatikong ina-update ng Google Play Services for TFLite ang runtime nang hindi kinakailangang muling ilabas ang app.
Ang TFLiteConverter ay ang pangunahing tool para sa pag-convert ng mga modelo ng TensorFlow sa .tflite na format. Post-training int8 quantization ay nag-compress ng modelo mula 300 MB hanggang 75 MB nang walang access sa buong dataset. Ang quantization-aware training (QAT) ay nagbibigay ng minimal na pagkawala ng accuracy — mas mababa sa 1% sa ImageNet. Sinusuportahan din ng TFLiteConverter ang graph pruning at pag-alis ng mga operasyon na hindi suportado ng TFLite runtime.
import tensorflow as tf
converter = tf.lite.TFLiteConverter.from_saved_model(
"saved_model_dir"
)
converter.optimizations = [tf.lite.Optimize.DEFAULT]
tflite_model = converter.convert()
Kung walang delegado, pinapatakbo ng TFLite ang modelo sa CPU nang 3–5 beses na mas mabagal kaysa sa hardware acceleration. GPU Delegado ay gumagamit ng OpenCL at OpenGL ES 3.1 sa Android, Core ML Delegado ay gumagamit ng Neural Engine sa iOS. NNAPI Delegado ay gumagamit ng NPU at DSP sa Android 8.1+. XNNPACK Delegado ay nagbibigay ng cross-platform acceleration sa ARM CPU na may mga optimization para sa mga mobile processor. Upang pumili ng delegado, gamitin ang TfLiteGpuDelegate.create() na may check ng null sa resulta.
Ang ML Kit ay SDK mula sa Google na may mga handa nang API para sa on-device ML. Sa mga mobile app, ginagamit ang ML Kit para sa pagkilala ng teksto (50+ wika, kabilang ang sulat-kamay), Face Detection (468 pangunahing punto ng mukha), Barcode Scanning (QR, EAN-13, Code 128, PDF417, Data Matrix) at Object Detection. Lahat ng API ay gumagana nang buo sa device nang walang internet. Available ang ML Kit sa iOS at Android na may nagkakaisang API.
Ang Face Detection ay nagbabalik ng mga coordinate ng contour ng mukha, kilay, mata, ilong at labi, pati na rin ang anggulo ng pagkiling ng ulo at estado ng mata. Mga AR mask at mga filter ng camera ang pinakasikat na sitwasyon ng paggamit. Ang Text Recognition ay kumukuha ng teksto mula sa mga larawan na may accuracy na hanggang 99% sa mga naka-print na character. Sinusuportahan ng API ang real-time na pagkilala sa pamamagitan ng CameraX.
val recognizer = TextRecognition.getClient()
val image = InputImage.fromBitmap(bitmap)
recognizer.process(image)
.addOnSuccessListener { result ->
result.textBlocks.forEach { block ->
println(block.text)
}
}
Ang Barcode Scanning ay kumikilala ng mga barcode sa video stream ng camera sa real-time. Object Detection ay tumutukoy ng mga bagay sa isang larawan na may bounding box at label ng klase (tao, kotse, hayop). Pose Detection ay tumutukoy ng 33 pangunahing punto ng katawan para sa mga fitness app at pagsusuri ng galaw. Image Labeling ay nagbabalik ng hanggang 10 semantikong label ng larawan — "kalikasan", "lungsod", "pagkain".
Ang Apple ay nagbibigay ng mga built-in na solusyon sa ML sa pamamagitan ng Vision at NaturalLanguage nang hindi nag-i-install ng third-party na SDK. Vision (VNRequest) ay nagsasagawa ng pag-detect ng mukha, teksto, barcode at contour sa device. NaturalLanguage (NLTokenizer) ay nagbibigay ng tokenization, lemmatization, pagkilala ng wika at pagsusuri ng sentimento. Sa Android, ang mga katumbas ay ipinatupad sa pamamagitan ng ML Kit (pagkilala) at SpeechRecognizer mula sa android.speech (pagsasalita). Ang mga built-in na tool ay hindi nangangailangan ng pag-download ng mga modelo — ang mga ito ay naka-preinstall sa system.
Ang Vision ay may kasamang VNDetectFaceRectanglesRequest (pag-detect ng mukha), VNRecognizeTextRequest (pagkilala ng teksto), VNDetectBarcodesRequest (mga barcode) at VNDetectHumanBodyPoseRequest (balangkas). VNCoreMLRequest ay nag-i-integrate ng custom na Core ML model sa pipeline ng Vision — halimbawa, pag-uuri ng emosyon sa mga nakitang mukha. Lahat ng request ay pinapatakbo sa Neural Engine na may minimal na latency.
let request = VNRecognizeTextRequest { request, error in
guard let observations = request.results
as? [VNRecognizedTextObservation] else { return }
for observation in observations {
let topCandidate = observation
.topCandidates(1).first
print(topCandidate?.string as? String ?? "")
}
}
let handler = VNImageRequestHandler(
cgImage: image, options: [:]
)
try? handler.perform([request])
Ang NaturalLanguage ay nagbibigay ng NLTokenizer para sa paghahati ng teksto sa mga token, NLLanguageRecognizer para sa pagkilala ng wika (72 wika) at NLSentimentAnalyzer para sa pagsusuri ng sentimento ng teksto. Ang SFSpeechRecognizer ay API para sa pagkilala ng pagsasalita na sumusuporta sa 50+ wika sa device (iOS 13+). Nangangailangan ng pahintulot ng SFSpeechRecognizerAuthorizationStatus bago gamitin. Ang mga resulta ay dumarating nang asynchronous sa pamamagitan ng SFSpeechRecognitionResultHandler.
Mga Madalas Itanong
ML sa device (on-device ML) ay isang diskarte kung saan ang mga modelo ng machine learning ay pinapatakbo nang direkta sa mobile device nang hindi nagpapadala ng data sa server. Ang Core ML, TensorFlow Lite at ML Kit ay ang mga pangunahing framework para sa on-device ML.
Core ML ay framework ng Apple para sa iOS at macOS na may acceleration sa Neural Engine. Ang TensorFlow Lite ay cross-platform na solusyon ng Google para sa Android, iOS at Linux. Ang Core ML ay nag-aalok ng mas mahusay na performance sa mga Apple device, ang TFLite ay nag-aalok ng versatility.
Nilulutas ng ML Kit ang mga tipikal na gawain ng computer vision at NLP: pagkilala ng teksto, mukha, barcode, bagay at postura ng katawan. Lahat ng API ay gumagana sa device nang walang internet at hindi nangangailangan ng paggawa ng sariling modelo.
Hindi, ang on-device ML ay gumagana nang buo sa lokal. Ang mga modelo ay nilo-load sa device at pinapatakbo nang walang koneksyon sa internet. Nag-aalok din ang ML Kit ng mga bersyon ng API na nakabase sa cloud na may mas mataas na accuracy, ngunit ang on-device mode ay available offline.
Para sa iOS lamang, piliin ang Core ML — ginagamit nito ang Neural Engine at malapit na isinama sa ecosystem ng Apple. Para sa mga cross-platform na proyekto, piliin ang TensorFlow Lite. Para sa mga tipikal na gawain nang walang custom na modelo, piliin ang ML Kit na may mga handa nang API.
Buod
Gagawa kami ng mobile application na turnkey
Gumagawa ang IT Sectr ng mga iOS at Android application para sa mga startup at negosyo mula noong 2017. Magpapayo kami sa iyo at magmumungkahi ng pinakamahusay na solusyon.