ডিভাইসে ML (on-device ML) — সার্ভারে ডেটা না পাঠিয়ে সরাসরি মোবাইল ডিভাইসে মেশিন লার্নিং মডেল সম্পাদন। Google AI, 2025 রিপোর্ট অনুযায়ী, 70% এর বেশি ব্যবহারকারী গোপনীয়তা এবং নেটওয়ার্ক লেটেন্সির অনুপস্থিতির কারণে on-device ML সম্বলিত অ্যাপ পছন্দ করেন। Apple-এর Core ML, Google-এর TensorFlow Lite এবং ML Kit Vision, NLP, মুখ এবং অবজেক্ট শনাক্তকরণ সম্পূর্ণরূপে ডিভাইসে সমাধান করতে দেয় — ইন্টারনেট ছাড়া এবং ন্যূনতম শক্তি খরচে।
মূল পয়েন্ট
ডিভাইসে ML (on-device ML) একটি পদ্ধতি যেখানে মেশিন লার্নিং মডেল দূরবর্তী সার্ভারে ডেটা না পাঠিয়ে সরাসরি মোবাইল ডিভাইসে সম্পাদিত হয়। গোপনীয়তা মূল সুবিধা: ব্যবহারকারীর ডেটা ডিভাইস ছেড়ে যায় না। Google গবেষণা (2024) অনুযায়ী, 63% ব্যবহারকারী সেই ML ফিচারগুলি প্রত্যাখ্যান করেন যেগুলির জন্য সার্ভারে ডেটা পাঠানো প্রয়োজন। On-device ML নেটওয়ার্ক লেটেন্সি দূর করে, অফলাইনে কাজ করে এবং হার্ডওয়্যার ত্বরণের মাধ্যমে শক্তি খরচ কমায়।
On-device ML সেকেন্ডের পরিবর্তে মিলিসেকেন্ডে ডেটা প্রসেস করে — রিয়েল-টাইমে মুখ এবং অবজেক্ট শনাক্তকরণের জন্য গুরুত্বপূর্ণ। ইন্টারনেট সংযোগের প্রয়োজন নেই আরেকটি সুবিধা: ML ফিচারগুলি বিমান মোড এবং অস্থির সংযোগযুক্ত অঞ্চলে উপলব্ধ। Core ML Apple A12+ চিপে Neural Engine ব্যবহার করে, যা 1 W-এর কম শক্তি খরচে প্রতি সেকেন্ডে 11 ট্রিলিয়ন অপারেশন সরবরাহ করে। মোবাইল অ্যাপের জন্য, on-device ML Vision, NLP এবং অবজেক্ট শনাক্তকরণ কাজে ডি ফ্যাক্টো স্ট্যান্ডার্ড হয়ে উঠেছে।
মোবাইল অ্যাপে ML ব্যবহার করা হয় মুখ প্রমাণীকরণ (Face ID), Snapchat এবং Instagram-এ AR ফিল্টার, Pose Detection সহ ফিটনেস ট্র্যাকার, Adobe Scan-এ OCR স্ক্যানিং এবং কীবোর্ডে ভবিষ্যদ্বাণীমূলক ইনপুটের জন্য। নির্দিষ্ট কাজের জন্য কাস্টম মডেল Core ML (iOS) বা TensorFlow Lite (Android) এর মাধ্যমে তৈরি করা হয়। ML Kit সাধারণ পরিস্থিতির জন্য উপযুক্ত — মডেল প্রশিক্ষণের প্রয়োজন ছাড়াই টেক্সট, মুখ এবং বারকোড শনাক্তকরণ।
Core ML হল iPhone, iPad, Mac এবং Apple Watch-এ ML মডেল চালানোর জন্য Apple-এর ফ্রেমওয়ার্ক। এটি স্বয়ংক্রিয়ভাবে সর্বোত্তম হার্ডওয়্যার ত্বরণ নির্বাচন করে: A12+ ডিভাইসে নিউরাল নেটওয়ার্কের জন্য Neural Engine (11 TOPS), ছবি প্রক্রিয়াকরণ কাজের জন্য GPU এবং অনুক্রমিক গণনার জন্য CPU। Core ML .mlmodel (মূল) এবং .mlmodelc (কম্পাইলকৃত) ফরম্যাট সমর্থন করে। PyTorch এবং TensorFlow থেকে মডেল রূপান্তর coremltools এর মাধ্যমে করা হয় — একটি Python লাইব্রেরি যা টপোলজি এবং ওজন সংরক্ষণ করে।
Create ML কোড না লিখেই সাধারণ মডেল প্রশিক্ষণের জন্য Apple-এর অ্যাপ। প্রোডাকশনের জন্য coremltools ব্যবহার করা হয় — PyTorch, TensorFlow এবং scikit-learn থেকে রূপান্তরের টুল। Coremltools float32 → float16 এবং int8 কোয়ান্টাইজেশন, কালার স্পেস প্যালেটাইজেশন এবং মডেলের আকার কমানোর জন্য অপ্রয়োজনীয় অপারেশন অপসারণ সমর্থন করে।
import coremltools as ct
model = ct.convert(
"resnet50.mlmodel",
source="pytorch",
convert_to="mlprogram"
)
model.save("Resnet50.mlpackage")
Neural Engine হল Apple A12 এবং নতুন চিপে একটি বিশেষায়িত নিউরোপ্রসেসর। 16 কোর 1 W-এর কম শক্তি খরচে প্রতি সেকেন্ডে 11 ট্রিলিয়ন পর্যন্ত অপারেশন সম্পাদন করে। Core ML স্বয়ংক্রিয়ভাবে নিউরাল নেটওয়ার্ক গণনা Neural Engine-এ এবং GPU-সামঞ্জস্যপূর্ণ গণনা Metal GPU-তে রুট করে। ডেভেলপারকে ডিভাইস বেছে নেওয়ার প্রয়োজন নেই — Core ML মডেল এবং উপলব্ধ হার্ডওয়্যার বিশ্লেষণ করে Performance Report-এর মাধ্যমে এটি করে।
TensorFlow Lite (TFLite) Android, iOS এবং Linux-এ ML মডেল চালানোর জন্য Google-এর ক্রস-প্ল্যাটফর্ম সমাধান। মডেলগুলি .tflite ফরম্যাটে এবং TensorFlow ইকোসিস্টেম থেকে TFLiteConverter-এর মাধ্যমে তৈরি হয়। TFLite float32 → int8 কোয়ান্টাইজেশন সমর্থন করে, যা ক্লাসিফিকেশন কাজে 97–99% নির্ভুলতা বজায় রেখে মডেলের আকার 4 গুণ কমায়। Google Play Services for TFLite অ্যাপ পুনরায় প্রকাশ না করেই স্বয়ংক্রিয়ভাবে runtime আপডেট করে।
TFLiteConverter TensorFlow মডেলকে .tflite ফরম্যাটে রূপান্তরের প্রধান টুল। পোস্ট-ট্রেনিং int8 কোয়ান্টাইজেশন সম্পূর্ণ ডেটাসেটে অ্যাক্সেস ছাড়াই মডেলকে 300 MB থেকে 75 MB-তে সংকুচিত করে। কোয়ান্টাইজেশন-সচেতন প্রশিক্ষণ (QAT) ImageNet-এ 1% এরও কম ন্যূনতম নির্ভুলতা হ্রাস দেয়। TFLiteConverter গ্রাফ প্রুনিং এবং TFLite runtime দ্বারা অসমর্থিত অপারেশন অপসারণও সমর্থন করে।
import tensorflow as tf
converter = tf.lite.TFLiteConverter.from_saved_model(
"saved_model_dir"
)
converter.optimizations = [tf.lite.Optimize.DEFAULT]
tflite_model = converter.convert()
ডেলিগেট ছাড়া, TFLite মডেল CPU-তে হার্ডওয়্যার ত্বরণের তুলনায় 3–5 গুণ ধীরে চালায়। GPU ডেলিগেট Android-এ OpenCL এবং OpenGL ES 3.1 ব্যবহার করে, Core ML ডেলিগেট iOS-এ Neural Engine ব্যবহার করে। NNAPI ডেলিগেট Android 8.1+-এ NPU এবং DSP ব্যবহার করে। XNNPACK ডেলিগেট মোবাইল প্রসেসরের জন্য অপ্টিমাইজেশন সহ ARM CPU-তে ক্রস-প্ল্যাটফর্ম ত্বরণ প্রদান করে। ডেলিগেট নির্বাচনের জন্য, ফলাফলে null চেক সহ TfLiteGpuDelegate.create() ব্যবহার করুন।
ML Kit on-device ML-এর জন্য রেডিমেড API সহ Google-এর SDK। মোবাইল অ্যাপে, ML Kit ব্যবহার করা হয় টেক্সট শনাক্তকরণ (50+ ভাষা, হাতের লেখা সহ), ফেস ডিটেকশন (468টি মুখের মূল পয়েন্ট), বারকোড স্ক্যানিং (QR, EAN-13, Code 128, PDF417, Data Matrix) এবং অবজেক্ট ডিটেকশনের জন্য। সব API ইন্টারনেট ছাড়াই সম্পূর্ণরূপে ডিভাইসে কাজ করে। ML Kit ইউনিফাইড API সহ iOS এবং Android-এ উপলব্ধ।
ফেস ডিটেকশন মুখের কনট্যুর, ভ্রু, চোখ, নাক এবং ঠোঁটের স্থানাঙ্ক, পাশাপাশি মাথার কাত কোণ এবং চোখের অবস্থা ফেরত দেয়। AR মাস্ক এবং ক্যামেরা ফিল্টার সবচেয়ে জনপ্রিয় ব্যবহারের পরিস্থিতি। টেক্সট রিকগনিশন মুদ্রিত অক্ষরে 99% পর্যন্ত নির্ভুলতার সাথে ফটো থেকে টেক্সট নিষ্কাশন করে। API CameraX-এর মাধ্যমে রিয়েল-টাইম শনাক্তকরণ সমর্থন করে।
val recognizer = TextRecognition.getClient()
val image = InputImage.fromBitmap(bitmap)
recognizer.process(image)
.addOnSuccessListener { result ->
result.textBlocks.forEach { block ->
println(block.text)
}
}
বারকোড স্ক্যানিং রিয়েল-টাইমে ক্যামেরার ভিডিও স্ট্রিমে বারকোড শনাক্ত করে। অবজেক্ট ডিটেকশন বাউন্ডিং বক্স এবং ক্লাস লেবেল (ব্যক্তি, গাড়ি, প্রাণী) সহ ছবিতে বস্তু শনাক্ত করে। পোজ ডিটেকশন ফিটনেস অ্যাপ এবং গতি বিশ্লেষণের জন্য 33টি শরীরের মূল পয়েন্ট নির্ধারণ করে। ইমেজ লেবেলিং সর্বাধিক 10টি শব্দার্থিক ছবি লেবেল ফেরত দেয় — "প্রকৃতি", "শহর", "খাবার"।
Apple তৃতীয় পক্ষের SDK ইনস্টল না করেই Vision এবং NaturalLanguage-এর মাধ্যমে বিল্ট-ইন ML সমাধান প্রদান করে। Vision (VNRequest) ডিভাইসে মুখ, টেক্সট, বারকোড এবং কনট্যুর শনাক্তকরণ সম্পাদন করে। NaturalLanguage (NLTokenizer) টোকেনাইজেশন, লেমাটাইজেশন, ভাষা শনাক্তকরণ এবং সেন্টিমেন্ট বিশ্লেষণ প্রদান করে। Android-এ, সমতুল্যগুলি ML Kit (শনাক্তকরণ) এবং android.speech থেকে SpeechRecognizer (বক্তৃতা) এর মাধ্যমে বাস্তবায়িত। বিল্ট-ইন টুলগুলির মডেল ডাউনলোডের প্রয়োজন হয় না — এগুলি সিস্টেমে প্রি-ইনস্টল করা থাকে।
Vision-এ VNDetectFaceRectanglesRequest (মুখ শনাক্তকরণ), VNRecognizeTextRequest (টেক্সট শনাক্তকরণ), VNDetectBarcodesRequest (বারকোড) এবং VNDetectHumanBodyPoseRequest (কঙ্কাল) অন্তর্ভুক্ত। VNCoreMLRequest Vision পাইপলাইনে একটি কাস্টম Core ML মডেল সংহত করে — উদাহরণস্বরূপ, শনাক্ত করা মুখে আবেগ শ্রেণীবদ্ধকরণ। সমস্ত অনুরোধ ন্যূনতম লেটেন্সি সহ Neural Engine-এ সম্পাদিত হয়।
let request = VNRecognizeTextRequest { request, error in
guard let observations = request.results
as? [VNRecognizedTextObservation] else { return }
for observation in observations {
let topCandidate = observation
.topCandidates(1).first
print(topCandidate?.string as? String ?? "")
}
}
let handler = VNImageRequestHandler(
cgImage: image, options: [:]
)
try? handler.perform([request])
NaturalLanguage টেক্সটকে টোকেনে বিভক্ত করার জন্য NLTokenizer, ভাষা শনাক্তকরণের জন্য NLLanguageRecognizer (72 ভাষা) এবং NLSentimentAnalyzer টেক্সট সেন্টিমেন্ট বিশ্লেষণের জন্য প্রদান করে। SFSpeechRecognizer ডিভাইসে 50+ ভাষা সমর্থনকারী বক্তৃতা শনাক্তকরণ API (iOS 13+)। ব্যবহারের আগে SFSpeechRecognizerAuthorizationStatus অনুমতি প্রয়োজন। ফলাফল SFSpeechRecognitionResultHandler-এর মাধ্যমে অ্যাসিঙ্ক্রোনাসভাবে আসে।
প্রায়শই জিজ্ঞাসিত প্রশ্ন
ডিভাইসে ML (on-device ML) একটি পদ্ধতি যেখানে মেশিন লার্নিং মডেল সার্ভারে ডেটা না পাঠিয়ে সরাসরি মোবাইল ডিভাইসে চালানো হয়। Core ML, TensorFlow Lite এবং ML Kit on-device ML-এর প্রধান ফ্রেমওয়ার্ক।
Core ML Neural Engine ত্বরণ সহ iOS এবং macOS-এর জন্য Apple-এর ফ্রেমওয়ার্ক। TensorFlow Lite Android, iOS এবং Linux-এর জন্য Google-এর ক্রস-প্ল্যাটফর্ম সমাধান। Core ML Apple ডিভাইসে ভালো কর্মক্ষমতা দেয়, TFLite বহুমুখীতা দেয়।
ML Kit সাধারণ কম্পিউটার ভিশন এবং NLP কাজ সমাধান করে: টেক্সট, মুখ, বারকোড, অবজেক্ট এবং পোজ শনাক্তকরণ। সব API ইন্টারনেট ছাড়াই ডিভাইসে কাজ করে এবং নিজস্ব মডেল তৈরির প্রয়োজন হয় না।
না, on-device ML সম্পূর্ণ স্থানীয়ভাবে কাজ করে। মডেলগুলি ডিভাইসে লোড হয় এবং ইন্টারনেট সংযোগ ছাড়াই সম্পাদিত হয়। ML Kit উচ্চতর নির্ভুলতা সহ ক্লাউড-ভিত্তিক API সংস্করণও অফার করে, কিন্তু on-device মোড অফলাইনে উপলব্ধ।
শুধুমাত্র iOS-এর জন্য Core ML বেছে নিন — এটি Neural Engine ব্যবহার করে এবং Apple ইকোসিস্টেমের সাথে ঘনিষ্ঠভাবে সংহত। ক্রস-প্ল্যাটফর্ম প্রকল্পের জন্য TensorFlow Lite বেছে নিন। কাস্টম মডেল ছাড়া সাধারণ কাজের জন্য রেডিমেড API সহ ML Kit বেছে নিন।
সারাংশ
আমরা একটি মোবাইল অ্যাপ্লিকেশন টার্নকি তৈরি করব
IT Sectr 2017 সাল থেকে স্টার্টআপ এবং ব্যবসার জন্য iOS এবং Android অ্যাপ্লিকেশন তৈরি করে। আমরা আপনাকে পরামর্শ দেব এবং সেরা সমাধান প্রস্তাব করব।