बड़े पैमाने पर, डिवाइस पर मौजूद मशीन लर्निंग (एमएल) को टेस्ट करने और उसकी तुलना करने के लिए, AI Edge का Google Cloud समाधान.
अलग-अलग मोबाइल डिवाइसों पर एमएल मॉडल की परफ़ॉर्मेंस को ऑप्टिमाइज़ करना चुनौती भरा हो सकता है. मैन्युअल टेस्टिंग धीमी और महंगी होती है. साथ ही, ज़्यादातर डेवलपर के लिए इसे ऐक्सेस करना मुश्किल होता है. इससे, असल दुनिया में मॉडल की परफ़ॉर्मेंस के बारे में अनिश्चितता बनी रहती है. Google AI Edge Portal, अलग-अलग तरह के मोबाइल डिवाइसों पर LiteRT मॉडल की तुलना करने की सुविधा चालू करके इस समस्या को हल करता है. इससे डेवलपर को बड़े पैमाने पर एमएल मॉडल को डिप्लॉय करने के लिए, सबसे सही कॉन्फ़िगरेशन ढूंढने में मदद मिलती है.
मोबाइल पर एमएल मॉडल को डिप्लॉय करने की प्रोसेस को ऑप्टिमाइज़ करना
अलग-अलग हार्डवेयर लैंडस्केप में टेस्टिंग साइकल को आसान और तेज़ बनाएं: कुछ ही मिनटों में, सैकड़ों प्रतिनिधि मोबाइल डिवाइसों पर मॉडल की परफ़ॉर्मेंस का आसानी से आकलन करें.
मॉडल की क्वालिटी के बारे में पहले से पक्का करें और समस्याओं की जल्द से जल्द पहचान करें: डिप्लॉयमेंट से पहले, हार्डवेयर के हिसाब से परफ़ॉर्मेंस में होने वाले बदलावों या परफ़ॉर्मेंस में गिरावट की पहचान करें. जैसे, किसी खास चिपसेट या कम मेमोरी वाले डिवाइसों पर.
डिवाइस की जांच की लागत कम करना और नया हार्डवेयर ऐक्सेस करना: अपनी लैब को मैनेज करने के खर्च और जटिलता के बिना, अलग-अलग और लगातार बढ़ते फ़िज़िकल डिवाइसों (फ़िलहाल, Android के अलग-अलग ओईएम के 100 से ज़्यादा डिवाइस मॉडल) पर जांच करें.
बेहतर और डेटा पर आधारित फ़ैसले लेने और कारोबार की अहम जानकारी पाना: Google के एआई एज पोर्टल से, परफ़ॉर्मेंस का बेहतर डेटा और तुलनाएं मिलती हैं. इससे, मॉडल को ऑप्टिमाइज़ करने और उसे डिप्लॉय करने के लिए ज़रूरी कारोबार की अहम जानकारी मिलती है.
बेंचमार्क का उदाहरण:
Google AI Edge Portal, LiteRT मॉडल को बेंचमार्क करने में आपकी कैसे मदद करता है
अपलोड और कॉन्फ़िगर करें: यूज़र इंटरफ़ेस (यूआई) की मदद से अपनी मॉडल फ़ाइल अपलोड करें या अपनी Google Cloud Storage बकेट में इसका लिंक दें.
ऐक्सेलरेटर चुनें: सीपीयू या जीपीयू (सीपीयू के अपने-आप फ़ॉलबैक के साथ) के लिए जांच करने के बारे में बताएं. आने वाले समय में रिलीज़ होने वाले वर्शन में, एनपीयू के साथ काम करने की सुविधा उपलब्ध कराई जाएगी.
डिवाइस चुनें: फ़िल्टर (डिवाइस टीयर, ब्रैंड, चिपसेट, रैम) का इस्तेमाल करके, हमारे अलग-अलग पूल से टारगेट डिवाइस चुनें या आसान शॉर्टकट की मदद से, चुनी गई सूचियां चुनें.
100 से ज़्यादा डिवाइसों पर नया बेंचमार्क जॉब बनाएं. (ध्यान दें: कम समय में जानकारी देने के लिए, GIF को तेज़ किया गया है और उसमें बदलाव किया गया है)
इसके बाद, अपना काम सबमिट करें और उसके पूरा होने का इंतज़ार करें. इसके बाद, इंटरैक्टिव डैशबोर्ड में नतीजे देखें:
कॉन्फ़िगरेशन की तुलना करें: तुरंत देखें कि जांच किए गए सभी डिवाइसों पर अलग-अलग ऐक्सेलरेटर का इस्तेमाल करने पर, परफ़ॉर्मेंस मेट्रिक (उदाहरण के लिए, औसत इंतज़ार का समय, सबसे ज़्यादा मेमोरी) में क्या अंतर होता है.
डिवाइस पर होने वाले असर का विश्लेषण करना: देखें कि चुने गए डिवाइसों की रेंज में, किसी खास मॉडल कॉन्फ़िगरेशन की परफ़ॉर्मेंस कैसी है. डिवाइस की विशेषताओं से जुड़ी परफ़ॉर्मेंस में हुए बदलावों की तुलना तुरंत करने के लिए, हिस्टोग्राम और स्कैटर प्लॉट का इस्तेमाल करें.
ज़्यादा जानकारी वाली मेट्रिक: हर डिवाइस के लिए, ज़्यादा जानकारी वाली और क्रम से लगाई जा सकने वाली टेबल ऐक्सेस करें. इसमें, डिवाइस के हार्डवेयर की खास बातों के साथ-साथ, खास मेट्रिक (शुरू होने में लगने वाला समय, अनुमान लगाने में लगने वाला समय, और मेमोरी का इस्तेमाल) दिखती हैं.
इंटरैक्टिव डैशबोर्ड पर बेंचमार्क के नतीजे देखें. (ध्यान दें: कम समय में जानकारी देने के लिए, GIF को तेज़ किया गया है और उसमें बदलाव किया गया है)
Google AI Edge Portal के निजी प्रीव्यू में शामिल हों
Google AI Edge Portal, अनुमति वाली सूची में शामिल Google Cloud के ग्राहकों के लिए, निजी झलक के तौर पर उपलब्ध है. निजी झलक देखने की इस अवधि के दौरान, ऐक्सेस बिना किसी शुल्क के दिया जाता है. हालांकि, इसके लिए झलक देखने की शर्तें पूरी करनी होंगी.
यह झलक, LiteRT की मदद से मोबाइल एमएल ऐप्लिकेशन बनाने वाले डेवलपर और टीमों के लिए बेहतरीन है. इन टीमों को अलग-अलग Android हार्डवेयर पर, भरोसेमंद बेंचमार्किंग डेटा की ज़रूरत होती है. साथ ही, वे प्रॉडक्ट को बेहतर बनाने के लिए सुझाव/राय देना चाहते हैं. ऐक्सेस का अनुरोध करने के लिए, यहां साइन-अप फ़ॉर्म भरें. ऐक्सेस, अनुमति सूची के ज़रिए दिया जाता है.