הפתרון של AI Edge ב-Google Cloud לבדיקה ולביצוע השוואות ביצועים של למידת מכונה (ML) במכשיר בקנה מידה נרחב.
אופטימיזציה של ביצועי מודל למידת מכונה במכשירים ניידים שונים יכולה להיות מאתגרת. בדיקה ידנית היא איטית, יקרה ולרוב לא זמינה לרוב המפתחים, מה שמוביל לאי-ודאות לגבי ביצועי המודל בעולם האמיתי. כדי לפתור את הבעיה הזו, אפשר לבצע השוואות ביצועים של מודלים של LiteRT במגוון רחב של מכשירים ניידים ב-Google AI Edge Portal, וכך לעזור למפתחים למצוא את ההגדרות הטובות ביותר לפריסה של מודלים של למידת מכונה בקנה מידה נרחב.
אופטימיזציה של פריסת למידת מכונה בנייד
פישוט וייעול של מחזורי הבדיקה בסביבת החומרה המגוונת: הערכה קלה של ביצועי המודל במאות מכשירים ניידים מייצגים תוך דקות ספורות.
אימות יזום של איכות המודל וזיהוי בעיות בשלב מוקדם: זיהוי תנודות או נסיגות בביצועים ספציפיים לחומרה (למשל, בערכות שבבים מסוימות או במכשירים עם מגבלת זיכרון) לפני הפריסה.
עלות נמוכה יותר של בדיקת מכשירים וגישה לחומרה העדכנית ביותר: אפשר לבדוק את האפליקציה במגוון רחב של מכשירים פיזיים (כיום יש יותר מ-100 דגמי מכשירים של יצרני ציוד מקורי ל-Android) שממשיכים להתרחב, בלי העלויות והמורכבות של ניהול מעבדה משלכם.
קבלת החלטות מבוססות-נתונים וניתוח עסקי יעיל: Google AI Edge Portal מספק נתוני ביצועים עשירים והשוואות, ומאפשר לכם לקבל החלטות מושכלות לגבי אופטימיזציה של מודלים ואימות של מוכנות לפריסה.
דוגמה למדד ביצועים:
איך Google AI Edge Portal עוזר לכם לבצע בדיקת ביצועים של מודלים של LiteRT
העלאה והגדרה: מעלים את קובץ המודל דרך ממשק המשתמש או מפנים אליו בקטגוריה של Google Cloud Storage.
Select accelerators: בחירת מעבדים למהירות מוגברת (עם חזרה אוטומטית ל-CPU). תמיכה ב-NPU מתוכננת לגרסאות עתידיות.
בחירת מכשירים: בוחרים מכשירים לטרגוט מהמאגר המגוון שלנו באמצעות מסננים (רמת מכשיר, מותג, ערכת שבבים, זיכרון RAM) או בוחרים רשימות שנוצרו על ידי מומחים באמצעות קיצורי דרך נוחים.
יצירת משימה חדשה למדד ביצועים במעל 100 מכשירים. (הערה: קובץ ה-GIF מואץ וערוך כדי לקצר את משך הזמן)
לאחר מכן שולחים את המשימה וממתינים להשלמה. כשהכול מוכן, אפשר לבחון את התוצאות בלוח הבקרה האינטראקטיבי:
השוואת הגדרות: הצגה חזותית מהירה של ההבדלים בין מדדי הביצועים (למשל, זמן אחזור ממוצע, זיכרון שיא) כשמשתמשים במאיצי נתונים שונים בכל המכשירים שנבדקו.
ניתוח ההשפעה על המכשיר: אפשר לראות את הביצועים של הגדרת מודל ספציפית במגוון המכשירים שנבחרו. שימוש בתרשים עמודות ותרשים פיזור כדי לזהות במהירות תנודות בביצועים שקשורות למאפייני המכשיר.
מדדים מפורטים: גישה לטבלה מפורטת שניתן למיין, שמציגה מדדים ספציפיים (זמן האתחול, זמן האחזור של ההסקה, שימוש בזיכרון) לכל מכשיר בנפרד, לצד מפרטי החומרה שלו.
הצגת תוצאות של מדדי ביצועים במרכז הבקרה האינטראקטיבי. (הערה: ה-GIF מואץ וערוך כדי לקצר את משך הזמן)
הצטרפות לתצוגה המקדימה הפרטית של Google AI Edge Portal
Google AI Edge Portal זמין בתצוגה מקדימה פרטית ללקוחות Google Cloud שמופיעים ברשימת ההיתרים. במהלך תקופת התצוגה המקדימה הפרטית, הגישה ניתנת ללא תשלום, בכפוף לתנאי התצוגה המקדימה.
התצוגה המקדימה הזו מושלמת למפתחים ולצוותים שמפתחים אפליקציות למידת מכונה לנייד באמצעות LiteRT, שזקוקים לנתוני השוואה מהימנים במגוון חומרות Android ומוכנים לספק משוב שיעזור לעצב את העתיד של המוצר. כדי לבקש גישה, צריך למלא את טופס ההרשמה כאן כדי להביע עניין. הגישה ניתנת באמצעות הוספה לרשימת ההיתרים.