La solution Google Cloud d'AI Edge pour tester et comparer le machine learning (ML) sur l'appareil à grande échelle
Optimiser les performances d'un modèle de ML sur différents appareils mobiles peut s'avérer difficile. Les tests manuels sont lents, coûteux et souvent inaccessibles à la plupart des développeurs, ce qui entraîne des incertitudes sur les performances du modèle dans le monde réel. Le portail Google AI Edge permet de comparer les modèles LiteRT sur un large éventail d'appareils mobiles, ce qui aide les développeurs à trouver les meilleures configurations pour le déploiement de modèles de ML à grande échelle.
Optimiser le déploiement du ML sur mobile
Simplifiez et accélérez les cycles de test sur l'ensemble du paysage matériel : évaluez facilement les performances du modèle sur des centaines d'appareils mobiles représentatifs en quelques minutes.
Assurez-vous de la qualité du modèle de manière proactive et identifiez les problèmes à un stade précoce: identifiez les variations ou régressions de performances spécifiques au matériel (comme sur des chipsets particuliers ou des appareils à mémoire limitée) avant le déploiement.
Réduisez les coûts de test des appareils et accédez au dernier matériel: effectuez des tests sur un parc d'appareils physiques diversifié et en constante augmentation (actuellement plus de 100 modèles d'appareils de différents OEM Android) sans avoir à gérer votre propre laboratoire.
Prenez des décisions et bénéficiez d'une intelligence métier puissantes, basées sur les données: le portail Google AI Edge fournit des données et des comparaisons de performances riches, et offre l'intelligence métier essentielle pour optimiser les modèles en toute confiance et valider leur aptitude au déploiement.
Exemple de benchmark:
Comment le Google AI Edge Portal vous aide à comparer vos modèles LiteRT
Importer et configurer: importez votre fichier de modèle via l'UI ou pointez-y dans votre bucket Google Cloud Storage.
Sélectionner des accélérateurs: spécifiez les tests sur le CPU ou le GPU (avec basculement automatique sur le CPU). La prise en charge des NPU est prévue pour les prochaines versions.
Sélectionner des appareils: choisissez les appareils cibles parmi notre vaste ensemble à l'aide de filtres (niveau de l'appareil, marque, chipset, RAM) ou sélectionnez des listes sélectionnées avec des raccourcis pratiques.
Créez une tâche d'analyse comparative sur plus de 100 appareils. (Remarque: Le GIF est accéléré et modifié pour plus de concision.)
Envoyez ensuite votre tâche et attendez qu'elle soit terminée. Une fois que vous êtes prêt, explorez les résultats dans le tableau de bord interactif:
Comparer les configurations: visualisez rapidement les différences entre les métriques de performances (par exemple, la latence moyenne, la mémoire de pointe) lorsque vous utilisez différents accélérateurs sur tous les appareils testés.
Analyser l'impact sur les appareils: découvrez les performances d'une configuration de modèle spécifique sur la gamme d'appareils sélectionnés. Utilisez des histogrammes et des graphiques en nuage de points pour identifier rapidement les variations de performances liées aux caractéristiques de l'appareil.
Métriques détaillées: accédez à un tableau détaillé et triable qui affiche des métriques spécifiques (temps d'initialisation, latence d'inférence, utilisation de la mémoire) pour chaque appareil, ainsi que ses spécifications matérielles.
Affichez les résultats du benchmark dans le tableau de bord interactif. (Remarque: Le GIF est accéléré et modifié pour plus de concision.)
Rejoindre la version Preview privée du Google AI Edge Portal
Le portail Google AI Edge est disponible en version preview privée pour les clients Google Cloud figurant sur la liste d'autorisation. Pendant cette période de version preview privée, l'accès est fourni sans frais, sous réserve des conditions de la version preview.
Cet aperçu est idéal pour les développeurs et les équipes qui créent des applications de ML mobile avec LiteRT, qui ont besoin de données de benchmarking fiables sur différents matériels Android et qui sont prêts à fournir des commentaires pour façonner l'avenir du produit. Pour demander l'accès, remplissez ce formulaire d'inscription. L'accès est accordé via une liste d'autorisation.