La solución de Google Cloud de AI Edge para probar y comparar el aprendizaje automático (AA) integrado en el dispositivo a gran escala.
Optimizar el rendimiento del modelo de AA en diversos dispositivos móviles puede ser un desafío. Las pruebas manuales son lentas, costosas y, a menudo, inaccesibles para la mayoría de los desarrolladores, lo que genera incertidumbres en el rendimiento del modelo en el mundo real. Google AI Edge Portal resuelve este problema habilitando las comparativas de modelos de LiteRT en una amplia variedad de dispositivos móviles, lo que ayuda a los desarrolladores a encontrar las mejores configuraciones para la implementación de modelos de AA a gran escala.
Cómo optimizar la implementación de AA en dispositivos móviles
Simplifica y acelera los ciclos de prueba en el diverso panorama de hardware: Evalúa sin esfuerzo el rendimiento del modelo en cientos de dispositivos móviles representativos en minutos.
Garantizar de forma proactiva la calidad del modelo y detectar problemas con anticipación: Identifica las variaciones o regresiones de rendimiento específicas del hardware (como en chipsets o dispositivos con memoria limitada) antes de la implementación.
Menor costo de pruebas de dispositivos y acceso al hardware más reciente: Realiza pruebas en una flota diversa y en constante crecimiento de dispositivos físicos (actualmente, más de 100 modelos de dispositivos de varios OEM de Android) sin los gastos y la complejidad de mantener tu propio laboratorio.
Aprovecha la inteligencia empresarial y las decisiones basadas en datos: Google AI Edge Portal ofrece datos de rendimiento y comparaciones enriquecidos, lo que proporciona la inteligencia empresarial fundamental necesaria para guiar con confianza la optimización de modelos y validar la preparación para la implementación.
Ejemplo de comparativa:
Cómo el Edge Portal de Google AI te ayuda a comparar tus modelos de LiteRT
Subir y configurar: Sube el archivo de tu modelo a través de la IU o indícalo en tu bucket de Google Cloud Storage.
Seleccionar aceleradores: Especifica las pruebas en CPU o GPU (con resguardo automático de CPU). Se planea admitir la NPU en versiones futuras.
Seleccionar dispositivos: Elige dispositivos de segmentación de nuestro grupo diverso con filtros (nivel de dispositivo, marca, chipset, RAM) o selecciona listas seleccionadas con atajos convenientes.
Crea una nueva tarea de comparativa en más de 100 dispositivos. (Nota: El GIF se aceleró y editó para que sea más breve)
Desde allí, envía tu trabajo y espera a que se complete. Cuando esté todo listo, explora los resultados en el panel interactivo:
Comparar configuraciones: Visualiza rápidamente cómo difieren las métricas de rendimiento (p.ej., latencia promedio y memoria máxima) cuando se usan diferentes aceleradores en todos los dispositivos probados.
Analizar el impacto en el dispositivo: Consulta el rendimiento de una configuración de modelo específica en el rango de dispositivos seleccionados. Usa histogramas y diagramas de dispersión para identificar rápidamente variaciones de rendimiento vinculadas a las características del dispositivo.
Métricas detalladas: Accede a una tabla detallada y ordenable que muestra métricas específicas (tiempo de inicialización, latencia de inferencia, uso de memoria) para cada dispositivo individual, junto con sus especificaciones de hardware.
Consulta los resultados de las comparativas en el panel interactivo. (Nota: El GIF se aceleró y editó para que sea más breve)
Únete a la versión preliminar privada del portal de Google AI Edge
Google AI Edge Portal está disponible en versión preliminar privada para los clientes de Google Cloud que se encuentran en la lista de entidades permitidas. Durante este período de vista previa privada, el acceso se proporciona sin costo, sujeto a las condiciones de la versión preliminar.
Esta vista previa es ideal para desarrolladores y equipos que compilan aplicaciones de AA para dispositivos móviles con LiteRT que necesitan datos de comparativas confiables en diversos hardware de Android y que están dispuestos a proporcionar comentarios para ayudar a definir el futuro del producto. Para solicitar acceso, completa nuestro formulario de registro aquí y expresa tu interés. El acceso se otorga mediante la lista de entidades permitidas.