Rozwiązanie Google Cloud firmy AI Edge do testowania i porównywania systemów uczących się na urządzeniach na dużą skalę.
Optymalizacja skuteczności modelu ML na różnych urządzeniach mobilnych może być trudna. Ręczne testowanie jest powolne, kosztowne i często niedostępne dla większości deweloperów, co prowadzi do niepewności co do wydajności modelu w rzeczywistych warunkach. Google AI Edge Portal rozwiązuje ten problem, umożliwiając porównywanie modeli LiteRT na wielu urządzeniach mobilnych, co pomaga deweloperom znaleźć najlepsze konfiguracje do wdrażania modeli systemów uczących się na dużą skalę.
Optymalizowanie wdrażania ML na urządzeniach mobilnych
Uprość i przyspiesz cykle testowania na różnych platformach sprzętowych: w kilka minut możesz bez wysiłku ocenić skuteczność modelu na setkach reprezentatywnych urządzeń mobilnych.
Proaktywnie zapewniaj jakość modelu i wcześnie wykryj problemy: przed wdrożeniem określ różnice w wydajności lub regresję związaną ze sprzętem (np. w przypadku konkretnych chipsetów lub urządzeń z ograniczoną pamięcią).
Niższe koszty testowania urządzeń i dostęp do najnowszego sprzętu: testowanie na różnorodnych i stale powiększających się grupach urządzeń fizycznych (obecnie ponad 100 modeli urządzeń od różnych producentów OEM Androida) bez kosztów i złożoności związanych z utrzymaniem własnego laboratorium.
Podejmowanie trafnych decyzji na podstawie danych i analizowanie informacji biznesowych: Portal Google AI Edge udostępnia bogate dane o wydajności i porównania, zapewniając niezbędne informacje biznesowe, które ułatwiają optymalizację modelu i sprawdzanie gotowości do wdrożenia.
Przykładowy punkt odniesienia:
Jak Google AI Edge Portal pomaga porównywać modele LiteRT
Przesyłanie i konfigurowanie: możesz przesłać plik modelu za pomocą interfejsu użytkownika lub wskazać go w zasobniku Google Cloud Storage.
Wybierz akceleratory: określ, czy testy mają być przeprowadzane na procesorze CPU czy GPU (z automatycznym substytutem procesora CPU). Obsługa NPU jest planowana na przyszłe wersje.
Wybierz urządzenia: wybierz urządzenia docelowe z różnorodnego zbioru za pomocą filtrów (poziom urządzenia, marka, chipset, pamięć RAM) lub wybierz zweryfikowane listy za pomocą wygodnych skrótów.
Utwórz nowe zadanie testu porównawczego na ponad 100 urządzeniach. (Uwaga: GIF jest przyspieszony i zmontowany w celu skrócenia)
Następnie prześlij zadanie i poczekaj na jego zakończenie. Gdy wszystko będzie gotowe, sprawdź wyniki w interaktywnym panelu:
Porównaj konfiguracje: szybko porównaj, jak dane dotyczące wydajności (np. średnie opóźnienie, szczytowa pamięć) różnią się w przypadku różnych akceleratorów na wszystkich testowanych urządzeniach.
Analiza wpływu urządzenia: możesz sprawdzić, jak działa dana konfiguracja modelu na różnych urządzeniach. Korzystaj z histogramów i wykresów rozrzutu, aby szybko identyfikować różnice w wydajności związane z cechami urządzenia.
Szczegółowe dane: możesz wyświetlić szczegółową, możliwą do posortowania tabelę z konkretnymi danymi (czas inicjalizacji, opóźnienie wnioskowania, wykorzystanie pamięci) dla każdego urządzenia wraz ze specyfikacją sprzętową.
Wyniki testu porównawczego możesz wyświetlić w interaktywnym panelu. Uwaga: plik GIF jest akcelerowany i edytowany, aby był zwięzły.
Dołącz do prywatnej wersji testowej portalu Google AI Edge
Google AI Edge Portal jest dostępny w ramach prywatnej wersji testowej dla klientów Google Cloud, którzy zostali dodani do listy dozwolonych. W tym okresie dostęp do usługi jest bezpłatny, zgodnie z warunkami wersji testowej.
Ta wersja jest idealna dla programistów i zespołów tworzących aplikacje mobilne z LiteRT, którzy potrzebują wiarygodnych danych porównawczych na różnych urządzeniach z Androidem i chcą przekazywać opinie, aby pomóc w kształtowaniu przyszłości tego narzędzia. Aby poprosić o dostęp, wypełnij formularz rejestracji i wyrazić zainteresowanie. Dostęp jest przyznawany za pomocą listy dozwolonych.