Solusi Google Cloud AI Edge untuk menguji dan menjalankan benchmark machine learning (ML) di perangkat dalam skala besar.
Mengoptimalkan performa model ML di berbagai perangkat seluler dapat menjadi tantangan. Pengujian manual lambat, mahal, dan sering kali tidak dapat diakses oleh sebagian besar developer, sehingga menyebabkan ketidakpastian dalam performa model di dunia nyata. Google AI Edge Portal menyelesaikan masalah ini dengan memungkinkan benchmark model LiteRT di berbagai perangkat seluler, membantu developer menemukan konfigurasi terbaik untuk pen-deployment model ML berskala besar.
Mengoptimalkan deployment ML seluler
Menyederhanakan & mempercepat siklus pengujian di berbagai lanskap hardware: Menilai performa model di ratusan perangkat seluler perwakilan dalam hitungan menit tanpa kesulitan.
Memastikan kualitas model secara proaktif & mengidentifikasi masalah sejak awal: Tentukan variasi atau regresi performa khusus hardware (seperti pada chipset tertentu atau perangkat yang memiliki keterbatasan memori) sebelum deployment.
Biaya pengujian perangkat yang lebih rendah & akses hardware terbaru: Lakukan pengujian pada berbagai perangkat fisik yang terus berkembang (saat ini lebih dari 100 model perangkat dari berbagai OEM Android) tanpa biaya dan kerumitan dalam mengelola lab Anda sendiri.
Dapatkan keputusan & intelijen bisnis yang andal dan berbasis data: Google AI Edge Portal memberikan data performa dan perbandingan yang kaya, yang memberikan intelijen bisnis penting yang diperlukan untuk memandu pengoptimalan model dan memvalidasi kesiapan deployment dengan percaya diri.
Contoh benchmark:
Cara Google AI Edge Portal membantu Anda menjalankan benchmark model LiteRT
Upload & konfigurasi: Upload file model melalui UI atau arahkan ke file tersebut di bucket Google Cloud Storage Anda.
Select accelerators: Tentukan pengujian terhadap CPU atau GPU (dengan penggantian CPU otomatis). Dukungan NPU direncanakan untuk rilis mendatang.
Pilih perangkat: Pilih perangkat target dari kumpulan yang beragam menggunakan filter (tingkat perangkat, merek, chipset, RAM) atau pilih daftar pilihan dengan pintasan yang praktis.
Membuat Tugas Benchmark Baru di Lebih dari 100 Perangkat. (Catatan: GIF dipercepat dan diedit agar lebih singkat)
Dari sana, kirim tugas Anda dan tunggu hingga selesai. Setelah siap, jelajahi hasilnya di Dasbor Interaktif:
Membandingkan konfigurasi: Memvisualisasikan dengan cepat perbedaan metrik performa (misalnya, latensi rata-rata, memori puncak) saat menggunakan akselerator yang berbeda di semua perangkat yang diuji.
Menganalisis dampak perangkat: Lihat performa konfigurasi model tertentu di rentang perangkat yang dipilih. Gunakan histogram dan plot sebar untuk mengidentifikasi variasi performa yang terkait dengan karakteristik perangkat dengan cepat.
Metrik mendetail: Akses tabel mendetail yang dapat diurutkan yang menampilkan metrik tertentu (waktu inisialisasi, latensi inferensi, penggunaan memori) untuk setiap perangkat, beserta spesifikasi hardware-nya.
Lihat Hasil Benchmark di Dasbor interaktif. (Catatan: GIF dipercepat dan diedit agar lebih singkat)
Bergabung ke pratinjau pribadi Google AI Edge Portal
Google AI Edge Portal tersedia dalam pratinjau pribadi untuk pelanggan Google Cloud yang diizinkan. Selama periode pratinjau pribadi ini, akses diberikan tanpa biaya, tunduk pada persyaratan pratinjau.
Pratinjau ini ideal untuk developer dan tim yang mem-build aplikasi ML seluler dengan LiteRT yang memerlukan data benchmark yang andal di berbagai hardware Android dan bersedia memberikan masukan untuk membantu membentuk masa depan produk. Untuk meminta akses, lengkapi formulir pendaftaran di sini untuk menyatakan minat Anda. Akses diberikan melalui daftar yang diizinkan.