AI Edge'in cihaz üzerinde makine öğrenimini (ML) geniş ölçekte test etmek ve karşılaştırmak için Google Cloud çözümü.
Çeşitli mobil cihazlarda yapay zeka modeli performansını optimize etmek zor olabilir. Manuel test yavaş, maliyetli ve çoğu geliştirici tarafından erişilemez olduğundan gerçek dünyadaki model performansında belirsizliklere yol açar. Google AI Edge Portal, çeşitli mobil cihazlarda LiteRT model karşılaştırması yaparak bu sorunu çözer ve geliştiricilerin büyük ölçekli makine öğrenimi modeli dağıtımı için en iyi yapılandırmaları bulmalarına yardımcı olur.
Mobil makine öğrenimi dağıtımını optimize etme
Çeşitli donanım ortamlarında test döngülerini basitleştirin ve hızlandırın: temsili yüzlerce mobil cihazda model performansını dakikalar içinde kolayca değerlendirin.
Model kalitesini proaktif olarak kontrol edin ve sorunları erkenden tespit edin: Donanıma özgü performans farklılıklarını veya gerilemelerini (ör. belirli yonga setlerinde veya bellek sınırlı cihazlarda) dağıtımdan önce tespit edin.
Daha düşük cihaz testi maliyeti ve en son donanıma erişim: Kendi laboratuvarınızı yönetmenin masraf ve karmaşıklığı olmadan, çeşitli ve sürekli büyüyen fiziksel cihaz filosunda (şu anda çeşitli Android OEM'lerden 100'den fazla cihaz modeli) test yapın.
Güçlü, veriye dayalı kararlar ve işletme zekası elde edin: Google Yapay Zeka Edge Portal, model optimizasyonuna güvenle rehberlik etmek ve dağıtım hazırlığını doğrulamak için gereken önemli işletme zekasını sağlayarak zengin performans verileri ve karşılaştırmaları sunar.
Örnek karşılaştırma:
Google AI Edge Portal, LiteRT modellerinizin karşılaştırmasını yapmanıza nasıl yardımcı olur?
Yükleme ve yapılandırma: Model dosyanızı kullanıcı arayüzü üzerinden yükleyin veya Google Cloud Storage paketinizdeki dosyayı işaretleyin.
Hızlandırıcıları seçme: CPU veya GPU'ya karşı testi belirtin (otomatik CPU yedeği ile). NPU desteği gelecekteki sürümlerde planlanmaktadır.
Cihaz seçin: Filtreleri (cihaz katmanı, marka, yonga seti, RAM) kullanarak çeşitli havuzumuzdan hedef cihazlar seçin veya uygun kısayollarla özel olarak seçilen listeleri seçin.
100'den fazla cihazda yeni bir karşılaştırma çalışması oluşturun. (Not: GIF hızlandırılmış ve kısa olması için düzenlenmiştir)
Ardından, işinizi gönderin ve tamamlanmasını bekleyin. Hazır olduğunuzda etkileşimli kontrol panelinde sonuçları keşfedin:
Yapılandırmaları karşılaştırın: Test edilen tüm cihazlarda farklı hızlandırıcılar kullanıldığında performans metriklerinin (ör. ortalama gecikme süresi, en yüksek bellek) nasıl farklılaştığını hızlıca görselleştirin.
Cihaz üzerindeki etkiyi analiz edin: Belirli bir model yapılandırmasının, seçili cihaz aralığında nasıl performans gösterdiğini görün. Cihaz özelliklerine bağlı performans farklılıklarını hızlıca tespit etmek için histogramleri ve dağılım noktalarını kullanın.
Ayrıntılı metrikler: Her cihazın donanım özelliklerinin yanı sıra belirli metriklerini (başlatma süresi, çıkarım gecikmesi, bellek kullanımı) gösteren ayrıntılı ve sıralanabilir bir tabloya erişin.
Karşılaştırma sonuçlarını etkileşimli kontrol panelinde görüntüleyin. (Not: GIF, kısalık için hızlandırılmış ve düzenlenmiştir)
Google AI Edge Portal özel önizlemesine katılma
Google AI Edge Portal, izin verilenler listesine eklenen Google Cloud müşterileri için gizli önizleme sürümünde kullanılabilir. Bu gizli önizleme döneminde, önizleme şartlarına tabi olarak erişim ücretsizdir.
Bu önizleme, LiteRT ile mobil makine öğrenimi uygulamaları geliştiren ve çeşitli Android donanımlarında güvenilir karşılaştırma verilerine ihtiyaç duyan, ürünün geleceğini şekillendirmeye yardımcı olacak geri bildirimler sunmaya istekli geliştiriciler ve ekipler için idealdir. Erişim isteğinde bulunmak için buradaki kayıt formumuzu doldurarak ilgilendiğinizi belirtin. Erişim, izin verilenler listesi üzerinden verilir.