オンデバイス ML を大規模にテストしてベンチマーク評価するための AI Edge の Google Cloud ソリューション。
さまざまなモバイル デバイスで ML モデルのパフォーマンスを最適化するのは難しい場合があります。手動テストは時間がかかり、費用もかかります。また、ほとんどのデベロッパーがアクセスできないため、実際のモデルのパフォーマンスが不確実になります。Google AI Edge Portal は、幅広いモバイル デバイスで LiteRT モデルのベンチマークを可能にすることで、大規模な ML モデルのデプロイに最適な構成を見つけられるようにします。
モバイル ML デプロイの最適化
多様なハードウェア環境でのテストサイクルの簡素化と高速化: 数百種類の代表的なモバイル デバイスでのモデルのパフォーマンスを簡単に評価できます。
モデル品質の事前保証、問題の早期発見: デプロイ前に、ハードウェア固有のパフォーマンスの変動や低下（特定のチップセットやメモリ制約のあるデバイスなど）を特定できます。
デバイステストの費用削減と最新ハードウェアへのアクセス: 自社でラボを維持する費用や手間をかけることなく、実機でテストできます。現在、さまざまな Android OEM の 100 以上のデバイスモデルを用意しており、これからも増えていく予定です。
データドリブンな意思決定とビジネス インテリジェンスの実現: Google AI Edge Portal は、豊富なパフォーマンス データと比較情報を提示し、モデルの最適化と導入準備状況の検証を確実に行うために必要となる重要なビジネス インテリジェンスを提供します。
ベンチマークの例:
Google AI Edge Portal で LiteRT モデルをベンチマーク評価する手順
アップロードして構成する: UI からモデルファイルをアップロードするか、Google Cloud Storage バケット内のモデルファイルを指定します。
アクセラレータを選択する: CPU または GPU に対するテストを指定します（CPU への自動フォールバックあり）。NPU のサポートは、今後のリリースで予定されています。
デバイスを選択する: デバイスティア、ブランド、チップセット、RAM などのフィルタを使用して多様なプールから対象デバイスを選択するか、キュレーション リストから選択します（便利なショートカットもあります）。
100 台以上のデバイスで新しいベンチマーク ジョブを作成している例（注: 簡潔にするために画像を加工しています）
その後、ジョブを送信して完了するまで待ちます。準備ができたら、インタラクティブ ダッシュボードで結果を確認します。
構成を比較する: テストしたすべてのデバイスで、異なるアクセラレータを使用した場合のパフォーマンス指標（平均レイテンシ、ピーク メモリなど）の違いを簡単に可視化できます。
デバイスへの影響を分析する: 選択したさまざまなデバイスで、特定のモデル構成がどのように機能するかを確認できます。ヒストグラムと散布図を使用して、デバイスの特性に関連するパフォーマンスの変動を迅速に特定できます。
詳細な指標: 各デバイスの特定の指標（初期化時間、推論レイテンシ、メモリ使用量）を示すテーブルが表示されます。テーブルにはこれらの詳細な情報とともに、各デバイスのハードウェア仕様も表示され、必要に応じて並べ替えることができます。
インタラクティブなダッシュボードでベンチマーク結果を確認します。（注: 簡潔にするために画像を加工しています）
Google AI Edge Portal の限定公開プレビューにご参加ください
Google AI Edge Portal は、許可リストに登録されている Google Cloud のお客様を対象に限定公開プレビュー版として提供されます。限定公開プレビューの期間中は無料で利用可能で、プレビュー版の利用規約が適用されます。
このプレビュー版は、LiteRT を使用してモバイル ML アプリケーションを構築しており、さまざまな Android ハードウェアにわたる信頼性の高いベンチマーク データを必要としているデベロッパーや開発チームに最適です。また、Google AI Edge Portal の未来の形作っていくために、フィードバックの提供にご協力くださる方が対象となります。アクセスをご希望の場合は、こちらのフォームからお申し込みください。アクセスは許可リストを通じてご提供いたします。