網頁版的圖片分類指南

MediaPipe 圖片分類器工作可讓您對圖片進行分類。您可以使用這項工作，在訓練期間定義的一組類別中，找出圖片代表的內容。這些操作說明將說明如何為 Node 和網頁應用程式使用圖片分類器。

您可以觀看示範影片，瞭解這項工作的實際運作情形。如要進一步瞭解這項工作的功能、模型和設定選項，請參閱總覽。

程式碼範例

圖像分類器的範例程式碼提供了 JavaScript 中這項工作的完整實作方式，供您參考。這個程式碼可協助您測試此工作，並開始建構自己的圖像分類應用程式。您只需使用網路瀏覽器，即可查看、執行及編輯圖像分類器範例程式碼。

設定

本節將說明如何設定開發環境和程式碼專案，以便使用圖片分類器。如要進一步瞭解如何設定開發環境以使用 MediaPipe 工作，包括平台版本需求，請參閱 Web 版設定指南。

JavaScript 套件

您可以透過 MediaPipe @mediapipe/tasks-vision NPM 套件取得圖像分類器程式碼。您可以透過平台設定指南中的連結，尋找及下載這些程式庫。

您可以使用下列指令，透過下列本機暫存程式碼安裝必要套件：

npm install @mediapipe/tasks-vision

如要透過內容傳遞聯播網 (CDN) 服務匯入工作程式碼，請在 HTML 檔案的標記中加入下列程式碼：

<!-- You can replace JSDeliver with another CDN if you prefer to -->
<head>
  <script src="https://cdn.jsdelivr.net/npm/@mediapipe/tasks-vision/vision_bundle.js"
    crossorigin="anonymous"></script>
</head>

型號

MediaPipe 圖片分類器工作需要訓練的模型，且該模型必須與此工作相容。如要進一步瞭解可用的圖片分類器訓練模型，請參閱任務總覽的「模型」一節。

選取並下載模型，然後將模型儲存在專案目錄中：

<dev-project-root>/app/shared/models/

建立工作

請使用其中一個 Image Classifier createFrom...() 函式，準備執行推論的工作。使用 createFromModelPath() 函式搭配訓練模型檔案的相對或絕對路徑。如果模型已載入至記憶體，您可以使用 createFromModelBuffer() 方法。

以下程式碼範例示範如何使用 createFromOptions() 函式設定工作。createFromOptions 函式可讓您使用設定選項自訂圖像分類器。如要進一步瞭解設定選項，請參閱「設定選項」。

以下程式碼示範如何使用自訂選項建構及設定工作：

async function createImageClassifier {
  const vision = await FilesetResolver.forVisionTasks(
    "https://cdn.jsdelivr.net/npm/@mediapipe/tasks-vision@0.10.0/wasm"
  );
  imageClassifier = await ImageClassifier.createFromOptions(vision, {
    baseOptions: {
      modelAssetPath: `https://storage.googleapis.com/mediapipe-models/image_classifier/efficientnet_lite0/float32/1/efficientnet_lite0.tflite`
    },
  });
}

設定選項

此工作包含下列網頁應用程式設定選項：

選項名稱	說明	值範圍	預設值
`runningMode`	設定工作執行模式。有兩種模式： IMAGE：單張圖片輸入模式。影片：解碼影片影格或輸入資料 (例如來自攝影機) 直播的模式。	{`IMAGE, VIDEO`}	`IMAGE`
`displayNamesLocale`	設定標籤語言，用於工作模型中繼資料中提供的顯示名稱 (如有)。預設值為英文的 `en`。您可以使用 TensorFlow Lite Metadata Writer API，在自訂模型的中繼資料中新增本地化標籤	語言代碼	en
`maxResults`	設定要傳回的最高分數分類結果選用數量上限。如果小於 0，則會傳回所有可用的結果。	任何正數	`-1`
`scoreThreshold`	設定預測分數門檻，覆寫模型中繼資料中提供的門檻 (如果有)。低於這個值的結果會遭到拒絕。	任何浮點	未設定
`categoryAllowlist`	設定允許的選項類別名稱清單。如果不為空白，系統會篩除類別名稱不在這個集合中的分類結果。系統會忽略重複或不明的類別名稱。這個選項與 `categoryDenylist` 互斥，如果同時使用這兩個選項，系統會傳回錯誤。	任何字串	未設定
`categoryDenylist`	設定選用的不允許類別名稱清單。如果不為空白，則系統會篩除類別名稱位於此組合的分類結果。系統會忽略重複或不明的類別名稱。這個選項與 `categoryAllowlist` 互斥，如果同時使用這兩個選項，會導致錯誤。	任何字串	未設定
`resultListener`	在 Image Classifier 處於即時串流模式時，將結果事件監聽器設為以非同步方式接收分類結果。只有在執行模式設為 `LIVE_STREAM` 時，才能使用	不適用	未設定

準備資料

圖像分類器可根據主機瀏覽器支援的任何格式，分類圖片中的物件。此工作也會處理資料輸入預先處理作業，包括調整大小、旋轉和值正規化。

對圖像分類器 classify() 和 classifyForVideo() 方法的呼叫會同步執行，並封鎖使用者介面執行緒。如果您要將裝置攝影機的錄影畫面分類，每個分類都會阻斷主執行緒。如要避免這種情況，您可以實作網路工作者，在另一個執行緒上執行 classify() 和 classifyForVideo()。

執行工作

圖像分類器會使用 classify() 方法搭配圖片模式，以及 classifyForVideo() 方法搭配 video 模式，觸發推論。Image Classifier API 會傳回輸入圖片中物件的可能類別。

以下程式碼示範如何使用工作模型執行處理作業：

圖片

const image = document.getElementById("image") as HTMLImageElement;
const imageClassifierResult = imageClassifier.classify(image);

影片

const video = document.getElementById("video");
await imageClassifier.setOptions({ runningMode: "VIDEO" });

const timestamp = performance.now();
const classificationResult = await imageClassifier.classifyForVideo(
    video,
    timestamp
  );

如要進一步瞭解如何執行 Image Classifier 工作，請參閱程式碼範例。

處理及顯示結果

執行推論時，圖片分類器工作會傳回 ImageClassifierResult 物件，其中包含輸入圖片或影格內物件的可能類別清單。

以下是這項工作的輸出資料範例：

ImageClassifierResult:
 Classifications #0 (single classification head):
  head index: 0
  category #0:
   category name: "/m/01bwb9"
   display name: "Passer domesticus"
   score: 0.91406
   index: 671
  category #1:
   category name: "/m/01bwbt"
   display name: "Passer montanus"
   score: 0.00391
   index: 670

這項結果是透過以下方式取得：在以下裝置上執行鳥類分類器：

斑文鳥特寫相片

圖片分類器範例程式碼示範如何顯示工作傳回的分類結果，詳情請參閱程式碼範例。