Vorkompilierte LiteRT-C++-Binärdatei herunterladen und einbinden

Sie können vorkompilierte C++-Bibliotheken in Ihren Anwendungen verwenden, ohne den gesamten LiteRT-Quellcodebaum erstellen zu müssen. Die Integration kann mit CMake erfolgen.

Im Folgenden werden die grundlegenden Schritte zur Verwendung der LiteRT-API CompiledModel in Ihrem C++-Code beschrieben.

Vorkompilierte gemeinsam genutzte LiteRT-Laufzeitbibliothek herunterladen

Laden Sie die gemeinsam genutzte LiteRT-Laufzeitbibliothek über die folgenden Links herunter:

Plattform Version LiteRT-Laufzeitbibliothek
android_arm64 2.1.3 libLiteRt.so
android_x86_64 2.1.3 libLiteRt.so
linux_x86_64 2.1.3 libLiteRt.so
linux_arm64 2.1.3 libLiteRt.so
macos_arm64 2.1.3 libLiteRt.dylib
windows_x86_64 2.1.3 libLiteRt.dll

Vorkompilierte GPU-Beschleuniger herunterladen

Wenn Sie eine GPU-Beschleunigung benötigen, brauchen Sie einen GPU-Beschleuniger. Da dieser noch nicht als Open Source verfügbar ist, müssen Sie vorkompilierte Versionen herunterladen.

Hier sind die verfügbaren GPU-Beschleuniger.

Plattform Version GPU-Beschleuniger Backend
android_arm64 2.1.3 libLiteRtClGlAccelerator.so OpenCL + OpenGL
android_x86_64 2.1.3 libLiteRtClGlAccelerator.so OpenCL + OpenGL
linux_x86_64 2.1.3 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
linux_arm64 2.1.3 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
macos_arm64 2.1.3 libLiteRtMetalAccelerator.dylib Metal
windows_x86_64 2.1.3 libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

Vorkompilierte LiteRT-C++-Bibliothek vorbereiten

Wählen Sie einen Ordner zum Hosten des LiteRT-C++-SDK aus. Wir bezeichnen ihn als <litert_cc_sdk_location>.

  1. C++-SDK herunterladen

    Sie müssen die erforderlichen Dateien (CMakeLists.txt, Quell- und Header dateien) aus der ZIP-Datei des LiteRT-C++-SDK unter <litert_cc_sdk_location> vorbereiten.

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
    unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>
    
  2. Platzieren Sie die heruntergeladene Datei libLiteRt.so unter <litert_cc_sdk_location>.

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/
    
  3. Bibliothek und Tool run_model_simple erstellen.

    Für die Erstellung von LiteRT ist clang erforderlich. Konfigurieren Sie das C++-SDK und die Build-Tools wie folgt:

    cd <litert_cc_sdk_location>
    cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
    cmake --build litert_cc_sdk_build -j
    

Vorkompilierte LiteRT-C++-Bibliothek einbinden

  1. Aktualisieren Sie CMakeLists.txt, um die LiteRT-API zu verwenden.

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
    include_directories("<litert_cc_sdk_location>")
    
    target_link_libraries(${CMAKE_PROJECT_NAME}
            # Use `litert_cc_api` for LiteRT C++ SDK
            litert_cc_api
            android
            log)