Sie können vorkompilierte C++-Bibliotheken in Ihren Anwendungen verwenden, ohne den gesamten LiteRT-Quellcodebaum erstellen zu müssen. Die Integration kann mit CMake erfolgen.
Im Folgenden werden die grundlegenden Schritte zur Verwendung der LiteRT-API CompiledModel in Ihrem C++-Code beschrieben.
Vorkompilierte gemeinsam genutzte LiteRT-Laufzeitbibliothek herunterladen
Laden Sie die gemeinsam genutzte LiteRT-Laufzeitbibliothek über die folgenden Links herunter:
| Plattform | Version | LiteRT-Laufzeitbibliothek |
|---|---|---|
| android_arm64 | 2.1.3 | libLiteRt.so |
| android_x86_64 | 2.1.3 | libLiteRt.so |
| linux_x86_64 | 2.1.3 | libLiteRt.so |
| linux_arm64 | 2.1.3 | libLiteRt.so |
| macos_arm64 | 2.1.3 | libLiteRt.dylib |
| windows_x86_64 | 2.1.3 | libLiteRt.dll |
Vorkompilierte GPU-Beschleuniger herunterladen
Wenn Sie eine GPU-Beschleunigung benötigen, brauchen Sie einen GPU-Beschleuniger. Da dieser noch nicht als Open Source verfügbar ist, müssen Sie vorkompilierte Versionen herunterladen.
Hier sind die verfügbaren GPU-Beschleuniger.
| Plattform | Version | GPU-Beschleuniger | Backend |
|---|---|---|---|
| android_arm64 | 2.1.3 | libLiteRtClGlAccelerator.so | OpenCL + OpenGL |
| android_x86_64 | 2.1.3 | libLiteRtClGlAccelerator.so | OpenCL + OpenGL |
| linux_x86_64 | 2.1.3 | libLiteRtWebGpuAccelerator.so | WebGPU (Vulkan) |
| linux_arm64 | 2.1.3 | libLiteRtWebGpuAccelerator.so | WebGPU (Vulkan) |
| macos_arm64 | 2.1.3 | libLiteRtMetalAccelerator.dylib | Metal |
| windows_x86_64 | 2.1.3 | libLiteRtWebGpuAccelerator.dll | WebGPU (Direct3D) |
Vorkompilierte LiteRT-C++-Bibliothek vorbereiten
Wählen Sie einen Ordner zum Hosten des LiteRT-C++-SDK aus. Wir bezeichnen ihn als
<litert_cc_sdk_location>.
C++-SDK herunterladen
Sie müssen die erforderlichen Dateien (CMakeLists.txt, Quell- und Header dateien) aus der ZIP-Datei des LiteRT-C++-SDK unter
<litert_cc_sdk_location>vorbereiten.wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>Platzieren Sie die heruntergeladene Datei
libLiteRt.sounter<litert_cc_sdk_location>.cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/Bibliothek und Tool
run_model_simpleerstellen.Für die Erstellung von LiteRT ist
clangerforderlich. Konfigurieren Sie das C++-SDK und die Build-Tools wie folgt:cd <litert_cc_sdk_location> cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++ cmake --build litert_cc_sdk_build -j
Vorkompilierte LiteRT-C++-Bibliothek einbinden
Aktualisieren Sie
CMakeLists.txt, um die LiteRT-API zu verwenden.add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build") include_directories("<litert_cc_sdk_location>") target_link_libraries(${CMAKE_PROJECT_NAME} # Use `litert_cc_api` for LiteRT C++ SDK litert_cc_api android log)