Die Generative AI Edge Torch
API
ist eine für Mobilgeräte optimierte Bibliothek, mit der Transformator-basierte PyTorch-Modelle in
das LiteRT-Format an, mit dem Sie Large Language Models (LLMs) für
Bild- und Textgenerierung mit LiteRT und MediaPipe auf dem Gerät Die generative API von AI Edge Torch ist derzeit nur für CPU-Ressourcen verfügbar und wird von geplanten GPUs und NPUs unterstützt.
Entwickler mobiler Apps können die Edge Generative API verwenden, um PyTorch-LLMs zu integrieren.
mit der MediaPipe LLM Inference
API zum Erstellen von Apps verwenden, die
um diese umgewandelten PyTorch-Modelle
vollständig auf dem Gerät auszuführen.
[[["Leicht verständlich","easyToUnderstand","thumb-up"],["Mein Problem wurde gelöst","solvedMyProblem","thumb-up"],["Sonstiges","otherUp","thumb-up"]],[["Benötigte Informationen nicht gefunden","missingTheInformationINeed","thumb-down"],["Zu umständlich/zu viele Schritte","tooComplicatedTooManySteps","thumb-down"],["Nicht mehr aktuell","outOfDate","thumb-down"],["Problem mit der Übersetzung","translationIssue","thumb-down"],["Problem mit Beispielen/Code","samplesCodeIssue","thumb-down"],["Sonstiges","otherDown","thumb-down"]],["Zuletzt aktualisiert: 2024-09-05 (UTC)."],[],[]]
