Lo strumento AI Edge Torch Generative
tramite Google Cloud
è una libreria ottimizzata per dispositivi mobili che consente di convertire i modelli PyTorch basati su trasformatore in
LiteRT, che consente di convertire modelli linguistici di grandi dimensioni (LLM) per
la generazione di immagini e testo sul dispositivo tramite LiteRT e MediaPipe. L'API generativa di AI Edge Torch attualmente è solo CPU, con supporto pianificato per GPU e NPU.
Gli sviluppatori di app mobile possono utilizzare l'API Edge Generative per integrare gli LLM PyTorch
con MediaPipe LLM Inference
API per creare app
eseguire i modelli PyTorch convertiti completamente sul dispositivo.
[[["Facile da capire","easyToUnderstand","thumb-up"],["Il problema è stato risolto","solvedMyProblem","thumb-up"],["Altra","otherUp","thumb-up"]],[["Mancano le informazioni di cui ho bisogno","missingTheInformationINeed","thumb-down"],["Troppo complicato/troppi passaggi","tooComplicatedTooManySteps","thumb-down"],["Obsoleti","outOfDate","thumb-down"],["Problema di traduzione","translationIssue","thumb-down"],["Problema relativo a esempi/codice","samplesCodeIssue","thumb-down"],["Altra","otherDown","thumb-down"]],["Ultimo aggiornamento 2024-09-05 UTC."],[],[]]
