AI Edge Torch Generative
API
adalah library yang dioptimalkan untuk seluler guna mengonversi model PyTorch berbasis transformator
format LiteRT, yang memungkinkan Anda mengonversi Model Bahasa Besar (LLM) untuk
pembuatan gambar dan teks di perangkat dengan LiteRT dan MediaPipe. AI Edge Torch Generative API saat ini khusus untuk CPU, dengan dukungan GPU dan NPU terencana.
Developer aplikasi seluler dapat menggunakan Edge Generative API untuk mengintegrasikan LLM PyTorch
dengan teknik Inferensi LLM MediaPipe
API untuk membuat aplikasi yang
menjalankan model PyTorch yang
dikonversi tersebut sepenuhnya di perangkat.
Untuk mengetahui informasi selengkapnya, lihat Generative Torch API GitHub
repo Anda.
[[["Mudah dipahami","easyToUnderstand","thumb-up"],["Memecahkan masalah saya","solvedMyProblem","thumb-up"],["Lainnya","otherUp","thumb-up"]],[["Informasi yang saya butuhkan tidak ada","missingTheInformationINeed","thumb-down"],["Terlalu rumit/langkahnya terlalu banyak","tooComplicatedTooManySteps","thumb-down"],["Sudah usang","outOfDate","thumb-down"],["Masalah terjemahan","translationIssue","thumb-down"],["Masalah kode / contoh","samplesCodeIssue","thumb-down"],["Lainnya","otherDown","thumb-down"]],["Terakhir diperbarui pada 2024-09-05 UTC."],[],[]]
