LiteRT-LM দিয়ে ডিভাইসে LLM চালান
এজ ডিভাইসে উচ্চ-পারফরম্যান্স সম্পন্ন ও ক্রস-প্ল্যাটফর্ম এলএলএম ডেপ্লয়মেন্ট প্রদানের জন্য ডিজাইন করা একটি প্রোডাকশন-রেডি, ওপেন-সোর্স ইনফারেন্স ফ্রেমওয়ার্ক।
স্পটলাইট
LiteRT-LM সহ Chrome, Chromebook Plus, এবং Pixel Watch-এ ডিভাইসেই GenAI।
LiterRT-LM কেন?
ক্রস-প্ল্যাটফর্ম
অ্যান্ড্রয়েড, আইওএস, ওয়েব এবং ডেস্কটপ জুড়ে এলএলএম স্থাপন করুন।
হার্ডওয়্যার ত্বরান্বিত হয়েছে
GPU এবং NPU ত্বরণের মাধ্যমে কর্মক্ষমতা সর্বাধিক করুন।
বিস্তৃত GenAI ক্ষমতা
জনপ্রিয় LLM-এর পাশাপাশি মাল্টি-মোডালিটি (ভিশন, অডিও) এবং টুল ব্যবহারের জন্য সমর্থন।
নির্মাণ শুরু করুন
ব্লগ এবং ঘোষণা
ক্রোম, ক্রোমবুক প্লাস এবং পিক্সেল ওয়াচে ডিভাইসে থাকা GenAI
LiteRT-LM ব্যবহার করে পরিধানযোগ্য ডিভাইস এবং ব্রাউজার-ভিত্তিক প্ল্যাটফর্মে বৃহৎ পরিসরে ল্যাঙ্গুয়েজ মডেল স্থাপন করুন।
গুগল এআই এজ গ্যালারিতে ডিভাইসে ফাংশন কলিং
কীভাবে FunctionGemma-কে সূক্ষ্মভাবে সমন্বয় করা যায় এবং LiteRT-LM টুলের API ব্যবহার করে ফাংশন কল করার ক্ষমতা সক্রিয় করা যায়, তা জানুন।
গুগল এআই এজ ক্ষুদ্র ভাষা মডেল, মাল্টিমোডালিটি এবং ফাংশন কলিং
এজ ল্যাঙ্গুয়েজ মডেলের জন্য RAG, মাল্টিমোডালিটি এবং ফাংশন কলিং বিষয়ে সর্বশেষ তথ্য।
কমিউনিটিতে যোগদান করুন
গিটহাবে LiteRT-LM
ওপেন-সোর্স প্রকল্পে অবদান রাখুন, সমস্যা জানান এবং উদাহরণ দেখুন।
আলিঙ্গন মুখ
পূর্বে রূপান্তরিত মডেলগুলি ডাউনলোড করুন এবং আলোচনায় যোগ দিন।