في سير عمل الذكاء الاصطناعي النموذجي، قد تُمرِّر علامات إدخال البيانات نفسها مرارًا وتكرارًا إلى نموذج. باستخدام ميزة التخزين المؤقت للسياق في Gemini API، يمكنك تمرير بعض المحتوى إلى النموذج مرة واحدة وتخزين الرموز المميّزة للدخل مؤقتًا، ثم الرجوع إلى الرموز المميّزة المخزّنة مؤقتًا للطلبات اللاحقة. عند استخدام أعداد معيّنة من الرموز المميّزة، يكون استخدام الرموز المميّزة المخزّنة مؤقتًا أقل تكلفة مقارنةً بإدخال مجموعة الرموز المميّزة نفسها بشكل متكرّر.
عند تخزين مجموعة من الرموز المميّزة في ذاكرة التخزين المؤقت، يمكنك اختيار المدة التي تريد خلالها بقاء ذاكرة التخزين المؤقت متوفّرة قبل حذف الرموز المميّزة تلقائيًا. تُعرف مدة التخزين المؤقت هذه باسم مدة البقاء (TTL). وفي حال عدم ضبطها، تكون مدة البقاء التلقائية هي ساعة واحدة. تعتمد تكلفة التخزين المؤقت على حجم الرمز المميّز الذي يتم إدخاله ومدة الاحتفاظ بالرموز المميّزة.
تتيح ميزة "تخزين السياق في ذاكرة التخزين المؤقت" استخدام كلّ من Gemini 1.5 Pro وGemini 1.5 Flash.
حالات استخدام ميزة "تخزين السياق في ذاكرة التخزين المؤقت"
تُعدّ ميزة "تخزين السياق في ذاكرة التخزين المؤقت" مناسبة بشكلٍ خاص للسيناريوهات التي تتم فيها الإشارة بشكل متكرر إلى سياق أولي أساسي من خلال طلبات أقصر. ننصحك باستخدام التخزين المؤقت للسياق في حالات الاستخدام التالية:
- روبوتات الدردشة التي تتضمّن تعليمات النظام المفصّلة
- التحليل المتكرّر لملفات فيديو طويلة
- الاستعلامات المتكرّرة في مجموعات كبيرة من المستندات
- تحليل مستودع الرموز البرمجية أو إصلاح الأخطاء بشكل متكرّر
كيفية تقليل ميزة التخزين المؤقت للتكاليف
ميزة "تخزين السياق في ذاكرة التخزين المؤقت" هي ميزة مدفوعة مصمّمة لخفض التكاليف التشغيلية الإجمالية. تستند الفوترة إلى العوامل التالية:
- عدد الرموز المميّزة المخزّنة مؤقتًا: عدد الرموز المميّزة التي تم تخزينها مؤقتًا، ويتمّ تحصيل رسومها بسعر منخفض عند تضمينها في طلبات لاحقة.
- مدة التخزين: هي المدة التي يتم فيها تخزين الرموز المميّزة المخزّنة مؤقتًا (مدة البقاء)، ويُحصَّل سعرها استنادًا إلى مدة مدة البقاء لعدد الرموز المميّزة المخزّنة مؤقتًا. ما مِن حدود أدنى أو أقصى لوقت الاسترجاع.
- عوامل أخرى: يتم تطبيق رسوم أخرى، مثل رسوم الرموز المميّزة للدخل وعدم تخزينها مؤقتًا والرموز المميّزة للإخراج.
للاطّلاع على تفاصيل الأسعار المحدّثة، يُرجى الرجوع إلى صفحة أسعار Gemini API. للتعرّف على كيفية احتساب الرموز المميّزة، اطّلِع على دليل الرموز المميّزة.
كيفية استخدام ميزة "تخزين السياق في ذاكرة التخزين المؤقت"
يفترض هذا القسم أنّك ثبّت حزمة تطوير برامج Gemini SDK (أو ثبّت curl) وأنّك أعددت مفتاح واجهة برمجة التطبيقات، كما هو موضّح في الخطوات المُبسّطة.
اعتبارات أخرى
يجب مراعاة النقاط التالية عند استخدام ميزة "تخزين السياق في ذاكرة التخزين المؤقت":
- الحد الأدنى لعدد الرموز المميّزة للدخل لتخزين السياق في ذاكرة التخزين المؤقت هو 32,768، والحد الأقصى هو نفسه الحد الأقصى للنموذج المحدّد. (لمزيد من المعلومات عن احتساب الرموز المميّزة، يُرجى الاطّلاع على دليل الرموز المميّزة).
- لا يُميّز النموذج بين الرموز المخزّنة مؤقتًا والرموز العادية لرموز الإدخال. المحتوى المخزّن مؤقتًا هو مجرد بادئة للطلب.
- لا تُفرض أي حدود خاصة على معدّل التخزين المؤقت للسياق أو على معدّل الاستخدام، بل تُطبَّق حدود المعدّل العادي
GenerateContent، وتشمل حدود الرموز المميّزة الرموز المميّزة المخزّنة مؤقتًا. - يتم عرض عدد الرموز المميّزة المخزّنة مؤقتًا في
usage_metadataمن عمليات إنشاء و"الحصول على" و"عرض" خدمة ذاكرة التخزين المؤقت، وكذلك فيGenerateContentعند استخدام ذاكرة التخزين المؤقت.