الرئيسيةالدليل
تم التحديث
نافذة سياق وكيل الذكاء الاصطناعي: كيف تُستخدم 100 ألف رمز
تمثل نافذة سياق وكيل الذكاء الاصطناعي مساحة الرموز الإجمالية المشتركة بين الموجّه، ونتائج الأدوات، وإجابة النموذج. في هذه الـ API، تبلغ هذه المساحة 100,000 رمز، ويميل الوكلاء طويلو التشغيل إلى ملئها بسرعة أكبر من المتوقع.

نقاط رئيسية
- تغطي نافذة 100,000 رمز الموجّه بالإضافة إلى الإكمال، لذا فإن كل نتيجة أداة تحتفظ بها تقلل من المساحة المتاحة للإجابة التالية.
- في حلقة الوكيل، يتم إعادة إرسال التاريخ الكامل في كل خطوة، لذا ينمو إجمالي المدخلات مع مربع عدد الخطوات، وليس خطيًا.
- قم بقص مخرجات الأدوات القديمة أولاً، واحتفظ بالموجّه النظامي وأحدث المناوبات، وقيس ذلك باستخدام حقل الاستخدام.
- تتكلف حلقة مكونة من 20 خطوة مع 1,500 رمز جديد لكل خطوة حوالي $0.055 في المجموع.
لا حاجة لبطاقة. بعد التسجيل، احصل على $0.50 من رصيد الاختبار المجاني بنقرة واحدة (مرة واحدة لكل شخص).
احصل على مفتاح APIالإجابة المختصرة: ميزانية مشتركة واحدة مكونة من 100,000 رمز
عندما يبحث الناس عن نافذة سياق وكيل الذكاء الاصطناعي، يريدون عادةً معرفة مقدار ما يمكن للوكيل تذكره قبل أن يحدث خطأ. هنا الرقم هو 100,000 رمز، ويشمل كل شيء: الموجّه النظامي، تعريفات الأدوات، كل الرسائل السابقة، كل نتائج الأدوات، والإكمال الذي على النموذج كتابته. يمكن للإكمال استخدام ما تبقى، وmax_tokens اختياري.
هذا يجعل النافذة ميزانية، وليس مساحة تخزين. نادراً ما يقترب روبوت الدردشة من الحد. الوكيل الذي يستدعي الأدوات في حلقة يمكنه الوصول إليها في فترة بعد الظهر، لأن كل خطوة تضيف رسالة نموذج ونتيجة أداة إلى السجل، ويتم إعادة إرسال السجل بأكمله في الاستدعاء التالي. النموذج لا يملك ذاكرة بين الطلبات. ما يبدو وكأنه ذاكرة هو إعادة إرسال المحادثة.
ما الذي يملأ نافذة السياق فعليًا في وكيل
معظم المساحة لا تشغلها نصوص المستخدم. تتبع هذه المصادر الخمسة ويمكنك التنبؤ بمكان نفاد المساحة في التنفيذ.
- موجّه النظام. القواعد والشخصية وتنسيق المخرجات. غالبًا ما يتراوح بين 500 و2,000 رمز (token) ويُرسَل في كل استدعاء.
- تعريفات الأدوات. كل اسم دالة ووصف ومخطط JSON يُحتسب. عشر أدوات مع أوصاف طويلة قد تكلف عدة آلاف من الرموز (tokens) قبل أول رسالة من المستخدم.
- نتائج الأدوات. السبب المعتاد. نتيجة بحث، أو تفريغ ملف، أو صف قاعدة بيانات قد تكون آلاف الرموز (tokens)، وتبقى في السجل ما لم تقم بإزالتها.
- رسائل المساعد. التفكير المكتوب نصيًا وحجج
tool_callsالتي أنتجها النموذج. - الرد الذي يتم توليده. يحتاج مساحة أيضًا. إذا كان الموجّه يحتوي على 99,000 رمز (token)، يتبقى للرد حوالي 1,000 رمز (token).
تُبلغ واجهة برمجة التطبيقات بأرقام دقيقة في كتلة usage في كل استجابة، لذا لا داعي للتخمين. سجّل prompt_tokens بعد كل خطوة وستلاحظ المنحنى.
مثال عملي: 20 خطوة من حلقة أداة
خذ وكيلًا يبدأ بـ 3,000 رمز (token) (موجّه النظام زائد تعريفات الأدوات). تضيف كل خطوة حوالي 1,500 رمز (token) إلى السجل: استدعاء الأداة من النموذج ونتيجة الأداة. كما يكتب حوالي 300 رمز (token) من المخرجات لكل خطوة. يعمل الوكيل لمدة 20 خطوة.
الإدخال في الخطوة k هو 3,000 + 1,500 × (k − 1). مجموعها على 20 خطوة:
- 3,000 × 20 = 60,000 رمز (token) للبداية الثابتة، تُعاد إرسالها في كل مرة.
- 1,500 × (0 + 1 + ... + 19) = 1,500 × 190 = 285,000 رمز (token) من السجل المتراكم.
- إجمالي الإدخال: 345,000 رمز (token). إجمالي المخرجات: 20 × 300 = 6,000 رمز (token).
| العنصر | الرموز | السعر لكل 1M | التكلفة |
|---|---|---|---|
| مدخل | 345,000 | $0.15 | $0.05175 |
| مخرج | 6,000 | $0.50 | $0.003 |
| المجموع | حوالي $0.055 |
شيئان يبرزان. أولاً، السياق في الخطوة 20 هو 3,000 + 1,500 × 19 = 31,500 رمز (token)، وهو داخل نافذة السياق بوضوح، ومع ذلك دفعت مقابل 345,000 رمز (token) للإدخال، لأن السجل أُعيد إرساله في كل مرة. ثانيًا، استدعاء واحد مع نافذة ممتلئة تمامًا (100,000 رمز (token) للإدخال) يكلف 100,000 × $0.15 / 1M = $0.015 من جانب الإدخال. السياقات الطويلة ميسورة التكلفة لكل استدعاء؛ التكلفة تأتي من تكرارها عبر خطوات متعددة. انظر صفحة التسعير لمعرفة الأسعار ومكافآت شحن الرصيد.
كم خطوة تتسع قبل أن تمتلئ النافذة
يمكنك تقدير ذلك قبل كتابة أي كود. احتفظ باحتياطي للرد، لنقل 20,000 رمز (token)، مما يترك ميزانية بـ 80,000 رمز (token) للموجّه. مع بداية بـ 3,000 رمز (token) وإضافة 1,500 رمز (token) لكل خطوة، يصل السجل إلى هذه الميزانية بعد (80,000 − 3,000) / 1,500، أو حوالي 51 خطوة.
الآن احسب تكلفة تشغيل بهذا الطول. على مدى 51 خطوة، يكون الإدخال 3,000 × 51 + 1,500 × (0 + 1 + ... + 50) = 153,000 + 1,500 × 1,275 = 153,000 + 1,912,500 = 2,065,500 رمز (token). المخرجات بمعدل 300 رمز (token) لكل خطوة هي 15,300 رمز (token). التكلفة: 2,065,500 × $0.15 / 1M = $0.30983، زائد 15,300 × $0.50 / 1M = $0.00765، أي حوالي $0.32.
قارن ذلك بتنفيذ الـ 20 خطوة بتكلفة حوالي $0.055. التنفيذ أطول بـ 2.55 مرة لكنه يكلف حوالي 5.8 مرات أكثر، لأن كل خطوة تحمل سجلًا أطول. هذا هو السبب العملي لقص السجل: فهو يحد من التكلفة لكل خطوة ويحمي النافذة.
إبقاء الوكيل داخل النافذة
حذف مخرجات الأدوات القديمة أولاً
نتائج الأدوات الخام هي الجزء الأكبر والأقل فائدة في السجل القديم. بمجرد أن يتصرف النموذج بناءً على قائمة ملفات، نادرًا ما يحتاج إلى القائمة مرة أخرى. استبدل النتائج القديمة بعبارة مختصرة مثل "تم إزالة النتيجة، 4,200 رمز (token)"، أو احذف الزوج بالكامل.
لخّص الوسط، مع الحفاظ على الطرفين
احتفظ بالموجّه النظامي وآخر بضعة أدوار حرفياً. بالنسبة لكل شيء بينهما، اطلب من النموذج ملخصاً قصيراً للقرارات التي اتخذها والحقائق التي وجدها، ثم احفظ ذلك الملخص كرسالة واحدة. نفّذ استدعاء التلخيص قبل أن تصل إلى الحدّ، وليس بعده.
أخرج الحقائق من سجل المحادثة
إذا تعلم الوكيل شيئًا يجب أن يحتفظ به لساعات، فاحفظه في ملف أو قاعدة بيانات صغيرة عبر أداة، ثم اقرأه عند الحاجة. هذا أرخص من حمله في كل طلب وينجو من عمليات إعادة التشغيل.
حافظ على مخططات الأدوات قصيرة
اختصر الأوصاف بما يحتاجه النموذج لاختيار الأداة. مرر فقط الأدوات ذات الصلة بالمرحلة الحالية من المهمة.
كود: حلقة أداة مع ميزانية رموز
تقوم هذه الحلقة بتقصير أقدم الرسائل عندما يتجاوز الحجم التقديري ميزانية قدرها 80,000 رمز، تاركاً مساحة للإجابة. يتم تقدير الحجم بقسمة عدد الأحرف على أربعة، وهو تقريب شائع للنصوص الإنجليزية؛ يأتي العدد الفعلي في usage. يؤدي التقصير إلى إزالة رسائل tool اليتيمة بحيث لا تظهر نتيجة بدون استدعاء لها.
import json, os
from openai import OpenAI
client = OpenAI(base_url="https://api.aivideogenapi.com/v1", api_key=os.environ["API_KEY"])
BUDGET = 80_000
tools = [{"type": "function", "function": {
"name": "get_scene_length",
"description": "Return the length of a scene in seconds",
"parameters": {"type": "object",
"properties": {"scene": {"type": "integer"}},
"required": ["scene"]}}}]
def rough_tokens(messages):
return sum(len(json.dumps(m)) for m in messages) // 4
def trim(messages):
system, rest = messages[0], messages[1:]
while rough_tokens([system] + rest) > BUDGET and len(rest) > 4:
rest.pop(0)
while rest and rest[0]["role"] == "tool":
rest.pop(0)
return [system] + rest
def run_tool(name, args):
return json.dumps({"seconds": 4 * args["scene"]}) # stub
messages = [
{"role": "system", "content": "You plan video scenes. Use tools for lengths."},
{"role": "user", "content": "Total the length of scenes 1 to 5."},
]
for step in range(20):
resp = client.chat.completions.create(
model="uncensored", messages=trim(messages), tools=tools)
msg = resp.choices[0].message
messages.append(msg.model_dump(exclude_none=True))
print(step, resp.usage.prompt_tokens)
if not msg.tool_calls:
print(msg.content)
break
for call in msg.tool_calls:
result = run_tool(call.function.name, json.loads(call.function.arguments))
messages.append({"role": "tool", "tool_call_id": call.id, "content": result})
يتبع استدعاء الدوال تنسيق OpenAI: tools، وtool_choice، مع إرجاع النتائج بصيغة role: "tool". تسرد المستندات المعاملات التي تُمرَّر كما هي.
الحدود المهمة بخلاف نافذة السياق
تُعد هذه النافذة قيداً واحداً. يواجه الوكلاء أيضاً حدود الطلبات. يسمح المفتاح الكامل بـ 8 طلبات متزامنة و300 طلب في الدقيقة؛ بينما يسمح المفتاح التجريبي بـ 2 و60. يمكن لحلقة ضيقة مع وكلاء فرعيين متزامنين تجاوز حدّ التوازي بسرعة. تجيب الـ API برمز HTTP 429 ورمز الخطأ concurrency أو rate_limited، وعلى الحمل الزائد المؤقت برأس Retry-After: 5. انتظر هذه المدة ثم أعد المحاولة.
إذا كنت تستخدم البث المتدفق، فتذكر أن الطلب المتدفق يحتفظ بمكان التزامن الخاص به حتى ينتهي البث. العميل المتوقف الذي لا يغلق البث يظل محتفظاً بمكان نشط.
الحد الأقصى لجسم الطلب هو 8 ميجابايت، وهو أكثر بكثير من نص بطول 100,000 رمز، لذا فإن نافذة السياق هي الحد الذي ستصل إليه أولاً. لمثال على خط أنابيب على هذه الـ API للنص فقط، انظر إلى دليل نص الفيديو. عندما تكون جاهزًا للتشغيل، أنشئ مفتاح API؛ يمكن للمستخدمين الجدد الحصول على رصيد تجريبي بقيمة $0.50 بنقرة واحدة، صالح لمدة 7 أيام ودون الحاجة إلى دفع.
المزيد من الأدلة
أسئلة وأجوبة
ما حجم نافذة السياق؟
100,000 رمز، بحساب الموجّه والإكمال معًا. يمكن أن يستخدم الإكمال كل ما يتركه الموجّه حرًا.
هل يتذكر النموذج الطلبات السابقة؟
لا. كل طلب مستقل، لذا يجب على الكود إعادة إرسال الرسائل التي يريد النموذج رؤيتها.
ماذا يحدث عندما أتجاوز الحد؟
لا يتسع الطلب، لذا قم بتقليص أو تلخيص السجل قبل الإرسال. الطلبات الفاشلة لا تُحسب.
كيف أحسب الرموز؟
اقرأ prompt_tokens و completion_tokens من كتلة usage في كل استجابة، أو استخدم تقديرًا تقريبيًا بأربعة أحرف لكل رمز للغة الإنجليزية قبل الإرسال.
مفتاحك على بُعد استمارة واحدة
أنشئ حساباً، وانسخ المفتاح، ثم غيّر URL الأساسي. هذه هي الإعدادات الكاملة.