اختر نموذج الذكاء الاصطناعي الذي يدير جلسات التصحيح

يحتاج StatusRivet إلى نموذج للتفكير، وأنت تقرر مكانه: مزود ذكاء اصطناعي سحابي عبر نقطة نهاية API قياسية، أو نموذج يعمل على جهازك، أو النموذج المدمج. تشرح هذه الصفحة الخيارات الثلاثة وكيفية اختبار الاتصال.

ثلاثة أماكن لتشغيل النموذج

مزود ذكاء اصطناعي سحابي

يناسب المزود السحابي قواعد الشفرة الكبيرة والسجلات الطويلة. أدخل نقطة نهاية API قياسية ومفتاحك. يبقى المفتاح محليًا. تُرسل كل مطالبة إلى المزود الذي اخترته، بما في ذلك نص أي ملف أو سجل يقرأه الوكيل لهذه الخطوة، لذا اقرأ سياسة المزود الخاصة قبل إرسال شفرة المصدر غير العامة. احتفظ بالعمل ضمن البرامج التي كتبتها أو مخول لك تصحيحها. قد يفرض المزود رسومًا على الاستخدام وفقًا لشروطه الخاصة، وStatusRivet مستقل عن كل مزود. اختره عندما تحتاج سجلاتك وملفات المصدر إلى نافذة سياق كبيرة.

نموذج على جهازك

يناسب النموذج الذي يعمل على جهازك الشفرة التي لا يمكنك إرسالها إلى أي مكان. يقوم جهازك بالعمل. وجّه StatusRivet إلى نقطة النهاية المحلية، وتذهب المطالبات إلى جهازك، لذا لا يغادر شيء منه. المقايضة هي العتاد: تعتمد السرعة ونافذة السياق على ما يمكن لجهازك تشغيله، وقد لا يتسع سجل طويل. استخدم زر الاختبار لمعرفة حجم النافذة قبل جلسة طويلة. تحديث أو تبديل النموذج من مسؤولياتك. يناسب آلات المختبرات والسائقين غير المنشورين جيدًا، طالما تقبل هذه الحدود.

النموذج المدمج

النموذج المدمج جاهز للاستخدام دون نقطة نهاية خاصة بك، لذا فهو أقصر مسار من التثبيت إلى أول محادثة. لا حاجة لنقطة نهاية. استخدمه لتجربة أوضاع الموافقة، وقراءة سجل قصير، ورؤية شكل بطاقة الاختلاف قبل إعداد أي شيء آخر. عندما تتطلب المهمة المزيد، اتصل بمزود ذكاء اصطناعي سحابي أو نموذج على جهازك وشغّل نفس المحادثة مرة أخرى لمقارنة الإجابات. راجع كل اختلاف بنفس الطريقة، بغض النظر عن النموذج الذي كتبها.

اختبر الاتصال قبل جلسة طويلة

اضغط على زر الاختبار بجانب نقطة نهاية لمحاولة الاتصال. يعرض النتيجة زمن الاستجابة ونافذة السياق لهذا النموذج. يخبرك زمن الاستجابة عما إذا كانت نقطة النهاية ترد بسرعة يمكنك العمل بها. تخبرك نافذة السياق بكمية السجل أو ملف المصدر التي تتسع لطلب واحد، وهو أمر مهم عندما تكون مكدس المكالمات الطويل جزءًا من المطالبة. أعد تشغيل الاختبار بعد تغيير نقطة النهاية أو النموذج. يشير الاختبار الفاشل إلى الاتصال، وليس إلى شفرة المصدر. أصلح ذلك أولاً.

اختر حجم النموذج للمهمة

استخدم نموذجًا أكبر للاستدلال الصعب، مثل تتبع عطل عبر عدة وحدات أو مراجعة تغيير أكبر، ونموذجًا أصغر للتعديلات الصغيرة مثل إضافة فحص القيمة الفارغة. تتيح المهارة run_on_model للوكيل إرسال خطوة صعبة واحدة إلى نموذج أكبر بينما تبقى باقي الجلسة على النموذج الأصغر. هذا يبقي الخطوات الروتينية على النموذج الأصغر بينما تحصل الخطوة الصعبة على سعة أكبر. اختر حسب المهمة، وليس حسب العادة، واستخدم زر الاختبار لمقارنة نوافذ السياق قبل إدخال سجل تعطل طويل. ضع السجل في المقام الأول.

تختلف جودة النماذج بين المزودين والإصدارات، لذا عامل كل إجابة كمسودة. المسودات تحتاج مراجعة. اقرأ الاختلاف، أعد البناء بأمرك، وشغّل أمر الاختبار قبل الاحتفاظ بالتغيير. Ask first يتوقف قبل الإجراءات التي تغير شيئًا، مما يمنحك مكانًا للتوقف والقراءة. Plan only يكتب خطة ولا يشغل شيئًا، وهو مفيد عندما تريد رؤية الخطوات قبل التبديل إلى Auto-run أو Ask first. يعمل الوكيل من مخرجات نصية، لذا تكون النتيجة جيدة فقط بقدر السجلات التي تقدمها.