अपने डिबगिंग सत्रों को संचालित करने वाले AI मॉडल को चुनें

StatusRivet को सोचने के लिए एक मॉडल की आवश्यकता होती है, और आप यह तय करते हैं कि वह कहाँ रहेगा: एक मानक API एंडपॉइंट के माध्यम से एक क्लाउड AI प्रदाता, आपके पीसी पर चलने वाला एक मॉडल, या इनबिल्ट मॉडल। यह पृष्ठ तीन विकल्पों और कनेक्शन का परीक्षण कैसे करें, इसकी व्याख्या करता है।

मॉडल चलाने के तीन स्थान

क्लाउड AI प्रदाता

एक क्लाउड AI प्रदाता बड़े कोडबेस और लंबे लॉग्स के लिए उपयुक्त है। आप एक मानक API एंडपॉइंट और अपनी कुंजी दर्ज करते हैं। कुंजी स्थानीय रहती है। प्रत्येक प्रॉम्प्ट उस प्रदाता को जाता है जिसे आपने चुना है, जिसमें एजेंट द्वारा उस चरण के लिए पढ़े गए किसी भी फ़ाइल या लॉग का पाठ भी शामिल है, इसलिए सार्वजनिक नहीं स्रोत कोड भेजने से पहले प्रदाता की अपनी नीति पढ़ें। कार्य उस सॉफ़्टवेयर तक सीमित रखें जिसे आपने लिखा है या जिसका डीबग करने के लिए अधिकृत हैं। प्रदाता अपनी शर्तों के तहत उपयोग के लिए शुल्क लगा सकता है, और StatusRivet प्रत्येक प्रदाता से स्वतंत्र है। जब आपके लॉग और स्रोत फ़ाइलों को बड़े संदर्भ विंडो की आवश्यकता हो, तो इसे चुनें।

आपके पीसी पर मॉडल

आपके पीसी पर चलने वाला मॉडल उन कोड के लिए उपयुक्त है जिसे कहीं नहीं भेजा जा सकता। आपका पीसी काम करता है। StatusRivet को स्थानीय एंडपॉइंट की ओर इशारा करें और प्रॉम्प्ट्स आपकी अपनी मशीन पर जाते हैं, इसलिए कुछ भी बाहर नहीं जाता। ट्रेड-ऑफ हार्डवेयर है: गति और संदर्भ विंडो इस बात पर निर्भर करती है कि आपका पीसी क्या चला सकता है, और एक लंबा लॉग फिट नहीं हो सकता। एक लंबे सत्र से पहले विंडो देखने के लिए Test बटन का उपयोग करें। मॉडल को अपडेट या बदलना आपका काम है। यह लैब मशीनों और अप्रकाशित ड्राइवरों के लिए अच्छा फिट बैठता है, जब तक कि आप उन सीमाओं को स्वीकार करते हैं।

इनबिल्ट मॉडल

इनबिल्ट मॉडल बिना आपके अपने एंडपॉइंट के उपयोग के लिए तैयार है, इसलिए यह इंस्टॉलेशन से पहले चैट तक का सबसे छोटा मार्ग है। किसी एंडपॉइंट की आवश्यकता नहीं है। approval मोड को आज़माने, एक छोटे लॉग को पढ़ने और कुछ और सेटअप करने से पहले यह देखने के लिए कि एक diff कार्ड कैसा दिखता है, इसका उपयोग करें। जब एक कार्य को और अधिक की आवश्यकता हो, तो एक क्लाउड AI प्रदाता या अपने पीसी पर एक मॉडल कनेक्ट करें और उत्तरों की तुलना करने के लिए वही चैट फिर से चलाएं। किसी भी मॉडल द्वारा लिखे गए diff की समीक्षा उसी तरह करें।

लंबे सत्र से पहले कनेक्शन का परीक्षण करें

कनेक्शन आज़माने के लिए एक एंडपॉइंट के बगल में Test बटन दबाएं। परिणाम उस मॉडल की प्रतिक्रिया समय और संदर्भ विंडो दिखाता है। प्रतिक्रिया समय आपको बताता है कि क्या एंडपॉइंट उस गति से उत्तर दे रहा है जिससे आप काम कर सकते हैं। संदर्भ विंडो आपको बताती है कि एक लॉग या स्रोत फ़ाइल का कितना हिस्सा एक अनुरोध में फिट बैठता है, जो महत्वपूर्ण है जब एक लंबा कॉल स्टैक प्रॉम्प्ट का हिस्सा होता है। एंडपॉइंट या मॉडल बदलने के बाद परीक्षण फिर से चलाएं। एक विफल परीक्षण कनेक्शन की ओर इशारा करता है, न कि आपके कोड की ओर। पहले उसे ठीक करें।

कार्य के लिए मॉडल का आकार चुनें

कठिन तर्क के लिए बड़ा मॉडल उपयोग करें, जैसे कई मॉड्यूल के माध्यम से किसी दोष को ट्रैक करना या एक बड़े बदलाव की समीक्षा करना, और छोटे संपादन जैसे एक null चेक जोड़ने के लिए एक छोटा मॉडल उपयोग करें। run_on_model कौशल एजेंट को एक कठिन चरण को एक बड़े मॉडल पर भेजने की अनुमति देता है, जबकि सत्र का बाकी हिस्सा छोटे मॉडल पर रहता है। यह रूटीन चरणों को छोटे मॉडल पर रखता है जबकि कठिन चरण को अधिक क्षमता प्रदान करता है। आदत के बजाय कार्य के आधार पर चुनें, और एक लंबे क्रैश लॉग डालने से पहले संदर्भ विंडो की तुलना करने के लिए Test बटन का उपयोग करें। लॉग को पहले फिट करें।

प्रदाताओं और संस्करणों के बीच मॉडल की गुणवत्ता भिन्न होती है, इसलिए प्रत्येक उत्तर को एक ड्राफ्ट के रूप में मानें। ड्राफ्ट्स की समीक्षा की आवश्यकता होती है। बदलाव रखने से पहले diff पढ़ें, अपने build कमांड के साथ पुनर्निर्माण करें और अपने test कमांड को चलाएं। Ask first उन कार्रवाइयों के पहले रोकता है जो कुछ बदलते हैं, जिससे आपको रुकने और पढ़ने की जगह मिलती है। Plan only एक योजना लिखता है और कुछ नहीं चलाता है, जो मदद करता है जब आप Auto-run या Ask first में स्विच करने से पहले चरण देखना चाहते हैं। एजेंट टेक्स्ट आउटपुट से काम करता है, इसलिए एक परिणाम उतना ही अच्छा है जितने लॉग्स आप उसे देते हैं।