เลือกโมเดล AI ที่ขับเคลื่อนเซสชันการดีบักของคุณ
StatusRivet ต้องการโมเดลเพื่อประมวลผล และคุณเป็นผู้ตัดสินใจว่าโมเดลนั้นอยู่ที่ไหน: ผู้ให้บริการ AI แบบคลาวด์ผ่านจุดเชื่อมต่อ API มาตรฐาน โมเดลที่ทำงานบนพีซีของคุณ หรือโมเดลในตัว หน้าหน้านี้จะอธิบายตัวเลือกทั้งสามและวิธีทดสอบการเชื่อมต่อ
สามสถานที่สำหรับโมเดลในการทำงาน
ผู้ให้บริการ AI แบบคลาวด์
ผู้ให้บริการ AI แบบคลาวด์เหมาะสำหรับโค้ดเบสขนาดใหญ่และบันทึกที่ยาว คุณกรอกจุดเชื่อมต่อ API มาตรฐานและคีย์ของคุณ คีย์จะเก็บไว้ที่เครื่องของคุณ คำสั่งทุกคำสั่งจะถูกส่งไปยังผู้ให้บริการที่คุณเลือก รวมถึงข้อความของไฟล์หรือบันทึกใดๆ ที่เอเจนต์อ่านในขั้นตอนนี้ ดังนั้นควรอ่านนโยบายของผู้ให้บริการก่อนส่งโค้ดต้นฉบับที่ไม่เปิดเผย เก็บงานไว้กับซอฟต์แวร์ที่คุณเขียนหรือได้รับอนุญาตให้ดีบัก ผู้ให้บริการอาจเรียกเก็บค่าใช้จ่ายตามเงื่อนไขของตนเอง และ StatusRivet เป็นอิสระจากผู้ให้บริการทั้งหมด เลือกตัวเลือกนี้เมื่อบันทึกและไฟล์ต้นฉบับของคุณต้องการหน้าต่างบริบทขนาดใหญ่
โมเดลบนพีซีของคุณ
โมเดลที่ทำงานบนพีซีของคุณเหมาะสำหรับโค้ดที่คุณไม่สามารถส่งไปที่อื่น พีซีของคุณทำงานทั้งหมด ชี้ StatusRivet ไปที่จุดเชื่อมต่อท้องถิ่น และคำสั่งจะไปที่เครื่องของคุณ ดังนั้นข้อมูลจะไม่ออกนอกเครื่องเลย ข้อแลกเปลี่ยนคือฮาร์ดแวร์: ความเร็วและหน้าต่างบริบทขึ้นอยู่กับสิ่งที่พีซีของคุณสามารถรันได้ และบันทึกที่ยาวอาจไม่พอดี ใช้ปุ่มทดสอบเพื่อดูหน้าต่างก่อนเซสชันยาว การอัปเดตหรือเปลี่ยนโมเดลเป็นหน้าที่ของคุณ มันเหมาะสำหรับเครื่องแล็บและไดรเวอร์ที่ยังไม่เผยแพร่ ตราบใดที่คุณยอมรับข้อจำกัดเหล่านั้น
โมเดลในตัว
โมเดลในตัวพร้อมใช้งานโดยไม่ต้องมีจุดเชื่อมต่อของคุณเอง ดังนั้นจึงเป็นเส้นทางที่สั้นที่สุดจากการติดตั้งไปยังแชทแรก ไม่ต้องใช้จุดเชื่อมต่อ ใช้เพื่อลองโหมดการอนุมัติ อ่านบันทึกสั้นๆ และดูว่าการ์ด diff ดูอย่างไรก่อนตั้งค่าสิ่งอื่น เมื่องานต้องการมากกว่านี้ ให้เชื่อมต่อผู้ให้บริการ AI แบบคลาวด์หรือโมเดลบนพีซีของคุณ แล้วรันแชทเดียวกันอีกครั้งเพื่อเปรียบเทียบคำตอบ ตรวจสอบ diff ทุกชิ้นในลักษณะเดียวกัน ไม่ว่าโมเดลใดจะเป็นผู้เขียน
ทดสอบการเชื่อมต่อก่อนเซสชันยาว
กดปุ่มทดสอบถัดจากจุดเชื่อมต่อเพื่อลองการเชื่อมต่อ ผลลัพธ์จะแสดงเวลาตอบสนองและหน้าต่างบริบทของโมเดลนั้น เวลาตอบสนองบอกคุณว่าจุดเชื่อมต่อตอบกลับด้วยความเร็วที่คุณสามารถทำงานได้หรือไม่ หน้าต่างบริบทบอกคุณว่าบันทึกหรือไฟล์ต้นฉบับขนาดเท่าใดที่พอดีกับคำขอหนึ่งครั้ง ซึ่งสำคัญเมื่อสต็อกการเรียกที่ยาวเป็นส่วนหนึ่งของคำสั่ง รันการทดสอบอีกครั้งหลังจากเปลี่ยนจุดเชื่อมต่อหรือโมเดล การทดสอบที่ล้มเหลวชี้ไปที่การเชื่อมต่อ ไม่ใช่โค้ดของคุณ แก้ไขส่วนนั้นก่อน
เลือกขนาดโมเดลสำหรับงาน
ใช้โมเดลขนาดใหญ่สำหรับการคิดที่ซับซ้อน เช่น การติดตามข้อผิดพลาดผ่านหลายโมดูลหรือตรวจสอบการเปลี่ยนแปลงขนาดใหญ่ และใช้โมเดลขนาดเล็กสำหรับการแก้ไขเล็กๆ น้อยๆ เช่น การเพิ่มการตรวจสอบค่า null ทักษะ run_on_model ช่วยให้อีเจนต์ส่งขั้นตอนที่ยากหนึ่งขั้นตอนไปยังโมเดลขนาดใหญ่ในขณะที่เซสชันที่เหลืออยู่บนโมเดลขนาดเล็ก สิ่งนี้ทำให้ขั้นตอนทั่วไปอยู่บนโมเดลขนาดเล็กในขณะที่ขั้นตอนที่ยากได้รับทรัพยากรมากขึ้น เลือกตามงาน ไม่ใช่ตามนิสัย และใช้ปุ่มทดสอบเพื่อเปรียบเทียบหน้าต่างบริบทก่อนใส่บันทึกการแครชยาว ใส่บันทึกให้พอดีก่อน
คุณภาพของโมเดลแตกต่างกันไปตามผู้ให้บริการและเวอร์ชัน ดังนั้นให้ Treat ทุกคำตอบเป็นร่าง ร่างต้องการการตรวจสอบ อ่าน diff สร้างใหม่ด้วยคำสั่งสร้างของคุณ และรันคำสั่งทดสอบของคุณก่อนเก็บการเปลี่ยนแปลง Ask first จะหยุดก่อนการเปลี่ยนแปลงที่เปลี่ยนแปลงสิ่งใดสิ่งหนึ่ง ซึ่งให้คุณหยุดและอ่าน Plan only จะเขียนแผนและรันสิ่งใดสิ่งหนึ่ง ซึ่งช่วยเมื่อคุณต้องการเห็นขั้นตอนก่อนสลับไปเป็น Auto-run หรือ Ask first อีเจนต์ทำงานจากเอาต์พุตข้อความ ดังนั้นผลลัพธ์จะดีเท่าบันทึกที่คุณให้เท่านั้น
