Alege modelul AI care alimentează sesiunile tale de depanare

StatusRivet are nevoie de un model pentru a procesa informațiile, iar tu decizi unde se află: un furnizor AI cloud printr-un endpoint API standard, un model care rulează pe PC-ul tău sau modelul integrat. Această pagină explică cele trei opțiuni și cum să testezi o conexiune.

Trei locuri unde poate rula modelul

Furnizor AI cloud

Un furnizor AI cloud se potrivește pentru baze mari de cod și jurnale lungi. Introdu un endpoint API standard și cheia ta. Cheia rămâne locală. Fiecare prompt este trimis către furnizorul ales, inclusiv textul oricărui fișier sau jurnal pe care agentul îl citește în acea etapă, așa că citește politica propriului furnizor înainte să trimiți cod sursă care nu este public. Păstrează lucrul la software-ul pe care l-ai scris sau ai autorizația să îl depanezi. Furnizorul poate percepe taxe pentru utilizare conform termenilor săi, iar StatusRivet este independent de fiecare furnizor. Alege-l când jurnalele și fișierele sursă necesită o fereastră de context mare.

Model pe PC-ul tău

Un model care rulează pe PC-ul tău se potrivește pentru codul pe care nu îl poți trimite nicăieri. PC-ul tău face treaba. Indică StatusRivet către endpoint-ul local, iar prompturile merg la propria ta mașină, așa că nimic nu părăsește aceasta. Compromisul este hardware-ul: viteza și fereastra de context depind de ce poate rula PC-ul tău, iar un jurnal lung s-ar putea să nu încapă. Folosește butonul Test pentru a vedea fereastra înainte de o sesiune lungă. Actualizarea sau înlocuirea modelului este responsabilitatea ta. Se potrivește bine cu mașinile de laborator și driverele nepublicate, atâta timp cât accepți aceste limite.

Model integrat

Modelul integrat este gata de utilizare fără propriul tău endpoint, fiind astfel calea cea mai scurtă de la instalare la primul chat. Nu este nevoie de un endpoint. Folosește-l pentru a încerca modurile de aprobare, pentru a citi un jurnal scurt și pentru a vedea cum arată un card diff înainte să configurezi altceva. Când o sarcină necesită mai mult, conectează un furnizor AI cloud sau un model pe PC-ul tău și rulează același chat din nou pentru a compara răspunsurile. Revizuiești fiecare diff la fel, indiferent ce model l-a generat.

Testează conexiunea înainte de o sesiune lungă

Apasă butonul Test lângă un endpoint pentru a încerca conexiunea. Rezultatul arată timpul de răspuns și fereastra de context a acelui model. Timpul de răspuns îți spune dacă endpoint-ul răspunde la un ritm cu care poți lucra. Fereastra de context îți spune cât dintr-un jurnal sau un fișier sursă încap într-o singură cerere, lucru important când o stivă de apeluri lungă face parte din prompt. Rulează din nou testul după ce modifici endpoint-ul sau modelul. Un test eșuat indică problema de conexiune, nu codul tău. Rezolvă asta mai întâi.

Alege dimensiunea modelului pentru sarcină

Folosește un model mai mare pentru raționamente complexe, cum ar fi urmărirea unei erori prin mai multe module sau revizuirea unei modificări mai mari, și unul mai mic pentru editări mici, cum ar fi adăugarea unei verificări null. Abilitatea run_on_model permite agentului să trimită o singură etapă grea către un model mai mare, în timp ce restul sesiunii rămâne pe cel mai mic. Astfel, pașii obișnuiți rămân pe modelul mai mic, în timp ce etapa dificilă primește mai multe resurse. Alege în funcție de sarcină, nu din obișnuință, și folosește butonul Test pentru a compara ferestrele de context înainte să introduci un jurnal de crash lung. Încadrează mai întâi jurnalul.

Calitatea modelului variază între furnizori și versiuni, așa că tratează fiecare răspuns ca pe un proiect. Proiectele necesită revizuire. Citești diff-ul, reconstruiești cu comanda de build și rulezi comanda de test înainte să păstrezi o modificare. Ask first face o pauză înainte de acțiunile care schimbă ceva, oferindu-ți un loc să te oprești și să citești. Plan only scrie un plan și nu rulează nimic, ceea ce ajută când vrei să vezi pașii înainte să treci la Auto-run sau Ask first. Agentul lucrează pe baza output-ului text, așa că un rezultat este la fel de bun pe cât sunt jurnalele pe care le oferi.