Scegli il modello AI che guida le tue sessioni di debug

StatusRivet ha bisogno di un modello per elaborare le informazioni, e decidi dove farlo girare: un provider AI cloud tramite un endpoint API standard, un modello locale sul tuo PC o il modello integrato. Questa pagina illustra le tre opzioni e come verificare la connessione.

Tre opzioni per l'esecuzione del modello

Provider AI cloud

Un provider AI cloud è ideale per codebase di grandi dimensioni e log estesi. Inserisci un endpoint API standard e la tua chiave. La chiave rimane locale. Ogni prompt viene inviato al provider selezionato, incluso il testo di qualsiasi file o log che l'agente legge per quel passaggio, quindi leggi l'informativa del provider prima di inviare codice sorgente non pubblico. Limita l'uso al software che hai scritto o per il quale sei autorizzato a fare debug. Il provider può applicare costi di utilizzo secondo i propri termini, mentre StatusRivet è indipendente da ogni provider. Scegli questa opzione quando i tuoi log e i file sorgente richiedono una finestra di contesto ampia.

Modello sul tuo PC

Un modello in esecuzione sul tuo PC è adatto per il codice che non vuoi inviare altrove. Il tuo PC esegue il lavoro. Indica a StatusRivet l'endpoint locale e i prompt verranno inviati alla tua macchina, quindi nulla esce da essa. Il compromesso riguarda l'hardware: la velocità e la finestra di contesto dipendono dalle capacità del tuo PC, e un log lungo potrebbe non adattarsi. Usa il pulsante Test per verificare la finestra prima di una sessione lunga. L'aggiornamento o il cambio del modello è a tuo carico. Questa soluzione si adatta bene alle macchine di laboratorio e ai driver non ancora pubblicati, purché tu accetti questi limiti.

Modello integrato

Il modello integrato è pronto all'uso senza bisogno del tuo endpoint, rappresentando il percorso più breve dall'installazione alla prima chat. Non è necessario alcun endpoint. Usalo per provare le modalità di approvazione, per leggere un log breve e per vedere come appare una scheda diff prima di configurare altro. Quando un compito richiede più potenza, connetti un provider AI cloud o un modello sul tuo PC ed esegui di nuovo la stessa chat per confrontare le risposte. Rivedi ogni diff nello stesso modo, indipendentemente da quale modello l'ha generata.

Verifica la connessione prima di una sessione lunga

Premi il pulsante Test accanto a un endpoint per provare la connessione. Il risultato mostra il tempo di risposta e la finestra di contesto di quel modello. Il tempo di risposta ti indica se l'endpoint risponde a una velocità con cui puoi lavorare. La finestra di contesto ti dice quanto di un log o di un file sorgente si adatta a una singola richiesta, aspetto cruciale quando una lunga catena di chiamate fa parte del prompt. Ripeti il test dopo aver modificato l'endpoint o il modello. Un test fallito indica un problema di connessione, non del tuo codice. Risolvi quello prima.

Scegli la dimensione del modello in base al compito

Usa un modello più grande per il ragionamento complesso, come tracciare un errore attraverso diversi moduli o revisionare una modifica ampia, e uno più piccolo per piccole modifiche come l'aggiunta di un controllo null. La skill run_on_model permette all'agente di inviare un passaggio complesso a un modello più grande mentre il resto della sessione rimane sul modello più piccolo. Questo mantiene i passaggi di routine sul modello più piccolo, garantendo più capacità per il passaggio difficile. Scegli in base al compito, non per abitudine, e usa il pulsante Test per confrontare le finestre di contesto prima di caricare un lungo log di crash. Adatta prima il log.

La qualità del modello varia tra provider e versioni, quindi tratta ogni risposta come una bozza. Le bozze richiedono una revisione. Leggi la diff, ricompila con il tuo comando di build ed esegui il tuo comando di test prima di mantenere una modifica. Ask first fa una pausa prima delle azioni che modificano qualcosa, offrendoti un punto in cui fermarti e leggere. Plan only scrive un piano ed esegue nulla, utile quando vuoi vedere i passaggi prima di passare a Auto-run o Ask first. L'agente lavora su output testuale, quindi un risultato è buono quanto i log che gli fornisci.