Wählen Sie das KI-Modell für Ihre Debugging-Sessions

StatusRivet benötigt ein Modell zum Denken, und Sie entscheiden, wo es läuft: ein Cloud-KI-Anbieter über einen Standard-API-Endpunkt, ein Modell auf Ihrem PC oder das integrierte Modell. Diese Seite erklärt die drei Optionen und wie Sie eine Verbindung testen.

Drei Optionen für den Modellstandort

Cloud-KI-Anbieter

Ein Cloud-KI-Anbieter eignet sich für große Codebasen und lange Logs. Sie geben einen Standard-API-Endpunkt und Ihren Schlüssel ein. Der Schlüssel bleibt lokal. Jede Eingabe wird an den von Ihnen gewählten Anbieter gesendet, einschließlich des Texts jeder Datei oder jedes Logs, das der Agent für diesen Schritt liest. Lesen Sie daher die Datenschutzrichtlinie des Anbieters, bevor Sie nicht-öffentlichen Quellcode senden. Halten Sie die Arbeit auf Software beschränkt, die Sie geschrieben haben oder für die Sie berechtigt sind, sie zu debuggen. Der Anbieter kann für die Nutzung nach seinen eigenen Bedingungen berechnen, und StatusRivet ist unabhängig von jedem Anbieter. Wählen Sie diese Option, wenn Ihre Logs und Quelldateien einen großen Kontextfenster benötigen.

Modell auf Ihrem PC

Ein Modell, das auf Ihrem PC läuft, eignet sich für Code, den Sie nicht woanders hin senden möchten. Ihr PC erledigt die Arbeit. Zeigen Sie StatusRivet auf den lokalen Endpunkt, und die Eingaben gehen an Ihre eigene Maschine, sodass nichts diese verlässt. Der Kompromiss ist die Hardware: Geschwindigkeit und Kontextfenster hängen davon ab, was Ihr PC ausführen kann, und ein langes Log passt möglicherweise nicht hinein. Verwenden Sie die Schaltfläche Test, um das Fenster vor einer langen Sitzung zu sehen. Das Aktualisieren oder Austauschen des Modells liegt in Ihrer Verantwortung. Es eignet sich gut für Labormaschinen und unveröffentlichte Treiber, solange Sie diese Grenzen akzeptieren.

Integriertes Modell

Das integrierte Modell ist sofort einsatzbereit, ohne dass Sie einen eigenen Endpunkt benötigen, und bietet den kürzesten Weg von der Installation bis zum ersten Chat. Kein Endpunkt ist erforderlich. Verwenden Sie es, um die Genehmigungsmodi auszuprobieren, ein kurzes Log zu lesen und zu sehen, wie eine Diff-Karte aussieht, bevor Sie etwas anderes einrichten. Wenn eine Aufgabe mehr erfordert, verbinden Sie einen Cloud-KI-Anbieter oder ein Modell auf Ihrem PC und führen Sie denselben Chat erneut aus, um die Antworten zu vergleichen. Überprüfen Sie jeden Diff auf die gleiche Weise, unabhängig davon, welches Modell ihn erstellt hat.

Testen Sie die Verbindung vor einer langen Sitzung

Drücken Sie die Schaltfläche Test neben einem Endpunkt, um die Verbindung zu versuchen. Das Ergebnis zeigt die Antwortzeit und das Kontextfenster dieses Modells. Die Antwortzeit zeigt Ihnen, ob der Endpunkt in einem Tempo antwortet, mit dem Sie arbeiten können. Das Kontextfenster zeigt, wie viel von einem Log oder einer Quelldatei in eine Anfrage passt, was wichtig ist, wenn ein langer Aufrufstapel Teil der Eingabe ist. Führen Sie den Test erneut aus, nachdem Sie den Endpunkt oder das Modell geändert haben. Ein fehlgeschlagener Test weist auf die Verbindung hin, nicht auf Ihren Code. Beheben Sie das zuerst.

Wählen Sie die Modellgröße für die Aufgabe

Verwenden Sie ein größeres Modell für komplexe Logik, wie das Nachverfolgen eines Fehlers durch mehrere Module oder das Überprüfen einer größeren Änderung, und ein kleineres für kleine Änderungen wie das Hinzufügen einer Nullprüfung. Das Tool run_on_model ermöglicht es dem Agenten, einen schwierigen Schritt an ein größeres Modell zu senden, während der Rest der Sitzung auf dem kleineren Modell bleibt. So bleiben Routine Schritte auf dem kleineren Modell, während der schwierige Schritt mehr Kapazität erhält. Wählen Sie nach Aufgabe, nicht nach Gewohnheit, und verwenden Sie die Schaltfläche Test, um Kontextfenster zu vergleichen, bevor ein langer Absturzprotokoll eingeht. Passen Sie das Log zuerst an.

Die Modellqualität variiert zwischen Anbietern und Versionen, daher betrachten Sie jede Antwort als Entwurf. Entwürfe müssen überprüft werden. Lesen Sie den Diff, erstellen Sie mit Ihrem Build-Befehl neu und führen Sie Ihren Testbefehl aus, bevor Sie eine Änderung übernehmen. Ask first pausiert vor Aktionen, die etwas ändern, was Ihnen einen Ort gibt, um anzuhalten und zu lesen. Plan only schreibt einen Plan und führt nichts aus, was hilfreich ist, wenn Sie die Schritte sehen möchten, bevor Sie zu Auto-run oder Ask first wechseln. Der Agent arbeitet mit Textausgaben, daher ist ein Ergebnis nur so gut wie die Logs, die Sie ihm geben.