Pilih model AI untuk sesi debugging Anda

StatusRivet butuh model untuk berpikir, dan Anda tentukan lokasinya: penyedia AI cloud via endpoint API standar, model di PC Anda, atau model bawaan. Halaman ini menjelaskan tiga pilihan dan cara menguji koneksi.

Tiga lokasi untuk menjalankan model

Penyedia AI cloud

Penyedia AI cloud cocok untuk basis kode besar dan log panjang. Masukkan endpoint API standar dan kunci Anda. Kunci tetap lokal. Setiap prompt dikirim ke penyedia yang dipilih, termasuk teks file atau log yang dibaca agen untuk langkah tersebut, jadi baca kebijakan penyedia sebelum mengirim kode sumber yang tidak publik. Batasi pekerjaan pada perangkat lunak yang Anda tulis atau berwenang untuk debug. Penyedia mungkin mengenakan biaya penggunaan sesuai ketentuan mereka, dan StatusRivet independen dari setiap penyedia. Pilih ini ketika log dan file sumber Anda butuh jendela konteks besar.

Model di PC Anda

Model di PC cocok untuk kode yang tidak boleh dikirim ke mana pun. PC Anda yang mengerjakan. Arahkan StatusRivet ke endpoint lokal agar prompt dikirim ke mesin Anda sendiri, sehingga tidak ada yang keluar. Kerugiannya adalah perangkat keras: kecepatan dan jendela konteks bergantung pada kemampuan PC Anda, dan log panjang mungkin tidak muat. Gunakan tombol Uji untuk cek jendela sebelum sesi panjang. Memperbarui atau mengganti model adalah tanggung jawab Anda. Ini cocok untuk mesin lab dan driver yang belum rilis, selama Anda terima batas tersebut.

Model bawaan

Model bawaan siap pakai tanpa endpoint sendiri, jadi ini jalan terpendek dari instalasi ke obrolan pertama. Tidak perlu endpoint. Gunakan untuk coba mode persetujuan, baca log pendek, dan lihat tampilan kartu diff sebelum atur apa pun. Saat tugas butuh lebih, sambungkan penyedia AI cloud atau model di PC Anda, lalu jalankan obrolan yang sama lagi untuk bandingkan jawaban. Tinjau setiap diff dengan cara yang sama, model mana pun yang membuatnya.

Uji koneksi sebelum sesi panjang

Tekan tombol Uji di samping endpoint untuk coba koneksi. Hasilnya menunjukkan waktu respons dan jendela konteks model tersebut. Waktu respons memberi tahu apakah endpoint merespons dengan kecepatan yang nyaman untuk bekerja. Jendela konteks memberi tahu berapa banyak log atau file sumber yang muat dalam satu permintaan, penting saat tumpukan panggilan panjang jadi bagian dari prompt. Jalankan uji lagi setelah ubah endpoint atau model. Uji gagal menunjuk ke koneksi, bukan kode Anda. Perbaiki itu dulu.

Pilih ukuran model untuk tugas

Gunakan model lebih besar untuk penalaran rumit, seperti lacak kesalahan melintasi beberapa modul atau tinjau perubahan besar, dan model lebih kecil untuk edit kecil seperti tambah pemeriksaan null. Skill run_on_model memungkinkan agen kirim satu langkah sulit ke model besar sementara sisa sesi tetap di model kecil. Ini menjaga langkah rutin di model kecil sementara langkah sulit dapat kapasitas lebih. Pilih berdasarkan tugas, bukan kebiasaan, dan gunakan tombol Uji untuk bandingkan jendela konteks sebelum masukkan log crash panjang. Sesuaikan log dulu.

Kualitas model bervariasi antar penyedia dan versi, jadi anggap setiap jawaban sebagai draf. Draf perlu ditinjau. Baca diff, build ulang dengan perintah build Anda, dan jalankan perintah test sebelum simpan perubahan. Ask first jeda sebelum tindakan yang mengubah sesuatu, memberi Anda tempat untuk berhenti dan membaca. Plan only menulis rencana dan tidak menjalankan apa pun, membantu saat ingin lihat langkah sebelum beralih ke Auto-run atau Ask first. Agen bekerja dari output teks, jadi hasil hanya sebaik log yang Anda berikan.