Vyberte AI model, který řídí vaše relace ladění

StatusRivet potřebuje model, kterým přemýšlí, a vy rozhodnete, kde bude běžet: u cloudového poskytovatele přes standardní API endpoint, na vašem PC nebo vestavěný model. Tato stránka vysvětluje tři možnosti a jak otestovat připojení.

Tři místa, kde může model běžet

Cloudový poskytovatel AI

Cloudový poskytovatel AI se hodí pro velké kódové báze a dlouhé protokoly. Zadejte standardní API endpoint a svůj klíč. Klíč zůstává lokální. Každý prompt putuje k vybranému poskytovateli, včetně textu souboru nebo protokolu, který agent pro daný krok čte, takže si před odesláním neveřejného zdrojového kódu přečtěte zásady poskytovatele. Práci omezte na software, který jste napsali vy nebo máte oprávnění ladit. Poskytovatel může účtovat poplatky za použití podle svých podmínek a StatusRivet je nezávislý na všech poskytovatelích. Zvolte ho, když vaše protokoly a zdrojové soubory potřebují velké kontextové okno.

Model na vašem PC

Model běžící na vašem PC se hodí pro kód, který nemůžete nikam odeslat. Práci odvede vaše PC. Nastavte StatusRivet na lokální endpoint a prompty putují do vašeho stroje, takže nic z něj neopustí. Kompromis je hardware: rychlost a kontextové okno závisí na tom, co vaše PC zvládne, a dlouhý protokol se nemusí vejít. Použijte tlačítko Test a podívejte se na okno před dlouhou relací. Aktualizace nebo výměna modelu je na vás. Hodí se pro laboratorní stroje a neveřejné ovladače, pokud tyto limity akceptujete.

Vestavěný model

Vestavěný model je připraven k použití bez vlastního endpointu, takže je to nejkratší cesta od instalace k prvnímu chatu. Endpoint není potřeba. Použijte ho k vyzkoušení režimů schvalování, ke čtení krátkého protokolu a k tomu, abyste viděli, jak vypadá karta diff, než nastavíte cokoli jiného. Když úkol vyžaduje více, připojte cloudového poskytovatele AI nebo model na vašem PC a spusťte stejný chat znovu pro porovnání odpovědí. Kontrolujte každý diff stejně, bez ohledu na to, který model ho napsal.

Otestujte připojení před dlouhou relací

Stiskněte tlačítko Test vedle endpointu a vyzkoušejte připojení. Výsledek ukazuje dobu odezvy a kontextové okno daného modelu. Doba odezvy vám řekne, zda endpoint odpovídá rychlostí, se kterou můžete pracovat. Kontextové okno vám řekne, kolik protokolu nebo zdrojového souboru se vejde do jednoho požadavku, což má význam, když je součástí promptu dlouhý zásobník volání. Spusťte test znovu po změně endpointu nebo modelu. Selhání testu ukazuje na připojení, ne na váš kód. To napravte jako první.

Vyberte velikost modelu pro úkol

Použijte větší model pro náročné úvahy, jako je sledování chyby přes několik modulů nebo revize větší změny, a menší pro malé úpravy, jako je přidání kontroly null. Dovednost run_on_model umožňuje agentovi poslat jeden náročný krok k většímu modelu, zatímco zbytek relace zůstává na menším. To drží rutinní kroky na menším modelu, zatímco náročný krok dostane více kapacit. Vyberte podle úkolu, ne podle zvyku, a použijte tlačítko Test pro porovnání kontextových oken před vložením dlouhého protokolu pádu. Nejprve se vejde protokol.

Kvalita modelů se liší mezi poskytovateli a verzemi, takže každou odpověď považujte za koncept. Koncepty potřebují revizi. Přečtěte si diff, rebuildujte pomocí příkazu build a spusťte příkaz test předtím, než změnu ponecháte. Ask first se pozastaví před akcemi, které něco mění, což vám dává místo ke zastavení a přečtení. Plan only napíše plán a nic nespustí, což pomáhá, když chcete vidět kroky před přechodem na Auto-run nebo Ask first. Agent pracuje z textového výstupu, takže výsledek je jen tak dobrý, jaké protokoly mu dodáte.