デバッグセッションを駆動するAIモデルを選択

StatusRivetには思考のためのモデルが必要で、その場所をあなたが決定します：標準APIエンドポイント経由のクラウドAIプロバイダ、PC上で実行中のモデル、または内蔵モデルです。このページでは3つの選択肢と接続のテスト方法を説明します。

モデルを実行する3つの場所

クラウドAIプロバイダ

クラウドAIプロバイダは、大規模なコードベースや長いログに適しています。標準APIエンドポイントとキーを入力します。キーはローカルに保持されます。すべてのプロンプトは選択したプロバイダに送信され、エージェントがそのステップのために読み取るファイルやログのテキストも含まれるため、公開されていないソースコードを送信する前にプロバイダのポリシーを確認してください。作業はあなたが作成した、またはデバッグ権限のあるソフトウェアに限定してください。プロバイダは独自の条件に基づいて使用料を請求する場合があります。StatusRivetはすべてのプロバイダと独立しています。ログやソースファイルに大きなコンテキストウィンドウが必要な場合に選択してください。

PC上のモデル

PC上で実行されるモデルは、外部に送信できないコードに適しています。PCが処理を行います。StatusRivetをローカルエンドポイントにポイントすると、プロンプトはあなたのマシンに送信され、何も外部に出ません。トレードオフはハードウェアです。速度とコンテキストウィンドウはPCの実行能力に依存し、長いログは収まらない場合があります。長いセッションの前に、Testボタンを使用してウィンドウの大きさを確認してください。モデルの更新や交換はあなた自身が行います。これらの制限を受け入れられる限り、ラボマシンや未公開のドライバに最適です。

内蔵モデル

内蔵モデルは、独自のエンドポイントなしですぐに使用できるため、インストールから最初のチャットまでの最短ルートです。エンドポイントは不要です。承認モードを試したり、短いログを読み取ったり、他の設定を行う前にdiffカードがどのように見えるかを確認するために使用してください。タスクにより多くの能力が必要な場合は、クラウドAIプロバイダまたはPC上のモデルを接続し、同じチャットを再度実行して回答を比較してください。モデルがどれであれ、すべてのdiffを同じ方法でレビューしてください。

長いセッションの前に接続をテスト

エンドポイント横のTestボタンを押して接続を試してください。結果には応答時間とそのモデルのコンテキストウィンドウが表示されます。応答時間は、エンドポイントが作業に適した速度で応答するかどうかを示します。コンテキストウィンドウは、ログやソースファイルのどの程度が1つのリクエストに収まるかを示し、長いコールスタックがプロンプトに含まれる場合に重要です。エンドポイントやモデルを変更した後にテストを再実行してください。テスト失敗は、あなたのコードではなく接続に起因します。まずはそれを修正してください。

タスクに応じたモデルサイズを選択

複数のモジュールを通じて障害を追跡したり、大きな変更をレビューしたりするなど、複雑な推論には大きなモデルを使用し、nullチェックの追加など小さな編集には小さなモデルを使用してください。skill run_on_modelを使用すると、エージェントは1つの複雑なステップを大きなモデルに送信し、セッションの残りを小さなモデルで実行できます。これにより、通常のステップは小さなモデルに留め、複雑なステップにはより多くの容量を割り当てることができます。習慣ではなくタスクに基づいて選択し、長いクラッシュログを入力する前にTestボタンを使用してコンテキストウィンドウを比較してください。まずはログに収めてください。

モデルの品質はプロバイダやバージョンによって異なるため、すべての回答をドラフトとして扱ってください。ドラフトにはレビューが必要です。diffを読み取り、ビルドコマンドで再ビルドし、変更を保持する前にテストコマンドを実行してください。Ask firstは何かを変更するアクションの前に一時停止し、停止して確認する機会を提供します。Plan onlyは計画のみを記述し、何も実行しないため、Auto-runやAsk firstに切り替える前にステップを確認したい場合に役立ちます。エージェントはテキスト出力から動作するため、結果はあなたが提供するログの品質次第です。