디버깅 세션을 이끄는 AI 모델을 선택하세요

StatusRivet는 사고할 모델이 필요합니다. 모델의 위치는 당신이 결정합니다: 표준 API 엔드포인트를 통한 클라우드 AI 제공자, PC에서 실행되는 모델 또는 내장 모델입니다. 이 페이지에서는 세 가지 선택지와 연결 테스트 방법을 설명합니다.

모델이 실행될 세 가지 위치

클라우드 AI 제공자

클라우드 AI 제공자는 대규모 코드베이스와 긴 로그에 적합합니다. 표준 API 엔드포인트와 키를 입력하세요. 키는 로컬에 유지됩니다. 모든 프롬프트는 선택한 제공자로 전송되므로, 에이전트가 해당 단계에서 읽는 파일 또는 로그의 텍스트도 포함됩니다. 공개되지 않은 소스 코드를 전송하기 전에 제공자의 정책을 반드시 확인하세요. 자신이 작성했거나 디버깅 권한이 있는 소프트웨어로 작업을 제한하세요. 제공자는 자체 약관에 따라 사용료를 청구할 수 있으며, StatusRivet는 모든 제공자와 독립적입니다. 로그와 소스 파일에 큰 컨텍스트 창이 필요할 때 선택하세요.

PC의 모델

외부로 전송할 수 없는 코드에는 PC에서 실행되는 모델이 적합합니다. PC가 작업을 처리합니다. StatusRivet를 로컬 엔드포인트에 연결하면 프롬프트가 자신의 머신으로 전송되므로 데이터가 외부로 나가지 않습니다. 대가로 하드웨어 성능이 요구됩니다. 속도와 컨텍스트 창 크기는 PC의 실행 능력에 따라 달라지며, 긴 로그는 한 번에 들어가지 않을 수 있습니다. 긴 세션 전에 테스트 버튼을 사용하여 창 크기를 확인하세요. 모델 업데이트나 교체는 사용자가 직접 수행해야 합니다. 이러한 한계를 감수한다면 실험실 머신과 미공개 드라이버에 잘 맞습니다.

내장 모델

내장 모델은 별도의 엔드포인트 없이 바로 사용할 수 있으므로, 설치 후 첫 채팅까지 가장 빠른 경로입니다. 엔드포인트가 필요 없습니다. 승인 모드를 시도하거나 짧은 로그를 읽으며, 다른 설정을 하기 전에 diff 카드가 어떻게 보이는지 확인하려면 이를 사용하세요. 작업에 더 많은 자원이 필요할 때는 클라우드 AI 제공자나 PC 모델을 연결하고 동일한 채팅을 다시 실행하여 답변을 비교하세요. 모델을 가리지 않고 모든 diff를 동일하게 검토하세요.

긴 세션 전에 연결을 테스트하세요

엔드포인트 옆의 테스트 버튼을 눌러 연결을 시도하세요. 결과에는 응답 시간과 해당 모델의 컨텍스트 창이 표시됩니다. 응답 시간은 엔드포인트가 작업할 수 있는 속도로 응답하는지 알려줍니다. 컨텍스트 창은 긴 호출 스택이 프롬프트의 일부일 때, 로그나 소스 파일의 얼마나 많은 부분이 한 요청에 들어갈 수 있는지 알려줍니다. 엔드포인트나 모델을 변경한 후 테스트를 다시 실행하세요. 테스트 실패는 코드가 아닌 연결 문제를 가리킵니다. 먼저 이를 수정하세요.

작업에 맞는 모델 크기를 선택하세요

여러 모듈을 거쳐 결함을 추적하거나 더 큰 변경 사항을 검토하는 등 복잡한 추론에는 큰 모델을 사용하고, null 체크 추가와 같은 작은 수정에는 작은 모델을 사용하세요. run_on_model 스킬을 사용하면 에이전트가 하나의 어려운 단계를 큰 모델로 전송하고 세션의 나머지는 작은 모델에서 처리할 수 있습니다. 이렇게 하면 일상적인 단계는 작은 모델에서 유지하면서 어려운 단계에는 더 많은 용량을 할당할 수 있습니다. 습관이 아닌 작업에 따라 선택하고, 긴 충돌 로그를 입력하기 전에 테스트 버튼을 사용하여 컨텍스트 창을 비교하세요. 로그 크기에 맞게 선택하세요.

제공자와 버전에 따라 모델 품질이 다르므로 모든 답변을 초안으로 간주하세요. 초안에는 검토가 필요합니다. diff를 읽고, 빌드 명령어로 다시 빌드한 후 테스트 명령어를 실행한 후에야 변경 사항을 유지하세요. Ask first는 무언가를 변경하는 작업 전에 일시 정지하여 읽고 멈출 기회를 제공합니다. Plan only는 계획만 작성하고 아무것도 실행하지 않으므로, Auto-run이나 Ask first로 전환하기 전에 단계를 확인하고 싶을 때 유용합니다. 에이전트는 텍스트 출력으로 작동하므로, 결과는 제공한 로그의 품질만큼만 우수합니다.