Elige el modelo de IA que impulsa tus sesiones de depuración
StatusRivet necesita un modelo para pensar, y tú decides dónde reside: un proveedor de IA en la nube mediante un endpoint API estándar, un modelo en ejecución en tu PC o el modelo integrado. Esta página explica las tres opciones y cómo probar una conexión.
Tres lugares para ejecutar el modelo
Proveedor de IA en la nube
Un proveedor de IA en la nube es adecuado para bases de código grandes y registros extensos. Ingresa un endpoint API estándar y tu clave. La clave permanece local. Cada prompt se envía al proveedor que elegiste, incluido el texto de cualquier archivo o registro que el agente lea en ese paso, así que lee la política del proveedor antes de enviar código fuente que no sea público. Mantén el trabajo en software que escribiste o estás autorizado para depurar. El proveedor puede cobrar por el uso bajo sus propios términos, y StatusRivet es independiente de todos los proveedores. Elígelo cuando tus registros y archivos fuente necesiten una ventana de contexto grande.
Modelo en tu PC
Un modelo en ejecución en tu PC es adecuado para código que no puedes enviar a ningún lugar. Tu PC hace el trabajo. Señala a StatusRivet al endpoint local y los prompts van a tu propia máquina, por lo que nada sale de ella. La compensación es el hardware: la velocidad y la ventana de contexto dependen de lo que tu PC pueda ejecutar, y un registro largo puede no caber. Usa el botón Probar para ver la ventana antes de una sesión larga. Actualizar o cambiar el modelo es tu responsabilidad. Se adapta bien a máquinas de laboratorio y controladores no publicados, siempre que aceptes esas limitaciones.
Modelo integrado
El modelo integrado está listo para usar sin tu propio endpoint, por lo que es el camino más corto desde la instalación hasta el primer chat. No se necesita un endpoint. Úsalo para probar los modos de aprobación, para leer un registro corto y ver cómo se ve una tarjeta de diff antes de configurar cualquier otra cosa. Cuando una tarea necesite más, conecta un proveedor de IA en la nube o un modelo en tu PC y ejecuta el mismo chat nuevamente para comparar las respuestas. Revisa cada diff de la misma manera, sin importar qué modelo lo escribió.
Prueba la conexión antes de una sesión larga
Presiona el botón Probar junto a un endpoint para intentar la conexión. El resultado muestra el tiempo de respuesta y la ventana de contexto de ese modelo. El tiempo de respuesta te indica si el endpoint responde a un ritmo con el que puedes trabajar. La ventana de contexto te dice cuánto de un registro o un archivo de código fuente cabe en una sola solicitud, lo cual es importante cuando una pila de llamadas larga es parte del prompt. Ejecuta la prueba nuevamente después de cambiar el endpoint o el modelo. Una prueba fallida apunta a la conexión, no a tu código. Corrige eso primero.
Elige un tamaño de modelo para la tarea
Usa un modelo más grande para razonamiento difícil, como rastrear un error a través de varios módulos o revisar un cambio más grande, y uno más pequeño para ediciones pequeñas como agregar una verificación de nulo. La habilidad run_on_model permite al agente enviar un paso difícil a un modelo más grande mientras el resto de la sesión permanece en el más pequeño. Eso mantiene los pasos rutinarios en el modelo más pequeño mientras el paso difícil obtiene más capacidad. Elige por tarea, no por hábito, y usa el botón Probar para comparar ventanas de contexto antes de que entre un registro de caída largo. Ajusta el registro primero.
La calidad del modelo varía entre proveedores y versiones, así que trata cada respuesta como un borrador. Los borradores necesitan revisión. Lee el diff, reconstruye con tu comando de compilación y ejecuta tu comando de prueba antes de mantener un cambio. Ask first pausa antes de las acciones que cambian algo, lo que te da un lugar para detenerte y leer. Plan only escribe un plan y no ejecuta nada, lo cual ayuda cuando quieres ver los pasos antes de cambiar a Auto-run o Ask first. El agente trabaja a partir de texto, por lo que un resultado es tan bueno como los registros que le das.
