El enrutado de modelos de IA, explicado: cómo JEV y Laya eligen el modelo adecuado para cada petición

La mayoría elige un modelo de IA y le envía todo. Si eliges un modelo potente, cada "gracias", cada consulta rápida y cada frase reescrita se cobra a precio de modelo potente. Si eliges uno barato, las preguntas difíciles reciben respuestas flojas. Estudiantes y centros con presupuesto ajustado notan las dos cosas.

El enrutado de modelos toma esa decisión en cada petición, no una sola vez. GroutApp y GroutCode incluyen ahora dos enrutadores para ello: JEV y Laya. Este artículo explica qué hace el enrutado, las reglas que lo hacen seguro y cuándo conviene cada enrutador.

Aviso: Grout desarrolla GroutApp y GroutCode. Este es un artículo de producto, escrito para mostrar exactamente qué hace la función y qué no.

Qué es el enrutado de modelos

Un enrutador se sitúa entre tú y el modelo. Lee la petición, valora su dificultad y usa el modelo más barato que puede resolverla bien. "¿Cuál es la capital de Francia?" va a un modelo ligero, que la responde tan bien como cualquiera. "Demuestra que hay infinitos números primos y generaliza el argumento" va a uno potente.

Los modelos entre los que elige forman una escalera corta, construida con los modelos que realmente puedes usar, del más barato al más caro: un peldaño ligero, tu modelo habitual en el medio y un peldaño potente arriba. El trabajo del enrutador es colocar cada petición en el peldaño más bajo que la resuelva bien a la primera.

• Enrutado de modelos en GroutApp y GroutCode

Las reglas que evitan que el enrutado empeore las respuestas

Ahorrar Merits solo merece la pena si las respuestas siguen siendo igual de buenas. Los dos enrutadores siguen las mismas reglas:

• Si hay dudas, no se baja. Si el enrutador no está seguro, nunca te pasa a un modelo más barato; como mucho, te sube un escalón.
• Las conversaciones largas mantienen su modelo. Cambiar de modelo vuelve a enviar toda la conversación, así que, cuando un chat es largo, el ahorro desaparece.
• Tu elección manda. Elige un modelo a mano para un mensaje y se usa ese, sin tocarlo.
• Si falla, sigue adelante. Si el enrutado falla, va lento o se rechaza la petición enrutada, se usa el modelo que seleccionaste. Nada espera al enrutador.
• Hay cosas que nunca se enrutan: la IA local, la voz y la generación de imágenes se quedan en el modelo elegido para ellas.

JEV: enrutado en Grout Cloud, sin nada que configurar

En Grout Cloud, JEV está dentro del servicio de IA. Lee la petición, elige el modelo más barato que da la talla y pagas en Merits por el modelo que ha elegido, exactamente igual que si lo hubieras elegido tú. No hay que pegar ninguna clave ni instalar nada.

Puedes orientarlo. El ajuste de preferencia lo inclina hacia el ahorro de Merits o hacia la calidad, y dos listas indican los modelos preferidos y los que nunca debe usar. Si tienes tu propia clave de JEV, la decisión se toma desde tu ordenador y la petición se ejecuta en el modelo que indica JEV.

Laya: enrutado en tu propio ordenador

Laya es un modelo de decisión abierto que funciona en tu propio ordenador. Lo descargas una vez, unos 1.7 GB, y cada parte se comprueba con su huella antes de usarse. A partir de ahí, solo lee tu mensaje y responde a una pregunta: qué dificultad tiene, de trivial a difícil. En un portátil reciente tarda una quinta parte de segundo.

La respuesta se convierte en un modelo ligero, equilibrado o potente de tu escalera. Tu preferencia mueve los límites: Ahorrar Merits mantiene más peticiones en modelos ligeros y Mejor calidad envía más a los potentes. No se envía nada a ningún sitio para decidir, y decidir no cuesta Merits ni necesita clave.

Laya es sincero con sus límites. El modelo actual es el de inglés, así que un mensaje escrito sobre todo en otra escritura mantiene tu modelo seleccionado. Lo mismo ocurre con cualquier petición que llegue mientras Laya aún se carga, o cuando no puede decidir a tiempo en un ordenador más lento. Una prueba de velocidad en los ajustes te dice cómo funciona en el tuyo.

Enrutado con tu propia clave de proveedor

Muchos estudiantes y docentes usan su propia clave de OpenAI, Anthropic o Google. Laya, y JEV con tu propia clave de JEV, también enrutan esas peticiones: eligen entre los modelos actuales de tu proveedor, el más reciente de cada familia, de modo que una clave de Anthropic enruta entre los Haiku, Sonnet y Opus actuales y no hacia un modelo antiguo que simplemente es barato.

Aquí hay una regla más, porque tu proveedor te factura directamente: el enrutado nunca elige un modelo que cueste más que el que seleccionaste. Solo puede ahorrar. JEV en Grout Cloud es el enrutador propio del servicio, así que no funciona con la clave de otra persona.

JEV o Laya: cuál elegir

• Elige JEV en Grout Cloud si no quieres configurar nada y trabajas en cualquier idioma.
• Elige Laya si quieres que la decisión se tome en tu propio ordenador, gratis, y escribes sobre todo en inglés.
• Si usas tu propia clave de proveedor, sirve cualquiera de los dos, salvo JEV en Grout Cloud.
• Solo funciona uno a la vez. Al activar uno, el otro se desactiva.

Cómo activarlo

1. Abre Enrutado de modelos. En GroutApp, abre los ajustes de IA y elige Enrutado de modelos. En GroutCode, abre Ajustes → Enrutado de modelos.
2. Elige un enrutador. JEV en Grout Cloud, JEV con tu clave de JEV o Laya. Para Laya, el modelo se descarga una sola vez.
3. Fija la preferencia y las funciones. Elige cuánto quieres ahorrar y activa o desactiva el enrutado en cada función de IA.
4. Trabaja como siempre. Una etiqueta JEV o LAYA junto al selector de modelo indica dónde está activo el enrutado. Resultados del enrutado lista cada decisión, por qué se tomó y cuánto costó frente a tu modelo seleccionado.

• Ver la página de Enrutado de modelos
• Ejecuta modelos de IA en tu propio portátil

Lo que no hace

El enrutado no convierte un modelo flojo en uno potente; decide qué modelo usar. No enruta la IA local, donde no se cobra nada y cambiar de modelo supone cargar gigabytes en memoria. Y nunca anula un modelo que eliges a mano. Si quieres un único modelo para toda una sesión, elígelo o desactiva el enrutado para esa función.