Qu'est-ce que le routage des modèles ?+
Le routage des modèles choisit quel modèle d'IA répond à chaque requête. Au lieu de tout envoyer au modèle que vous avez sélectionné, un routeur lit la requête et lance le modèle le moins cher capable de bien la traiter : un modèle léger pour les requêtes simples, un modèle puissant pour les plus difficiles.
Quelle est la différence entre JEV et Laya ?+
JEV route sur Grout Cloud, dans le service d'IA, sans rien à configurer, ou depuis votre ordinateur avec votre propre clé JEV. Laya est un modèle de décision ouvert qui fonctionne sur votre propre ordinateur après un téléchargement unique ; rien n'est envoyé pour décider et la décision ne coûte aucun Merits. Un seul fonctionne à la fois.
Le routage coûte-t-il des Merits supplémentaires ?+
Non. Sur Grout Cloud, vous payez en Merits le modèle choisi par JEV, exactement comme si vous l'aviez choisi vous-même. La décision de Laya est gratuite. Le but du routage est de dépenser moins de Merits pour des requêtes qu'un modèle moins cher traite tout aussi bien.
Le routage va-t-il dégrader mes réponses ?+
Il est conçu pour l'éviter. Un routeur qui hésite ne vous fait jamais passer à un modèle moins cher, une longue conversation garde son modèle, un modèle que vous choisissez vous-même pour un message prime toujours, et si le routage échoue ou est lent, votre modèle sélectionné répond.
Fonctionne-t-il avec ma propre clé OpenAI, Anthropic ou Google ?+
Oui, avec Laya ou avec JEV sur votre propre clé JEV. Ils choisissent parmi les modèles actuels de votre fournisseur et n'en prennent jamais un plus cher que le modèle que vous avez sélectionné. JEV sur Grout Cloud est le routeur propre au service et ne fonctionne pas avec la clé de quelqu'un d'autre.
Laya fonctionne-t-il hors ligne et dans d'autres langues ?+
Laya décide sur votre ordinateur, sans connexion internet pour la décision elle-même. Le modèle actuel est le modèle anglais : pour un message rédigé surtout dans une autre écriture, ou tant que Laya est en cours de chargement, votre modèle sélectionné répond tout simplement.
Quelles fonctions sont routées ?+
Dans GroutApp : le chat IA, le créateur IA, les documents, les présentations, Alpha Learning, les assistants 3D et circuits, les travaux pratiques et la correction, chacun avec son propre interrupteur. Dans GroutCode : l'agent (avec Plan et Debug), Ask, Team et les bots. L'IA locale, la voix et la génération d'images ne sont jamais routées.
Puis-je voir ce qu'a fait le routage ?+
Oui. Résultats du routage liste les décisions récentes avec le routeur, le modèle que vous aviez sélectionné, le modèle utilisé, la raison en termes simples et le coût par rapport à votre modèle sélectionné.
