Cloud, local ou intégré : choisissez le modèle adapté
Gridberry fonctionne sous Windows 10/11 et communique avec le modèle de votre choix. Utilisez un fournisseur cloud via une API standard, un modèle sur votre PC ou le modèle intégré, et changez selon la tâche.
Trois façons de connecter un modèle
Fournisseur d'IA cloud
Un fournisseur d'IA cloud convient aux étapes complexes, comme une longue session de dépannage sur plusieurs journaux. Saisissez l'API endpoint standard et votre clé dans Gridberry ; la clé reste sur votre PC. Le texte de la requête est envoyé au fournisseur, y compris le contenu des fichiers lus, donc évitez d'y placer des secrets. Gridberry masque les secrets dans la sortie des outils avant de les envoyer au modèle. Un fournisseur cloud peut facturer l'utilisation, selon ses propres tarifs, pas ceux de Gridberry.
Un modèle sur votre propre PC
Un modèle local convient lorsque la requête doit rester sur votre machine. Avec un modèle local, rien ne sort du PC via la connexion au modèle. D'autres fonctionnalités utilisent le réseau quand vous les activez, comme la recherche web ou les vérifications de mise à jour, et une session SSH est par nature une connexion réseau. La vitesse et la fenêtre de contexte dépendent de votre matériel : lancez le bouton Test et vérifiez les deux indicateurs avant de compter sur le modèle.
Modèle intégré
Le modèle intégré est prêt à l'emploi sans endpoint personnalisé. Idéal pour un premier essai : installez Gridberry, ouvrez un chat et demandez à l'agent d'expliquer ce que fait adduser. Passez en Plan only pour lire un plan sans exécution, puis en Ask first pour valider les commandes sur une machine de test. Vous pourrez connecter un modèle cloud ou local plus tard. Revoyez chaque carte de commande et chaque diff avec ce modèle comme avec n'importe quel autre.
Vérifiez la connexion avec Test
Le bouton Test vérifie un endpoint. Il affiche le temps de réponse et la fenêtre de contexte du modèle connecté. Lancez-le après avoir saisi un nouvel endpoint ou une nouvelle clé, et à nouveau lors d'un changement de modèle, pour détecter un problème avant de commencer un chat. Un temps de réponse élevé signifie que chaque étape attend plus longtemps. Une petite fenêtre de contexte signifie que l'agent retient moins d'un long journal ou d'un long fichier de configuration en une fois. Comparez deux endpoints avec le même bouton et gardez celui qui convient à votre tâche. Le résultat décrit la connexion uniquement. Il ne garantit pas que le modèle écrive des commandes correctes ; vous devez toujours vérifier chaque carte et chaque diff.
Choisissez un modèle pour la tâche
Choisissez un modèle plus puissant pour les étapes complexes, comme une longue session de dépannage sur des journaux et des fichiers de configuration, et un modèle plus léger pour des tâches courtes comme la création d'un compte ou la lecture d'une liste de groupes. L'outil run_on_model envoie une étape complexe à un modèle puissant tandis que le reste du chat reste sur le modèle choisi, et vous décidez quand l'utiliser. Un modèle plus puissant peut être plus lent et nécessite plus de ressources sur un PC local : adaptez le modèle à la tâche. Vérifiez toujours le résultat.
La qualité varie entre les modèles, et n'importe quel modèle peut écrire une commande incorrecte avec une grande assurance. Lisez le diff ou la carte de commande avant de l'accepter. Ask first fait une pause avant les modifications pour que vous voyiez la ligne exacte avant l'exécution. Plan only écrit un plan sans rien exécuter, ce qui est une première étape prudente avec un modèle inconnu. Testez les nouveaux modèles sur une machine que vous pouvez reconstruire.
