Introduction
Dans le monde des agents intelligents, le concept de "harness" est crucial. Il s'agit de la boucle qui pilote un modèle de langage (LLM). En envoyant des prompts, en recevant des réponses, en exécutant les commandes demandées et en répétant le processus, le harnais est au cœur des opérations des agents. Cependant, le débat sur l'endroit où il devrait être exécuté – à l'intérieur ou à l'extérieur du bac à sable – est loin d'être tranché.
Harnais à l'intérieur du bac à sable
Lorsque le harnais fonctionne à l'intérieur du bac à sable, il vit dans le même conteneur que le code qu'il manipule. Cela signifie que toutes les commandes et les appels sont exécutés localement. Cette approche est idéale pour un agent à utilisateur unique. Par exemple, si tu es un développeur travaillant sur ton ordinateur portable avec le SDK Claude Code, cela fonctionne parfaitement.
Avantages
- Simplicité : Un seul conteneur, un seul système de fichiers, un seul processus. Cela simplifie grandement la gestion de l'exécution.
- Réutilisation facile : Les compétences et les souvenirs s'appuient sur un système de fichiers local, ce qui rend la réutilisation des harnais du commerce possible sans modification.
Limites
- Sécurité : Les informations d'identification sont à l'intérieur du bac à sable, ce qui peut poser des problèmes de sécurité en cas de compromission.
- Flexibilité limitée : Impossible de suspendre le bac à sable sans arrêter la boucle, ce qui n'est pas optimal pour les sessions multi-utilisateurs.
Harnais à l'extérieur du bac à sable
En déplaçant le harnais à l'extérieur du bac à sable, on le place dans le backend, et il interagit avec le bac à sable via une API pour exécuter les commandes nécessaires.
Avantages
- Sécurité renforcée : Les clés API du LLM, les jetons utilisateurs et les accès aux bases de données restent en dehors du bac à sable. Ainsi, il n'y a pas de modèle de permissions à appliquer dans le bac à sable et aucun risque de fuite de données sensibles.
- Optimisation des ressources : Le bac à sable peut être suspendu lorsqu'il n'est pas utilisé, ce qui économise des ressources. Certaines sessions peuvent même se passer totalement de bac à sable.
Cas d'usage
Prenons l'exemple d'une entreprise tech avec des dizaines d'ingénieurs partageant le même agent. En ayant le harnais en dehors du bac à sable, tu peux facilement provisionner ou suspendre des bacs à sable en fonction des besoins, rendant l'approche très efficace pour les environnements multi-utilisateurs.
Conclusion
Le choix de l'architecture du harnais dépend avant tout de tes besoins spécifiques en termes de sécurité et de gestion des ressources. Pour les entreprises cherchant à maximiser la sécurité tout en optimisant l'utilisation des ressources, déplacer le harnais à l'extérieur du bac à sable est une stratégie gagnante.
Discutons de ton projet en 15 minutes.