Ce qu'un agent IA a le droit de lire.
Un agent doit lire sous une identité et des permissions explicites. Champs masqués, provenance et actions soumises à validation : les contrôles à prévoir.
Définir l'identité qui interroge les données
Un assistant peut agir pour une personne ou avec une identité dédiée. Dans les deux cas, il faut savoir quels objets et quels champs cette identité est autorisée à lire. Un compte technique doté de tous les droits peut exposer plus d'informations que l'utilisateur qui lui pose la question.
Le contrôle doit s'appliquer à la lecture serveur qui prépare le résultat. Une donnée interdite ne doit pas parvenir au modèle puis être supprimée de sa réponse finale : elle a déjà franchi la frontière d'accès.
Masquer aussi les données qui expliquent un calcul
Dans la démonstration de marge mensuelle, le rôle lecteur ne peut pas consulter les dépenses. Le montant calculé est également masqué pour ce rôle. Sans ce contrôle, une fonction pourrait révéler indirectement une donnée financière protégée.
La fiche distingue une valeur masquée d'une valeur absente. Cette distinction informe l'utilisateur sans révéler le montant ni ses contributions. Le contrôle doit être vérifié dans la réponse serveur, pas seulement dans le rendu de la fiche.
Le même raisonnement s'applique à une recherche documentaire. Les passages récupérés doivent respecter le périmètre de l'acteur avant d'être envoyés au modèle.
Faire vérifier une réponse
Une réponse sur un client doit pouvoir renvoyer à l'objet, à la valeur retenue et à sa provenance. Une date d'observation aide à repérer une information qui mérite d'être relue à la source.
Cette traçabilité réduit le coût de vérification. Elle ne prouve pas que l'agent a correctement interprété une question ni que la source était exacte. Une décision importante demande encore une vérification métier adaptée.
Commencez par des questions auxquelles l'équipe sait déjà répondre. Comparez les résultats et vérifiez les absences, les champs masqués et les sources indisponibles, en plus du cas où tout fonctionne.
Séparer lecture et action
Consulter un dossier et modifier sa catégorie sont deux permissions différentes. Une action doit passer par une commande autorisée, avec ses propres validations et son journal. Certains effets peuvent exiger une approbation.
Une commande peut échouer ou rencontrer une révision périmée. L'agent doit restituer cet état et éviter d'annoncer une réussite qui n'a pas eu lieu. Le modèle de données ne dispense pas de traiter ces erreurs.
Avant d'ouvrir une nouvelle capacité à un agent, testez-la avec un compte autorisé et un compte qui ne l'est pas. La réponse attendue au second compte fait partie du contrat de la capacité.