Base de connaissances d’un agent IA : quels documents lui confier en PME

Ce qu’est une base de connaissances agent IA et comment elle est lue

Une base de connaissances agent IA est un ensemble de documents que l’agent consulte avant de répondre, à la place de sa mémoire générale. Techniquement, les fichiers sont découpés en segments de quelques centaines de mots, indexés, puis les segments les plus proches de la question sont injectés dans la réponse. Anthropic décrit ce mécanisme, appelé RAG (génération augmentée par récupération), dans sa note sur la récupération contextuelle. L’agent ne « lit » donc jamais un document en entier : il voit des extraits.

Cette mécanique a deux conséquences directes pour une PME. D’abord, un document mal structuré produit des extraits ambigus : un tableau de prix sans titre, découpé en deux, donne un segment où l’on ne sait plus de quelle offre il s’agit. Ensuite, deux documents qui se contredisent (une procédure de 2024 et sa version 2026) ont la même probabilité d’être retrouvés, et l’agent tranchera au hasard. La fiabilité d’une base de connaissances agent IA dépend donc autant du tri que du volume.

Un repère utile pour dimensionner le projet : Anthropic indique qu’en dessous de 200 000 tokens, soit environ 500 pages, l’ensemble du corpus peut être fourni directement au modèle sans système de recherche. Beaucoup de PME sont dans ce cas pour un premier agent IA de support interne ou de réponse client. Le sujet n’est alors pas l’infrastructure, mais le choix des 50 à 150 documents qui méritent d’entrer dans la base de connaissances agent IA.

Les documents à confier en priorité à une base de connaissances agent IA

Les documents qui apportent le plus de valeur à une base de connaissances agent IA répondent à trois critères : ils sont consultés souvent, ils ont une version validée, et une personne en est responsable. Ce sont presque toujours des documents déjà écrits pour les équipes ou les clients, pas des contenus produits pour l’agent. Le tableau ci-dessous résume ce que Lead4you retient en premier lors d’un cadrage en PME.

Le glossaire est souvent négligé, alors qu’il règle une bonne part des mauvaises réponses. Chaque PME a ses sigles, ses noms de produits internes, ses raccourcis. Sans ce document, l’agent interprète « le dossier BL » ou « la procédure RC » avec le sens courant du mot, pas le vôtre. Dix à vingt lignes suffisent au départ.

Les comptes rendus de réunion et les échanges clients historiques sont tentants, car riches. Ils n’entrent pas dans cette première liste : ils ne sont ni validés ni stables, et ils mélangent décisions prises et pistes abandonnées. S’ils ont une valeur, on en extrait les décisions dans une procédure, et c’est la procédure qui rejoint la base de connaissances agent IA.

Les documents à exclure ou à cloisonner

Exclure est plus important qu’ajouter : chaque document superflu dans une base de connaissances agent IA augmente le risque de réponse fausse, de fuite d’information ou de non-conformité. Trois familles doivent rester dehors ou dans un espace cloisonné, accessible à un rôle précis seulement.

Première famille, les données personnelles sans finalité claire. Dossiers RH, bulletins de paie, évaluations annuelles, arrêts de travail, données de santé des salariés ou des clients : la CNIL rappelle, dans ses recommandations sur le développement des systèmes d’IA, que la minimisation s’applique dès la constitution du corpus et qu’une finalité doit être définie avant la collecte. Un agent IA de support n’a aucune raison d’accéder à un bulletin de paie. Pour un cabinet de santé équipé de Cabilio, la même règle vaut pour les dossiers patients : l’agent peut connaître la procédure de prise de rendez-vous ou les horaires, jamais le contenu médical.

Deuxième famille, les informations stratégiques et contractuelles. Contrats signés, conditions négociées client par client, marges, comptes, projets d’acquisition, documents sous accord de confidentialité. Un agent IA accessible à tous les salariés, ou pire aux clients, qui a ingéré la grille de remises par compte, répondra un jour à la question « quel prix avez-vous fait à mon concurrent ? ». Ces documents vont dans un espace séparé, avec des droits d’accès alignés sur ceux de l’entreprise, ou ils n’y vont pas du tout.

Troisième famille, tout ce qui n’est pas validé : brouillons, versions intermédiaires, boîtes mail brutes, exports complets du CRM, anciens catalogues, notes personnelles. Ces contenus créent des contradictions que l’agent ne sait pas arbitrer. Anthropic recommande, dans sa documentation sur la réduction des hallucinations, de permettre au modèle de dire qu’il ne sait pas plutôt que de combler un vide : un corpus propre rend cette consigne tenable, un corpus contradictoire la rend inopérante.

Pour une base de connaissances agent IA en PME, un point souvent oublié : les durées de conservation. La CNIL impose de fixer une durée à chaque donnée personnelle selon son objectif. Si un document contenant des données clients entre dans la base, il doit en sortir à l’échéance prévue, comme dans le système d’origine. Prévoir ce retrait dès le départ évite de reconstituer, dans l’agent IA, un stock de données que l’entreprise avait justement l’obligation de purger ailleurs.

Préparer les documents pour qu’ils soient bien retrouvés

Dans une base de connaissances agent IA, un document retrouvé au bon moment est un document structuré pour le découpage. OpenAI indique que son outil de recherche de fichiers découpe par défaut en segments de 800 tokens avec un chevauchement de 400 tokens, et Anthropic parle de segments de « quelques centaines de tokens ». Concrètement, chaque bloc de deux ou trois paragraphes doit se comprendre seul, avec son sujet rappelé dans le titre ou la première phrase. C’est la même discipline que pour un contenu pensé pour la citation par les IA, que Lead4you applique en SEO et GEO : une réponse autonome en tête de section, puis le détail.

Quatre règles de préparation suffisent pour la majorité des PME. Un titre explicite par document, qui contient le produit, le service ou le processus concerné. Une date et un numéro de version dans l’en-tête, pas seulement dans le nom de fichier. Des tableaux convertis en texte structuré ou accompagnés d’une phrase qui en résume la portée. Et un format texte lisible : un PDF scanné en image ne sera pas lu, un classeur Excel à douze onglets non plus.

Ajouter du contexte à chaque segment améliore nettement la recherche. Anthropic mesure qu’une courte description ajoutée en tête de chaque extrait (50 à 100 tokens expliquant d’où il vient) réduit de 49 % le taux d’échec de récupération, et de 67 % avec une étape de reclassement. En PME, sans aller jusqu’à ce niveau d’outillage, on obtient une partie du gain en répétant dans chaque section le nom du produit ou de la procédure au lieu d’écrire « il » ou « celle-ci ».

Dernier levier, exiger que l’agent cite sa source. Les API d’Anthropic et d’OpenAI permettent de renvoyer, avec chaque réponse, l’extrait du document utilisé. Pour une équipe, c’est le moyen le plus rapide de repérer un document obsolète ou mal découpé : la réponse est fausse, la citation montre pourquoi, et la correction se fait dans la base de connaissances agent IA, pas dans le prompt.

Gouvernance : qui met à jour, qui valide, qui teste

Une base de connaissances agent IA sans responsable nommé se dégrade en moins de six mois. Les tarifs changent, une procédure est revue, un produit est retiré, et l’agent continue de répondre avec l’ancien état. La gouvernance n’a pas besoin d’être lourde, mais elle doit exister avant l’ouverture de l’agent IA aux équipes ou aux clients.

Le dispositif minimal que nous recommandons tient en quatre éléments. Un propriétaire par document, qui reçoit un rappel de revue à échéance fixe (trimestrielle pour les tarifs et procédures, annuelle pour le reste). Un circuit d’entrée : aucun fichier n’arrive dans la base de connaissances agent IA sans passer par ce propriétaire, même si l’outil permet à chacun de déposer. Un journal des questions sans réponse ou mal répondues, alimenté automatiquement par l’agent, revu chaque mois : c’est la meilleure source pour savoir quel document manque. Et un jeu de test d’une trentaine de questions réelles, avec les réponses attendues, rejoué à chaque modification importante du corpus.

Le cloisonnement par rôle complète ce dispositif. Un agent IA de support client, un agent pour l’équipe commerciale et un agent pour l’administration ne doivent pas consulter le même espace. Le plus simple consiste à créer des collections distinctes par public, avec une collection commune (glossaire, organigramme fonctionnel, procédures générales) partagée. Ce découpage est aussi celui qui facilite le cadrage contractuel avec le prestataire, point que nous détaillons dans le cahier des charges d’un agent IA.

Enfin, documenter ce que l’agent IA ne sait pas est aussi utile que documenter ce qu’il sait. Une page « hors périmètre » listant les sujets exclus (contrats, RH, données de santé, prix négociés) et la personne à contacter permet à l’agent de rediriger proprement, au lieu d’improviser. C’est une sécurité pour l’entreprise et une information honnête pour l’utilisateur.

Checklist rapide

• Inventorier les documents existants et noter pour chacun : utile à l’agent ? validé ? autorisé pour le public visé ?
• Ne retenir qu’une version par procédure, produit ou grille tarifaire, et archiver les autres hors de la base de connaissances agent IA.
• Exclure les données personnelles sans finalité (RH, paie, santé, dossiers patients) et les documents contractuels ou stratégiques.
• Rédiger un glossaire des sigles et noms internes, même court.
• Vérifier que chaque fichier porte un titre explicite, une date, une version, et qu’il est lisible en texte (pas de scan image).
• Créer une collection par public (support, commercial, administratif) et une collection commune.
• Nommer un propriétaire par document et fixer une échéance de revue.
• Activer la citation des sources dans les réponses de l’agent IA.
• Rejouer un jeu de 30 questions réelles avant chaque ouverture et après chaque mise à jour de la base de connaissances agent IA.
• Rédiger la page « hors périmètre » avec les sujets exclus et le contact humain.