How-to

Journal des questions posées à l'IA : à quoi sert-il en cas de contrôle ?

Un client vous demande si une IA a servi pour la note que vous lui avez remise, et sur quels documents. Ce guide explique ce que le journal des questions posées à l'IA doit garder, pourquoi il ne doit pas pouvoir être retouché, à quoi il sert lors d'un contrôle, ce que proposent Copilot et ChatGPT Enterprise, et quoi demander à votre responsable informatique.

La rédaction de Coplement8 min

En bref

La traçabilité de l'IA en entreprise repose sur un journal qui garde, pour chaque question, son auteur, l'heure, les documents, la réponse, le modèle et sa version. Lors d'un contrôle, il montre ce qui a été confié à l'outil et d'où vient une erreur. Il ne prouve rien si une ligne peut être modifiée ou effacée.

Un client vous écrit après une erreur dans une note que votre équipe lui a remise. Il veut savoir si une IA a servi, sur quels documents, et si ses données sont sorties de chez vous. Sans trace écrite, vous n'avez que la mémoire de vos collaborateurs pour lui répondre. La traçabilité de l'IA en entreprise repose sur un journal qui enregistre chaque question posée à l'outil et chaque réponse. Ce guide explique ce que ce journal doit garder, pourquoi personne ne doit pouvoir le retoucher et à quoi il vous sert lors d'un contrôle.

Un exemple : la question d'un client après un incident

Prenons un bureau d'études de quarante personnes qui conçoit des pièces pour un industriel. Une ingénieure prépare une note de synthèse à partir du cahier des charges du client, avec l'assistant d'IA que l'entreprise a autorisé. La note part avec une dimension erronée, et le client s'en aperçoit à la réception des pièces. Il pose alors trois questions : la note a-t-elle été rédigée avec une IA, à partir de quels documents, et son cahier des charges a-t-il quitté le bureau d'études ?

Si l'assistant tient un journal, le directeur retrouve la question de l'ingénieure, le document joint, la réponse obtenue et le modèle utilisé. Il constate que l'IA avait repris la bonne valeur et que l'erreur vient d'une retouche faite à la main. Il peut le montrer au client, pièces à l'appui, au lieu de s'en remettre aux souvenirs de chacun.

Sans journal, la même conversation tourne au soupçon. Le client ne sait pas si ses données sont sorties, et l'entreprise ne peut ni l'affirmer ni le démentir.

Traçabilité de l'IA en entreprise : les informations à garder

Les informaticiens parlent d'audit-trail : le journal de chaque question, réponse et accès. Pour répondre à un client ou à un auditeur, chaque ligne doit dire qui a demandé quoi, quand, sur quels documents et avec quel outil.

Information À quoi elle sert
La personne qui pose la question Savoir qui a utilisé l'outil, et pour quel dossier
La date et l'heure Replacer la question dans le calendrier du dossier
La question, avec les documents joints ou consultés Savoir quelles informations ont été confiées à l'outil
La réponse complète La comparer au document finalement remis
Le modèle et sa version Comprendre pourquoi une même question donne une autre réponse après une mise à jour
Les consultations du journal lui-même Savoir qui a lu ces lignes, et quand

Le modèle est le programme qui rédige les réponses, et son éditeur le met à jour régulièrement. Sans sa version, impossible de savoir si une réponse étrange vient d'une ancienne ou d'une nouvelle mouture.

Ne gardez pas plus que nécessaire. Les questions contiennent souvent des extraits de dossiers et des noms de clients. Le journal devient donc lui-même un document sensible, à protéger comme tel.

Pourquoi un journal modifiable ne prouve rien

Un journal sert de preuve seulement si personne ne peut le retoucher après coup. Si un administrateur peut effacer une ligne gênante, le client ou l'auditeur n'a aucune raison de croire les autres. La question n'est pas la confiance que vous accordez à votre informaticien, mais ce que vous pouvez démontrer à un tiers.

Trois protections rendent un journal crédible.

  • Il n'accepte que des ajouts. Aucune ligne ne se modifie ni ne s'efface, même par un administrateur. Le flux de conformité de ChatGPT Enterprise fonctionne ainsi : des enregistrements qui s'ajoutent les uns aux autres sans jamais changer (documentation d'OpenAI).
  • Chaque ligne porte une empreinte numérique. C'est un code calculé à partir du contenu de la ligne. Si la ligne change, même d'une virgule, l'empreinte ne correspond plus et la retouche se voit.
  • L'export est signé. La copie est scellée au moment où elle sort de l'outil, et celle remise à un auditeur peut être comparée à l'original.

Gardez aussi une copie hors de l'outil d'IA, dans un espace auquel ses utilisateurs n'ont pas accès. Votre responsable informatique saura où la ranger, par exemple dans l'outil qui centralise déjà vos alertes de sécurité.

Les situations où le journal vous sert

Le journal ne sert pas qu'en cas de crise. Il répond à plusieurs moments ordinaires de la vie d'une entreprise.

  • Un client demande, dans un questionnaire de sécurité ou un appel d'offres, comment vous utilisez l'IA sur ses données.
  • Une erreur apparaît dans un document remis : le journal dit si elle vient de l'outil ou de la relecture.
  • Une fuite est soupçonnée : le journal montre qui a interrogé l'outil sur le dossier concerné, et à quelle date.
  • Un audit interne vérifie que les documents secrets restent hors des outils en ligne, comme le prévoient vos règles.
  • Un salarié quitte l'entreprise : l'historique de son travail avec l'IA reste chez vous, au lieu de partir avec un compte personnel.
  • Vous changez de modèle : les anciennes réponses servent de point de comparaison.

Le journal a une limite : il ne voit que l'outil qui l'alimente. Une question posée sur un compte personnel, hors de l'outil autorisé, n'y laisse aucune trace.

Les journaux des offres en ligne

Les offres entreprise des grands éditeurs tiennent aussi des journaux. Ils se règlent et se consultent chez l'éditeur, par l'administrateur de votre compte.

Chez Microsoft, chaque échange avec Copilot crée un enregistrement d'audit dans Microsoft Purview, l'outil de conformité de Microsoft 365. Il indique qui a interrogé Copilot, quand, depuis quelle application et quels fichiers Copilot a consultés pour répondre (documentation de Microsoft). Les questions et les réponses y figurent sous la forme d'un simple identifiant. L'offre d'audit standard garde ces enregistrements 180 jours, et l'offre supérieure jusqu'à un an, ou dix ans avec une licence en plus (documentation de Microsoft).

Chez OpenAI, ChatGPT Enterprise propose une interface de conformité, appelée Compliance API. Elle exporte des enregistrements vers les outils d'audit ou d'enquête de l'entreprise (documentation d'OpenAI). OpenAI recommande de les collecter en continu et de leur appliquer vos propres règles de conservation, sans compter sur celle de l'éditeur.

Dans les deux cas, un administrateur doit savoir retrouver ces journaux, les exporter et les conserver. Ils ne changent rien au trajet du document, qui part toujours chez l'éditeur : l'article sur les offres entreprise des éditeurs le détaille.

Qui lit le journal, et pendant combien de temps

Le journal contient les questions de vos équipes, donc des extraits de dossiers et des noms de clients. Réservez sa lecture à deux ou trois personnes, par exemple le responsable informatique, le délégué à la protection des données et un membre de la direction. Enregistrez aussi leurs propres consultations : qui lit le journal doit lui-même laisser une trace.

Le journal sert aux enquêtes et aux audits, pas à noter vos collaborateurs. Même l'interface de conformité de ChatGPT Enterprise n'est pas faite pour mesurer la performance individuelle (documentation d'OpenAI). Dites à vos équipes que le journal existe, à quoi il sert et qui peut le lire.

Reste la durée de conservation. Le journal contient des données personnelles, au moins le nom de chaque utilisateur : fixez sa durée avec votre délégué à la protection des données, selon l'usage que vous en attendez (CNIL). Une durée écrite, datée et appliquée vaut mieux qu'un journal gardé sans limite.

Les questions à poser à votre responsable informatique

Vous n'avez pas besoin de comprendre la technique pour juger un journal. Posez ces questions pour chaque outil d'IA autorisé, et demandez une réponse écrite.

  1. Pour chaque question posée à l'IA, le journal garde-t-il l'auteur, l'heure, les documents, la réponse, le modèle et sa version ?
  2. Une ligne peut-elle être modifiée ou effacée, et par qui ?
  3. Comment exporter le journal, sous quel format, et la copie est-elle signée ?
  4. Où le journal est-il stocké, et sort-il de l'entreprise ?
  5. Qui peut le lire, et ces lectures sont-elles enregistrées ?
  6. Combien de temps est-il gardé, et qui a fixé cette durée ?
  7. Que devient-il si vous changez d'outil ou de prestataire ?

Faites aussi un essai : demandez à retrouver une question posée la semaine dernière par un collègue volontaire. Si l'exercice prend une journée, le journal ne vous aidera pas le jour où un client attend une réponse. Pour intégrer ces points dès le début d'un projet, notre liste de contrôle aide à préparer le projet avec votre responsable de la sécurité.

Faire appel à Coplement

Coplement installe des assistants d'IA, appelés agents, sur les serveurs de ses clients ou chez un hébergeur de confiance. Les documents restent sur ces serveurs et ne partent chez aucun éditeur d'IA. Son journal de chaque question, réponse et accès garde la question, la réponse, le modèle et sa version, avec l'heure et une empreinte numérique. Il ne peut pas être modifié et s'exporte en fichier CSV signé, un tableau que tout tableur sait ouvrir.

Chaque projet commence par un audit de déploiement gratuit, de 2 à 3 semaines et sans engagement : demander un audit de déploiement.

  • traçabilité
  • journal d'audit
  • audit-trail
  • IA générative
  • gouvernance de l'IA
  • données confidentielles

Questions fréquentes

ChatGPT Enterprise garde-t-il un journal des conversations ?

L'offre Enterprise propose une interface de conformité, la Compliance API, qui exporte des enregistrements destinés aux audits et aux enquêtes vers les outils de l'entreprise. Ces enregistrements s'ajoutent sans jamais changer. OpenAI recommande de les collecter en continu et de les garder selon vos propres règles : votre responsable informatique doit le mettre en place.

Le journal des questions contient-il des données personnelles ?

Oui, presque toujours : le nom de la personne qui pose la question, et souvent des noms cités dans la question ou la réponse. Traitez-le comme un dossier sensible, avec une lecture réservée à quelques personnes. Fixez sa durée de conservation avec votre délégué à la protection des données.

Combien de temps garder le journal d'une IA d'entreprise ?

Aucune durée ne vaut pour toutes les entreprises : elle dépend de l'usage du journal, comme une enquête après incident ou un audit annuel. Choisissez-la avec votre délégué à la protection des données, écrivez-la, puis supprimez les lignes plus anciennes. Pour comparaison, l'audit standard de Microsoft garde 180 jours les enregistrements de Copilot.

Une ligne du journal peut-elle être modifiée ou effacée ?

Cela dépend de l'outil, et c'est la première question à poser à votre responsable informatique. Un journal utile n'accepte que des ajouts : aucune ligne ne se modifie ni ne s'efface, même par un administrateur. Une empreinte numérique sur chaque ligne et un export signé permettent de vérifier qu'aucune retouche n'a eu lieu.

Qui doit avoir accès au journal des questions ?

Peu de personnes, par exemple le responsable informatique, le délégué à la protection des données et un membre de la direction. Leurs propres consultations doivent être enregistrées. Le journal sert aux enquêtes et aux audits, pas à juger le travail de chaque salarié.

Infrastructure sécurisée déployée dans votre périmètre
Gratuit

Parlez-nous de votre cas d'usage

Nous revenons avec une architecture qui répond à votre besoin. Installez-la vous-même ou confiez-la-nous.

Votre cas d'usage et votre email servent seulement à vous répondre. Ils ne sont ni vendus ni cédés. Détail et droits : Confidentialité

Dans la même rubrique

  • How-to

    Déployer une IA dans votre entreprise : quelles étapes, de l'audit à la mise en production ?

    Un projet d'IA installée chez vous ne commence pas par le choix d'un modèle. Ce guide suit l'exemple d'une PME qui veut extraire les clauses de ses contrats fournisseurs, en six étapes. Les trois premières portent sur un premier usage, l'inventaire des documents et des risques, puis le lieu et le modèle. Les trois suivantes couvrent les tests sur vos dossiers, l'ouverture à un groupe pilote, puis le suivi après la mise en production.

    6 min