Un outil d'IA performant, mais sans règles d'usage, crée des risques. Cette page présente ces risques, et les garde-fous à poser pour s'en servir de façon responsable. C'est ce qu'on appelle la gouvernance.
Chaque risque est placé selon deux questions : a-t-il des chances d'arriver ? Et s'il arrive, est-ce grave ? Ceux du coin en haut à droite sont à traiter en premier.
1 · Hallucinations
Réponses inventées
L'IA peut donner une réponse qui sonne juste mais qui est fausse, surtout quand elle n'a pas de source fiable sous les yeux.
2 · Fuite de données
Des informations qui sortent
Un outil mal réglé peut laisser des informations sensibles là où elles ne devraient pas être : dans un prompt, ou dans l'historique conservé par le fournisseur.
3 · Actions non contrôlées
Trop de droits
Un agent à qui on a donné trop de droits peut faire des actions qu'il n'aurait jamais dû faire.
4 · Données périmées
Réponses périmées
Si personne ne met à jour les documents que l'IA consulte, elle répond avec des informations qui ne sont plus vraies.
5 · Aucune trace
Impossible de vérifier
Si l'on ne garde ni l'historique ni les sources utilisées, on ne peut ni expliquer une erreur ni la corriger. Garder ces traces, c'est assurer la traçabilité.
Garde-fous
Les garde-fous à mettre en place
Données
Des sources choisies
Décidez quels documents l'IA a le droit d'utiliser, qui les met à jour, et gardez la date de chaque version.
Sécurité
Le moins de droits possible
Donnez aux agents le strict nécessaire, et mettez à part les actions sensibles.
Qualité
Des essais réguliers
Vérifiez régulièrement les réponses sur une série de cas types de votre métier, toujours les mêmes.
Humain
Une personne valide
Exigez qu'une personne contrôle toute décision juridique, financière ou qui touche au personnel.
Le principe
Une personne garde la main
Plus une action a de conséquences, plus une personne doit intervenir. En anglais, on parle de human in the loop, « l'humain dans la boucle ».
Ce principe protège trois choses à la fois : la qualité du travail, le respect de la loi et la confiance des équipes.
Comprendre les hallucinations
Pourquoi l'IA invente
Une hallucination, c'est une information fausse que l'IA affirme avec assurance. Ce n'est pas une panne : c'est la conséquence de sa façon d'écrire, qui consiste à choisir chaque fois une suite probable. Trois réglages décident de la part de hasard qu'on lui laisse.
Température
0 → 2
À 0, le modèle prend toujours le mot le plus probable : ses réponses sont prévisibles. À 2, il ose des mots rares : c'est plus original, mais plus risqué.
Top P
0 → 1
Il écarte les mots les moins probables. À 0,5, le modèle ne choisit que parmi les mots qui, ensemble, représentent la moitié des chances.
Top K
1 → ∞
Il fixe le nombre de mots entre lesquels le modèle peut choisir. Avec un Top K de 10, il ne retient que les dix mots les plus probables.
La cause principale
L'IA prédit, elle ne vérifie pas
À chaque mot, le modèle choisit la suite la plus vraisemblable. Il ne consulte aucune liste de faits vérifiés. Quand il lui manque une information, il comble le trou avec ce qui sonne juste, même si c'est faux.
Un exemple en mairie
L'assistant de la mairie et la mauvaise adresse
L'autre cause
La date de coupure
Ce que chaque modèle a appris s'arrête à une date, la date de coupure. Il ignore tout ce qui s'est passé ensuite. Interrogé sur un fait récent, il peut répondre avec assurance, en inventant quelque chose de vraisemblable.
Dates de coupure publiées par les éditeurs ; relevé d'octobre 2026.
Sans recherche sur le web, un modèle dont les connaissances s'arrêtent avant mai 2025, comme GPT-5, répond « François ». Un modèle plus récent, comme GPT-5.5 ou Claude Opus 5.5, connaît Léon XIV.
Toutes les IA ne sont pas égales
Les biais des grandes IA du marché
Un biais, c'est un penchant : une IA n'est jamais tout à fait neutre, elle porte les choix de ceux qui l'ont fabriquée. Cette carte place chaque outil selon deux questions : filtre-t-il beaucoup ses réponses ? Et où vos données sont-elles hébergées, en Europe ou ailleurs ?
À retenir : il n'existe pas d'IA neutre. Chaque modèle porte les choix de ceux qui l'ont fabriqué. Sur un sujet sensible, le mieux reste d'interroger plusieurs outils et de comparer leurs réponses.
OpenAI
ChatGPT
Orientation : modéré ; il évite de lui-même les sujets sensibles.
Points forts : la rédaction, la polyvalence ; il traite le texte, l'image et la voix (il est multimodal).
Données : hébergées aux États-Unis ; elles servent à entraîner le modèle, sauf si vous le refusez dans les réglages.
Anthropic
Claude
Orientation : très prudent ; il refuse plus souvent les demandes à la limite.
Points forts : l'analyse nuancée, les longs documents, la fiabilité.
Données : hébergées aux États-Unis, avec des règles de confidentialité strictes.
Google
Gemini
Orientation : modéré à woke, intégré à l'écosystème Google.
Points forts : la recherche sur le web en direct, le lien avec les outils Google.
Données : hébergées aux États-Unis, reliées à vos autres services Google.
Microsoft
Copilot
Orientation : neutre, tourné vers le travail de bureau.
Points forts : il est intégré à Word, Excel, Outlook et Teams.
Données : dans la version entreprise, elles peuvent rester séparées de celles des autres clients.
Mistral AI · France
Mistral
Orientation : peu de filtres ; une partie de ses modèles est ouverte (open source).
Points forts : une entreprise européenne ; on peut l'installer sur ses propres serveurs.
Données : peuvent être hébergées en France, dans le respect du RGPD.
xAI · Musk
Grok
Orientation : libertaire, anti-woke, peu de restrictions.
Points forts : il lit en direct le réseau X (ex-Twitter) ; peu de filtres.
Données : hébergées aux États-Unis, reliées au réseau X.
DeepSeek · Chine
DeepSeek
Orientation : contrôlé par l'État chinois : il censure certains sujets (Tiananmen, Taïwan, Xinjiang…).
Points forts : les mathématiques, la programmation ; gratuit et très performant.
Données : hébergées en Chine, et soumises à la loi chinoise.
Meta · Open source
Llama
Orientation : neutre ; chacun peut l'adapter à sa guise.
Points forts : on l'installe chez soi, sans envoyer de données à l'extérieur.
Données : elles ne sortent pas, si le modèle tourne sur vos serveurs.
Pourquoi les biais existent
D'où viennent les biais : trois causes
Cause 1
Des textes qui ne représentent pas tout le monde
Les modèles ont appris sur d'immenses quantités de textes pris sur internet, surtout écrits en anglais et dans les pays occidentaux.
Cause 2
Les clichés de la société
Ces textes portent les préjugés de la société : sur les femmes et les hommes, sur les origines, sur les métiers.
Cause 3
Les choix de ceux qui le règlent
Des personnes notent les réponses du modèle pour l'améliorer (la méthode s'appelle RLHF). Il finit par refléter leurs préférences ; or elles sont souvent jeunes, diplômées et anglophones.
Confidentialité et RGPD
Ce qui part dans le prompt ne vous appartient plus
Vos données sont plus ou moins protégées selon l'outil que vous utilisez, et l'endroit où il est hébergé. Quatre situations, de la moins à la plus protégée.
Grand public
Vos données sont réutilisées
Dans leur version gratuite, ChatGPT ou Gemini se servent de vos conversations pour améliorer leurs modèles. Elles sont conservées aux États-Unis.
Entreprise
Vos données sont mises à part
Les offres pour les organisations (chez OpenAI, Microsoft ou Anthropic) s'engagent à ne pas utiliser vos données pour entraîner leurs modèles.
En France
Hébergement en France
Mistral AI ou Albert, l'IA de l'État français, peuvent être hébergés en France : vos données ne quittent pas l'Union européenne, comme le demande le RGPD. C'est ce qu'on appelle la souveraineté numérique.
Chez vous
L'IA sur vos propres serveurs
Le modèle (Llama ou Mistral, par exemple) tourne sur les machines de l'organisation, sur son réseau interne (on dit « on-premise ») : rien ne sort. C'est le choix des secteurs sensibles : défense, santé, justice.
Ce qu'il ne faut jamais saisir
Ce qu'on n'écrit jamais dans un prompt
Données personnelles
Le nom, l'adresse, le numéro de sécurité sociale ou le relevé bancaire d'une autre personne.
Données sensibles
La santé, les opinions politiques, le dossier d'un salarié qu'on peut reconnaître.
Secrets de l'organisation
Un contrat confidentiel, un projet pas encore public, un savoir-faire protégé.
Accès et mots de passe
Un identifiant, un mot de passe, une clé d'accès à un logiciel.
Règle pratique : si vous ne l'écririez pas sur une carte postale, ne l'écrivez pas dans une IA grand public.
Le RGPD en une phrase : si ce ne sont pas vos données, ce n'est pas à vous de choisir.
Le RGPD ne dit pas « interdit » : il dit « pas sans consentement ». Soumettre à une IA les données d'un client, d'un collègue, d'un patient ou d'un administré sans leur accord explicite vous met en faute, vous et votre organisation. Avant de coller, posez-vous la question : la personne concernée a-t-elle consenti à ce traitement, par cet outil, dans ce pays ? Si non, anonymisez ou abstenez-vous.
À vous de jouer · 5 min
Le jeu du tri : que pouvez-vous coller dans une IA gratuite ?
Une situation à la fois : glissez la carte dans la bonne case, ou touchez la case. Chaque réponse est expliquée.
L'environnement
L'IA a un coût écologique réel
Utilisée par des centaines de millions de personnes, l'IA générative consomme de l'énergie et de l'eau, sans que l'utilisateur s'en rende compte. Voici des ordres de grandeur publiés en 2025 et 2026.
≈ 0,3 Wh
Par question courte
Une ampoule LED de 10 W allumée deux minutes. Mais le mode « raisonnement » peut multiplier ce chiffre par deux… ou par plus de dix.
×400
Une vidéo de 6 s
≈ 115 Wh, autant que près de 400 questions courtes ; une image vaut environ 60 textes. Le format demandé pèse plus que le nombre de questions.
20 400 t
Mistral Large 2
CO₂e de l'entraînement et de 18 mois d'usage, plus 281 000 m³ d'eau : c'est le seul bilan complet, de la fabrication à l'usage, publié par un éditeur.
Sources : Google, Microsoft Research et Epoch AI (2025) pour la question ; Arcep/PEReN (2026) pour le raisonnement ; AIE (2025, citée par l'Arcep) et Luccioni et al. (2024) pour la vidéo et l'image ; Mistral AI avec Carbone 4 et l'ADEME (juillet 2025).
À retenir : à l'usage, une question coûte peu ; ce qui fait la différence, c'est le format (image, vidéo), le mode « raisonnement » et la taille des documents fournis. Ces chiffres sont des ordres de grandeur publiés surtout par les éditeurs eux-mêmes, avec des méthodes différentes. Détail, sources et simulateur : module IA responsable & sobriété →
La loi européenne
L'IA Act : le premier règlement mondial sur l'IA
Adopté en 2024, l'IA Act range les usages de l'IA en quatre niveaux de risque. Plus le risque est élevé, plus les obligations sont lourdes. La pyramide va du plus encadré, au sommet, au plus libre, à la base.
Calendrier d'application progressive
Les obligations arrivent par étapes, pour laisser à chacun le temps de s'y préparer. En juillet 2026, l'Union européenne a reporté les obligations du niveau « risque élevé » (règlement (UE) 2026/1744).
Niveau 1
Risque inacceptable
Interdit : noter les citoyens selon leur comportement, manipuler les gens à leur insu, reconnaître les visages en direct dans l'espace public (sauf exceptions de sécurité).
Niveau 2
Risque élevé
Autorisé sous conditions strictes : la santé, la justice, l'emploi, les réseaux vitaux (eau, énergie, transports). À partir de décembre 2027, il faudra des contrôles, une trace de tout, et une personne pour surveiller.
Niveau 3
Risque limité
Obligation de prévenir : un assistant doit dire qu'il est une IA. Un deepfake, c'est-à-dire une image, un son ou une vidéo truqués et très réalistes, doit être signalé comme tel.
Niveau 4
Risque minimal
Aucune obligation particulière : filtres contre les courriers indésirables, jeux vidéo, suggestions de films ou de musique. C'est la grande majorité des usages courants.
À vous de jouer · 5 min
Rangez ces usages selon l'IA Act
Huit usages, quatre niveaux. Glissez chaque carte au bon niveau : le jeu vous dit pourquoi.
Les principes
Les 7 principes d'une utilisation responsable
Sept principes à respecter dès qu'on utilise l'IA au travail, dans une entreprise comme dans un service public.
Principe 1
Respect de l'éthique
On n'utilise pas l'IA pour nuire, tromper, discriminer ou contourner la loi. Chaque usage doit pouvoir être expliqué, et assumé.
Principe 2
Transparence
On dit quand on s'est servi de l'IA, chaque fois que cela compte. Les habitants et les collègues ont le droit de savoir qu'un texte a été écrit avec son aide.
Principe 3
Confidentialité
Les données sensibles restent sous votre contrôle. On décide en connaissance de cause de ce que l'IA a le droit de lire, et de l'endroit où ces données sont hébergées.
Principe 4
Respect de la vie privée
Aucune donnée qui permet de reconnaître une personne n'est transmise sans son accord, ni sans avoir vérifié ce que le RGPD exige.
Principe 5
Formation continue
L'IA change vite. Se tenir à jour n'est pas facultatif : cela fait partie du métier.
Principe 6
C'est une personne qui décide
L'IA propose, une personne décide. Dès qu'un sujet a des conséquences, la décision finale revient à quelqu'un de compétent, pas à un programme.
Principe 7
Celui qui signe est responsable
Signer, publier ou transmettre un texte écrit par une IA engage la personne qui l'a validé. On ne peut pas dire « c'est la faute de l'IA ».
Au quotidien
Les 6 réflexes au quotidien
Ces principes deviennent six gestes simples, à adopter dès aujourd'hui.
Vérifier
Relisez toujours avant de publier. Rien de ce qu'écrit une IA ne part sans qu'une personne l'ait validé.
Assumer
La responsabilité reste la vôtre. Signer ou décider à partir d'une réponse d'IA vous engage.
Protéger
Ne donnez jamais de données sensibles. Rappelez-vous la liste de ce qu'on n'écrit pas dans un prompt.
Dire
Dites quand vous vous êtes servi de l'IA, si cela compte pour le lecteur : c'est ce qui entretient la confiance.
Diversifier
Ne dépendez pas d'un seul outil. Sur un sujet sensible, comparez les réponses de plusieurs IA.
Progresser
Retravaillez vos prompts. Dire ce qu'il faut changer, ajouter du contexte, préciser les limites : les réponses s'améliorent.
Dernière étape : synthèse finale
La synthèse finale reprend tout le parcours et propose un plan pour démarrer : passer de la compréhension à l'action.