Une charte éthique IA engage son auteur dans la mesure exacte où elle est vérifiable : les phrases qui nomment une personne, une fréquence ou une limite créent une obligation interne, les autres créent une intention. La plupart des chartes sont composées à quatre-vingt-dix pour cent d'intentions.
Cela ne les rend pas inutiles, mais cela change ce qu'on peut en attendre. Voici ce qu'une charte fait réellement, ce qu'elle ne couvre pas, et ce qui la sépare d'un document décoratif.
Sommaire
- Ce qu'une charte est, et ce qu'elle n'est pas
- Les six éléments qui la rendent vérifiable
- Ce qu'une charte ne couvre pas
- Les formulations qui n'engagent à rien
- Faut-il en écrire une, et quand
- Questions fréquentes
Ce qu'une charte est, et ce qu'elle n'est pas
Une charte est un engagement interne que l'organisation se donne à elle-même. Ce n'est ni un contrat avec vos clients, ni une mise en conformité, ni une garantie pour les personnes concernées par vos décisions.
Cette nature interne est sa force et sa limite. Sa force : vous en fixez le contenu, vous pouvez donc y mettre des engagements plus exigeants que ce qui vous est imposé. Sa limite : personne à l'extérieur ne peut la faire appliquer, sauf si vous l'avez rendue publique et qu'un écart devient un problème de réputation.
Pourquoi elle est souvent écrite trop tôt
Parce qu'elle est le livrable le plus facile du sujet. Rédiger des principes prend une réunion ; décider qui vérifie quoi engage quelqu'un et prend plus longtemps. Une organisation qui commence par la charte a produit le document le moins coûteux, et souvent le moins utile, en croyant avoir traité la question.
Les six éléments qui la rendent vérifiable
Une charte utile contient au moins ces six éléments. Une charte qui n'en contient aucun est un texte de communication.
- Un périmètre explicite. Quels systèmes elle couvre et lesquels elle ne couvre pas. Une charte qui prétend couvrir « toute utilisation de l'IA » ne couvre rien de vérifiable.
- Une liste de refus. Les usages que l'organisation s'interdit, même s'ils deviennent techniquement possibles. C'est l'élément le plus rare, et celui qui distingue le plus nettement un engagement d'une déclaration.
- Un rôle nommé. Une fonction, pas une équipe : quelqu'un dont le nom peut être demandé.
- Une fréquence. À quel rythme les systèmes couverts sont réexaminés. Sans fréquence, l'examen n'a pas eu lieu et n'aura pas lieu.
- Un circuit d'erreur. Ce qui se passe quand un système se trompe : qui le détecte, qui corrige, qui informe la personne concernée. Presque toujours absent.
- Une date de révision. Un document sur un sujet qui bouge tous les six mois et qui n'a pas de date de révision est périmé sans que personne ne le sache.
La mise en œuvre concrète de ces engagements est un sujet à part entière, que nous traitons dans notre article sur les principes en pratique. La charte dit ce qu'on s'engage à faire ; la mise en œuvre dit comment on le fait tenir.
Ce qu'une charte ne couvre pas
Trois angles morts reviennent systématiquement, et il vaut mieux les connaître que les découvrir.
Elle ne remplace pas vos obligations
Un engagement volontaire s'ajoute à ce qui s'applique déjà à votre activité, il ne s'y substitue pas et ne vous en dispense pas. Écrire une charte ne met personne en conformité avec quoi que ce soit. Si votre secteur ou votre usage relève d'obligations particulières, ces obligations continuent d'exister indépendamment du document que vous rédigez, et une charte ne constitue pas un avis juridique.
Elle ne couvre pas ce que font vos prestataires
Si vous utilisez un service extérieur, votre charte engage votre organisation, pas votre fournisseur. Beaucoup de chartes promettent des choses que leur auteur n'est pas en position de tenir : la traçabilité d'un entraînement qu'il n'a pas fait, la suppression de données dans un système qu'il ne contrôle pas.
Elle ne dit rien de l'usage réel
C'est l'angle mort le plus important. Une charte décrit une intention à une date donnée ; l'usage dérive ensuite, tâche par tâche, sans qu'aucune décision explicite soit prise. La liste de refus est précisément le mécanisme qui rend cette dérive visible, et c'est pour cela qu'elle est indispensable.
Les formulations qui n'engagent à rien
Ces tournures reviennent dans presque toutes les chartes. Aucune ne crée d'obligation vérifiable.
| Formulation courante | Pourquoi elle n'engage à rien | Version vérifiable |
|---|---|---|
| « Nous veillons à la qualité des données » | Personne n'est nommé, aucun critère | « Les jeux de données sont documentés avant usage, par le responsable X » |
| « Nos systèmes restent sous supervision humaine » | Ni qui, ni sur quoi, ni à quelle fréquence | « X examine un échantillon mensuel de N décisions » |
| « Nous respectons la vie privée » | Reformulation d'une obligation existante | « Aucune donnée personnelle n'est soumise à un service externe » |
| « Nous nous engageons à la transparence » | Transparence envers qui, sur quoi | « Toute décision automatisée est signalée comme telle à la personne concernée » |
| « Nous utilisons l'IA de façon responsable » | Ne dit rien du tout | À remplacer par une liste de refus |
La colonne de droite n'est pas plus longue que celle de gauche. C'est le point : la version vérifiable ne coûte pas plus de mots, elle coûte une décision.
Faut-il en écrire une, et quand
Pas en premier. Une charte écrite avant d'avoir cadré un usage réel décrit une organisation imaginaire.
L'ordre qui fonctionne est l'inverse de l'ordre habituel. Prenez un usage réel, cadrez-le, constatez ce que vous ne savez pas répondre, et ensuite écrivez le document. Il sera plus court, plus exact, et vous pourrez le tenir.
Une organisation qui a cadré honnêtement un seul usage est plus avancée que celle qui a adopté une charte de dix pages couvrant tout. Le document court et vérifiable bat le document long et général, parce qu'on peut le confronter aux faits.
C'est le format de nos ateliers : partir d'un cas réel plutôt que d'un texte. Les conférences et ateliers d'IA Innovateurs sont gratuits et ouverts à tous les niveaux. L'adhésion est distincte et facultative, à 25 € par an, avec un tarif solidaire à 10 €.
Questions fréquentes
Une charte éthique IA a-t-elle une valeur juridique ?
C'est un engagement volontaire, et sa portée dépend de la façon dont vous le formulez et le diffusez : un document interne n'a pas le même statut qu'un engagement public opposable, et cette question relève d'un conseil juridique que cet article ne prétend pas donner. Ce qui est certain en revanche est qu'une charte ne remplace aucune obligation applicable à votre activité, et qu'elle ne vous en dispense pas. Considérez-la comme un outil de pilotage interne plutôt que comme une protection.
Faut-il la rendre publique ?
Publier crée un engagement réputationnel réel, ce qui est à la fois son intérêt et son risque : un écart devient visible. Si votre charte contient les six éléments vérifiables, la publier renforce votre crédibilité. Si elle est composée de formulations générales, la publier expose surtout le fait qu'elle n'engage à rien. Le bon ordre est donc d'écrire d'abord une version que vous seriez à l'aise de voir citée, puis de décider de sa diffusion.
Une petite structure a-t-elle besoin d'une charte ?
Rarement d'un document formel, souvent d'une page. Dans une petite structure, l'utile est d'écrire noir sur blanc ce qu'on ne confie pas à un système et qui vérifie quoi, ce qui tient en quelques lignes. Le formalisme d'une charte devient pertinent quand plusieurs équipes utilisent des outils différents sans se parler, parce que le document sert alors à aligner des pratiques dispersées. En dessous de cette taille, une page suffit et sera davantage lue.
Qui doit la rédiger ?
Pas uniquement la personne la plus à l'aise techniquement, parce que l'essentiel des décisions à trancher est organisationnel et non technique. La rédaction gagne à associer quelqu'un qui connaît les usages réels sur le terrain et quelqu'un qui a l'autorité d'interdire un usage. Sans cette seconde personne, la liste de refus n'existera pas, et c'est l'élément qui donne sa valeur au document.
À quelle fréquence faut-il la réviser ?
Assez souvent pour suivre vos usages, ce qui dans la pratique veut dire dès qu'un nouvel usage apparaît plutôt qu'à date fixe. Une révision annuelle est un minimum raisonnable, mais elle est insuffisante si vos pratiques changent tous les trimestres. Le signal fiable n'est pas le calendrier, c'est l'apparition d'un usage que la charte n'avait pas prévu : c'est le moment de la relire.
Envie de cadrer un cas réel avant d'écrire quoi que ce soit ? Consultez les prochaines rencontres, découvrez qui nous sommes, ou écrivez-nous.