Rendre une IA responsable dans une organisation tient à six décisions écrites : quelle décision la machine prend, qui la vérifie, à quelle fréquence, ce qui se passe en cas d'erreur, ce qu'on refuse de lui confier, et qui peut dire non. Aucune ne demande de compétence technique. Toutes demandent d'être écrites avant le déploiement, pas après.
C'est là que se sépare une charte d'une pratique. Les principes font consensus en une réunion ; les six décisions ci-dessous prennent du temps parce qu'elles engagent quelqu'un.
Sommaire
- Pourquoi les chartes ne changent rien
- Les six décisions à écrire
- Comment vérifier que ça tient
- Les trois erreurs de mise en œuvre les plus fréquentes
- Commencer petit, mais commencer écrit
- Questions fréquentes
Pourquoi les chartes ne changent rien
Une charte énonce des intentions, et une intention ne désigne personne. C'est sa faiblesse structurelle : on peut y souscrire entièrement sans que rien ne change dans un processus de travail.
Prenez un principe standard, « nos systèmes restent sous supervision humaine ». Il est irréprochable et parfaitement inopérant tant qu'on n'a pas dit qui supervise, sur quel échantillon, à quelle fréquence, et ce qui se passe quand cette personne est en congé. Les mêmes mots peuvent décrire une pratique rigoureuse ou une absence totale de contrôle.
Le test qui départage
Demandez le nom d'une personne et une fréquence. Si la réponse contient les deux, la pratique existe. Si elle reste au niveau du principe, vous avez une charte. Ce test tient en une question et il fonctionne dans n'importe quelle organisation.
Ce que recouvre exactement l'expression, et les arbitrages qu'elle impose, sont détaillés dans notre article sur ce dont on parle quand on dit « IA éthique ». Le présent article part de l'étape suivante : la mise en œuvre.
Les six décisions à écrire
Chacune se formule en une phrase, et l'absence de cette phrase est en soi l'information.
- Quelle décision le système prend réellement. Pas « il aide à trier », mais « il classe les demandes en trois files et la file 3 attend quatre jours ». La formulation vague est le premier signe qu'on n'a pas regardé.
- Qui vérifie, et sur quoi. Une personne nommée, un échantillon défini, un rythme. « L'équipe reste vigilante » ne remplit pas cette case.
- À quelle fréquence. Un contrôle annuel sur un système qui décide tous les jours n'est pas un contrôle, c'est une formalité.
- Ce qui se passe en cas d'erreur. Qui la détecte, qui corrige, qui prévient la personne concernée, et dans quel délai. C'est la décision la plus souvent absente.
- Ce qu'on refuse de lui confier. Une liste explicite de décisions que le système ne prendra pas, même s'il en devient techniquement capable. Sans cette liste, le périmètre s'étend par commodité.
- Qui peut dire non. Une personne ayant l'autorité d'arrêter l'usage sans avoir à convaincre. Si personne ne l'a, les cinq décisions précédentes sont consultatives.
Pourquoi six et pas trois
Parce que les trois premières sont celles qu'on écrit spontanément, et les trois suivantes celles qui font la différence. Une organisation qui a répondu aux six a fait le travail. Une organisation qui s'arrête à trois a documenté un usage, pas encadré un risque.
Comment vérifier que ça tient
Un dispositif écrit et jamais exercé se dégrade sans que personne s'en aperçoive. La vérification n'est donc pas un audit annuel, c'est une habitude modeste.
| Ce qu'on vérifie | Comment | À quel rythme |
|---|---|---|
| Le système fait ce qu'on croit | Rejouer des cas réels connus et comparer | À chaque changement |
| Personne n'est systématiquement désavantagé | Regrouper les décisions par catégorie et comparer les taux | Périodiquement, rythme écrit |
| Le circuit d'erreur fonctionne | Provoquer une erreur volontairement et suivre son traitement | Au moins une fois, puis à chaque changement d'équipe |
| Le périmètre n'a pas glissé | Relire la liste des refus et la confronter aux usages réels | Périodiquement |
La troisième ligne est celle qu'on saute presque toujours, et c'est la plus instructive. Un circuit d'erreur qu'on n'a jamais exercé est une hypothèse, pas une garantie : on découvre en général qu'il aboutit à une boîte mail que personne ne relève.
Les trois erreurs de mise en œuvre les plus fréquentes
Aucune des trois ne relève de la technique. Toutes relèvent de l'organisation.
Confier la vérification à celui qui a déployé l'outil
C'est humainement compréhensible et méthodologiquement intenable : la même personne a intérêt à ce que l'outil fonctionne. Il ne s'agit pas de suspecter quiconque, mais de reconnaître qu'un regard extérieur voit des choses qu'un regard engagé ne voit pas.
Confondre la conformité et la qualité
Un dispositif conforme aux obligations qui s'appliquent à vous répond au minimum exigible. Il ne dit rien de la pertinence de votre usage, ni de la solidité de votre circuit d'erreur. Les deux questions sont légitimes et distinctes, et traiter la première comme si elle réglait la seconde est la manière la plus courante de se rassurer à tort.
Laisser le périmètre s'étendre par commodité
Un système déployé pour une tâche se voit confier la tâche voisine parce que c'est pratique, puis une troisième. Chaque extension est raisonnable prise isolément ; l'ensemble ne correspond plus à ce qui a été décidé. C'est exactement la raison d'être de la cinquième décision, la liste des refus.
Commencer petit, mais commencer écrit
Le principal obstacle n'est pas la difficulté, c'est l'idée qu'il faudrait un dispositif complet avant de commencer. C'est faux, et cette croyance produit l'inaction.
Une organisation qui a répondu aux six questions sur un seul usage, honnêtement, est plus avancée que celle qui a adopté une charte de dix pages couvrant tout. Le document court et exact bat le document long et général, parce qu'on peut le vérifier.
C'est le format de nos ateliers : prendre un usage réel, dérouler les six décisions, et constater lesquelles restent vides. L'exercice dure moins longtemps qu'on ne le croit, et ce qu'il révèle est presque toujours organisationnel plutôt que technique.
Les conférences et ateliers d'IA Innovateurs sont gratuits et ouverts à tous les niveaux. L'adhésion est distincte et facultative, à 25 € par an, avec un tarif solidaire à 10 €.
Questions fréquentes
Faut-il une charte écrite pour utiliser l'IA de façon responsable ?
Une charte aide à afficher une intention, mais elle ne suffit pas et elle n'est pas le point de départ le plus utile. Les six décisions de cet article valent davantage qu'un document de principes, parce qu'elles nomment des personnes et des fréquences plutôt que des valeurs. Si vous devez choisir entre les deux par manque de temps, écrivez les six décisions sur un seul usage. La charte peut venir ensuite, et elle sera meilleure parce qu'elle s'appuiera sur une pratique réelle.
Qui doit porter ce sujet dans une petite structure ?
Quelqu'un qui a l'autorité d'arrêter un usage, ce qui exclut de le confier uniquement à la personne la plus à l'aise techniquement. Dans une petite structure c'est souvent la direction, et ce n'est pas un problème tant que la vérification est confiée à quelqu'un d'autre que celui qui a déployé l'outil. La séparation compte plus que la taille de l'organisation. Une association de trois personnes peut très bien tenir ce dispositif.
Combien de temps cela prend-il réellement ?
Répondre aux six questions sur un usage précis prend généralement une réunion, à condition d'accepter d'écrire « nous ne savons pas » là où c'est le cas. Ce qui prend du temps n'est pas la réflexion, c'est de trancher les points qui n'avaient jamais été tranchés, en particulier le circuit d'erreur et la personne qui peut dire non. Étaler l'exercice sur des semaines produit rarement de meilleures réponses.
Que faire si le fournisseur de l'outil ne répond pas à nos questions ?
Traitez cette absence de réponse comme une information et non comme un obstacle. Un fournisseur qui ne dit pas sur quelles données son système a appris, ni ce qui se passe en cas d'erreur, vous indique le périmètre d'usage raisonnable : ce qui n'engage personne. Vous gardez la main sur les six décisions, puisqu'elles portent sur votre organisation et pas sur la sienne. La cinquième, la liste des refus, devient simplement plus longue.
Est-ce que cela ralentit les projets ?
Un peu au démarrage, et nettement moins ensuite qu'une remise en cause tardive. Le coût réel n'est pas la rédaction des six décisions, c'est la découverte après déploiement que personne ne surveille les erreurs, parce qu'à ce stade la correction touche un processus déjà installé et des habitudes prises. Cadrer un usage en une réunion coûte moins que le recadrer six mois plus tard.
Envie de dérouler les six décisions sur un cas réel ? Consultez les prochaines rencontres, découvrez qui nous sommes, ou écrivez-nous.