« IA éthique » recouvre quatre questions concrètes : sur quelles données le système a appris, qui il désavantage sans qu'on l'ait voulu, qui répond quand il se trompe, et si quelqu'un peut expliquer sa décision. Ce ne sont pas des questions de philosophie, ce sont des questions d'ingénierie et d'organisation, et elles se posent bien avant l'arrivée d'un spécialiste.
L'expression est devenue un argument de communication, ce qui la vide de sens. Le reste de cet article la remplit à nouveau : ce que chaque question veut dire, quel arbitrage elle impose, et comment vous faire un avis sans être expert.
Sommaire
- Pourquoi l'expression sonne creux
- Question 1 : d'où viennent les données
- Question 2 : qui le système désavantage
- Question 3 : qui répond quand ça se trompe
- Question 4 : peut-on expliquer la décision
- Les arbitrages dont personne ne parle
- Questions fréquentes
Pourquoi l'expression sonne creux
Le problème n'est pas que l'éthique de l'IA soit un faux sujet : c'est que le mot est employé comme une garantie sans contenu. Une organisation qui annonce une « IA éthique et responsable » n'a rien dit tant qu'elle n'a pas précisé laquelle des quatre questions elle a traitée, et comment.
Le test est simple et vous pouvez l'appliquer sans compétence technique. Demandez sur quelles données le système a été entraîné, et ce qui se passe quand il se trompe. Si les réponses restent générales, l'annonce était un élément de langage.
Ce n'est pas un débat entre optimistes et pessimistes
C'est la confusion la plus fréquente. Les quatre questions se posent quel que soit votre enthousiasme pour la technologie : un outil que vous trouvez formidable peut être opaque, et un outil que vous trouvez décevant peut être parfaitement documenté. L'éthique porte sur la façon dont le système est construit et utilisé, pas sur ce qu'on en pense.
Question 1 : d'où viennent les données
Un système apprend de ce qu'on lui montre, donc la première question éthique est de savoir ce qu'on lui a montré, avec quel consentement, et ce qu'il en reste.
Trois choses distinctes se cachent derrière cette question, et les mélanger est la source de la plupart des malentendus.
L'origine, d'abord : les données ont-elles été produites pour cet usage, ou récupérées d'un usage précédent qui n'avait rien prévu de tel. Le consentement ensuite : les personnes concernées savaient-elles que leurs données serviraient à cela. La persistance enfin : que reste-t-il d'une donnée dans un système une fois l'apprentissage terminé, et que veut dire « supprimer » à ce stade.
Pourquoi c'est concret et pas abstrait
Parce que la réponse détermine ce que vous pouvez faire de l'outil. Un système entraîné sur des données dont l'origine est incertaine reste utilisable pour brouillonner une idée et devient un risque dès qu'il touche à un dossier réel. La question n'est pas morale, elle est opérationnelle.
Question 2 : qui le système désavantage
Un système apprend les régularités de ses exemples, y compris celles qu'on aurait préféré ne pas transmettre, et rien en lui ne les signale comme problématiques.
C'est le point le plus contre-intuitif de tout le sujet. Il n'y a pas d'intention : la machine ne décide pas de défavoriser quelqu'un. Elle reproduit fidèlement ce que les données contenaient. Si une pratique passée était déséquilibrée, le déséquilibre devient une régularité comme une autre, et il ressort dans les décisions.
Le piège du « c'est objectif, c'est une machine »
Cette phrase est probablement la plus dangereuse du domaine. Une machine n'a pas d'opinion, c'est vrai, et c'est précisément pour cela qu'elle n'a aucune raison de corriger un déséquilibre qu'elle observe. L'absence d'opinion garantit l'absence de correction, pas l'absence de biais.
Ce qui rend le problème difficile
Un biais ne se voit pas sur une décision isolée. Il apparaît en regardant beaucoup de décisions, réparties par catégorie de personnes. Autrement dit : il faut décider à l'avance ce qu'on mesure, et sur quels groupes. Ce choix est lui-même une décision, et il n'existe pas de version neutre.
Question 3 : qui répond quand ça se trompe
Un système se trompe. La question éthique n'est pas de l'empêcher, c'est de savoir ce qui se passe ensuite, et qui en répond.
Trois réponses circulent, et deux sont mauvaises. « C'est l'outil » déresponsabilise tout le monde. « C'est l'utilisateur » fait porter à la personne la moins informée la conséquence d'un choix qu'elle n'a pas fait. La troisième, la seule tenable : celui qui a décidé de déployer le système, dans ce contexte, pour cette décision.
La conséquence pratique
Elle est immédiate et elle est la raison pour laquelle ce sujet vous concerne même sans compétence technique. Avant d'introduire un outil dans un processus, il faut avoir écrit ce qui se passe quand il se trompe : qui le détecte, qui corrige, qui prévient la personne concernée. Si personne n'a écrit cela, ce n'est pas un projet d'IA, c'est un pari.
Question 4 : peut-on expliquer la décision
Dans beaucoup de systèmes actuels, personne ne peut dire complètement pourquoi telle décision a été prise, et ce n'est pas un défaut passager.
La « règle » qu'un système a apprise n'est pas écrite en français quelque part : elle est répartie dans un très grand nombre de valeurs numériques ajustées pendant l'apprentissage. Des techniques permettent d'éclairer partiellement une décision, en montrant quels éléments ont le plus pesé. Elles donnent une indication, pas une démonstration.
Quand cela devient un problème sérieux
Pas partout, et faire comme si serait exagéré. Cela devient sérieux dès qu'une décision doit pouvoir être contestée par la personne qui la subit. Une recommandation de film opaque n'a aucune conséquence ; un refus opaque en a. Le critère utile n'est pas la sophistication du système, c'est l'existence d'un recours.
Les arbitrages dont personne ne parle
Le discours courant présente l'éthique comme un supplément vertueux qu'on ajoute. En pratique, chaque exigence en coûte une autre, et c'est cela qu'il faut savoir.
| Ce qu'on veut | Ce que ça coûte |
|---|---|
| Un système explicable | Souvent moins performant que le meilleur système disponible |
| Moins de données personnelles | Moins de précision sur les cas individuels |
| Une correction de biais | Un choix explicite du groupe protégé, donc contestable |
| Une supervision humaine | Un délai et un coût, donc un intérêt réduit |
Aucune ligne de ce tableau n'a de solution gratuite. C'est précisément pour cela que les décisions doivent être prises et écrites, plutôt que déléguées à un outil.
Trois questions à poser avant de déployer quoi que ce soit
- Quelle décision ce système prend-il réellement, et qu'est-ce qui change pour la personne concernée si elle est mauvaise.
- Qui la vérifie, à quelle fréquence, et sur quel échantillon.
- Que se passe-t-il en cas d'erreur : qui la détecte, qui corrige, qui informe.
Si les trois réponses tiennent en quelques phrases, le projet est cadré. Si elles se dérobent, le problème n'est pas éthique, il est organisationnel, et l'outil ne le réglera pas.
Se faire un avis sans être expert
Aucune de ces quatre questions ne demande de compétence technique pour être posée. Elles demandent seulement de refuser une réponse générale.
C'est ce que nous faisons dans nos rencontres : prendre un cas concret, dérouler les quatre questions, et constater lesquelles restent sans réponse. L'exercice est plus utile qu'un exposé, parce qu'il révèle que la difficulté est rarement technique.
Les conférences et ateliers d'IA Innovateurs sont gratuits et ouverts à tous les niveaux, débutants compris. L'adhésion est distincte et facultative, à 25 € par an, avec un tarif solidaire à 10 €.
Questions fréquentes
« IA éthique » et « IA responsable » veulent-ils dire la même chose ?
Dans l'usage courant, oui, et les deux expressions sont employées indifféremment. Si l'on veut distinguer, « éthique » renvoie plutôt aux principes et aux questions de fond, tandis que « responsable » insiste sur les pratiques et l'organisation qui les mettent en œuvre. La distinction est utile pour clarifier une discussion, mais elle n'est pas stabilisée : personne ne peut vous reprocher de les confondre. L'important est de demander de quoi on parle concrètement dans les deux cas.
Faut-il une compétence technique pour juger si une IA est éthique ?
Non pour poser les questions, parfois oui pour vérifier les réponses. Demander d'où viennent les données, qui répond en cas d'erreur ou comment une décision s'explique ne demande aucune connaissance particulière. Évaluer la qualité technique d'une réponse peut en demander, mais c'est déjà une étape plus loin, et le plus souvent le problème apparaît avant : la réponse reste générale. Une réponse vague est un signal accessible à tout le monde.
Une IA peut-elle être neutre ?
Non, et l'affirmation inverse devrait éveiller votre méfiance. Un système reflète les données qui l'ont formé et les choix faits en le construisant : ce qu'on mesure, ce qu'on optimise, ce qu'on décide d'ignorer. Ces choix ne sont pas neutres, ils sont simplement invisibles quand personne ne les documente. La question utile n'est pas « ce système est-il neutre » mais « quels choix a-t-on faits, et qui peut les consulter ».
Une régulation suffit-elle à rendre l'IA éthique ?
Non, et c'est une confusion fréquente entre le minimum légal et la qualité d'une pratique. Un cadre réglementaire fixe un plancher, définit des obligations et rend certaines choses contestables, ce qui est considérable. Il ne dit pas pour autant si l'usage que vous faites d'un outil dans votre contexte est pertinent, ni qui vérifie ses erreurs chez vous. Les quatre questions de cet article restent à poser même quand tout est conforme.
Que faire si l'outil que j'utilise ne répond à aucune de ces questions ?
Le premier réflexe raisonnable est de limiter son usage plutôt que de le bannir. Un outil opaque reste utilisable pour ce qui n'engage personne : brouillonner, reformuler, explorer une idée. Il devient un risque dès qu'il touche une décision qui affecte quelqu'un, un dossier, un droit. Cette ligne de partage est simple à tenir et ne demande l'autorisation de personne.
Envie de dérouler ces questions sur un cas réel ? Consultez les prochaines rencontres, découvrez qui nous sommes, ou écrivez-nous avec votre situation.