Cinq idées fausses circulent régulièrement dans les discussions sur l'intelligence artificielle. Aucune n'est stupide, et c'est précisément ce qui les rend tenaces : chacune part d'une observation exacte, puis tire une conclusion que cette observation ne permet pas. Les corriger ne demande pas de bagage technique, seulement de suivre où le raisonnement s'écarte.
Deux d'entre elles surestiment ce que font ces systèmes, une les sous-estime, une concerne ce que l'histoire du domaine a de récent, et la dernière porte sur vous plutôt que sur la technologie. Nous les prenons dans cet ordre.
Sommaire
- « L'IA raisonne comme nous, en plus rapide »
- « Une machine est forcément neutre »
- « L'IA va remplacer les métiers, en bloc et bientôt »
- « Il faut un bagage technique pour s'y intéresser »
- « C'est une technologie toute neuve »
- Ce que corriger une idée fausse ne règle pas
- Questions fréquentes
« L'IA raisonne comme nous, en plus rapide »
Ce que cette idée contient de juste : les réponses obtenues ressemblent souvent à celles d'une personne qui aurait réfléchi. Ce qu'elle déforme : la ressemblance du résultat ne dit rien du chemin parcouru pour l'obtenir.
D'où vient l'impression
Elle vient du langage. Quand un texte est bien construit, nous en déduisons spontanément qu'une intention l'a construit, parce que c'est toujours vrai entre humains. Cette déduction est si automatique qu'il faut un effort pour la suspendre. Elle ne s'applique pourtant pas ici : un système qui a appris des régularités dans des exemples produit ce qui ressemble le plus à une réponse attendue, ce qui n'est pas la même opération que réfléchir à une question.
Pourquoi la nuance est pratique, pas philosophique
Si vous croyez qu'il y a raisonnement, vous attendez de la cohérence : qu'une erreur reconnue ne soit pas répétée deux minutes plus tard, qu'une affirmation soit compatible avec la précédente. Si vous savez qu'il y a reconstruction à chaque fois, vous cessez d'être surpris par ces incohérences et vous vérifiez au bon endroit. Le mécanisme complet est détaillé dans notre article sur comment fonctionne l'intelligence artificielle.
« Une machine est forcément neutre »
Ce que cette idée contient de juste : une machine n'a ni opinion, ni préférence, ni intérêt personnel. Ce qu'elle déforme : l'absence d'opinion de la machine ne rend pas neutre ce qu'elle a appris.
Le déséquilibre vient des exemples, pas du calcul
Un système d'apprentissage reproduit les régularités présentes dans ce qu'on lui a montré. Si une catégorie de situations était rare dans les exemples, elle sera mal traitée. Si les décisions passées qui ont servi d'exemples portaient un déséquilibre, ce déséquilibre a été appris comme une régularité parmi d'autres, sans qu'aucun mécanisme ne le signale comme problématique. La machine n'a pas d'avis ; elle a une mémoire statistique de ce qu'on lui a présenté.
Pourquoi l'impression de neutralité est dangereuse
Parce qu'elle décourage la contestation. Une décision présentée comme automatique paraît moins discutable qu'une décision signée par quelqu'un, alors qu'elle est en général plus difficile à expliquer. C'est le cœur des questions que nous traitons dans notre article sur l'IA éthique, et elles se posent bien avant l'arrivée d'un spécialiste.
« L'IA va remplacer les métiers, en bloc et bientôt »
Ce que cette idée contient de juste : certaines tâches sont effectivement absorbées, et l'inquiétude n'a rien d'irrationnel. Ce qu'elle déforme : un métier n'est pas une tâche, c'est un ensemble de tâches hétérogènes, dont beaucoup résistent pour des raisons très concrètes.
Tâche et métier ne se confondent pas
Un poste réunit des activités de natures différentes : produire un document, mais aussi arbitrer entre des contraintes, obtenir un accord, constater sur place, assumer une responsabilité. L'automatisation d'une partie modifie l'équilibre du poste ; elle ne le supprime pas mécaniquement. Historiquement, ce déplacement s'est fait dans les deux sens, en supprimant des gestes et en en créant d'autres, souvent là où on ne les attendait pas.
Ce qu'il faut regarder à la place
La question utile n'est pas « mon métier va-t-il disparaître » mais « quelles tâches de mon métier changent, et qu'est-ce que cela déplace vers moi ». Nous consacrons un article entier à ce que les données disponibles permettent réellement d'affirmer, et à ce qu'elles ne permettent pas : IA et emploi, ce que montrent les données. Nous n'avançons ici aucun chiffre, parce qu'un chiffre sans source vaut moins que rien.
« Il faut un bagage technique pour s'y intéresser »
Ce que cette idée contient de juste : construire ces systèmes demande des compétences pointues. Ce qu'elle déforme : comprendre ce qu'ils font, juger leurs résultats et décider de leur place n'en demande aucune.
Deux questions différentes
Fabriquer relève de l'ingénierie. Décider si un outil convient à une situation, repérer une réponse douteuse, arbitrer entre l'automatisation et le maintien d'un humain dans la boucle : ce sont des compétences de métier et de jugement, et elles appartiennent à ceux qui connaissent le terrain. Personne n'exige de savoir concevoir un moteur pour avoir un avis sur l'usage d'une voiture.
Ce que l'auto-exclusion coûte collectivement
Elle laisse les décisions d'usage à ceux qui maîtrisent la technique mais pas le contexte. C'est exactement l'inverse de ce qu'il faudrait : les erreurs les plus coûteuses que l'on observe ne viennent presque jamais d'une méconnaissance de l'algorithme, mais d'une méconnaissance du métier dans lequel on l'a installé.
« C'est une technologie toute neuve »
Ce que cette idée contient de juste : l'arrivée de ces outils dans le grand public est récente, et le changement a été brutal. Ce qu'elle déforme : le domaine de recherche, lui, est bien plus ancien que son apparition dans nos usages quotidiens, et il a connu des périodes d'enthousiasme et de désillusion successives.
Ce qui est vraiment nouveau
Pas l'idée d'apprendre à partir d'exemples, qui est ancienne. Ce qui a changé récemment, c'est la conjonction de trois choses : une puissance de calcul disponible, des quantités de données accessibles sans commune mesure avec ce qui existait auparavant, et des architectures capables d'en tirer parti. La nouveauté est une question d'échelle et d'accès, pas d'invention surgie de nulle part.
Pourquoi cette correction est utile
Parce qu'elle change le rapport au temps. Croire que tout vient de naître pousse à réagir dans l'urgence, et l'urgence est le meilleur climat pour vendre. Savoir que le domaine a déjà traversé plusieurs cycles d'emballement et de retombée invite à distinguer ce qui s'installe de ce qui passe, sans céder ni à la panique ni à l'indifférence.
| L'idée telle qu'on l'entend | Ce qu'elle a de juste | Ce qu'elle déforme | Ce que ça change pour vous |
|---|---|---|---|
| L'IA raisonne comme nous | Les réponses ressemblent à un raisonnement | Le résultat ne renseigne pas sur le chemin | Ne plus attendre de cohérence entre deux réponses |
| Une machine est neutre | Elle n'a ni opinion ni intérêt | Ce qu'elle a appris, lui, ne l'est pas | Demander d'où viennent les données |
| Les métiers vont disparaître | Des tâches sont absorbées | Un métier n'est pas une tâche | Regarder ses tâches, pas son intitulé de poste |
| Il faut être technique | Fabriquer demande des compétences | Juger l'usage n'en demande pas | Prendre part aux décisions d'usage |
| C'est tout neuf | L'accès grand public est récent | La recherche est bien plus ancienne | Distinguer ce qui s'installe de ce qui passe |
Ce que corriger une idée fausse ne règle pas
Remplacer une croyance par une autre ne produit pas du jugement, et il serait malhonnête de laisser croire le contraire. Trois limites méritent d'être posées.
Une correction peut en installer une autre
Quelqu'un qui retient « l'IA n'est pas intelligente » sans le reste du raisonnement en déduit parfois qu'elle est inutile, ce qui est tout aussi faux et bien plus coûteux. Une correction mal digérée devient une nouvelle idée reçue, simplement orientée dans l'autre sens.
Savoir n'est pas faire
Comprendre pourquoi une réponse peut être fausse ne vous fait pas vérifier davantage. Dans la pratique, la vérification saute d'abord les jours où l'on est pressé, et aucune explication ne protège de cela. C'est une question d'habitude prise, pas de connaissance acquise.
Certaines questions restent ouvertes
Sur plusieurs points, la bonne réponse est qu'on ne sait pas encore, ou que cela dépend du système et du contexte. Nous n'avons pas essayé de combler ces trous ici : une incertitude énoncée vaut mieux qu'une certitude fabriquée.
Comment vérifier une affirmation spectaculaire
Face à une affirmation sur l'IA, cherchez d'abord ses conditions : quel système, quelle tâche, quelles données et quel critère de réussite ? Une phrase présentée comme vraie pour tous les outils et tous les contextes est probablement trop générale pour guider une décision. Demandez ensuite ce qui permettrait de la réfuter. Cette méthode fonctionne sans bagage technique et explique pourquoi les rencontres d'IA Innovateurs sont ouvertes sans prérequis : une question précise vaut mieux qu'un jargon maîtrisé en apparence.
Les conférences et ateliers d'IA Innovateurs sont gratuits et ouverts à tous les niveaux, débutants compris. L'adhésion est distincte et facultative, à 25 € par an, avec un tarif solidaire à 10 €.
Questions fréquentes
Comment repérer une idée fausse quand on débute et qu'on ne sait rien du sujet ?
Deux signaux fonctionnent sans connaissance technique préalable. Le premier est l'absence de conditions : une affirmation qui vaut toujours, partout, pour tous les systèmes, est presque toujours une simplification abusive, parce que ces outils se comportent très différemment selon la tâche et les données. Le second est la charge émotionnelle : une formulation qui vise l'émerveillement ou la peur cherche rarement à vous informer. Une explication honnête a généralement l'air moins spectaculaire que le raccourci qu'elle corrige, et c'est un bon indice.
Ces idées fausses viennent-elles des médias ?
Elles viennent d'un peu partout, et désigner un coupable unique serait commode mais faux. Le vocabulaire commercial y contribue, parce qu'un terme vague permet de promettre davantage. La couverture médiatique y contribue aussi, par la nécessité de résumer vite. Et notre propre fonctionnement y contribue le plus : nous prêtons spontanément une intention à ce qui produit du langage cohérent, parce que c'est ainsi que nous interprétons les humains depuis toujours. Cette tendance est antérieure à toute technologie, et elle explique pourquoi les corrections doivent être répétées.
Faut-il corriger quelqu'un qui répète une de ces idées ?
Si l'occasion se présente, expliquer d'abord ce que l'idée a de juste évite la posture du rectificatif, et la conversation se poursuit au lieu de se fermer. Toutes les idées reçues listées ici reposent sur une observation réelle mal interprétée, jamais sur une invention pure : le commencer par là n'est pas une politesse, c'est exact. En pratique, la personne en face corrige souvent elle-même la conclusion une fois qu'elle voit à quel endroit le raisonnement bifurque.
Par où continuer si l'on veut vraiment comprendre plutôt que retenir des réponses ?
Deux chemins se complètent. Le vocabulaire d'abord, parce que la plupart des malentendus sont d'abord des mots employés dans deux sens différents : notre vocabulaire de l'IA expliqué sans jargon est fait pour cela. Les limites ensuite, parce que voir précisément ce qu'un système ne sait pas faire apprend davantage que la liste de ses réussites, et c'est l'objet de notre article sur ce que l'IA ne sait toujours pas faire. Venir poser ses questions à voix haute reste le plus rapide des deux.
Une idée fausse à nous soumettre, ou une question que cet article n'a pas traitée ? Consultez les prochaines rencontres, découvrez qui nous sommes, ou écrivez-nous. Pour remettre les termes techniques à leur place, notre article machine learning, deep learning, LLM : qui fait quoi reprend l'emboîtement du vocabulaire, et les questions que posent vraiment les débutants rassemble celles qui reviennent le plus souvent en salle.