Ce que l'intelligence artificielle ne sait pas faire est une question plus utile que l'inverse, et pour une raison pratique : les réussites sont exposées partout, les limites presque nulle part, et ce sont pourtant les limites qui décident de ce que vous pouvez confier à un outil sans danger.
Les limites réunies ici ne relèvent pas de la science-fiction. Aucune ne porte sur la conscience ou sur un avenir lointain. Elles sont classées selon la nature de l'obstacle, parce qu'une liste de tâches se périme au prochain produit alors qu'un obstacle bien compris vous permet de trancher un cas qui ne figure pas dans cet article.
Sommaire
- Une limite n'est pas une prophétie
- Ce qu'elle ne sait pas faire avec l'information
- Ce qu'elle ne sait pas faire avec le monde réel
- Ce qu'elle ne sait pas faire avec les gens
- Ce qu'elle ne sait pas expliquer
- Ce que cette liste ne prouve pas
- Questions fréquentes
Une limite n'est pas une prophétie
Avant d'énumérer quoi que ce soit, il faut séparer deux choses que l'on confond systématiquement : ce qui découle du mécanisme lui-même, et ce qui n'est pas encore résolu. Les deux se disent avec les mêmes mots et ne s'anticipent pas du tout pareil.
Les limites qui découlent du mécanisme
Un système qui apprend des régularités à partir d'exemples hérite de certaines propriétés, qu'aucune amélioration de taille ou de puissance ne supprime par principe. Ne rien savoir de ce qui n'était pas dans les exemples en fait partie. Ces limites se déplacent, elles ne disparaissent pas : les rendre moins visibles n'est pas les résoudre.
Les limites de l'état actuel
D'autres tiennent à la manière dont les systèmes sont construits et déployés aujourd'hui, et rien n'interdit qu'elles évoluent. Nous les signalons comme telles au fil du texte, sans essayer de deviner le calendrier. Annoncer qu'une limite va tomber, ou jurer qu'elle ne tombera jamais, revient dans les deux cas à faire une prédiction que rien ne soutient.
Ce qu'elle ne sait pas faire avec l'information
La série la plus importante, parce que c'est celle que vous rencontrez chaque jour. Elle découle directement de la façon dont ces systèmes sont fabriqués, expliquée dans notre article sur comment fonctionne l'intelligence artificielle.
Elle ne sait pas qu'elle ne sait pas
C'est la limite mère, celle dont découlent la plupart des autres. Ces systèmes ne disposent d'aucun mécanisme naturel pour reconnaître qu'une question sort de ce qu'ils ont appris. Une réponse reconstruite de bout en bout arrive avec exactement la même assurance qu'une réponse exacte. Certains outils affichent des avertissements ou refusent de répondre sur certains sujets, mais ces garde-fous sont posés par dessus, au cas par cas, et ne constituent pas une conscience de ses propres limites.
Elle ne distingue pas le vrai du vraisemblable
Le critère qui guide la production d'une réponse est la ressemblance avec ce qui a été appris, pas l'exactitude. Une référence inventée ressemble beaucoup à une vraie référence, ce qui est exactement la raison pour laquelle elle est produite. Aucune vérification n'a lieu, sauf si le système a été spécifiquement équipé pour aller consulter une source, et cette différence est rarement affichée clairement.
Elle ne se tient pas au courant
Un modèle est entraîné à un moment donné, puis figé. Ce qui s'est passé après lui échappe, et il n'est pas construit pour le signaler : il répondra quand même, à partir de ce qu'il a appris. Certains dispositifs contournent cela en allant chercher de l'information au moment de répondre, ce qui déplace le problème vers la qualité de ces sources sans l'annuler.
Elle ne garantit pas la cohérence d'une réponse à l'autre
Posez deux fois la même question, formulée différemment, et rien ne garantit une réponse identique. Ce n'est pas un défaut de fabrication : chaque réponse est reconstruite, il n'y a pas de position stable enregistrée quelque part. Cette limite est facile à vérifier vous-même en quelques minutes, et le faire une fois vaut toutes les explications.
Ce qu'elle ne sait pas faire avec le monde réel
Deuxième série : tout ce qui suppose un contact avec ce qui existe, et non avec des descriptions de ce qui existe. C'est la limite la plus simple à comprendre et la plus souvent oubliée.
Elle ne peut rien constater
Elle ne peut pas aller voir si la machine fait un bruit anormal, si la fissure s'est élargie, si la personne en face a l'air convaincue, si le colis est bien arrivé. Elle travaille sur ce qu'on lui rapporte, et hérite donc de toutes les erreurs et de tous les oublis du rapport. Quand un diagnostic dépend d'un constat, elle peut aider à préparer le constat, jamais le remplacer.
Elle ne sait rien d'un contexte qu'on ne lui a pas transmis
L'historique d'un dossier, la relation avec un interlocuteur, la raison pour laquelle une solution évidente a déjà été écartée l'an dernier : rien de tout cela n'existe pour elle si personne ne l'a écrit. C'est la cause la plus banale des réponses inutilisables, et elle n'a rien à voir avec la qualité de l'outil.
Elle n'assume aucune conséquence
Une erreur produite par un système n'engage personne en tant que tel. La responsabilité reste chez celui qui a décidé de l'installer et chez celui qui s'en sert. Cette limite n'est pas technique et ne se corrigera pas par un progrès technique.
| La limite | D'où elle vient | Structurelle ou conjoncturelle | Ce que vous en faites |
|---|---|---|---|
| Ne sait pas qu'elle ne sait pas | Du mécanisme d'apprentissage | Structurelle | Traiter toute affirmation factuelle comme une hypothèse |
| Ne distingue pas vrai et vraisemblable | Du critère de ressemblance | Structurelle | Ouvrir les sources annoncées, systématiquement |
| Ne se tient pas au courant | Entraînement figé à une date | Conjoncturelle en partie | Vérifier la date sur tout sujet qui bouge |
| Ne peut rien constater | Absence d'accès au réel | Structurelle | Garder le constat du côté humain |
| N'explique pas ses décisions | Architecture des modèles profonds | Conjoncturelle en partie | Exiger l'explicabilité quand une personne est concernée |
| N'assume aucune responsabilité | Ce n'est pas une question technique | Hors du champ technique | Identifier qui répond en cas d'erreur, avant de déployer |
Ce qu'elle ne sait pas faire avec les gens
Troisième série, la moins discutée et la plus décisive dans les organisations. Elle ne porte pas sur des capacités mais sur des positions.
Elle ne peut pas décider ce qui compte
Arbitrer entre deux objectifs qui se contredisent, choisir ce que l'on accepte de perdre, trancher un cas particulier qui ne ressemble à aucun autre : ces décisions supposent d'assumer une préférence. Un système peut optimiser un critère qu'on lui a donné ; il ne peut pas décider quel critère mérite d'être optimisé. Cette frontière est au centre des questions traitées dans notre article sur l'IA éthique.
Elle ne peut pas obtenir un accord
Convaincre, négocier, rassurer, engager une institution : toutes ces opérations supposent quelqu'un qui réponde de ce qu'il dit. Un texte parfaitement rédigé ne remplace pas une signature, et une argumentation impeccable ne remplace pas une relation de confiance.
Elle traite mal ce qui est rare
Les régularités qu'elle a dégagées reposent sur ce qui revenait souvent dans ses exemples. Une situation atypique tombe hors de cette expérience, et rien ne l'empêchera de répondre quand même, avec le même aplomb. Or les situations qui justifient un examen humain sont précisément les situations rares, ce qui rend cette limite particulièrement mal placée.
Ce qu'elle ne sait pas expliquer
Quatrième série, courte mais lourde de conséquences. Elle conditionne la possibilité même de contester une décision.
Elle ne restitue pas le chemin suivi
Dans un programme classique, on relit la règle. Dans un modèle profond, ce qui tient lieu de règle est réparti dans un très grand nombre de paramètres numériques ajustés pendant l'apprentissage. On observe le résultat, pas le raisonnement. Des méthodes d'explication existent, et elles produisent des approximations utiles, pas la restitution d'une délibération qui n'a pas eu lieu.
Ce que cela change quand une personne est concernée
Une décision inexplicable est difficile à contester, et une décision automatique paraît moins discutable qu'une décision signée par quelqu'un. La combinaison des deux est le vrai problème, et elle se pose bien avant l'arrivée d'un spécialiste : dès qu'un dispositif automatique intervient dans un accès à un droit, à un emploi ou à un service. Notre article sur IA et emploi revient sur les usages de ce type dans le recrutement.
Ce que cette liste ne prouve pas
Une liste de limites n'est pas un verdict, et la lire comme tel serait une erreur symétrique de l'emballement qu'elle corrige. Trois précisions s'imposent.
Elle ne dit pas que ces outils sont inutiles
Sur les tâches où vous apportez la matière et où vous êtes en position de juger le résultat, le gain est réel et les limites listées ici ne mordent presque pas. Le tri des tâches selon ce critère est développé dans notre article sur comment utiliser l'intelligence artificielle. Retenir « elle ne sait pas faire » sans retenir « sur quoi » produit une nouvelle idée reçue, simplement orientée dans l'autre sens.
Elle ne prédit pas ce qui tiendra
Nous avons signalé ce qui découle du mécanisme et ce qui tient à l'état actuel, et nous n'allons pas plus loin. Annoncer qu'une limite est définitive est une prédiction, pas un constat, et les prédictions de ce genre ont un mauvais historique dans les deux sens. La bonne posture consiste à réévaluer, pas à parier.
Elle ne remplace pas l'examen d'un cas précis
Ces limites sont générales. Savoir si un outil convient à votre situation demande de regarder cette situation : quelles données, quelle décision en jeu, quelles conséquences en cas d'erreur, qui répond de quoi. Aucun article ne peut faire ce travail à votre place.
Comment éprouver une limite vous-même
Choisissez une question dont vous pouvez vérifier la réponse, puis posez-la plusieurs fois avec de petites reformulations. Comparez les faits cités, le degré de certitude et les conclusions. Si ces éléments changent sans raison explicite, vous venez d'observer une limite importante : la formulation produite n'est pas une preuve. Répétez ensuite le test avec une source fournie et vérifiez si le système distingue clairement ce qui vient du document de ce qu'il ajoute. Un essai volontairement contrôlé apprend davantage qu'une confiance accordée sur la seule fluidité du texte.
Les conférences et ateliers d'IA Innovateurs sont gratuits et ouverts à tous les niveaux, débutants compris. L'adhésion est distincte et facultative, à 25 € par an, avec un tarif solidaire à 10 €.
Questions fréquentes
Ces limites vont-elles disparaître avec les prochaines versions ?
Certaines se déplaceront, et il serait imprudent d'affirmer le contraire ; d'autres découlent du mécanisme d'apprentissage lui-même et ne se traitent pas par une montée en puissance. La distinction utile n'est pas entre limites définitives et limites temporaires, catégories que personne ne peut trancher aujourd'hui, mais entre ce qu'un progrès technique peut atteindre et ce qui relève d'autre chose. Aucune amélioration technique ne fera qu'un système constate un fait sur le terrain ou assume une responsabilité juridique, parce que ces deux limites ne sont pas de nature technique.
Comment savoir, dans mon cas, si une de ces limites est bloquante ?
Posez-vous deux questions dans cet ordre. D'abord, qui fournit la matière : si c'est vous, la plupart des limites listées ici ne mordent pas beaucoup ; si c'est l'outil, elles mordent toutes. Ensuite, que se passe-t-il si le résultat est faux et que personne ne s'en aperçoit : si la réponse est « pas grand-chose », l'affaire est simple ; si elle engage une personne, un budget ou une obligation, il faut un humain qui puisse expliquer et répondre de la décision. Ces deux questions suffisent à trancher la grande majorité des cas ordinaires.
Est-ce que d'autres systèmes font mieux sur ces points ?
Les comportements varient effectivement d'un système à l'autre, parfois beaucoup, et nous ne publions aucune comparaison ici parce que nous n'avons pas de source vérifiable à citer et qu'un classement de ce type vieillit en quelques mois. Ce que nous pouvons dire tient au mécanisme : les limites liées à l'apprentissage à partir d'exemples se retrouvent, à des degrés divers, dans tout ce qui est construit de cette manière. Le seul test qui vaille dans votre contexte est celui que vous menez vous-même, sur une tâche dont vous connaissez déjà la bonne réponse.
Pourquoi insister sur les limites plutôt que sur ce qui fonctionne ?
Parce que l'information est asymétrique et qu'il n'y a pas de raison de la laisser ainsi. Ce que ces outils réussissent est démontré partout, gratuitement et avec insistance ; ce qu'ils ratent se découvre en général trop tard, à ses dépens. Connaître les limites ne rend pas méfiant de façon générale, ce qui serait aussi inconfortable qu'inutile : cela permet de placer la vigilance au bon endroit et de se détendre partout ailleurs. Nos rencontres sont construites sur ce principe.
Un cas concret à soumettre plutôt qu'une question générale ? Venez à l'une de nos prochaines rencontres, découvrez qui nous sommes, ou écrivez-nous. Trois articles complètent celui-ci : cinq idées fausses sur l'intelligence artificielle, le vocabulaire de l'IA expliqué sans jargon et les questions que posent vraiment les débutants.