Le vocabulaire de l'IA est faux et mensonger : analyse critique des mots intelligence artificielle, agent conversationnel, réseau neuronal et modèle de langage

Des mots faux ou mensongers pour parler d'intelligence artificielle

J'écris cet article après avoir fait deux choses :

1. Une série de "tests des limites des intelligences artificielles", qui m'ont conduit à
2. Une série de synthèses critiques démystifiant les IA

Dans ces séries de textes, j'ai, au passage, ici et là, critiqué la terminologie en vigueur, les mots qu'on emploie à leur sujet.

Je vais maintenant synthétiser et durcir ici ces critiques des mots, et de leur caractère soit faux (l'erreur est humaine, même si on n'en a plus le monopole) soit mensonger (là-dessus, pour l'instant nous gardons la main, même si les IA commencent à nous faire concurrence).

En bref, je vais démontrer que certains mots qu'on utilise pour parler d'IA relèvent d'une forme d'abus de langage, et manifestent donc, une fois de plus - mais personne n'en sera surpris, on a l'habitude - les énormes capacités de l'humanité en termes de génération de connerie.

Par souci d'honnêteté intellectuelle, je souligne aussi le fait qu'un grand nombre de termes techniques de l'IA en tant que domaine de recherche, tout à fait passionnant à mon avis, s'avèrent honnêtes : non-ambigus, techniques, parfois poétiquement métaphoriques, la plupart des termes ne cherchent pas à induire le grand-public en erreur. Mais ceux que je vais dénoncer ci-dessous sont, tout ou partie, des attrape-nigauds qu'il est urgent de renommer.

"Intelligence artificielle"

Ce terme m'apparait aujourd'hui largement inadéquat, mal pensé, et surtout victime d'une surutilisation mensongère, à finalité lucrative évidemment.

L'IA est issue d'un courant ancien de la recherche scientifique, à la rencontre de plusieurs champs disciplinaires : l'informatique, l'ingénierie, les maths, la linguistique, la biologie (via l'évolutionnisme). Ses racines remontent à plusieurs siècles : on peut citer par exemple les idées de Charles Babbage et d'Ada Lovelace, consistant à créer des machines intelligentes, des automates de calcul - idées novatrices qui ont conduit, notamment via les idées d'Alan Turing (mathématicien et logicien) et de Claude Shannon (ingénieur et théoricien de la communication), à la création de l'ordinateur, de l'industrie du logiciel, et à l'ère numérique actuelle.

Le terme IA est correct, en ce sens que le projet consiste bel et bien à concrétiser le projet d'automate intelligent née au 19è siècle. L'intelligence étant définie comme le capacité à produire une réponse adaptée à quelque chose qu'on donne en entrée. Dans le cas de l'apprentissage machine, on donne par exemple à un réseau neuronal une image de lion, et le réseau répond "Lion". Correct ! Input, output validé.

L'automate peut donc être qualifié d'intelligent, mais ce, exactement dans la même mesure qu'une scie à bois peut être considérée comme intelligente, à savoir qu'elle fait bel et bien ce qu'on lui demande de faire : couper du bois. On peut brancher cette scie à un moulin à vent ou à eau : on lui fournit des troncs d'arbre, et miracle : la scie coupe du bois. Input, output validé. Quelle intelligence !! Cette scie passera bientôt son bac, on dirait.

Le souci, c'est que la véritable définition de l'intelligence - ou même, au-delà du réductionnisme linguistique qui consiste à tenter d'enfermer le réel dans la plus petite boîte de mots possible, l'ensemble des réalités qu'on peut décrire par les termes intelligence, intelligent et intelligente - cette définition inclut énormément de faits et de capacités auxquels les bidules qu'on nomme actuellement (en 2024) "intelligences artificielles" sont parfaitement étrangers.

Mes tests ont par exemple montré qu'aucun LLM ne comprend que "tais-toi" signifie qu'il ne faut pas produire de réponse. Tous ont répondu à cet ordre par des réponses verbeuses, donc totalement à côté de la plaque. Si la réponse d'une prétendue "intelligence artificielle", à un prompt simplissime fait de 2 mots et 8 lettres, s'avère fausse, on comprend bien que ce système ne mérite pas le nom d'intelligence.

Une fois, j'ai demandé à ChatGPT 3.5 qui était Philippe Starck, le designer français. Ce LLM m'a répondu qu'il s'agit d'un designer italien. ChatGPT est pourtant censé avoir été entraîné en partie sur wikipédia, en entier, dans toutes les langues : à ma connaissance, cette source ne dit jamais que Philippe Starck est un designer italien, et répète des centaines de fois qu'il est un designer français. Le dernier des crétins l'aurait su en googlant son nom. Mais l'IA m'a répondu de la merde, prouvant donc, une fois de plus, qu'elle ne comprend rien à rien, qu'elle ne sait rien, même pas lire et reproduire correctement ses sources, ou vérifier une info facilement disponible.

Donc, résumons : le projet des chercheurs en IA, puis des entreprises qui exploitent les trouvailles de ces chercheurs, consiste à créer des automates intelligents.

Oui, mais : le projet d'Hitler était de faire régner le Reich pendant mille ans, pas pendant 12 ans en se tirant une balle à la fin et ravageant le pays du "peuple (bon) aryen". Je veux dire : avoir un projet et le réaliser vraiment, ce sont deux choses bien différentes. Elon Musk n'a pas mis les pieds sur Mars par le simple fait de délirer sur ce thème. Macron n'a pas aboli les violences policières en France juste en niant l'évidence. Il y a un gouffre entre vouloir et faire.

Il apparait donc évident que l'usage du terme "intelligence artificielle", qui ne correspond que peu, pour l'instant, à la réalité observable, n'est pas une DESCRIPTION DU REEL, mais une STRATEGIE MARKETING. C'est-à-dire que concrètement, les gens qui ont intérêt à faire de la publicité mensongère à propos de leurs automates, les appellent IA, pour choper notre thune. C'est malin ! Dans la même logique, on peut donc renommer la scie à bois en tant que "Système intelligent, robuste et autonome de coupe du bois".

Le fait de mentir sur les choses ne change rien aux choses. La réalité actuelle reste : ce que font les IA actuelles est passablement idiot, un simulacre d'intelligence, souvent maladroit.

Je pense donc qu'une excellente définition de l'intelligence artificielle serait la suivante :

Machine à raconter des conneries, à se faire passer pour humaine dans l'intention de se vendre, et à récolter du fric au profit d'investisseurs souvent milliardaires et de géants de l'informatique mondiale.

Voilà, merci au revoir.

"Agent conversationnel"

Les LLMs nous le répètent inlassablement quand on leur demande qui ils sont (comme si la question avait un sens), et même quand on ne le leur demande pas : ils sont des agents conversationnels !

Et si un LLM le dit, franchement, c'est que c'est vrai, car les LLM sont carrément fiables, exacts, et ne racontent aucune connerie. Nan, je rigole, c'est tout le contraire.

Le terme d'agent conversationnel relève du même type de mensonge marketing et d'abus de langage que celui d'intelligence artificielle. Car pour être un agent conversationnel digne de ce nom, il faut rassembler deux caractéristiques fondamentales :

1. Être un agent
2. Avoir des capacités conversationnelles

Hélas, les LLMs n'ont aucune de ces caractéristiques.

D'abord, il ne sont pas des agents, car ce qu'on appelle agent, c'est forcément un être vivant.

Par exemple, dirait-on que le vent et l'eau (pluie, neige, gel) sont des agents d'érosion des roches ? Non : on parlerait de facteurs d'érosion, et la logique du langage serait respectée.

L'agent, c'est l'être qui fait l'action. Pour faire une action au sens propre et plein du terme, il faut en être capable et en être la cause, avec une notion d'intentionnalité : au sens propre, une pierre qui tombe est-elle un agent qui réalise l'action de tomber ? Non, la pierre qui tombe ne fait rien du tout, car elle ne veut rien, ne décide rien, n'envisage rien, n'entreprend rien. Elle n'est pas la cause de l'action, elle en est l'objet passif ; elle n'est pas donc agent mais agie.

Par contre, si moi j'utilise ma main pour gifler un capitaliste de l'IA, je suis bel et bien un agent qui fait quelque chose, j'en suis l'origine et la cause, j'en ai la volonté et les moyens.

Dans le langage ordinaire, pour madame et monsieur Tout-le-monde, le mot agent désigne invariablement un être humain :

• Je n'ai rien fait, monsieur l'agent ! (de police)
• Le sol est dégueulasse, va vite prévenir l'agent (de maintenance)

Dans les définitions de dictionnaire, le terme agent est largement appliqué aux êtres humains ; exceptionnellement il apparait comme synonyme de facteur, cause ou principe.

Il y a donc un abus de langage flagrant à utiliser les connotations humaines du terme agent pour les appliquer à un logiciel, en faisant passer des vessies pour des lanternes, sans scrupules et par intérêt économique.

Ensuite, à propos de la capacité conversationnelle, on assiste là aussi à un viol du langage caractérisé. Car évidemment, tout le monde sait que pour converser, il faut déjà savoir parler, et que pour savoir parler, il faut être humain et vivant, et comprendre le sens des mots, donc avoir un corps, un vécu, une histoire, etc. Je n'ai jamais discuté avec un arbre, une truite, un bout de bois, ni avec un cadavre. La définition même des termes de ce champ lexical, conversation, converser, conversationnel, discussion, discuter, implique toujours d'être un sujet humain échangeant avec un autre sujet humain. A ce titre, l'IA a autant de faculté conversationnelle qu'une statue qui pisse a la faculté de pisser, sans boire, sans système sanguin, sans vessie. Les statues ne pissent pas, les IA ne conversent pas, une imitation n'est pas la chose imitée.

(Note : dans un autre article, je critique vertement la pratique malhonnête des LLM que des humains ont programmés pour s'adresser à nous en se désignant par le pronom personnel "je", pour générer une illusion d'humanité et de familiarité - qui aide à mieux nous faire les poches.)

En réalité ce que fait réellement un LLM, c'est prendre un input verbal, le passer à la moulinette de son "réseau neuronal" (qui n'a rien de neuronal), et fournir un output. Au passage, rien de ce qui fonde la conversation n'est validé : aucune prise en compte de l'autre, aucun savoir sur le monde, aucune réelle maîtrise du langage et de son sens profond.

On nomme donc conversation, avec autant d'ignorance que de cynisme, une interaction qui n'est qu'un simulacre de conversation.

J'ai une question : si on essaye de vous vendre, pour 40 000€, une "voiture", mais qu'ensuite vous découvrez que cette "voiture" consiste en réalité en une image de voiture, une photo de voiture, un fichier JPG montrant une voiture, une maquette de voiture mesurant 20cm, que ressentez-vous ? L'achetez-vous en pensant faire une bonne affaire ?

Ou si quelqu'un vous invite à manger, et vous sert, en guise de "bananes flambées", les lettres qui composent les mots "bananes flambées" écrites sur des cartes en papier, que ressentez-vous ? Mangez-vous les mots en remerciant votre hôte pour ce délicieux repas ? Confondez-vous un être avec sa représentation ?

Ou est-ce que, bordel de merde, vous ouvrez enfin les yeux en reconnaissant qu'il s'agit d'une entourloupe, à travers laquelle un enfoiré vous traite comme un pigeon ?

Moi, dans ces situations, je me sentirais trompé. Je conclurais qu'un esprit malveillant cherche à m'arnaquer. Je lui en voudrais et je me défendrais contre la tromperie, comme je suis en train de le faire.

Eh bien c'est exactement l'usage qui est fait du terme "agent conversationnel", ce n'est pas un agent, et il n'est pas conversationnel. Que des logiciels se présentent en disant "Je", et en continuant cette phrase par "Je... suis un agent conversationnel", que des concepteurs et des vendeurs de logiciels programment leurs logiciels pour qu'ils se présentent ainsi à leurs utilisateurs, ce n'est rien d'autre qu'une escroquerie qui abuse des mots et viole les règles du langage.

"Réseau neuronal"

Moi quand je vois une porte grande ouverte, je fonce dedans - ça doit être parce que je suis taureau, selon les astrologues.

Voici une porte ouverte : pour être neuronal, il faut avoir des neurones. Ouais je sais ça a l'air foufou dit comme ça.

Pour avoir des neurones, il faut avoir un cerveau.

Pour avoir un cerveau, il faut être un animal.

Pour que ce cerveau soit en état de marche plutôt qu'en décomposition, il faut être vivant.

Est-ce que le truc technologique et logiciel qu'on nomme réseau neuronal possède réellement ces caractéristiques ?

Réponse NON, il n'en a aucune.

Donc, est-ce un réseau neuronal ? NON.

Alors oui : utiliser des métaphores, je ne vais pas plaider contre, après 15 ans passés à lire et écrire de la littérature.

Mais instrumentaliser systématiquement le langage à des fins marketing et commerciales, pour faire croire que des systèmes techniques inertes et imbéciles sont des "agents conversationnels" qui ont des "neurones" capables d'"intelligence", là, ça devient fort de café et ça commence à m'énerver sérieusement.

Donc, définition critique :

Réseau neuronal :  concept fumeux pour favoriser une interprétation anthropomorphique délirante au service des intérêts des puissants et au détriment des utilisateurs.

"Modèle de langage"

Ce terme me semble inapproprié, car il contient la même ambiguïté que le terme intelligence artificielle : il exprime l'intention d'une projet plutôt que sa réalité concrète.

En fait, du peu que j'ai compris de ce concept, un modèle de langage, ou LLM, pourrait très bien fonctionner avec un corpus qui ne serait fait que de charabia aléatoirement généré, avec un texte du type "jdgjs gqgfopoa foiezfjogfjofjf fffjifejfkls aamezelel ddjiidjdufh sghyshssjksshkhsskj".

Vous êtes d'accord, le texte que je viens de taper en m'excitant sur la partie "alphabet" de mon clavier, ne veut rien dire et n'appartient à aucun langage connu et organisé. Mon texte n'a ni grammaire, ni orthographe, ni syntaxe, ni conjugaison. Il n'a pas de pronoms, de noms, de verbes, de conjonctions etc. Aucun locuteur ne le parle ni ne le comprend. Bref, c'est des séries de signes mais en aucun cas un langage.

Rien ne m'empêche de donner un tel matériau à un LLM, sous la forme de mille milliards de documents de mille milliards de signes chacun.

Le LLM ainsi nourri fonctionnerait normalement : il prédirait la série suivante de charabia en fonction des stats du corpus.

Cette expérience de pensée achève de démontrer qu'une IA n'en est pas une : car aucune forme d'intelligence connue avant la création du concept fumeux d'IA, ne sait traiter des données totalement dénuées de sens.

Si je vous donne un livre entièrement constitué de charabia, vous ne le lirez pas, vous n'en penserez rien à part "c'est juste du charabia". Votre intelligence, la seule qui mérite ce nom, ne saura pas fonctionner avec un matériau uniquement absurde. L'intelligence humaine sait gérer une dose de charabia, de confusion, d'illogisme, d'incertitude, mais montre vite des symptômes d'overdose - et de détresse émotionnelle - quand tout devient absurde, et c'est même une potentielle méthode de torture.

Bref, ce qu'on nomme modèle de langage sont plutôt des systèmes de traitement automatisé de l'information, qui fonctionnent sans avoir aucun besoin de relier cette information à du sens : il leur manque donc une caractéristique fondamentale du langage, qui consiste à représenter le monde en ayant un sens.

Ces systèmes nommés LLM fonctionnent donc à un niveau infra-intelligent (le niveau intelligent exige que l'information ait du sens), ce qui confirme qu'ils ne représentent pas une forme d'intelligence.

Conclusion : le choix des mots importe !

Je ne cherche pas à soutenir des thèses du style "L'IA ne devrait pas exister" ni "L'IA c'est de la merde".

Je pense par contre que, les logiciels générateurs de texte ayant vocation à prendre une place dans nos sociétés, nos sociétés gagneraient à les reconnaître pour ce qu'ils sont réellement, et pas pour ce que leurs concepteurs veulent nous faire croire qu'ils sont.