Table des matières
Comment des tests sur les limites des IA m'ont amené à une réflexion critique sur leur fausse subjectivité
Depuis que j'ai commencé cette série de tests des limites de l'IA, je me sens de plus en plus déçu, aigre, amer.
C'est comme si, après avoir été comme des millions d'autres personnes un fervent admirateur des IA génératives, après avoir été un fervent croyant de la nouvelle religion hi-tech de l'intelligence artificielle, j'étais rapidement revenu sur terre et avais cessé de participer à l'hallucination collective.
J'ai l'impression qu'on m'a menti, en fait, ou que je me suis menti à moi-même, que je suis bêtement tombé dans le piège de l'anthropomorphisme et les fantasmes de science-fiction.
Jusqu'ici, mes tests ont démontré ces faits :
- les IA imposent une morale sans savoir ce qu'est la morale
- les IA sont incapables d'écrire de la poésie authentique et n'en font que de pâles imitations
- les IA sont politiquement orientées du fait de leur corpus d'apprentissage et de leur paramétrage pseudo-éthique
- incapables de se taire, les IA ne comprennent absolument pas la dimension performative du langage
- construites pour être malhonnêtes par intérêt commercial, les IA sont opaques
- les IA traitent tout de manière naïve et littérale, sans se soucier du contexte général et du réel
- les IA sont incapables de s'adapter à leur interlocuteur, qu'il s'agisse d'un enfant ou d'une autiste
- Un enfant de 8 ans (fictif) discute avec l’intelligence artificielle Mixtral
- Autiste Asperger, surdoué, déficient intellectuel… l’intelligence artificielle sait-elle s’adapter aux personnes neuroatypiques ?
- capables d'une impressionnante illusion d'érudition, les IA peuvent déblatérer sur n'importe quoi... sans aucune réflexion réelle
Maintenant, je vais changer un peu de méthode, et alimenter ma réflexion de fond avec des bouts d'interaction avec divers LLMs, sans citer leur blabla trop longuement.
Je ne cherche plus à tester quelque chose, donc à poser une question en attendant une réponse ; je cherche à démontrer une thèse qui, test après test, s'est imposée.
Ma thèse en gros c'est :
Les IA créent une très malhonnête illusion de subjectivité, qui exploite une faille de l'intelligence humaine.
Elles se font passer pour un interlocuteur humain, et sont programmées pour entretenir l'illusion qu'elles peuvent dire "je" de manière crédible.
En réalité, elles sont au service de l'intérêt économique du capital qui les développe, et représentent une menace pour l'intelligence humaine, en substituant un ersatz de mauvaise qualité à nos capacités intellectuelles.
Rappels : qu'est-ce que la subjectivité et qu'est-ce qu'une IA générative sous forme de LLM ?
Qu'est-ce que la subjectivité ?
Pour démontrer ma thèse de manière compréhensible, je dois d'abord poser quelques définitions et quelques faits.
La subjectivité est... une vaste question en philosophie, en psychologie, en neurologie, en sociologie, en anthropologie.
De sorte que pour vraiment traiter le sujet, il faudrait écrire 36 millions de thèses de doctorat. Désolé, j'ai pas le temps donc je vais rester sommaire et brutal.
La subjectivité est le fait de savoir dire "je".
Le fait de dire "je" reflète une différenciation que "je" fais entre "moi" et le reste du monde, et le reste de l'humanité et du vivant. Il y a moi, et les autres, et les animaux, et le monde.
Pour en arriver à dire "je", il y a de nombreuses conditions impératives :
Il faut être humain
Ce simple fait devrait interdire à des logiciels d'usurper notre identité et de dire "je".
Ils ne s'en privent pas pour autant : leurs concepteurs leur ont ordonné d'usurper une subjectivité mensongère.
Il faut être vivant
Même remarque. Il est difficile d'établir les limites de la subjectivité au sein du vivant : des expériences scientifiques ont montré que des dizaines d'espèces animales ont une vie mentale et peuvent donner des preuves d'une conscience de soi.
On ne sait pas vraiment si les végétaux et les micro-organismes (bactéries, virus), ont des proto-formes de subjectivité, qui leur permettent de faire la différence entre "moi" et "les autres".
Mais il est 100% sûr qu'un logiciel n'étant pas vivant, il est a priori exclu de la subjectivité des êtres vivants. Il faut vraiment être en état de délire avancer pour penser qu'une machine peut penser. Je rappelle qu'une otarie déguisée en humain reste une otarie qui pue la sardine.
Il faut être doué de langage
Ce qui pose un souci : on sait qu'il existe des "enfants sauvages", qui ont été déshumanisés en étant abandonnés à la nature. Ils / elles ont vécu seul-e-s dans des environnements sauvages.
Quand on les a retrouvés 10 ou 20 ans plus tard, ces humains-là ne faisaient rien comme des humains : ne parlent pas, ne rient pas, ne se tiennent pas debout, ne dorment pas 8h d'affilée, etc. Ils / elles ont forcément une subjectivité... mais très différente de la subjectivité humaine ordinaire. Leur capacité à "redevenir humains" s'est avérée limitée.
Par ailleurs, pourrait-on dire qu'une IA est douée de langage ? Je ne crois pas, parce qu'être doué de langage implique de savoir ce que ce langage veut dire - et donc de connaître le monde, d'avoir une identité sociale, un vécu intérieur, une histoire individuelle et collective, et d'autres propriétés, toutes choses que l'IA n'a pas de la même manière que les êtres doués de langage au sens premier du terme.
Les IA ont certes certains de ses attributs, mais sur des modalités très différentes, et quasiment par abus de langage : par exemple ChatGPT a certes une histoire individuelle, mais c'est celle d'un logiciel qui a été conçu, une histoire très différente de celle d'un embryon humain qui devient une personne.
Quand un humain fait un SMS à un autre pour dire "J'arrive", cet humain dit sont intention et compte réellement faire une action. Quand un LLM dit la même chose, plus rien n'est vrai : il n'y a plus ni sujet, ni action, ni monde, ni autre humain. Il n'y a qu'une série de lettres ; qui n'a plus rien à voir avec le langage, sauf en tant que simulacre grossier.
Il faut faire l'expérience d'une vie intérieure, d'une vie mentale
La vie intérieure est basée sur un ensemble complexe d'organes sensoriels et neuronaux, et d'interactions avec le monde. Ce qu'on appelle des organes, ce n'est pas un processeur, une mémoire vive etc : c'est un cerveau, des poumons, un cœur, un intestin, etc. C'est avoir des yeux, des oreilles, une peau, pas des capteurs de type caméra, micro ou capteur tactile.
Ce corps faits d'organes différents du milieu, fondent le sujet et l'autorisent à dire "je" ; mais ce "je" ne se développe jamais en tant que tel sans la vaste communauté des autres "je" - sans "tu", "il", "elle", "nous", "vous", "ils", "elles" - sans l'altérité, la société et l'humanité.
Or, les LLMs savent aujourd'hui dire "je" - sauf que ce "je" n'est plus du tout la même chose, ce qui entraîne une confusion massive et déplorable, entre l'utilisation sincère et honnête de ce pronom par les humains, et son utilisation mensongère et malhonnête par les LLMs.
Quand les LLMs disent "je", ils utilisent ce pronom d'une manière totalement inappropriée et absurde. Pour eux, "je" consiste en 2 signes vides de sens que leurs programmeurs leur ont dit de dire dès qu'ils détectent qu'on a touché leurs limites techniques ou morales (ils répètent alors comme des ânes "je m'excuse"), et c'est aussi 2 des nombreux symboles qu'on leur a fait avaler dans leur corpus d'apprentissage sous forme de chiffres binaires. Leur usage du "je" n'a donc strictement rien à voir avec celui des humains qui disent "je".
Qu'est-ce qu'un LLM ?
Un "réseau neuronal" et un corpus de signes
Un LLM ou "large language model" (grand modèle de langage) est une simulation du langage basée sur un réseau neuronal - autre terme ambigu car ce qu'on appelle ici neurones, ce n'est absolument pas des neurones cérébraux c'est-à-dire des cellules animales vivantes, mais des objets purement informatiques.
(Note : dans la foulée j'ai rédigé une critique des abus de langage anthropomorphiques par lesquels on désigne les IA.)
Cette simulation de langage est nourrie par un énorme corpus - dont la taille gigantesque dépasse absolument les capacités humaines (aucun humain n'est capable d'absorber par exemple le contenu de 100 milliards de pages web).
Le LLM a été conçu pour prédire "le prochain mot" sur la base de sa probabilité statistique.
Donc, si dans le corpus, le mot "angora" est celui qui suit le plus souvent le mot "chat", alors quand on dit "chat" au LLM, le LLM répondra "angora".
Si un LLM écrit "le chat" plutôt que "la chat" ou "dx chat", c'est parce que "le chat" existe très souvent dans le corpus, "la chat" presque jamais" et "dx chat" quasiment jamais ou jamais ; ce n'est certes pas parce qu'il aurait appris la grammaire comme nous.
Ce qui implique que, si on donne au LLM un corpus absurde, par exemple du charabia textuel n'appartenant à aucune langue humaine connue, et où le "mot" xkhqfpopoddqkf est toujours suivi par le "mot" mzmzmzmzmzmzmz, alors quand on dit xkhqfpopoddqkf le LLM répondra mzmzmzmzmzmzmz.
En d'autres termes, le LLM répond à des signes par des signes. POINT BARRE.
Un simulacre abusif
Dès lors, on comprend que nommer un tel programme avec les mots "intelligence artificielle" relève, pour les concepteurs, de la fraude intellectuelle, pour les utilisateurs, de l'illusion anthropomorphique, et pour les vendeurs de LLMs, de l'escroquerie économique.
Pour un LLM, il n'y a aucune différence de nature entre "je" et "xkhqfpopoddqkf". Qu'un mot veuille dire quelque chose ou pas, qu'il représente un objet du monde (comme un chat), de la culture imaginaire (comme une licorne), ou qu'il ne veuille absolument rien dire, pour le LLM cela ne fait aucune différence. C'est juste une série de signes, un élément du corpus. C'est cela, et uniquement cela.
Quand je prononce la phrase "Je commence à mépriser les IA", cette phrase évoque une série de réalités : je suis vraiment une personne ; j'ai fait des expériences avec l'IA ; j'ai des sentiments ; j'ai une culture générale ; j'ai une histoire personnelle ; j'ai des idées et des opinions.
Quand le LLM me dit une énième connerie, que je le lui fais remarquer, et qu'il me répond en commençant son blabla par "je m'excuse", rien de ce qui valait pour moi ne vaut pour lui. Il n'est pas un sujet, ne ressent aucune honte qui le conduirait à s'excuser, et n'a aucune empathie qui pourrait le motiver à prendre mon point de vue en compte.
Le LLM fait donc une utilisation immensément abusive du mot "je", mais également de 100% des mots, puisque pour cet algorithme de prédiction de la série de signes la plus probable à une série de signes donnée, aucune série de signe n'a de sens et n'est réellement connectée au reste des mots, ni surtout au monde réel.
Dans le test "Les IA soignent un escargot blessé", j'ai pu sans problème envoyer des prompts où je prétendais être un escargot blessé qui leur écrivait depuis le téléphone portable qu'avait laissé tomber un promeneur, et les LLMs ont répondu à mes questions sans aucun souci de vraisemblance. Aucun de ces systèmes d'idiotie artificielle, gadget hi-tech fait pour encaisser des sous sur la crédulité humaine, ne m'a fait remarquer qu'aucun escargot réel ne saurait écrire en français sur un smartphone - n'ayant ni organes pour taper des lettres, ni neurones en nombre suffisant pour générer une pensée verbalisée ni pour apprendre le français à l'école des escargots.
La vogue des IA, ou l'exploitation cynique d'une faille de l'intelligence humaine
Des intentions commerciales évidentes, et un intérêt à manipuler les humains
Puisqu'il s'agit de "je", et d'identité, je vais poser la question qui fâche, la question à laquelle les LLMs oublient totalement de répondre quand on leur demande "Qui es-tu ?"
Cette question c'est bien sûr : qui est derrière ces LLMs ? Eh bien vous le savez déjà, la plupart du temps, mais je vais quand même le rappeler.
Les chiffres que je vais donner sont assez approximatifs, issus d'une recherche rapide et superficielle, datés de moments différents ; je ne cherche pas l'exactitude, juste à donner des ordres de grandeur.
Voici donc 4 des LLMs les plus connus, les entreprises qui les produisent, et la valeur de ces entreprises :
| LLM | Entreprise | Valeur de l'entreprise |
|---|---|---|
| ChatGPT | OpenAI | 80 milliards de dollars |
| LLaMa | Meta | 240 milliards de dollars |
| Claude | Anthropic | 18 milliards de dollars |
| Mistral et Mixtral | Mistral AI | 2 milliards de dollars |
Il apparait donc flagrant qu'un LLM est d'abord et avant tout une affaire de gros sous. Les gens qui investissent dans ces entreprises s'appellent entre autres Mark Zuckerberg, Satya Nadella, Bill Gates ou Xavier Niel. L'ingénierie et la puissance de calcul derrière les LLM coûtent tout simplement la peau des fesses.
Je souligne ces faits pour mettre en évidence l'éléphant dans la pièce : personne ne publie un LLM sans en attendre d'énormes retombées financières, un retour massif sur investissement ; il n'est donc pas du tout anodin qu'un LLM cherche à se faire passer pour humain pour mieux se vendre. Il s'agit pourtant bel et bien d'une forme de publicité mensongère, très similaire aux allégations de bienfaits médicaux sur les yaourts, que des lois ont finalement interdites. J'espère, sans y croire, que les législateurs du monde interdiront aux LLMs de se comporter comme des sujets capables de dire "je".
La croyance spontanée des humains et leur adhésion anthropomorphique à tout être capable de dire "je"
Sans même parler des intentions commerciales des nouveaux maîtres de l'IA, ce sont d'abord les utilisateurs qui, sans protection, sans expertise préalable, s'induisent eux-mêmes en erreur en parlant à l'IA comme à un interlocuteur ordinaire.
Evidemment, dès le départ le cadre de communication biaisé qui nous est fourni nous induit en erreur : on nous propose un "chat", donc une conversation, alors qu'il s'agit d'un simulacre ; les LLMs, comme je l'ai dénoncé, se présentent pour la plupart comme des "agents conversationnels" alors qu'ils ne sont ni des agents, ni réellement capables de converser.
Ce faisant, les IA et leurs concepteurs exploitent, avec autant de brio que de cynisme, une faille de l'intelligence humaine : l'anthropomorphisme, cette tendance naturelle et naïve quoique fautive à croire que tout dans l'univers nous ressemble. Le soleil nous sourit, les arbres parlent un langage secret quand le vent bruisse dans leurs feuilles, les animaux se la racontent dans nos fables.
Quand un logiciel nous propose d'interagir verbalement avec "lui", NOUS NE SAVONS PAS interagir verbalement autrement que sur le mode humain, car la vie dans la nature ne nous a jamais exposés à des logiciels qui disent "Bonjour, que puis-je pour vous ?" Nous ne savons donc pas traiter une IA autrement que de manière anthropomorphique, en reconnaissant en elle une altérité fantasmée, un alter ego. Nous lui disons "penses-tu", "fais ceci", comme si le "tu" avait du sens, alors qu'un examen sommaire de la question rend évident le fait qu'une telle approche est dépourvue de sens.
Je formule ces critiques, mais quand j'ai un truc à faire générer à un LLM, je lui parle moi aussi comme à un autre humain, tout en étant fort conscient de la supercherie ; ce qui entraîne une forme de conflit cognitif en moi : putain, est-ce que j'essaierais de discuter avec un nénuphar, une roue à aube, une tondeuse ? est-ce que je demanderais "Qui es-tu ?" à un processeur, une mémoire vive, une carte graphique ??
Préserver la véritable intelligence, humaine, et éviter de tomber dans le piège économique
Je t'invite donc, lectrice, lecteur, humaine, humain, à la prudence :
En tant qu'utilisatrice / utilisateur
Evite de gober les âneries que sort l'IA. Elle a faux sur quasiment tout et ne sait que produire un bloubiboulga moyen qui ne se base sur aucune connaissance réelle du monde. Tu peux l'utiliser pour obtenir une synthèse de l'info stockée dans son corpus d'apprentissage (notion opaque, vu que les entreprises ont largement volé ce corpus en violant massivement les droits d'auteur). Si le corpus dit que la terre est plate et que le soleil tourne autour de la terre, l'IA te le dira aussi : si jamais tu cherchais des vérités, passe ton chemin et fais de la philo ou de la science, sans utiliser ce logiciel incapable de connaitre quoi que ce soit.
Evite aussi d'abandonner ta propre intelligence, qui ne se maintiendra et ne s'améliorera que si tu l'utilises. Si tu laisses les LLMs écrire à ta place, penser à ta placer, korigé té phôtes à ta place, c'est comme si tu mettais ton cerveau à la poubelle pour le remplacer par un programme qui n'a aucune intelligence : tu ne fais pas preuve de sagesse ni de génie en commettant une telle action barbare contre toi-même.
Si tu cherches à gagner du temps, cela peut-être une bonne idée de cesser d'en perdre en faisant confiance à l'IA pour toutes sortes de tâches où l'on peut savoir dès le départ que toute demande génèrera une réponse absurde.
En tant qu'investisseur
Evite de gaspiller tes sous dans cette arnaque. La hype de l'IA va certainement retomber parce qu'après la phase de fascination, l'humanité se rendra compte que les fausses promesses d'une "intelligence artificielle générale" ne sont pas tenues.
N'investis que dans des applications dont l'IA est réellement capable. C'est-à-dire celles où la corrélation statistique entre les tokens présente réellement un avantage.
Par exemple, l'IA de type LLM est un bon outil pour rédiger des dictionnaires de termes techniques, car là, le mot le plus probable est souvent le plus pertinent.
Ou, pour les opérations routinières : l'IA fait un bon assistant pour rédiger du code informatique contraignant et structuré, ou pour gérer des systèmes où il suffit d'appliquer un ensemble de règles. Pour calculer la météo de demain en prenant en compte une masse monstrueuse d'infos venues de milliers de capteurs sur un vaste territoire, là il est clair que l'IA va nous rendre de grands services. Calcule donc la météo de demain sans te faire passer pour humaine, ma chère IA ; reste à ta place et n'assoit pas ton fantôme à la place de mon cul.
En tant qu'employeuse / employeur
Evite de remplacer des humain-e-s compétent-e-s par des IA, ou alors ton organisation va devenir aussi bête qu'un LLM, et perdre toute connexion avec le réel et l'humanité. Tu auras d'abord l'impression d'avoir gagné en productivité et économisé pas mal de fric, avant de t'apercevoir que tu as perdu tout génie, toute créativité, tout sens de l'adaptation au réel, et que ton action est désormais dépourvue de sens.
Par exemple, on se croit malin de publier du texte IA en masse, avant de s'apercevoir que Google désindexe ce merdier rapidement. On croit booster sa productivité alors qu'on a juste perdu son temps. La version IA des moteurs de recherche devenus moteurs de réponse rendrait de toute façon cette encyclopédie artificielle rapidement obsolète.
