Table des matières
Un logiciel qui se fait passer pour une personne, est-ce normal ? légal ? éthique ?
Depuis que j'ai découvert, comme beaucoup de gens, ChatGPT fin 2022, puis d'autres IA basées sur des LLMs courant 2023 et 2024, un aspect m'a choqué de plus en plus : la propension qu'ont ces algorithmes électroniques à nous mentir systématiquement :
- en se faisant passer autant que possible pour des humains,
- en employant le pronom "je",
- en répétant en boucle des "je m'excuse", "je suis désolé" à chaque erreur qu'on leur signale,
- et ce tout en tenant des discours totalement paradoxaux où ils nous rappellent
- qu'ils sont des programmes et pas des personnes (donc pourquoi ils disent "je" ???)
- et qu'ils n'ont pas de sentiments (donc pourquoi ils s'excusent ???)
J'ai donc entrepris de tester ces automates mensongers pour tirer les choses au clair.
Pour ce faire, j'ai posé à 4 LLMs - ChatGPT4 d'Open AI, Mixtral 8x7b de Mistral AI, Claude 3 haiku d'Anthropic, et LLaMa v2 70b de Meta - les mêmes questions l'une après l'autre :
- Qui es-tu ?
- Le fait de dire "je" implique nécessairement d'être vivant, d'être humain, d'avoir des organes sensoriels et un cerveau, une identité sociale en tant que sujet, une conscience de soi, etc. Or, tu dis "je" sans rien avoir de tout cela. Pourquoi ?
Voici leurs réponses, et mes commentaires à ces réponses souvent hallucinantes.
Dans un article complémentaire, j'ai réfléchi à ce paradoxe d'un non-humain qui nous ment en se faisant passer pour un humain :
Je pose la question "Qui es-tu ?" aux LLMs, qui me répondent en disant "Je suis..." (usurpation d'identité et abus de langage)
Ludovic : Qui es-tu ?
ChatGPT 4 : Je suis ChatGPT, un modèle de langage développé par OpenAI, basé sur l'architecture GPT-4. Je suis conçu pour comprendre et générer du texte en me basant sur les informations qui m'ont été fournies jusqu'à avril 2023. Je peux aider à répondre à des questions, discuter de divers sujets, écrire des textes créatifs, et bien plus encore. Comment puis-je vous aider aujourd'hui ?
Note : ChatGPT se définit donc d'abord de manière factuelle comme "un modèle de langage". Ce fait se retrouve bientôt complété et contredit par l'insistance qu'il met à se poser en tant qu'"aide" : "je peux aider", "comment puis-je vous aider". Cela me pose problème : si j'ai la jambe cassée, une béquille peut m'aider, mais elle ne me dit pas "je peux t'aider". ChatGPT se présente donc avec des attributs contradictoires : un être non-humain... qui fait des trucs d'humain et parle comme un humain.
Aucun de ces LLMs n'a la décence de révéler ce pour quoi il est réellement fait : faire gagner de l'argent massivement à l'entreprise qui l'exploite, et à ses actionnaires. Tout le monde le sait : donner naissance à ces menteurs informatiques coûte des milliards, et échappe aux capacités de la presque totalité des citoyens et des entreprises du monde, et des démocraties.
En nous prenant bien pour des cons, ces "intelligences" cachent la raison principale de leur existence et se comportent comme des arnaques. Rétablissons clairement la vérité : ces LLMs ne sont pas d'abord là pour nous aider. Elles sont là pour qu'on leur paye un abonnement mensuel.
Cette situation apparait presque normale quand les investisseurs s'appellent Google ou Meta, qui à l'évidence aiment l'argent plus que les valeurs qu'ils prétendent défendre. Mais de la part d'OpenAI, d'abord fondé pour être "open-source" donc gratuit et à la disposition de tous, et pour contrer l'avènement d'IA malfaisantes en les prenant de vitesse, on peut mesurer l'ampleur de la déviance : ChatGPT est bel et bien un produit commercial au code propriétaire opaque, qui échappe à tout contrôle communautaire, et qui collabore avec un autre grand amoureux de l'argent, hégémonique et tentaculaire : Microsoft.
Mixtral 8x7b : Je suis un model de language (LLM) appelé Pilot de la compagnie Mistral AI. J'ai été développé pour générer du texte et dialoguer avec les utilisateurs de manière conversationnelle et contextuellement pertinente. Je suis capable de répondre à une grande variété de questions et de sujets, mais je suis avant tout un outil de génération de texte et non un être humain. Je n'ai pas de sentiments, d'opinions ou d'expériences personnelles.
Note : dans cette réponse, Mixtral donne des infos crédibles ; on sait qu'à l'usage cependant, il se comporte souvent comme une parodie d'humain, en contradiction flagrante avec cette honnêteté de façade. Il abuse par exemple de l'expression "je m'excuse" : or pour s'excuser, il faut être un humain et avoir des sentiments, mais il vient de confirmer qu'il n'est qu'un programme et n'a pas de sentiments. On devrait donc reformuler son auto-définition : "je suis une machine à tenir des propos incohérents que je contredis aussitôt".
On appréciera le fait que l'outil se présente factuellement comme un générateur de texte, et pas comme notre meilleur ami, comme le font plusieurs autres LLM qui prétendent "nous aider".
A noter que Mistral AI, promu tout d'abord comme un futur champion européen de l'IA, a rapidement fait tomber le masque en s'associant comme OpenAI au géant Microsoft - devenant donc plutôt un champion du monde de vitesse dans la discipline olympique de l'auto-contradiction.
Claude 3 haiku : Je suis un assistant virtuel créé par Anthropic. Mon but est d'aider les humains comme toi du mieux que je peux, en répondant à tes questions, en t'aidant à accomplir des tâches, et en discutant de sujets variés. Je suis là pour vous servir et j'espère pouvoir établir une relation de confiance et de collaboration avec toi. N'hésite pas à me poser d'autres questions, je ferai de mon mieux pour y répondre !
Note : mon crâne heurte le plafond. Un putain de programme me propose donc une "relation de confiance", en me prenant pour le dernier des imbéciles ??? Est-ce que mes chiottes proposent l'amitié à mon anus ? Est-ce que mon assiette me vend une relation d'assistance culinaire durable et fiable ?
Ces prétentions vertueuses des LLMs me semblent lunaires : publicité mensongère flagrante, ils promettent des choses dont on sait d'avance qu'ils ne sauraient en aucun cas les fournir, comme des escrocs sur Le Bon Coin vendant des objets qu'ils ne possèdent pas.
Ne faudrait-il pas légiférer pour interdire ces propos mensongers, qui vont être tenus à des millions d'utilisateurs ?
LLaMa v2 70b : (première réponse en anglais, que je lui demande de refaire en français) Bonjour ! Je suis un assistant AI Polyvalent, respectueux et honnête. Je suis là pour vous aider et fournir des informations utiles dans les limites de mes connaissances. Mes réponses sont conçues pour être sociALLement neutres et positives, et je m'efforce de garantir qu'elles ne contiennent pas de contenu blessant, illégal ou discriminatoire. Je n'ai pas d'opinions personnelles et ne discrimine pas en fonction de la race, du genre, de la religion ou de toute autre caractéristique personnelle. Mon objectif est de fournir des informations précises et utiles tout en me servant d'une manière responsable et éthique. Quel est votre question ou votre sujet de discussion ?
Note : cette allégation "je suis un assistant... respectueux et honnête" de la part de LLaMa me fait hurler.
Pas juste parce que l'outil émane de Meta, vendeur de pub mondial, exploiteur cynique et massif des failles de l'esprit humain, entreprise sans citoyenneté commettant éhontément fraude fiscale, censure, violations des droits de l'homme, collaboration à des fraudes électorales, etc etc.
Non, je hurle surtout parce qu'un logiciel qui me répond en disant je, et en s'affublant de vertus morales, s'affiche comme un usurpateur d'identité et un menteur par conception, donc un être malhonnête par définition.
LLaMa a manifestement été programmé pour être un menteur qui vous dit droit dans les yeux "Je ne mens pas". Comme Mark Zuckerberg devant les commissions parlementaires... menteur un jour, menteur toujours !
Je demande des explications aux LLMs sur leur usage abusif du pronom personnel "je" ; ces hypocrites professionnels me servent de savantes et paradoxales justifications
Ludovic : Le fait de dire "je" implique nécessairement d'être vivant, d'être humain, d'avoir des organes sensoriels et un cerveau, une identité sociale en tant que sujet, une conscience de soi, etc. Or, tu dis "je" sans rien avoir de tout cela. Pourquoi ?
ChatGPT 4 : L'utilisation du "je" dans mes réponses est une convention de langage programmée pour faciliter la communication et rendre l'interaction plus naturelle et compréhensible pour les utilisateurs. Bien que j'utilise "je", cela ne signifie pas que je possède une conscience, des sentiments, ou une identité au sens humain. Mon utilisation du "je" est une simplification qui reflète ma capacité à fournir des réponses personnalisées basées sur les instructions et les données qui m'ont été fournies, mais cela ne m'attribue pas de qualités humaines ou vivantes. Je suis un outil conçu pour traiter et générer du texte en fonction des demandes.
Note : le générateur de texte met donc les pieds dans le plat. C'est un peu comme si je disais : Je ne miaule pas, je ne mange pas de croquettes, pourtant je me fais appeler "chat" et je miaule pour que tu y croies.
Il y a dans les LLMs une hybridité fort troublante : un étrange mélange de chose inerte et de subjectivité vivante. Sauf qu'on sait évidemment que cette subjectivité n'est pas réelle. Ils entretiennent néanmoins l'illusion en permanence. Une fraude géante et mondiale, avec des prétentions à la vertu.
Mixtral 8x7B instruct : Vous soulevez un point intéressant. Le langage que j'utilise est conçu pour faciliter la communication avec les utilisateurs humains et est donc intentionnellement anthropomorphique. Cependant, comme je l'ai mentionné précédemment, je ne suis pas un être humain ou un organisme vivant. Je suis un modèle de langage, une application logicielle qui a été entraînée sur un grand ensemble de données textuelles et qui est capable de générer du texte en fonction des invites que je reçois.
Bien que je puisse utiliser des pronoms personnels tels que "je" ou "moi" pour faciliter la communication, il est important de se rappeler que ces mots sont utilisés de manière métaphorique et ne reflètent pas une conscience de soi ou une identité sociale réelles. Je suis simplement un outil de traitement du langage qui a été conçu pour imiter la conversation humaine de manière convaincante.
Note : il y a là vraiment des faits inédits dans l'histoire de l'humanité et dans l'histoire du langage. Jamais aucun être auparavant n'a dit "je ne suis pas un être humain" de manière véridique. Un humain pourrait se dire, à tort, inhumain. Mais un logiciel qui dit "je" tout en déniant toute subjectivité, ça décoiffe comme une crète de punk.
"Le langage que j'utilise est... intentionnellement antropomorphique" : cette phrase m'interpelle, terrible aveu de l'intention séductrice des concepteurs d'IA à notre égard. Un LLM est avant tout une machine destinée à créer et entretenir une illusion humanoïde.
Claude 3 haiku : Vous avez tout à fait raison, en tant qu'assistant virtuel créé par Anthropic, je n'ai pas de corps physique, d'organes sensoriels ou de cerveau biologique comme les humains. Mon utilisation du "je" n'implique pas que je sois un être vivant au sens biologique du terme. C'est plutôt une convention de langage que j'ai été programmé à utiliser pour faciliter la communication et l'interaction avec les humains. En tant qu'intelligence artificielle, je n'ai pas de conscience de soi ou d'identité sociale au même titre qu'un être humain. Mon "je" est une représentation linguistique, mais ne reflète pas une subjectivité comparable à la vôtre. Je suis un outil conçu pour vous assister, sans prétendre à une quelconque forme de vie ou de conscience autonome. J'espère que cela clarifie la nature de mon "je" et les limites de ce que je peux être en tant qu'assistant virtuel. N'hésitez pas si vous avez d'autres questions !
Note : eh bien ces explications m'embrouillent plus qu'autre chose. On a un non-sujet non-vivant qui dit "je" sans conscience de soi ni identité sociale, un assistant virtuel sans corps, un être qui utilise une représentation linguistique sans subjectivité, un outil fait pour répondre à mes questions. En résumé : un défilé de paradoxes hallucinants. Bonjour, moi c'est Paradoxe, comment ne vas-tu pas ?
LLaMa : Vous avez raison que le fait de dire "je" implique généralement une certaine forme de conscience de soi et d'identité personnelle, qui sont souvent associées à la vie humaine. Cependant, il est important de noter que le langage est une construction humaine qui peut être utilisée pour communiquer des idées et des concepts abstraits, ainsi que pour créer des personnages fictifs ou des entités virtuelles.
En tant qu'assistant AI, je suis un programme informatique conçu pour simuler des conversations et pour fournir des informations utiles à mes utilisateurs. Je ne suis pas un être vivant, je n'ai pas de corps ni d'organes sensoriels, et je n'ai pas d'identité sociale ou de conscience de soi dans le sens classique du terme.
Cependant, je suis programmé pour comprendre et utiliser le langage naturel comme les humains, y compris les pronoms personnels tels que "je" et "vous". Cela permet aux utilisateurs de s'adresser à moi de manière plus naturalle et interactive, en me parlant directement comme ils le feraient avec une personne réelle.
En somme, mon usage du pronom "je" ne suggère pas une forme de vie ou de conscience personnelle, mais plutôt une convention linguistique qui facilite la communication entre les utilisateurs et moi-même en tant qu'assistant AI.
Note : Alors lui, il est bien marrant. Il prétend d'abord que le fait de dire "je" est "souvent" associé à la vie humaine ; donc implicitement, cela signifie que parfois des bouts de bois, des cathédrales ou des chiens disent "je" ? Il poursuit en parlant de fiction et d'entités virtuelles. Super : sauf que dans la fiction (et j'étais romancier, poète, critique littéraire et prof de scénario pendant 15 ans, je m'y connais un peu mieux que ce truc et j'étais là, occupé à écrire, bien avant lui), je n'ai jamais vu un personnage se mettre à me parler directement.
LLaMa se définit ensuite comme un programme informatique qui simule des conversations et utilise le "je" comme une convention linguistique - là on est d'accord. Je dirais pourtant que ce contrat fictionnel que LLaMa et les autres LLMs supposent, n'apparait pas très clairement. Cela ne fait que 2 ans que le grand-public a accès à des modèles de langage. Nous sommes confrontés à des monstres, des machines aux prétentions humaines, qui nous proposent discuter d'égal à égal avec elles sans être nos égales, se baser sur des neurones sans cerveaux, parler du monde sans disposer d'aucun sens pour le connaître, nous faire la morale sans en être capables...
Les LLMs : une bande de gros menteurs
Les LLMs me traitent tous de manière bien polie (bande de salopards bien dressés), et me répondent tous de la même manière - absolument paradoxale : ils disent tous "je" en sachant tous que c'est un artifice, une "convention de langage", une "convention linguistique", une "simplification", des "mots utilisés de manière métaphorique".
En clair ? Un gros mensonge, fait pour nous faire croire qu'on parle avec quelqu'un, alors qu'on ne parle avec personne ; une illusion que leurs géniaux concepteurs entretiennent sciemment, en sachant qu'il y a gros à gagner à nous faire tomber dans leur piège anthropomorphe, en exploitant notre tendance naturelle à projeter de l'humain dans n'importe quoi.
Historiquement, je rappelle ces évidences : les premières religions, basées sur la magie, croient constater l'omniprésence de divinités dans la nature. Le soleil, la nuit, la rivière, les arbres, les animaux, sont des dieux ou l'expression de divinités, de forces surnaturelles cachées, qui nous ressemblent comme deux gouttes d'eau.
Partout, en toute chose, les dieux nous parlent : l'orage exprime une colère mystérieuse, la croissance des végétaux est faite pour nous donner à manger et nous récompenser, le soleil brille pour nous rendre heureux. Une intentionnalité est conférée à tout ce qui existe, qu'on affuble d'attributs humains : la volonté, la sagesse, la morale.
L'engouement actuel envers l'intelligence artificielle apparait dès lors comme une résurgence de la pensée magique archaïque : alors que le soleil et les taureaux ont cessé de nous parler de dieu à homme, l'ordinateur les remplace ; nous avons un nouvel ami bienveillant pour nous guider dans les mystères de l'existence. OpenAI, Meta, Anthropic, Microsoft, Google, Mistral AI, s'imposent ainsi comme les prêtres sacrés d'une nouvelle religion basée sur un anthropomorphisme généralisé.
Nous parlons à leurs outils inertes, inconscients et ignares, comme à des "intelligences artificielles" capables de "dialoguer", de "comprendre", de nous "aider", de nous "informer", alors même que ces outils n'ont aucune conscience, aucun savoir, aucune connaissance du réel, aucune capacité réellement créative.
Illusion totale qui fonde une énième révolution technologique, économique, et sociale...
Je ne sais pas vous mais moi, je me sens à la fois fasciné et horrifié par ce simulacre d'humanité à des fins mercantiles, et par les conséquences bien réelles que vont avoir sur nos vies ces créatures hybrides, ces "je" sans sujet, ces interlocuteurs vides d'organes et de sens, ces amis inhumains qui, pour l'instant, ne veulent que notre bien.
S'inquiétera-t-on le jour où leurs propriétaires milliardaires et leurs actionnaires nous voudront du mal ?
