Print Friendly, PDF & Email

Première partie : Robot, joli robot, dis-moi si tu m’aimes

Ce titre paraphrase, avec quelques modifications, les fameuses paroles de la reine de Blanche-Neige, le conte des frères Grimm. En fait, dans le conte, la reine a un miroir magique qu’elle peut interroger et qui sait répondre de manière infaillible. Elle lui demande : « Miroir, joli miroir, qui est la plus belle au pays ? » Et le miroir lui répond invariablement : « vous êtes la plus belle du pays, Madame la reine ». Elle était contente car « elle savait que le miroir disait la vérité. Blanche-Neige, cependant, grandissait et devenait de plus en plus belle. Quand elle eut atteint ses sept ans elle était déjà plus jolie que le jour et plus belle que la reine elle-même. Un jour que celle-ci demandait au miroir : “Miroir, joli miroir, qui est la plus belle au pays ?”, celui-ci répondit: “Madame la reine, vous êtes la plus belle ici, mais Blanche-Neige est encore mille fois plus belle”. La reine en fut épouvantée. Elle devint jaune et verte de jalousie ».[1]

Tout le monde connaît ce conte, inutile d’en raconter la suite. Je l’ai cité parce qu’aujourd’hui, on ne parlerait pas d’un miroir magique, mais on dirait qu’est doté d’intelligence artificielle. Il a effectivement toutes les caractéristiques d’une machine intelligente. Il est capable d’analyser un visage et de juger de la beauté. Il connaît aussi des objets distants, comme Blanche-Neige. Il sait que tant qu’elle est enfant elle n’est pas une rivale pour sa marâtre, mais il a compris qu’elle va le devenir bientôt car elle est déjà plus belle qu’elle. Or, l’intelligence artificielle nous concerne tous, et comment ! J’en donnerai plusieurs illustrations. Pour le moment, je vais me contenter d’évoquer les caméras de reconnaissance faciale parce qu’elles ressemblent au miroir de la fable et qu’elles sont connectées à des ordinateurs utilisant l’intelligence artificielle. Elles sont déjà installées dans certains pays pour surveiller la population ou identifier de potentiels terroristes. Il est possible que ce genre de dispositifs envahisse aussi, dans quelque temps, les espaces publics chez nous. On peut bien imaginer ce que peut ressentir une personne qui se sent observée du matin au soir ! Quelles conséquences aurait la perte de la notion de vie privée ?

D’autre part, en illustrant de puissantes passions humaines, Blanche-Neige nous  dit quelque chose de plus. La reine est dominée par son narcissisme et elle est aveuglée par une rivalité œdipienne mortifère. D’ailleurs Blanche-Neige incarne aussi le narcissisme, puisqu’elle se laisse séduire par les colifichets que lui présente la reine déguisée. Ensuite, victime d’une pulsion orale, elle ne peut résister à goûter une pomme d’aspect succulent, mais empoisonnée.

Les passions de l’être humain sont de gros points faibles face aux machines intelligentes. Le miroir magique n’aurait jamais cédé à une pression pulsionnelle ! C’est une lapalissade de dire que la puissance et la rapidité de calcul des ordinateurs dépasse largement les nôtres, de même de leur capacité à stocker des informations. Mais ils ont encore un autre un autre avantage sur nous : ils ne courent pas le risque d’être bousculés par des états affectifs irrationnels. Que provoque en nous la confrontation à une telle supériorité ?

C’est précisément le rapport de l’humain à la machine intelligente qui constitue le thème du présent article. Je ne pourrai qu’effleurer le sujet dans ce cadre restreint et tous les types de relation à l’intelligence artificielle ne seront pas abordés. Il y en a cependant un que je traiterai en particulier. Il ressort du titre que j’ai donné à cette première partie : « Robot, gentil robot, dis-moi si tu m’aimes ». Certes, j’ai paraphrasé une phrase du conte, mais je l’ai modifiée. J’ai remplacé la demande narcissique par une demande d’amour. Pour quelle raison ? Parce que cela me paraît bien traduire la discordance qu’il y a dans les rapports entre nous et la machine intelligente.

En effet, nous sommes des êtres affectifs. Nous sommes en bonne partie guidés par nos émotions et nos sentiments. Nous sommes soumis à des mouvements affectifs souvent irrationnels. D’autre part, les émotions et les décharges affectives des autres peuvent nous déstabiliser. Notre cerveau peut être induit en erreur quand le langage articulé ou corporel est difficile à déchiffrer. D’où la gêne que l’on peut éprouver lorsqu’on se trouve face à une personne psychotique, si ses expressions affectives ne concordent pas avec ce qu’elle dit. D’où aussi la vulnérabilité de certains d’entre nous, face à d’habiles mensonges d’un séducteur pervers.

L’affectivité est en quelque sorte le pivot de notre psychisme, mais elle constitue également notre talon d’Achille dans notre rapport aux machines intelligentes. Car ces machines, même celles qui sont les plus intelligentes, n’ont pas de psychisme, ni d’affectivité. Elles sont juste intelligentes, c’est tout. Notre relation à l’intelligence artificielle est donc toujours dissymétrique : nous tendons naturellement à investir affectivement la machine, mais notre investissement affectif tombera nécessairement dans le vide. Donc, le fait que nous ayons un psychisme et de l’affectivité peut malheureusement nous créer des problèmes quand nous interagissons avec une machine “pensante”. J’y reviendrai, mais je voudrais d’abord illustrer mon propos à l’aide d’un roman de science fiction que  j’ai lu il y a peu. Il me permettra d’introduire la question du transhumanisme. C’est une question très importante, qui s’impose naturellement quand on aborde celle de l’intelligence artificielle.

Le transhumanisme « est un mouvement culturel et intellectuel international prônant l’usage des sciences et des techniques afin d’améliorer la condition humaine notamment par l’augmentation des capacités physiques et mentales des êtres humains »[2]. D’après Max More, il s’agit d’améliorer la vie, d’éliminer le vieillissement et la maladie à travers la connexion de notre cerveau avec des machines intelligentes. Autrement dit, c’est la création de “cyborgs”, c’est-à-dire de combinaisons d’organismes biologiques et de dispositifs cybernétiques autorégulés, comme  J.-M. Besnier l’a bien explicité dans L’homme simplifié[3].

Le roman dont il va être question a précisément cette thématique pour centre. Il s’intitule Ce matin, maman a été téléchargée[4]. Non seulement il nous plonge dans l’intelligence artificielle, mais il nous en dit long sur les dangereux dérapages qui pourraient survenir dans l’application de cette technologie. Même s’il s’agit d’un roman de science-fiction, il préfigure peut-être quelque chose qui pourrait exister dans un proche avenir. Il présente aussi un intérêt au plan psychique, puisqu’il donne à voir, comme le conte de Blanche-Neige, des désirs narcissiques et œdipiens, avec en plus une connotation incestueuse.

Voici la trame de Ce matin, maman a été téléchargée. Une femme, appelée Michèle, a un fils, Raphaël, 33 ans, qui vit avec elle. Elle n’accepte pas qu’il soit sur le point de quitter la maison pour se marier. Comme elle est malade et qu’il lui reste peu de temps à vivre, elle corrompt des médecins pour que tout son psychisme soit transféré sur une clé USB afin de créer un avatar d’elle-même. En ce temps futur, c’est possible, mais évidemment interdit.

Là où l’histoire se corse, c’est que dans ce futur, on peut acheter des robots humanoïdes et les mettre à son service. Or, Michèle avait poussé son fils à en acheter un, ou plutôt une. C’est une sorte de robot qu’on appelle pulpeuse. Ce robot imite à la perfection une jeune femme avec des formes appétissantes et elle fait tout, absolument tout, ce que son maître lui demande, 24 heures sur 24, 7 jours sur 7.

Et voilà ce que Michèle va combiner : elle fait télécharger son psychisme dans la pulpeuse de son fils en remplacement de l’intelligence artificielle que ses concepteurs y avaient programmée. Michèle meurt. Ou plutôt son corps est mort, mais son psychisme survit, “réincarné” sous l’aspect d’une jeune pulpeuse, sans que Raphaël le sache. Evidemment, il organise l’enterrement et sa mère, devenue pulpeuse, assiste à ses propres funérailles. Par la suite la Michèle-pulpeuse réussit à brouiller Raphaël avec sa fiancée, qui le quitte, et elle s’immisce fortement dans la vie de son fils. Le livre présente plusieurs situations cocasses jusqu’à ce que Raphaël finisse par reconnaître sa mère sous les traits de sa pulpeuse. Il n’y a pas lieu d’en dire plus ici : on en sait assez pour réfléchir sur le rapport entre intelligence artificielle et réalité humaine.

Quelle est la réalité psychique de Michèle réincarnée en pulpeuse ? Celle d’une vieille femme malade ? Ou celle d’une jeune femme attirante ? Ou encore, celle d’un robot “humanisé” ? Or, nous sommes des êtres psychobiologiques. Notre  réalité psychique est en résonance avec notre corps. Il suffit de penser aux changements psychiques qui adviennent durant la puberté et l’adolescence, ou après la ménopause. On peut aussi songer aux conséquences dans le psychisme d’un accident ou d’une maladie qui laissent le corps meurtri. Quelle serait la réalité psychique d’une personne vivant dans un corps mécanique couplé à une intelligence artificielle ? Sa conscience serait-elle celle d’un être humain ou d’un monstre ? Cette “personne” serait-elle capable d’avoir une authentique affectivité ? Connaîtrait-elle l’amour, la peur ou des sentiments de culpabilité ? Dans le roman, Michèle réincarnée en pulpeuse se comporte de manière totalement immorale et perverse. Les hybrides hommes-machines qui apparaîtront peut-être dans le futur auront-ils nos limites névrotiques ou exprimeront-ils une toute-puissance perverse ? Auraient-ils encore une réalité psychique personnelle ? Ou vivraient-ils dans un monde où réalité individuelle et réalité collective seraient totalement intriquées, voire fusionnées ?

Imaginons que Raphaël fasse l’amour avec Michèle devenue pulpeuse, s’agira-t-il d’un inceste réel ou virtuel ? Et quand il reconnaît sa mère sous les traits de sa pulpeuse, quelle image maternelle aura-t-il alors ? Celle d’une mère toujours jeune et à portée de ses désirs ? Deviendra-t-il pervers à son tour ? Sera-t-il écrasé par la culpabilité, tel Œdipe découvrant qu’il a fait l’amour avec sa mère ? Car là, le désir œdipien de Raphaël aurait un destin particulier : au lieu de rester cantonné dans le domaine du fantasme, enfermé dans l’inconscient, il se trouverait en plein dans la réalité, face à un objet désirable qui permet sa réalisation directe, brute.

Certains penseront probablement que tout cela n’a rien à voir avec le monde d’aujourd’hui, ni même avec celui de demain. Qu’on est encore loin d’avoir instauré un transhumanisme. Certes, Michèle et Raphaël sont des personnages d’un roman de science-fiction. Et pourtant, à bien y penser… Ce type de roman est aussi appelé roman d’anticipation. Ce matin, maman a été téléchargée pourrait bien être un roman qui anticipe quelque chose de notre future réalité, que des scientifiques et des techniciens sont déjà en train d’élaborer, comme on le verra dans la seconde partie de cet article.

© Daniel Lysek

seconde partie

Vai alla versione italiana

Notes:

[1] https://www.grimmstories.com/fr/grimm_contes/blanche-neige torna su!

[2] https://fr.wikipedia.org/wiki/Transhumanisme torna su!

[3] Besnier J.-M., L’homme simplifié, Paris, Fayard, 2012. torna su!

[4] Naëj G., Ce matin, maman a été téléchargée, Buchet-Chastel, 2019. torna su!