La compassion pour les machines est-elle possible? Crime, punition et torture dans « White Christmas » de Black Mirror

Par René Lemieux, Montréal

Il y a quelques jours était diffusé au Royaume-Uni l’épisode spécial de Noël, « White Christmas » de la série Black Mirror. Comme à son habitude, l’épisode de Black Mirror de Charlie Brooker réussit à dépasser les attentes et à apporter quelque chose de nouveau dans l’imaginaire des futures technologies. Premier épisode « spécial » de la série, « White Christmas » n’est certainement pas ce qu’on s’attend à regarder habituellement pour se mettre dans l’esprit des fêtes, et pourtant, il s’imprègne assez bien d’un certain « esprit des fêtes ».

Black Mirror 1Pour ceux qui ne connaissent pas, Black Mirror est la continuation d’un genre de séries télévisées fonctionnant par anthologie. Chaque épisode est l’occasion de raconter une histoire fantastique différente, comme le faisait la série classique The Twilight Zone (1959-1964) ou encore l’ancêtre du genre, le film britannique, Dead of Night (1945). Dans Black Mirror, chaque épisode est l’occasion de proposer le récit des conséquences – éthiques et politiques – possibles d’une nouvelle technologie (très souvent de l’ordre des médias) comme réalisation de ce qu’on retrouve aujourd’hui de manière encore larvée.

Dans le « spécial Noël » de Black Mirror, deux types de technologies virtuelles sont au cœur du récit : d’abord, un type de dispositif inséré dans l’œil permettant une réalité augmentée appelé « Z-Eye ». Cette technologie permet par exemple que ce qui est regardé puisse être enregistré sous forme vidéo ou encore qu’il puisse être partagé sur écran en direct. Ce type de technologie futuriste (prendre des photos comme si la caméra était dans l’œil, exporter ce qui est vu pour le faire voir à d’autres, « rembobiner » dans sa mémoire des images pour repérer certains événements) avait déjà été présenté dans l’épisode « The Entire History of You » (saison 1, épisode 3, 18 décembre 2011). La deuxième technologie est la création d’une intelligence artificielle à partir d’une copie de la mémoire d’une personne. Grâce à une puce insérée dans le cerveau, une compagnie peut enregistrer l’activité cérébrale d’une personne pour la transférer dans un petit engin appelé « cookie ». Cette intelligence artificielle aura la mémoire, les goûts et la personnalité de la personne « réelle » jusqu’au moment où la puce est retirée. La question de l’intelligence artificielle avait déjà été abordée dans l’épisode « Be Right Back » (saison 2, épisode 1, 11 février 2013). La notion d’intelligence artificielle présentée dans les deux épisodes est toutefois assez différente : alors que dans « Be Right Back », l’intelligence artificielle est l’agrégation d’occurrences langagières provenant des médias sociaux, enregistrées et redéveloppées par algorithmes, dans le spécial de Noël, l’intelligence artificielle est conçue comme une copie consciente possédant une conscience de soi, mais incapable d’apprécier sa teneur ontologique. Dans le cookie, l’intelligence artificielle se voit donner une forme corporelle virtuellement créée : pour cette intelligence, elle n’est en rien « artificielle », elle ne peut se voir elle-même comme copie distincte d’une origine[1]. Cette intelligence artificielle est donc plus près de celle présentée dans un film comme Transcendence (Wally Pfister, 2014) dans lequel un chercheur en intelligence artificielle réussit à téléverser son « esprit » dans un ordinateur branché à Internet.

Je ne voudrais pas raconter entièrement l’épisode, je laisse aux lecteurs et lectrices du blogue la chance de découvrir la fin de cet épisode. J’indique simplement quelques éléments de l’intrigue afin, ultimement, de poser une question qui je pense mérite d’être posée en ce temps de réjouissance heureuse qu’est Noël. On pourrait schématiser les 90 minutes de l’épisode White Christmas » en trois récits hétérogènes qui finissent par entremêler les technologies mentionnées ci-dessus. Je ne parlerai que des deux premiers récits, le troisième qui résout l’ensemble de l’histoire devra être cherché ailleurs. La scène de départ est en quelque sorte métadiscursive : deux hommes quelconques s’assoient à une table pour un souper de Noël, comme si, vivant depuis cinq ans, ils n’avaient jamais eu l’occasion de le faire. Comme si ç’avait toujours été le cas, car c’est bien le rôle de la fiction de faire comme si ça faisait cinq ans qu’ils se connaissaient. Travailleurs retirés dans un poste éloigné – le travail est ici secondaire, ce n’est pas l’enjeu du récit; de toute façon, se pose-t-on vraiment ce genre de question lorsqu’on croit à la fiction qui se déroule devant nous? –, le premier se lancera dans une longue confession des fautes qu’il a commises et qui l’ont mené à cet endroit.

Se qualifiant lui-même de « gourou », le personnage de Matt Trent (joué par l’Américain Jon Hamm) conseillait de jeunes hommes en leur prodiguant des leçons de séduction. Utilisant la technologie du « Z-Eye », il arrive à voir ce que les hommes voyaient, à entendre ce qu’ils entendaient et disaient. Avec l’aide de Matt, un des consommateurs de ses conseils, Harry, réussira à séduire une femme rencontrée dans un party de bureau dans un bar. Cette femme, elle-même vivant difficilement en société, verra en Harry une âme sœur : le surprenant à se parler à lui-même (alors qu’il parlait avec Matt), elle l’invite chez elle et lui révèle qu’elle entend des voix elle aussi (dans son cas, il s’agit de schizophrénie). Convaincue qu’elle et lui sont sur la même longueur d’onde, elle contraint Harry au suicide en lui faisant boire une boisson empoisonnée. Matt Trent, qui suivra la scène depuis son écran, sera par la suite condamné pour avoir indirectement causé la mort de Harry.

White Christmas

Le personnage Matt Trent expliquant à la copie de Greta comment faire fonctionner le grille-pain.

Le deuxième récit vient présenter une deuxième technologie. C’est encore Matt le protagoniste : donner des conseils à travers le « Z-Eye » n’était qu’un hobby, son véritable travail est de vendre des copies d’intelligence artificielle à des clients. Greta est une de ses clientes qui subira une opération afin de lui retirer la puce qui a pu enregistrer ses activités cérébrales. Cette puce, insérée dans le cookie, aura la même conscience que son hôte antérieur. On donnera un corps simulé à cette conscience qui se retrouvera dans une salle vide avec pour seul ameublement un tableau de bord grâce auquel elle aura pour tâche de contrôler l’environnement de sa propriétaire (faire jouer la bonne musique au bon moment, faire fonctionner la cafetière ou encore le grille-pain tout en s’assurant que les toasts ne soient pas trop grillées). La copie de Greta est son esclave : connaissant toutes ses préférences, elle est la « personne » adéquate pour gérer son appartement. Cette copie qui ne se reconnaît pas copie, toutefois, refusera de se plier aux ordres. Matt usera alors de torture pour mettre au pas cette conscience qui refuse de s’accepter ontologiquement inférieure en lui faisant passer du temps, car le cookie peut faire augmenter ou diminuer la perception du temps qu’a l’intelligence artificielle : trois semaines pour la copie ne seront que quelques secondes pour nous. Dévastée par ce temps passé, coupée du monde, incapable de dormir, la copie de Greta refusera quand même une deuxième fois de travailler. Cette fois, le temps que ressentira la copie sera de six mois[2]. La question qui se pose alors est : peut-on ressentir de la compassion pour la souffrance que peut « ressentir » une intelligence artificielle?

Je n’en dis pas plus sur l’épisode – donc je tais le troisième récit, somme toute assez autonome, impliquant le deuxième protagoniste de la scène d’ouverture et mélangeant habilement les deux technologies mentionnées ci-dessus –, cela risquerait de gâcher le retournement final pour ceux et celles qui n’auraient pas encore vu l’épisode. Je conclus simplement, à titre d’indice sur le dénouement, en vous demandant d’imaginer avoir à écouter la chanson ci-dessous pendant 24 heures, sans pouvoir dormir :

Maintenant, imaginez ce que ce serait l’écouter pendant un an, 1000 ans, 2 880 000 ans… Si vous y arrivez, vous êtes sur la bonne voie pour comprendre l’enjeu autour du crime, de la punition et de la torture dans le dernier épisode de Black Mirror : l’enfer, c’est écouter de la musique de Noël pour l’éternité (ou presque). Avec un esprit un peu pervers, ce n’est pas loin de ce qu’on peut sentir parfois ces temps-ci.

[1] C’est le problème classiquement posé par les « deux Cratyles » dans le Cratyle de Platon : « —Socrate : Pour être image, il ne faut pas que l’image représente complètement la chose imitée. Vois si j’ai raison : y aurait-il réellement ces deux choses, savoir Cratyle et l’image de Cratyle, si quelque divinité avait représenté dans l’image non seulement la couleur et la forme du modèle, comme font les peintres, mais encore tout l’intérieur de ta personne, tel qu’il est, avec le même degré de mollesse et de chaleur, même mouvement, même âme, même raison; en un mot, si elle t’avait reproduit tout entier, et que, la copie achevée, elle l’eût placée auprès de toi, y aurait-il là Cratyle et l’image de Cratyle, ou bien deux Cratyles? —Cratyle : Il me semble, Socrate, que cela ferait deux Cratyles. »

[2] Récemment, un rapport du Sénat américain a été rendu public sur l’usage de la torture par la CIA. Un des moyens de torture est la privation de sommeil, pouvant aller jusqu’à plus d’une semaine dans certains cas.

Poster un commentaire

Classé dans René Lemieux

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s