Archives de Tag: science-fiction

La compassion pour les machines est-elle possible? Crime, punition et torture dans « White Christmas » de Black Mirror

Par René Lemieux, Montréal

Il y a quelques jours était diffusé au Royaume-Uni l’épisode spécial de Noël, « White Christmas » de la série Black Mirror. Comme à son habitude, l’épisode de Black Mirror de Charlie Brooker réussit à dépasser les attentes et à apporter quelque chose de nouveau dans l’imaginaire des futures technologies. Premier épisode « spécial » de la série, « White Christmas » n’est certainement pas ce qu’on s’attend à regarder habituellement pour se mettre dans l’esprit des fêtes, et pourtant, il s’imprègne assez bien d’un certain « esprit des fêtes ».

Black Mirror 1Pour ceux qui ne connaissent pas, Black Mirror est la continuation d’un genre de séries télévisées fonctionnant par anthologie. Chaque épisode est l’occasion de raconter une histoire fantastique différente, comme le faisait la série classique The Twilight Zone (1959-1964) ou encore l’ancêtre du genre, le film britannique, Dead of Night (1945). Dans Black Mirror, chaque épisode est l’occasion de proposer le récit des conséquences – éthiques et politiques – possibles d’une nouvelle technologie (très souvent de l’ordre des médias) comme réalisation de ce qu’on retrouve aujourd’hui de manière encore larvée.

Dans le « spécial Noël » de Black Mirror, deux types de technologies virtuelles sont au cœur du récit : d’abord, un type de dispositif inséré dans l’œil permettant une réalité augmentée appelé « Z-Eye ». Cette technologie permet par exemple que ce qui est regardé puisse être enregistré sous forme vidéo ou encore qu’il puisse être partagé sur écran en direct. Ce type de technologie futuriste (prendre des photos comme si la caméra était dans l’œil, exporter ce qui est vu pour le faire voir à d’autres, « rembobiner » dans sa mémoire des images pour repérer certains événements) avait déjà été présenté dans l’épisode « The Entire History of You » (saison 1, épisode 3, 18 décembre 2011). La deuxième technologie est la création d’une intelligence artificielle à partir d’une copie de la mémoire d’une personne. Grâce à une puce insérée dans le cerveau, une compagnie peut enregistrer l’activité cérébrale d’une personne pour la transférer dans un petit engin appelé « cookie ». Cette intelligence artificielle aura la mémoire, les goûts et la personnalité de la personne « réelle » jusqu’au moment où la puce est retirée. La question de l’intelligence artificielle avait déjà été abordée dans l’épisode « Be Right Back » (saison 2, épisode 1, 11 février 2013). La notion d’intelligence artificielle présentée dans les deux épisodes est toutefois assez différente : alors que dans « Be Right Back », l’intelligence artificielle est l’agrégation d’occurrences langagières provenant des médias sociaux, enregistrées et redéveloppées par algorithmes, dans le spécial de Noël, l’intelligence artificielle est conçue comme une copie consciente possédant une conscience de soi, mais incapable d’apprécier sa teneur ontologique. Dans le cookie, l’intelligence artificielle se voit donner une forme corporelle virtuellement créée : pour cette intelligence, elle n’est en rien « artificielle », elle ne peut se voir elle-même comme copie distincte d’une origine[1]. Cette intelligence artificielle est donc plus près de celle présentée dans un film comme Transcendence (Wally Pfister, 2014) dans lequel un chercheur en intelligence artificielle réussit à téléverser son « esprit » dans un ordinateur branché à Internet.

Je ne voudrais pas raconter entièrement l’épisode, je laisse aux lecteurs et lectrices du blogue la chance de découvrir la fin de cet épisode. J’indique simplement quelques éléments de l’intrigue afin, ultimement, de poser une question qui je pense mérite d’être posée en ce temps de réjouissance heureuse qu’est Noël. On pourrait schématiser les 90 minutes de l’épisode White Christmas » en trois récits hétérogènes qui finissent par entremêler les technologies mentionnées ci-dessus. Je ne parlerai que des deux premiers récits, le troisième qui résout l’ensemble de l’histoire devra être cherché ailleurs. La scène de départ est en quelque sorte métadiscursive : deux hommes quelconques s’assoient à une table pour un souper de Noël, comme si, vivant depuis cinq ans, ils n’avaient jamais eu l’occasion de le faire. Comme si ç’avait toujours été le cas, car c’est bien le rôle de la fiction de faire comme si ça faisait cinq ans qu’ils se connaissaient. Travailleurs retirés dans un poste éloigné – le travail est ici secondaire, ce n’est pas l’enjeu du récit; de toute façon, se pose-t-on vraiment ce genre de question lorsqu’on croit à la fiction qui se déroule devant nous? –, le premier se lancera dans une longue confession des fautes qu’il a commises et qui l’ont mené à cet endroit.

Se qualifiant lui-même de « gourou », le personnage de Matt Trent (joué par l’Américain Jon Hamm) conseillait de jeunes hommes en leur prodiguant des leçons de séduction. Utilisant la technologie du « Z-Eye », il arrive à voir ce que les hommes voyaient, à entendre ce qu’ils entendaient et disaient. Avec l’aide de Matt, un des consommateurs de ses conseils, Harry, réussira à séduire une femme rencontrée dans un party de bureau dans un bar. Cette femme, elle-même vivant difficilement en société, verra en Harry une âme sœur : le surprenant à se parler à lui-même (alors qu’il parlait avec Matt), elle l’invite chez elle et lui révèle qu’elle entend des voix elle aussi (dans son cas, il s’agit de schizophrénie). Convaincue qu’elle et lui sont sur la même longueur d’onde, elle contraint Harry au suicide en lui faisant boire une boisson empoisonnée. Matt Trent, qui suivra la scène depuis son écran, sera par la suite condamné pour avoir indirectement causé la mort de Harry.

White Christmas

Le personnage Matt Trent expliquant à la copie de Greta comment faire fonctionner le grille-pain.

Le deuxième récit vient présenter une deuxième technologie. C’est encore Matt le protagoniste : donner des conseils à travers le « Z-Eye » n’était qu’un hobby, son véritable travail est de vendre des copies d’intelligence artificielle à des clients. Greta est une de ses clientes qui subira une opération afin de lui retirer la puce qui a pu enregistrer ses activités cérébrales. Cette puce, insérée dans le cookie, aura la même conscience que son hôte antérieur. On donnera un corps simulé à cette conscience qui se retrouvera dans une salle vide avec pour seul ameublement un tableau de bord grâce auquel elle aura pour tâche de contrôler l’environnement de sa propriétaire (faire jouer la bonne musique au bon moment, faire fonctionner la cafetière ou encore le grille-pain tout en s’assurant que les toasts ne soient pas trop grillées). La copie de Greta est son esclave : connaissant toutes ses préférences, elle est la « personne » adéquate pour gérer son appartement. Cette copie qui ne se reconnaît pas copie, toutefois, refusera de se plier aux ordres. Matt usera alors de torture pour mettre au pas cette conscience qui refuse de s’accepter ontologiquement inférieure en lui faisant passer du temps, car le cookie peut faire augmenter ou diminuer la perception du temps qu’a l’intelligence artificielle : trois semaines pour la copie ne seront que quelques secondes pour nous. Dévastée par ce temps passé, coupée du monde, incapable de dormir, la copie de Greta refusera quand même une deuxième fois de travailler. Cette fois, le temps que ressentira la copie sera de six mois[2]. La question qui se pose alors est : peut-on ressentir de la compassion pour la souffrance que peut « ressentir » une intelligence artificielle?

Je n’en dis pas plus sur l’épisode – donc je tais le troisième récit, somme toute assez autonome, impliquant le deuxième protagoniste de la scène d’ouverture et mélangeant habilement les deux technologies mentionnées ci-dessus –, cela risquerait de gâcher le retournement final pour ceux et celles qui n’auraient pas encore vu l’épisode. Je conclus simplement, à titre d’indice sur le dénouement, en vous demandant d’imaginer avoir à écouter la chanson ci-dessous pendant 24 heures, sans pouvoir dormir :

Maintenant, imaginez ce que ce serait l’écouter pendant un an, 1000 ans, 2 880 000 ans… Si vous y arrivez, vous êtes sur la bonne voie pour comprendre l’enjeu autour du crime, de la punition et de la torture dans le dernier épisode de Black Mirror : l’enfer, c’est écouter de la musique de Noël pour l’éternité (ou presque). Avec un esprit un peu pervers, ce n’est pas loin de ce qu’on peut sentir parfois ces temps-ci.

[1] C’est le problème classiquement posé par les « deux Cratyles » dans le Cratyle de Platon : « —Socrate : Pour être image, il ne faut pas que l’image représente complètement la chose imitée. Vois si j’ai raison : y aurait-il réellement ces deux choses, savoir Cratyle et l’image de Cratyle, si quelque divinité avait représenté dans l’image non seulement la couleur et la forme du modèle, comme font les peintres, mais encore tout l’intérieur de ta personne, tel qu’il est, avec le même degré de mollesse et de chaleur, même mouvement, même âme, même raison; en un mot, si elle t’avait reproduit tout entier, et que, la copie achevée, elle l’eût placée auprès de toi, y aurait-il là Cratyle et l’image de Cratyle, ou bien deux Cratyles? —Cratyle : Il me semble, Socrate, que cela ferait deux Cratyles. »

[2] Récemment, un rapport du Sénat américain a été rendu public sur l’usage de la torture par la CIA. Un des moyens de torture est la privation de sommeil, pouvant aller jusqu’à plus d’une semaine dans certains cas.

Poster un commentaire

Classé dans René Lemieux

« The Thing », ou l’adaptation monstrueuse comme événement-machine

Par René Lemieux | Université du Québec à Montréal

The Thing, John Carpenter (1982).

Près de 20 ans après la sortie du classique The Thing de John Carpenter (1982), Matthijs van Heijningen Jr. a réalisé ce que la critique nomme aujourd’hui un prequel – mot lui-même monstrueux, construit analogiquement avec sequel : il s’agit d’une suite à un film, mais situé temporellement, au niveau du récit, avant le film sur lequel il se base (parfois traduit par « prélude »). Ici, l’adaptation ne consiste pas à reproduire un premier récit (que ce soit un roman ou une première version d’un film), mais à recréer les conditions narratives qui permettront aux spectateurs d’apprécier de nouveau, peut-être différemment, le premier film (avec le danger de décevoir les amateurs de ce dernier).

The Thing, Matthijs van Heijningen Jr. (2011).

Le premier The Thing était l’histoire de la découverte, par une équipe de scientifiques norvégiens d’un être extra-terrestre qui finira par décimer la station. Après la mort de presque tous les Norvégiens, la « chose », dont on découvrira rapidement qu’elle a le pouvoir de prendre l’apparence de ce qu’elle touche,  une fois transformée en chien, réussira à atteindre une base américaine où, là encore, un nouveau carnage aura lieu. Le récit de cette nouvelle adaptation par Van Heijningen nous montrera les événements antérieurs au récit de ce premier film.

Ce que produit Carpenter était déjà une adaptation d’un premier film datant de 1951, The Thing from another world de Christian Nyby, lui-même une adaptation d’une nouvelle de John W. Campbell publiée en 1938. Après l’adaptation d’une adaptation d’une adaptation, Van Heijningen ne fait pas seulement continuer cette série de transformations du même par l’autre et de l’autre par le même, une itérabilité par ailleurs adaptative (au sens biologique – qui est le sens propre de cette « chose ») aux contextes du public nouveau. Non, Van Heijningen fait quelque chose avec l’adaptation que ses prédécesseurs n’avaient pas fait : l’adaptation ne vise plus (ou pas seulement) à s’adapter aux nouveaux marchés des consommateurs de cinéma de science-fiction, elle s’adapte à l’adaptation en fournissant l’empreinte originelle, archétypale, de l’original.

The Thing from another world, Christian Nyby (1951).

Il y a bien évidemment des différences entre les récits. Par exemple, le premier film de 1951 se passait en Arctique, alors que les deux derniers films auront lieu de l’autre côté du globe – question de réactualiser le lieu, l’Antarctique étant plus mystérieux. Or, la différence essentielle entre la première adaptation et les deux dernières occurrences se trouve dans cette « chose » dont on apprendra les caractéristiques, à savoir, dans les deux derniers films, sa capacité adaptative de prendre la forme, la semblance, de ce qu’elle touche. Le mode de son parasitage, c’est de redonner l’image spéculaire de sa victime, une manière de passer inaperçu parmi les autres et ainsi continuer son œuvre de destruction.

Comme je l’ai mentionné plus haut, le prequel de 2011 ne vient pas répéter, c’est-à-dire imiter simplement le film de 1982, il vient plutôt s’insérer dans celui-ci : il ne s’agit plus ici simplement d’imiter sous la forme d’une copie un original, mais de devenir ou de prendre la place de l’original (et ainsi confondre l’ordre temporel de la diégèse). Or, l’adaptation de Van Heijningen est à l’image de la « chose », ou mieux, elle performe ce que la « chose » produisait. Il s’agit là d’un tour de force incroyable de la part du réalisateur, car il y avait de nombreuses contraintes à ce film, notamment, reproduire à l’exact les lieux de la station norvégienne (qui avaient été vus dans le film de Carpenter).

Le sous-genre prequel (si on peut parler ici en termes de genre) obtient peut-être sa vérité dans ce film, mais c’est une vérité monstrueuse, à la limite d’une part de la répétition mécanique de la mimésis (donc de la mort) car l’adaptation se doit de répéter mécaniquement l’image de l’original, et d’autre part de la survie du récit (donc de la vie) car elle se doit de respecter tout en la modifiant, en amont ou en aval, la narration. Entre la vie et la mort, l’adaptation, et particulièrement l’adaptation en « prélude », est une résurrection toujours incertaine.

Dans « L’avant-dernier mot : archives de l’aveu » (Papier Machine, Galilée, 2001), Jacques Derrida discute de la question des confessions chez saint Augustin et Rousseau. Il aborde notamment la question de l’événementialité et du mécanique, je me permets de le citer :

Cela nous sera-t-il possible? Pourrons-nous un jour, et d’un seul mouvement, ajointer une pensée de l’événement avec la pensée de la machine? Pourrons-nous penser, ce qui s’appelle penser, d’un seul et même coup et ce qui arrive (on nomme cela un événement), et, d’autre part, la programmation calculable d’une répétition automatique (on nomme cela une machine)?

Il faudrait alors dans l’avenir (mais il n’y aura d’avenir qu’à cette condition), penser et l’événement et la machine comme deux concepts compatibles, voire indissociables. Aujourd’hui ils nous paraissent antinomiques. Antinomiques, car ce qui arrive devrait garder, pense-t-on, quelque singularité non programmable, donc incalculable. Un événement digne de ce nom devrait, pense-t-on, ne pas céder ou se réduire à la répétition (p. 34).

On peut aussi écouter la conférence sur le site de la Bibliothèque nationale de France (les passages cités commencent à la cinquième minute).

L’adaptation du prequel de The Thing m’avait semblé jouer justement sur les bords de la répétition (donc du programmable, donc du calculable), mais aussi sur l’événement du nouveau, du vivant, ce que Derrida appellera l’organique, ce qui relève d’une « inscription sensible », aesthésique. Je me permets de citer encore une fois, sans doute un peu trop longuement, Derrida sur cette question :

Pourquoi organique? Parce qu’il n’est pas de pensée de l’événement, semble-t-il, sans une sensibilité, sans un affect esthétique et quelque présomption d’organicité vivante.

La machine, elle, au contraire, serait vouée à la répétition. Elle serait destinée à reproduire impassiblement, insensiblement, sans organe ni organicité, l’ordre reçu. En état d’anesthésie, elle obéirait ou commanderait sans affect ni auto-affection, en automate indifférent, à un programme calculable. Son fonctionnement, sinon sa production, n’aurait besoin de personne. Puis il est difficile de concevoir un dispositif purement machinal sans quelque matière inorganique.

Dison bien inorganique. Inorganique, autrement dit non vivant, parfois mort mais toujours, en principe, insensible et inanimé, sans désir, sans intention, sans spontanéité. L’automaticité de la machine inorganique n’est pas la spontanéité qu’on prête au vivant organique.

C’est ainsi du moins qu’on conçoit généralement l’événement et la machine. Parmi tous les traits d’incompatibilité que nous venons sommairement de rappeler, pour suggérer qu’il est bien difficile de les penser ensemble, comme la même « chose », nous avons dû souligner ces deux prédicats qu’on attribue avec assurance, le plus souvent, à la matière ou au corps matériel : l’organique et l’inorganique.

Ces deux mots d’usage courant comportent une référence évidente, positive ou négative, à la possibilité d’un principe interne, propre et totalisant, à une forme totale d’organisation, justement, qu’elle soit ou non une belle forme, une forme esthétique, cette fois au sens des beaux-arts. Cette organicité ferait défaut à la matière dite inorganique. Si un jour, en un seul et même concept, on pensait ensemble ces deux concepts incompatibles, l’événement et la machine, on peut parier qu’alors on n’aura pas seulement (je dis bien non seulement) produit une nouvelle logique, une forme conceptuelle inouïe. En vérité, sur le fond et à l’horizon de nos possibilités actuelles, cette nouvelle figure se mettrait à ressembler à un monstre. Mais peut-on ressembler à un monstre? Non, bien sûr, la ressemblance et la monstruosité d’excluent. Il nous faut donc déjà corriger cette formulation : la nouvelle figure d’un événement-machine ne serait même plus une figure. Elle ne ressemblerait pas, elle ne ressemblerait à rien, pas même à ce que nous appelons encore familièrement un monstre. Mais cela serait donc, par cette nouveauté même, un événement, le seul et le premier événement possible, car im-possible. C’est pourquoi je me suis risqué à dire que cette pensée ne pouvait qu’appartenir à l’avenir – et même rendre l’avenir possible. Un événement n’advient que si son irruption interrompt le cours du possible et, comme l’impossible même, surprend toute prévisibilité. Mais un tel super-monstre événementiel serait, cette fois, pour la première fois, aussi produit par de la machine (p. 35-36).

Jacques Derrida a peut-être raison de penser l’« im-possible » de l’événement-machine, même s’il y met un tirait, signe qu’on y trouverait aussi un « possible » : ce monstre ne serait peut-être pas visible au sens où il nécessiterait une monstration, ce que le monstre exclurait. Or, il oublie une possibilité : s’il est vrai qu’on ne peut pas ressembler à un monstre, cela n’exclut pas que ce soit le monstre qui nous ressemble. Le monstre de The Thing est monstrueux, pas seulement parce qu’il peut prendre n’importe quel semblance, mais avant tout parce qu’il peut nous ressembler, et ainsi prendre notre place, à l’insu de tous.

L’événement-machine que Derrida à la fois semble redouter et espérer, ne pourrait-il pas être, dans le domaine scientifique, le clonage, opération narcissique par excellence? Voilà peut-être le monstrueux de la science : que la naissance comme possibilité du nouveau, c’est-à-dire de l’organique et de la vie, soit du même coup la répétition mécanique de l’identique, donc de la mort.

(On a pu apprendre récemment qu’un généticien de Harvard avait l’intention de fertiliser une femme porteuse avec l’ADN d’un homme de Néandertal, espèce humanoïde disparu il y a des dizaines de milliers d’années – manière comme une autre de retrouver la monstration du monstre en nous. Le « canular » – qui était le résultat d’une mauvaise traduction de l’allemand – montre à tout le moins le désir du public pour ce qui pourrait sembler être le retour d’un passé monstrueux refoulé.)

Ce qu’on pourrait voir comme la limite éthique extrême de la science, à savoir le clonage, l’appareil institutionnel de la culture l’a toujours espéré pour lui-même, depuis toujours. Récemment, on a pu lire une « lettre » de Christian Rioux à Lisa LeBlanc sur le déclin supposé du français (texte auquel Maxime Catellier a brillamment répondu) ou la revue Argument qui réclame un retour aux « classiques » des humanités pour notre époque inculte (sous-entendu : la jeunesse qui ne connaît rien). Quand on pose la question « la culture générale commune fout-elle le camp? », on sous-entend « pourquoi vous ne nous ressemblez pas? » La culture de ces gens qui se plaignent du manque de culture (des autres, plus spécifiquement des jeunes), c’est une culture qui veut se voir elle-même dans l’autre. Voilà l’essence du micro-fascisme de notre « élite » culturelle aujourd’hui : elle veut du même, du pareil et du semblable, de l’unique et de l’Un. Elle se veut elle-même.

The Thing vient remettre en scène ce que la psychanalyse savait déjà depuis longtemps : le fantasme (ou le rêve) lorsque réalisé, c’est-à-dire lorsque l’imaginaire passe dans le réel, il devient un cauchemar. Ceux et celles qui, aujourd’hui, en appellent à une « culture générale » pour ceux qu’ils et elles jugent n’en ont pas, ne montrent qu’un désir narcissique du même dans sa répétition machinique et sa survivance événementielle. Savent-ils seulement que cette demande, c’est-à-dire l’avènement d’un événement-machine monstrueux, c’est en définitive la demande d’une image spéculaire d’eux-mêmes transférée à l’autre?Peut-être, pour être certain d’être écouté, faudrait-il le dire – une dernière fois – en chiac, seule langue qui semble attirer leur attention : be careful what you wish for.

Poster un commentaire

Classé dans René Lemieux