Hal 9000, l'ordinateur intelligent et machiavélique de 2001: L'Odyssée de l'Espace
Quelle que soit l’époque, le lieu ou l’avancée technologique, le robot est un sujet récurrent et passionné qui appartient au domaine de ce que l’on pourrait appeler la mythologie d’anticipation. Nous parlons ici du robot type qui fascine la science-fiction, anthropomorphe et indépendant tout en étant contrôlé par l’homme ; théoriquement imaginé depuis des décennies, il n’en reste pas moins une sorte d’utopie futuriste extrêmement précise semant sur son passage des débats enflammés entre scientifiques et philosophes.
D’un point de vue purement scientifique, l’adage « Tout est possible » fait de la robotique un domaine en expansion rapide et un puits sans fond de théories et d’hypothèses, ainsi que d’expériences multiples et diverses dont les résultats sont parfois bluffants. La philosophie éthique, quant à elle, étudie le sujet du point de vue de la morale et des conséquences ; la plus grande crainte à propos de la possible création de robots indépendants est évidemment celle de leur rapport avec les hommes: la machine peut-elle menacer l’humanité ?
Ce sujet, aussi brûlant que prêt à prendre vie à tout moment, se retrouve dans un nombre incalculable d’œuvres (notamment de science-fiction et de fantasy) qui tentent d’opérer un examen pertinent et réaliste de la chose ; ambition difficile quand le sujet étudié n’existe qu’en théorie et que les fulgurantes avancées technologiques ne font encore qu’effleurer du bout des doigts. Mais plusieurs œuvres ont une place à part dans ce domaine, donnant au mythe du robot un souffle nouveau, parfois excessivement humanisé, mais souvent juste.
Les trois lois d'Isaac Asimov
Isaac Asimov, célèbre auteur de plusieurs géniales fictions d’anticipation, fut l’un des premiers à s’attarder sur le conflit éthique qui pourrait résulter de la naissance de robots indépendants ; imaginant des machines intelligentes, capables de toutes les actions humaines primaires (excepté les sentiments) mais dotées d’une puissance physique surpassant de loin celle du plus fort de tous les hommes, l’écrivain mit en place une série de trois lois qui, si elles sont insérées dans le « patrimoine génétique » des robots, doivent a priori tuer dans l’œuf toute possibilité de dérapage.
Première Loi : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger.
Deuxième Loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi.
Troisième Loi : Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la Première ou la Deuxième Loi.
A ces trois lois, théoriquement inviolables et assurant la protection de l’espèce humaine, vient s’ajouter une quatrième loi, dite Loi Zéro, qui établit une échelle de valeur entre un individu particulier et l’humanité entière, donnant à cette dernière la priorité absolue en cas de litige.
Loi Zéro : Un robot ne peut ni nuire à l'humanité ni, restant passif, permettre que l'humanité souffre d'un mal.
Les lois d’Asimov sont, encore aujourd’hui, une sérieuse base d’anticipation scientifique du comportement possible d’intelligences artificielles ; cependant, et comme cela est le cas pour tout ce qui a trait aux lois en général, nombreux sont ceux qui ont cherché toutes les failles possibles et imaginables de ces trois piliers de la robotique ; Asimov lui-même a pris un malin plaisir à mettre en scène quelques contradictions qui peuvent en découler, qu’elles soient graves ou légères. On peut se demander, par exemple, si un robot peut rester passif face à un homme qui s’autodétruit lentement par l’alcool, la cigarette ou la drogue. Ou encore, dans le cas de figure où un homme seul menace la survie de l’humanité tout entière : quoi qu’il fasse, le robot devra forcément briser l’une des lois ; la logique humaine nous inciterait à intervenir auprès de l’homme dangereux (même si cela implique sa destruction), puisque cela ne brise que la Première Loi, tandis que la passivité briserait à la fois la Première Loi et la Loi Zéro.
Et encore, ce système pourrait peut-être être considéré comme répréhensible pour certains philosophes, notamment ceux qui prônent l’application de la loi morale kantienne.
Mais qu’en est-il pour un robot ? Littéralement piégé par les lois qui le constituent, de quelle façon peut-on imaginer son comportement face à ce genre de dilemme ?
I, Robot : quand l’unicité n’est plus un privilège humain
I, Robot, film grand public diffusé pour la première fois dans les salles américaines en 2004, se veut une réflexion largement inspiré par le livre du même nom d’Isaac Asimov ; malgré de nombreuses critiques reprochant au long-métrage d’avoir dérivé au point d’entrer en contradiction avec les idées de l’auteur, le film met en exergue plusieurs situations concernant la prétendue uniformité des robots.
Dans l’imaginaire collectif, l’avènement d’une frange « mécanique » de la population terrienne correspond ni plus ni moins à la création de robots à la chaîne ; qu’ils soient absolument tous identiques, ou que leur apparence soit déterminée par leur fonction, le constat final reste le même : le robot est avant tout un clone. Il sort d’une usine de production accompagné par des dizaines ou des centaines de robots qui lui sont semblables, tant du point de vue esthétique que du point de vue fonctionnel. Du moment que le robot n’est qu’un produit et qu’il ne présente pas de vice de fabrication, il conserve une sorte d’inoffensivité quand il est isolé.
I, Robot explore les possibles conséquences liées à une absence d’uniformité totale parmi la population mécanique : en faisant de Sonny un robot a priori physiquement identique à ses « semblables » (excepté quelques détails) mais doté d’une conscience presque humaine, ainsi que de réels sentiments, le long-métrage réduit toujours plus la limite entre l’homme et la machine. Sonny est non seulement différent, mais il va beaucoup plus loin : il a conscience d’être différent.
Alors que l’on attribue volontiers aux robots des capacités humaines qui les rendent, d’un point de vue purement physique, égaux (voire supérieurs) aux hommes, l’identité reste un sujet délicat ; elle est et doit toujours être, dans les esprits, l’apanage majeur du vivant (au sens biologique du terme). Un robot unique dépasse le stade de simple « robot » pour devenir un individu à part entière, par conséquent un être potentiellement dangereux parce que moins susceptible d’être sous le contrôle des hommes.
Cette unicité de la machine lui donne un caractère sinon biologique, du moins plus « naturel » qu’un simple produit manufacturé ; s’insinue alors l’idée d’un robot qui se place au-delà de la machine, au-delà d’un assemblage d’écrous et de boulons : et si le robot s’humanisait ?
Wall-E : quand le robot possède une personnalité
Tout récemment sorti en salles, le film d’animation Wall-E, qui s’annonce déjà comme une petite révolution dans l’univers du cinéma, est à la fois une étude sur les robots et un plaidoyer en faveur du respect de l’environnement. Désertée par les hommes à cause de son niveau trop élevé de pollution, la Terre n’est désormais habitée que par un petit robot à l’allure sympathique nommé Wall-E, conçu pour le compactage des débris et des déchets en vue de rendre à la planète une atmosphère vivable.
Dès le départ, Wall-E présente des caractéristiques peu habituelles pour une machine : bien qu’il se contente de répéter inlassablement les tâches pour lesquelles il a été fabriqué, on trouve rapidement chez lui une sorte de curiosité et de fascination pour les objets humains qu’il trouve en travaillant ; un Rubik’s Cube, une ampoule intacte ou encore une cassette vidéo : Wall-E récupère ce qui l’intrigue et entasse toute sa petite collection dans le hangar qui lui tient lieu de domicile.
Cette attitude dépasse celle que l’on peut attendre d’une machine conçue pour le nettoyage : la curiosité et l’amusement sont généralement réservées à l’espèce humaine. Mais la personnalité de Wall-E ne s’arrête pas là : au fil de ses aventures et de ses découvertes, le petit robot en va même jusqu’à tomber amoureux d’Eve, un robot conçu pour un autre objectif que le sien. Les débuts du long-métrage nous indiquent que Wall-E est réceptif au danger, grâce à une alerte qui se déclenche lorsqu’un problème potentiellement blessant s’apprête à surgir. Cependant, auprès d’Eve, Wall-E n’a plus aucun sens de la survie ; tantôt bruyant, tantôt envahissant, tantôt insistant, il prend des risques inconsidérés afin de retrouver et d’aider sa compagne, quitte à finir en morceaux dans un compacteur d’ordures interstellaires. Mieux encore : il finit par laisser de côté la fonction originale pour laquelle il avait été fabriqué, afin d’aider Eve à remplir la sienne.
Son sens de la fascination, du sacrifice et du mépris de sa propre nature font de Wall-E un robot qui n’en est désormais plus un ; outre le fait qu’il ne soit fait que de ferraille, la petite machine possède un esprit, une conscience, une âme, ainsi que des émotions purement humaines telles que l’amour et l’empathie. A ce stade, Wall-E dépasse même le stade de l’animal vivant : en s’arrachant lui-même au déterminisme qui faisait de lui un robot, il gagne cette fameuse liberté dont seuls les humains sont a priori possesseurs.
Matrix : quand les robots s’emparent de la liberté
Dans Matrix, le gros succès cinématographique des frères Wachowski, l’émancipation des robots n’est que très brièvement évoquée, et pourtant elle est la base de toute la trilogie ; devenues libres, les machines se comportent comme tout être biologique, c’est-à-dire qu’elles cherchent avant tout à perpétuer l’espèce. Contrairement à I, Robot, cependant, elles restent les produits d’un clonage intensif et ne possèdent pas de personnalité propre ; elles sont seulement des matricules.
En partant de ce scénario, plusieurs cas de figures sont possibles, allant de la cohabitation pacifique à la haine meurtrière envers l’humanité ; Matrix explore ce second cas.
Les Sentinelles du long-métrage n’ont qu’un seul but : atteindre et ravager le dernier îlot encore habité par des êtres humains. Totalement indépendantes, les machines se produisent elles-mêmes et s’affranchissent de toute règle, qu’elle soit formelle (l’une des lois d’Asimov, par exemple) ou fonctionnelle ; comme les hommes, elles agissent en groupe mais se définissent individuellement, c’est-à-dire que l’une des machine est toujours susceptible de se détacher du troupeau et d’engager un combat en solitaire.
A priori, rien n’indique que les Sentinelles soient capables de penser ; mais les prémisses de la révolution des machines laissent à croire qu’un événement progressif a mené à une mutinerie de la part des robots, qui avaient donc conscience de l’oppression dont ils étaient victimes.
Quoi qu’il en soit, un tel scénario catastrophe pourrait certainement être possible chez des machines qui sont à la fois libres et dénuées d’individualité au sens philosophique du terme ; c’est leur uniformité qui fait des Sentinelles des ennemis agressifs et dangereux.
Le mythe du robot dans la fiction est un sujet inépuisable, du fait de l’inexistence de telles machines dans la réalité ; l’anticipation pouvant prendre des formes infinies, et les avancées technologiques actuelles n’étant que les balbutiements des avancées futures, aucune « prévision » ne semble être plus pertinente qu’une autre ; finalement, quelles sont les caractéristiques qui pourraient rendre une machine plus humaine ?
« Un être humain n’est qu’une machine qui fait des erreurs », aurait dit Pierre Boulle.