Chair humaine contre metal hurlant : la SF a fera du robot notre pire ennemi.
A le car ou ils s’appretent a deferler via individu, demontons la machine a fantasmes. Et interrogeons son createur.
« Voyant que sa creature croissait en force et en taille a cause du nom divin via le front, l’homme se rendit maitre d’elle. Effaca son nom. Et le golem tomba en poussiere. » Le golem. C’est ce monstre artificiel qui hante des mythes hebraiques. Cet etre de poussiere et d’argile faconne par mon tour de l’homme qui aurait vole le gant de dieu. Un humanoide. Notre premier robot. Suivant les legendes populaires, le Maharal de Prague l’aurait cree au XVIe siecle Afin de defendre nos Juifs des Pogroms. En inscrivant le nom de Dieu (EMETH) concernant le front de votre statue de boue, il lui aurait donne l’existence et la force de servir la communaute. Mais l’esclave lui echappa. Lachee au sein des rues de Prague, il y sema votre chaos total, ecrasant sans pitie nos humains qu’il devait abriter. « Notre legende peut etre lue comme la denonciation du risque que porte en elle la cybernetique, en fonction de Jacques Faucheux chercheur sur la valeur symbolique des techniques. Elle reactive le mythe de l’apprenti sorcier, (. ) souligne le danger d’une machine autonome et plaide pour sa propre regulation avec l’homme. » A l’heure ou des robots fourbissent leurs mecha-membres, dans l’attente de leur avenement imminent, l’ombre du golem resurgit du fond des ages. Et se decoupe sur le mur du futur.
J’ai TACTIQUE DE L’ETHIQUEDepuis un moment, la SF a fera sienne ces peurs millenaristes. Les premieres machines destructrices apparaissent dans la litterature du XIXe siecle, mais elles ne portent pas encore le nom de robot.
Il faut attendre 1920 et une piece tcheque visionnaire (R.U.R.) pour que le mot soit prononce. Derivee du polonais robota (travailleur) et du tcheque robotnik (l’esclave), l’abreviation est sans equivoque : le robot reste votre travailleur servile. Rien De surcroi®t qu’un outil. En theorie. Car le cyber-cortex i chaque fois plus evolue, sa conscience embryonnaire, son autonomie grandissante le conduisent fatalement a se revolter contre la main qui l’exploite. A defier son maitre. C’est pour eviter ce syndrome de Frankenstein et abriter l’humain du metal hurlant, que l’ecrivain Isaac Asimov formalisa des 1942 nos trois lois fondamentales de la robotique dans sa nouvelle Runaround : 1. Un robot ne peut mettre atteinte a 1 etre humain ni, en restant passif, laisser cet etre humain expose au danger ; 2. Un robot devra obeir a toutes les ordres donnes par les etres humains, sauf si de tels ordres paraissent en contradiction avec la Premiere Loi ; 3. Un robot devra couvrir son existence dans la mesure ou votre protection n’entre pas en contradiction avec la Premiere ou Notre Deuxieme Loi. Un concept si bien ficele, si seduisant que plusieurs pays songent depuis plusieurs temps a le transposer dans le monde reel. J’ai Coree en particulier qui elabore voili 2007 « une charte ethique d’la robotique pour definir et encadrer les roles et fonctions des robots intelligents du futur ». Legerement speed les Coreens ? Pas si vite : dans ce pays a la pointe une technologie, ou l’on se promi?ne a environ 50 mega/seconde l’oreille collee a un cellphone high-tech, un robot par menage d’ici 2020 n’a rien du delirium SF. Alors le ministere de l’industrie anticipe : « Mes robots pensants deviendront des compagnons cles de l’homme », assure Park Hye-Young, membre du travail d’la robotique. Toujours en elaboration, ce post s’appuierait via le corpus d’Asimov pour resoudre la batterie de questions juridiques qui ne tardera jamais a ouvrir le feu : traitement abusif des robots, utilisation illegale d’un robot, phenomene d’addiction a la robotique. Et meme mariage entre humains et droides : « Imaginez juste que diverses personnes se mettent a traiter leurs androides tel si j’ai ete un cherie ! » Aie, robot.
Mais relisons Asimov. En bon scientifique, l’ecrivain a experimente ses Trois lois au fil de le ?uvre. Verifie leur validite. Eprouve leurs limites. Releve leurs contradictions. Pour malgre lui les invalider. Au nom de ces lois, une intelligence artificielle constatant que l’homme est un danger pour l’homme (pollution, guerres. ) pourrait nous dechoir, nous dominer, nous detruire pour le bien de l’humanite sans rien enfreindre de votre qu’on lui a implementees. Inspire des recits d’Asimov, le I, ROBOT d’Alex Proyas devoile le tableau apocalyptique de cette reaction en chaine, l’infernal programmatisme planque derriere la robethique. Deja dans l’ancestral WARGAMES (1983) votre super-ordinateur confondait 1 banal piratage de lyceen avec une attaque sovietique et declenchait directement le feu nucleaire. Pour nous defendre. Notre regulation ethique de la machine est-elle vouee aux paradoxes ? « Cela ne s’agit que d’un procede litteraire, tempere Frederic Kaplan chercheur en intelligence artificielle. Il ne faudrait surtout jamais prendre ces lois au premier degre. Comme l’indique franchement Asimov dans sa preface a la serie des Robots, Il existe a l’origine l’idee de donner au robot une serie de soupapes de securite qui devrait empecher une telle revolte ineluctable que l’on retrouve au sein d’ l’integralite des histoires de cette categorie. » Pour Kaplan, c’est evident : en demontrant l’inadequation des lois, en jouant sur leur mauvaise interpretation, Asimov reactualise bien simplement le syndrome de Frankenstein. Quadrature du cercle, again.