Les trois lois

1. Un robot ne peut porter atteinte à un être humain ni, en restant passif, permettre qu’un être humain soit exposé au danger.

2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.

3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.

Énoncées en 1942 dans la nouvelle Runaround d’Asimov, les trois lois de la robotique ont été maintes fois citées et dénoncées par les éthiciens et ingénieurs informatiques. « Il y a beaucoup de mythes sur les trois lois », explique Daniel Polani, informaticien de l’Université de l’Hertfordshire, au Royaume-Uni, qui a publié un essai sur la question en 2017 dans la revue Frontiers of Robotics. « Le premier mythe est qu’Asimov les considérait comme immuables et suffisantes. Au contraire, la plupart de ses œuvres portent sur les manières dont elles ne parviennent pas à encadrer le comportement des robots. Le deuxième mythe est leur inutilité. Il est de bon ton de lever les yeux en évoquant les trois lois. Mais je crois qu’on peut les voir comme une tentative de donner à l’humain du contrôle sur son environnement, en encadrant le comportement des robots. L’objectif d’Asimov est celui qui devrait guider les éthiciens de la robotique, même s’ils peuvent utiliser des formulations différentes. »

Asimov et le Parlement européen

En 2017, un rapport du comité des affaires juridiques du Parlement européen avait publié une analyse des forces et des faiblesses des trois lois de la robotique énoncées par Isaac Asimov, dans le cadre d’une réflexion sur des lignes directrices encadrant l’intelligence artificielle. Le document final, publié en 2019, ne faisait pas référence à Asimov.

Le voyage fantastique

En 2016, un ingénieur biomédical de Polytechnique, Sylvain Martel, a publié le livre A Microscopic Submarine in my Blood, portant sur ses travaux qui permettent d’utiliser la nanotechnologie pour apporter des médicaments directement dans des régions précises du corps. Le livre faisait référence au film The Fantastic Voyage, qui a inspiré à Isaac Asimov deux livres. « J’ai vu le film à 7 ans, ça m’avait beaucoup marqué, dit M. Martel. Dans le film, les scientifiques miniaturisés utilisaient des lasers pour guérir le patient. Ce qu’on peut faire aujourd’hui, c’est livrer des médicaments à 85 % ou 90 % localisés, au lieu d’une chimiothérapie qui circule partout dans le corps, et ainsi minimiser les effets secondaires toxiques tout en maximisant le potentiel thérapeutique. »

Un prédateur

Asimov est mort en 1992, après avoir contracté le VIH par transfusion sanguine lors d’une intervention chirurgicale cardiaque. Ces dernières années, il est devenu évident qu’il serait aujourd’hui considéré comme un prédateur sexuel. « Il faisait des attouchements agressifs envers les femmes dans les conférences, c’était un secret de polichinelle dans le monde de la science-fiction », dit David Leslie, philosophe de l’Institut Turing en Angleterre, qui a publié un article pour le centenaire de la naissance d’Asimov dans la revue Nature l’hiver dernier. « Il avait aussi des personnages de femmes très stéréotypés, mis à part la spécialiste de psychohistoire de la série Fondation. » En 2012, une essayiste américaine, Stephanie Zvan, avait publié des lettres entre Asimov et l’organisateur d’une conférence en 1961, où on lui avait demandé de prononcer une conférence « humoristique » sur les « effets positifs des pincements de fesse ». « Tout le monde savait, et non seulement ce n’était pas dénoncé, c’était encouragé », déplorait Mme Zvan. L’un des romans d’Asimov qui est le plus souvent présenté comme un exemple de stéréotypes sexistes est The God Themselves, qui décrit une civilisation extraterrestre à trois sexes. Mais des professeures d’anglais du Collège avancé gouvernemental en Inde ont affirmé en 2016 dans l’International Journal of English and Literature que le roman constituait plutôt une contestation des rôles sexuels traditionnels pour proposer une identité « androgyne plus complète ».

La psychohistoire

La grande œuvre d’Isaac Asimov, la série Fondation, porte sur la possibilité de prédire l’évolution historique d’une société. Il s’agit des efforts de spécialistes de « psychohistoire » pour aider l’humanité à échapper à la barbarie qui a succédé à l’instauration d’un empire galactique. « Asimov a grandi dans un milieu russe progressiste à Brooklyn, dit M. Leslie. À cette époque, même ceux qui étaient opposés à l’expérience soviétique étaient marxistes, dans ce sens qu’ils croyaient à l’inéluctabilité du progrès fondé sur la créativité et l’intelligence humaines, qui étaient entravées par des structures historiques et sociales sclérosées. Asimov, qui venait d’un milieu russe provincial aisé, a été très influencé par le sociologue Bernhard J. Stern et le groupe des futuriens qui s’inspiraient de ses enseignements sur les conditions nécessaires au progrès. Ceci dit, étant donné qu’il démontre dans Fondation que la psychohistoire ne peut prédire toute l’évolution humaine, je crois qu’il a compris les limites de cette vision marxiste positiviste avant d’autres de sa génération. »

Le paradoxe de la biochimie

L’un des grands mystères de la carrière d’Asimov est pourquoi il a si peu utilisé les progrès de la biologie, puisque c’était sa profession jusqu’à la fin de la trentaine. « Sur les centaines de nouvelles et romans qu’il a écrits, on en compte à peine une douzaine sur la biologie, et aucun sur la révolution génétique, dont il a été témoin », explique Hank Greely, bioéthicien de l’Université Stanford qui a publié deux essais sur la question. « Oui, il y a le mutant au cœur de la série Fondation, le personnage de la Mule, mais c’est presque un à-côté. On a l’impression qu’il préférait se pencher sur les dimensions cognitives et éthiques de la futurologie, plutôt que sur la technique elle-même. Il aurait été intéressant qu’il joue un rôle aussi important en bioéthique qu’en éthique de la robotique. »

physique fictive

Asimov s’est aussi avancé sur la modification des lois de la physique. Dans le deuxième tome du Voyage fantastique, il imagine que la miniaturisation est possible en « modifiant la constante de Planck », utilisée en physique moderne. « Je ne l’ai pas lu, mais j’ai bien l’impression que oui, c’est farfelu », dit Alain Hénault, ingénieur physique à l’École de technologie supérieure (ETS). « La constante de Planck est, comment dire… une constante ! Réduire la constante de Planck… en science-fiction, tout est possible d’un trait de plume ! » Pour ajouter à l’énormité, Asimov imaginait une manière de rendre la miniaturisation moins énergivore… en augmentant la vitesse de la lumière !

380

Nombre de romans et recueils de nouvelles publiés par Isaac Asimov

120

Nombre de livres scientifiques publiés par Isaac Asimov

Source : Nature

Question : Est-ce que la révolution des robots est imminente ?

Réponse : L’idée que les robots – ou l’intelligence artificielle – pourraient réduire l’humanité en esclavage est courante dans la science-fiction. Isaac Asimov l’a explorée dans plusieurs nouvelles, et ses écrits ont été portés à l’écran avec le film I, Robot avec Will Smith, en 2004. La série Terminator s’appuie aussi sur cette idée.

Les spécialistes de la technologie et les plus grands scientifiques se sont inquiétés de cette possibilité. L’astrophysicien-vedette Stephen Hawking et le fondateur de Tesla et SpaceX, Elon Musk, ont signé en 2015 une lettre ouverte affirmant que l’intelligence artificielle pourrait être un désastre pour l’humanité. Le fondateur de Facebook, Mark Zuckerberg, a qualifié cette inquiétude d’« irresponsable ».

Les spécialistes de l’intelligence artificielle appellent « singularité » le moment où celle-ci surpassera l’intelligence humaine. Le gourou de la singularité, un futurologue émérite appelé Ray Kurzweil, prédit qu’elle surviendra avant 2050. Le terme « singularité » a été utilisé en premier dans un essai philosophique dans les années 50.

Ceux qui sont convaincus que la « singularité » est inévitable s’appuient sur les progrès fulgurants de l’intelligence artificielle. Mais leurs opposants ont aussi des arguments.

Le principal argument militant contre l’inévitabilité de la singularité est que la plupart des investissements en intelligence artificielle concernent des actions uniques, comme la détection d’obstacles sur la route ou de tumeurs par imagerie médicale, ou encore la reconnaissance faciale. Par exemple, le dernier rapport « Index de l’intelligence artificielle » de l’Université Stanford estimait que ces trois seuls domaines représentaient plus du quart des investissements en recherche. Et il y a de multiples autres exemples de tâches ciblées. En d’autres mots, pour le moment, on travaille à mettre au point des esclaves robotiques extrêmement compétents pour une seule tâche.

Cet argument et d’autres sont passés en revue dans un article publié en 2017 dans la revue de l’Association américaine pour l’intelligence artificielle (AAIA), écrit par Toby Walsh, un spécialiste australien. Le titre de l’essai de Walsh, The Singularity May Never Be Near, fait référence à un livre de Ray Kurzweil, le pape de la « singularité ». L’essai de M. Walsh a par la suite été attaqué par des alliés de M. Kurzweil.

Pour faire bonne mesure, une douzaine d’instituts de réflexion sur les dangers de l’intelligence artificielle sont financés par des multimillionnaires de la technologie, notamment Elon Musk, de Tesla, et le fondateur de Skype, Jaan Tallinn.

Dans le cadre d’un projet spécial, des écoles québécoises ont soumis des questions scientifiques à notre journaliste, qui y répondra d’ici à la fin de l’année scolaire. Si votre école désire participer au projet, où que vous soyez au Québec, écrivez-nous !