Le gouvernement pastoral machinique, journée d’étude « Numérique et réel », Université Catholique de l’Ouest, Angers, 11 octobre.
Depuis longtemps, la littérature, le théâtre, le cinéma, mettent en scène des créatures machiniques ou biologiques qui se rebellent contre leurs créateurs : Frankenstein ou le Prométhée moderne de Mary Shelley (1818), Rossum’s Universal Robots de Karel Capek (1921), Metropolis de Fritz Lang (1927), etc. En 1942, Isaac Asimov, alors jeune écrivain de science-fiction, las semble-t-il de ce type d’artifice, invente une parade : les trois lois de la robotique (Runaround, 1942) :
- Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger ;
- Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;
- Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.
Photo : Pixabay
Ces principes abstraits, qui ne peuvent-être implémentées dans une machine, ont contribué à alimenter l’imaginaire du champ de l’intelligence artificielle et l’émergence, dans le réel cette fois, d’une « éthique » des machines (machine ethics oumoral machine) [1].
Avec l’éthique des machines, un déplacement s’opère : ce n’est plus seulement l’ingénieur, dans l’exercice de son art, qui doit se conformer aux règles et valeurs humaines, mais la machine.
[1] McCauley Lee, « The Frankenstein Complex and Asimov’s three laws », Association for the advancement of Artificial intelligence, January 2007.
