Le gouvernement pastoral machinique

Le gouvernement pastoral machinique, journée d’étude « Numérique et réel », Université Catholique de l’Ouest, Angers, 11 octobre.

Depuis longtemps, la littérature, le théâtre, le cinéma, mettent en scène des créatures machiniques ou biologiques qui se rebellent contre leurs créateurs : Frankenstein ou le Prométhée moderne de Mary Shelley (1818), Rossum’s Universal Robots de Karel Capek (1921), Metropolis de Fritz Lang (1927), etc. En 1942, Isaac Asimov, alors jeune écrivain de science-fiction, las semble-t-il de ce type d’artifice, invente une parade : les trois lois de la robotique (Runaround, 1942) :

  1. Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger ;
  2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;
  3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.