Le vol du futur : la singularité technologique en question, IAtranshumanisme.com, 24 avril 2018
En 2017, Jean-Gabriel Ganascia, professeur d’informatique à la Sorbonne, chercheur en intelligence artificielle et président du comité d’éthique du CNRS, publiait un ouvrage remarquable : Le mythe de la singularité technologique. Faut-il avoir peur de l’intelligence artificielle ? [1]. Un des fils qui trament cet ouvrage porte sur un couplage inattendu entre une « pseudomorphose » technologique et politique. Étymologiquement, pseudomorphose vient du grec « pseudès » faux, trompeur et « morphosis », action donnant forme. Un processus physico-chimique lent qui par adjonction, altération, imprégnation d’éléments extérieurs ou en fonction d’un changement de l’environnement comme la température, modifie un corps qui, en apparence, reste semblable. Selon Jean-Gabriel Ganascia avec l’intelligence artificielle « forte » et l’intelligence artificielle « générale » nous sommes en présence de deux pseudomorphoses de l’intelligence artificielle.
Intelligence (s) artificielle (s)
Tout commence dans les années 1950, l’intelligence artificielle, comme discipline nouvelle, amorce une « quête » scientifique, celle de la compréhension de l’intelligence, sa décomposition en facultés élémentaires (mémoire, perception, calcul), sa reproduction et sa simulation numérique [2]. Latéralement coexiste un dessein philosophique aux ambitions démiurgiques, faisant écho à la science-fiction, qui vise à reproduire une conscience sur un ordinateur. Dans les années 1980, le philosophe John Searle, avec l’expérience fictive de « la chambre chinoise », distingue la discipline scientifique, technologique, empirique, l’intelligence artificielle « faible » (weak) de l’approche philosophique, l’intelligence artificielle « forte » (strong), qu’il dénonce. En 2011, lors de la « victoire » de l’algorithme Watson développé par IBM au jeu télévisé américain Jeopardize!, John Searle ironisait : « Watson doesn’t know it won on Jeopardy ! [3]». Au début des années 2000, l’intelligence artificielle « forte », discursive, se mêle aux idées de mathématiciens qui veulent refondre l’intelligence artificielle sur de nouvelles bases : c’est la naissance du concept d’intelligence artificielle « générale », qui a pour objectif la réalisation d’une intelligence artificielle totale, sans limite [4]. Ben Goertzel, Marcus Hutter, Jürgen Schmidhuber fondent leurs espoirs sur la complexité de Kolmogorov et la théorie de l’inférence inductive de Solomonov, d’autres, sur l’utilisation des réseaux de neurones formels (deep learning) ou l’apprentissage par renforcement, que l’on a pu observer chez AphaZero qui a « battu » Stockfish au jeu d’échecs en décembre dernier [5].
Malgré leurs différences, selon Jean-Gabriel Ganascia, les partisans de ces deux pseudomorphoses se retrouvent aujourd’hui dans le concept de singularité technologique. Une accélération technologique d’après le transhumaniste Ray Kurzweil (Singularity University, Google) qui pourrait conduire à l’émergence d’une intelligence artificielle générale, le fantasme, vers 2045 [6].
Spiritualité gnostique
Au cœur de l’ouvrage, Jean-Gabriel Ganascia développe une comparaison audacieuse entre deux pseudomorphoses : la gnose spirituelle et la singularité technologique. Si, a priori, tout les oppose, Jean-Gabriel Ganascia perçoit dans le rapport d’opposition/récupération de la gnose à la religion, une analogie propre à dégager une grille d’analyse qui aide à saisir la singularité technologique dans son rapport à la science contemporaine.
Qu’est-ce que la gnose ? Gnose vient de gnosisqui veut dire « connaissance ». La spiritualité gnostique atteint son point culminant au IIesiècle. Elle s’inspire de traditions spirituelles anciennes et notamment des croyances magiques égyptiennes, babyloniennes et perses et s’exprime par une dualité radicale entre un vrai Dieu, un Dieu suprême, qui reste caché, et un faux Dieu, un usurpateur qui aurait créé l’Univers à l’insu du vrai Dieu et qui serait ainsi à l’origine de nos maux, souffrances et finitude.
Dans la spiritualité gnostique, le monde dans lequel nous vivons est un faux-semblant, qu’il faut « réparer »pour accéder à la plénitude de l’être, l’être véritable. À cette fin, il faut s’arracher à l’autorité du démiurge, rompre avec sa domination. Cet arrachement passe par l’acquisition d’un savoir qui doit permettre de dissiper l’illusion et autoriser l’accès au monde caché. S’extraire de l’emprise du faux Dieu, suppose une « brisure » capable d’apporter la « dislocation salutaire »
Pseudomorphose politique
En rendant « plausible » l’idée de singularité technologique viades catégorie de pensées disponibles, populaires, Jean-Gabriel Ganascia considère qu’on la rend « possible », au sens de quelque chose « susceptible de se produire ». Si ce concept est douteux sur le plan scientifique, il est, selon lui, plus encore « répréhensible »sur le plan moral, irresponsable de la part de scientifiques qui ont pour mission d’ouvrir des perceptives. En occultant les autres risques, mais aussi les alternatives, le degré de liberté humaine disponible, ils contribuent ainsi à opacifier le futur en masquant les possibles. en savoir plus
Notes
1. Jean-Gabriel Ganascia, Le mythe de la singularité technologique. Faut-il craindre l’intelligence artificielle ? Paris, Seuil, 2017.
2. John Searle, « Watson doesn’t know it won on ‘Jeopardy’ », The Wall Street Journal, 23 février 2011.
3. John McCarthy et al, « A proposal for the Dartmouth summer research project on artificial intelligence », 31 août 1955.
4. Lire Hugo Roland de Garis et Ben Goertzel, « Report on the first conference on artificial general intelligence (AGI-08) », AI Magazine, printemps 2009, p. 121-123.
5. Pierre Barthélémy, « AlphaZero, algorithme prodige de l’échiquier », Le Monde, 12 décembre 2017.
6. Dom Galeom et Christiana Reedy, « Kurzweil claims that the singularity will happen by 2045 », Futurism, 5 octobre 2017
