Les Eclectiques, Vol.17 - "Je crois aux forces de l'esprit"
A-t-on vraiment besoin d’un ordinateur pour aller sur la Lune?
Si cette question était déjà saugrenue en 1969, elle peut sembler franchement stupide en 2022. Mais la lecture de Dune et de Fondation, deux chefs d’œuvres de la science-fiction, et mis à l’honneur en 2021 au cinéma et à la télévision, m’a fait réfléchir.
Nous avons aujourd’hui du mal à imaginer un futur qui ne soit pas assujetti à la poursuite du progrès technologique, en particulier dans les domaines du digital, du traitement de la donnée, et de l’intelligence artificielle. Or, sans remettre en doute qu’une part importante de notre futur s’écrira probablement avec des 0 et des 1, je me pose la question suivante : pourquoi nos inventeurs consacrent-il relativement plus d’efforts et de moyens à la création de « machines pensantes », et relativement moins d’efforts et de moyens à une meilleure compréhension de la plus puissante de toutes les machines pensantes : le cerveau humain?1
C’est bien sur le postulat d’un primat du cerveau sur la machine, de l’esprit sur la technologie que s’appuient Dune et Fondation. Avec, entre les deux, toutefois, des nuances importantes :
Une vision extrême qu’on trouve dans Dune : l’avenir ne sera pas technologique, mais spirituel
Une vision plus modérée, qui est celle de Fondation : le progrès technologique ne peut s’envisager que s’il est concomitant avec un progrès spirituel du même ordre.
Voyons ça de plus près.
Dune
Lire Dune est, surtout aujourd’hui, une expérience d’une inquiétante étrangeté. L’action de Dune se déroule en 10191. Un empire galactique maintient un équilibre fragile entre des Grandes Maisons, une guilde qui détient un monopole sur le voyage interstellaire, et un ordre religieux matriarcal, le Bene Gesserit.
Dans le monde de Dune, l’humanité a manifestement atteint un stade de développement très avancé. Pour autant, la technologie y est pratiquement absente. Les armées se battent à main nues ou avec des poignards. Les aéronefs indiquent altitude, pression et vitesse avec des aiguilles. Le héros, Paul Atréides, se renseigne sur les us et coutumes des habitants de Dune en regardant des diapositives.
Dune se passe dans un monde analogique. Pourtant, il n’en a pas toujours été ainsi. Quelques millénaires avant le déroulement de l’intrigue, les hommes coexistaient avec l’intelligence artificielle. Jusqu’au jour où l’humanité s’est soulevée - un évènement connu dans la mythologie de Dune sous le nom de « Jihad butlérien2 » - contre les « machines pensantes » et, dans un grand accès de luddisme, s’est débarrassée de tout ce que, aujourd’hui, on appellerait le « digital». Pour, après cela, bâtir une civilisation post-technologique, dont le développement allait reposer sur les facultés mentales d’individus exceptionnels :
Les navigateurs de la guilde spatiale font voyager leurs vaisseaux d’un point à l’autre de l’univers en intuitant, grâce aux effets psychotropes de l’épice, une drogue extraite des sables de Dune, l’existence de failles de l’espace-temps et de dimensions cachées ;
Les sœurs du Bene Gesserit ont développé d’extraordinaires facultés de manipulation mentales et de télépathie à travers des siècles d’ingénierie et de sélection génétiques. Leur ordre s’est donné pour but de faire advenir, à l’issue de ce processus de sélection, le Kwisatz Haderach, un individu doté d’un niveau de conscience tel qu’il transcendera les frontières de l’espace et du temps - il s’agira, bien sûr, de Paul Atréides;
Les mentats, superintendants des Grandes Maisons, ont, à l’issue d’une formation démarrée dès l’enfance, développé des capacités de mémorisation, de calcul et d’analyse faisant d’eux, de fait, des ordinateurs humains.
Il n’est pas certain que le monde de Dune, qui repose sur un système de caste au sommet duquel trônent des monarques absolus, des junkies, des eugénistes et des nerds, constitue une alternative beaucoup plus désirable qu’un monde soumis au bon vouloir d’une IA superintelligente. Mais il laisse entrevoir un chemin de développement humain différent du nôtre, basé sur l’accroissement des facultés de l’esprit. Si l’alternative offerte par Dune n’est pas souhaitable en l’état, ce n’est pas le cas, peut-être, de celle que propose Isaac Asimov dans Fondation.
Fondation
J’ai déjà eu l’occasion de parler de Fondation. L’histoire se déroule, comme dans Dune, dans un futur éloigné. Un scientifique du nom d’Hari Seldon développe une nouvelle discipline, la psycho-histoire, qui cherche à prédire l’avenir en inférant des récurrences à partir d’une analyse massive de données historiques de tous ordres. La psychohistoire, c’est un peu la rencontre du big data, de l’histoire et de la futurologie. Fort des résultats de ses calculs, Seldon annonce à l’Empereur que la galaxie - alors à son apogée - s’apprête à rentrer dans un Moyen-Age qui pourrait durer trente mille ans. Mais que cette durée pourrait être réduite à mille ans si l’Empire se fixe pour priorité de constituer, puis de protéger, toutes les connaissances du monde en une Encyclopédie Galactique. Furieux d’un tel affront, l’Empereur exile Hari et ses disciples. Ces derniers sont envoyés sur Terminus, un monde froid et inhospitalier de la bordure extérieure. Au fil des générations et des siècles, et longtemps après la mort d’Hari, la colonie grandit, et découvre peu à peu que la vraie dessein assigné par Hari à la Fondation n’était pas académique, mais politique. Et celui-ci est simple : construire un nouvel Empire basé sur la science et la technologie, qui pourra prendre le relais en temps voulu de l’ancien.
Initialement, tout se passe au mieux. Le nouvel Empire technologique de la Fondation franchit toutes les étapes, sous la supervision de l’esprit d’Hari Seldon, mort biologiquement mais transformé en IA du type “Dieu Protecteur”.
Jusqu’au jour où, soudainement, tout s’effondre. Un homme mystérieux sorti de nulle part, le Mulet, part à la conquête de la galaxie. Une à une, les planètes tombent, sans violence. Les armes, les vaisseaux et les technologies de la Fondation sont impuissantes face à cet ennemi apparemment invincible. Car le Mulet est une pure contingence, un accident biologique qu’aucun modèle de la psychohistoire n’avait prévu. Le Mulet est un mutant, doté par un accident génétique totalement aléatoire du don de prescience. Capable de prévoir l’avenir, il vient à bout de tous ses adversaires en anticipant leurs moindres mouvements. Il ne faudra donc rien de plus qu’une mutation génétique aléatoire sur un seul individu pour que la galaxie se trouve au bord de l’effondrement.
Hari, pourtant si sûr de lui, a néanmoins eu, de son vivant, l’humilité de prévoir qu’il y aurait certaines choses que les algorithmes de la psychohistoire ne pourraient pas prévoir. Qu’un cygne noir pourrait surgir à tout moment pour faire dérailler son plan. C’est la raison pour laquelle il avait, dans le plus grand secret, commissionné la création d’une Seconde Fondation. Si la mission de la Première Fondation était claire - la maîtrise de la Matière - celle de la Seconde Fondation serait plus diffuse, et tournerait autour de l’exploration de nos facultés mentales. Pendant des siècles, les membres de la Seconde Fondation développeront donc, par une pratique lente et exploratoire de la méditation, de la philosophie et des mathématiques, des facultés mentales inouïes de communication non-verbale, de télépathie, d’intuition et d’influence. Pour, le jour venu, être prête. A l’heure décisive, la Seconde Fondation sortira de sa clandestinité, pour affronter le Mulet à armes égales, puis le vaincre.
Contrairement aux métahumains de Dune, les membres de la Seconde Fondation sont discrets et bienveillants. Après leur victoire, ces Cincinnatus de l’Esprit retourneront à leur vie tranquille et monacale. Et laisseront la Première Fondation guider à nouveau la galaxie sur la voie du progrès technologique.
C’est peut-être là que se trouve le grand message d’Isaac Asimov : la technologie est la plus grande force du progrès humain, mais à elle seule, elle ne peut suffire. J’aurais aimé finir ce cycle sur l’IA par une citation plus inattendue mais, au final, rien ne vaut nos classiques. Laissons donc le mot de la fin au plus grand de nos humanistes : « Science sans conscience n’est que ruine de l’âme ».
A partir de maintenant, les Eclectiques paraîtront tous les 15 jours. C’est la périodicité que je juge nécessaire pour réfléchir à de nouvelles options créatives. Et pour continuer à produire un contenu - je l’espère - original tout en poursuivant mes lectures. Pour la suite, et bien que je n’en sois pas encore certain, il me paraît naturel de poursuivre en consacrant les prochains numéros à la “machine pensante” que nous sommes : la cognition, ses limites, ses biais, mais également les opportunités inexploitées qu’elle nous réserve.
Pour être bien clair : je mesure parfaitement que les communautés de chercheurs en neurosciences et en intelligence artificielle communiquent étroitement. Ma question porte bien ici sur le relatif manque d’intérêt porté aux possibilités du cerveau en lui-même et pour lui-même. L’intérêt des chercheurs pour le cerveau comme blueprint d’une future IA est lui, évident.
Il va sans dire que, dans les années 1960, le mot Jihad était employé de manière beaucoup plus décontractée qu’aujourd’hui