Les Eclectiques, Vol. 16 - OK Hegel
Sommes-nous suffisamment intelligents pour régler les problèmes du monde ?
Notre capacité à assurer le développement durable de notre espèce est très incertaine. Car nos limites cognitives sont nombreuses. Nous ne savons pas accorder au long- terme l’importance qu’il mérite. Nos décisions sont rarement rationnelles. Nous ne sommes pas équipés pour manier les grands nombres, ni interpréter correctement des données, dans un monde pourtant de plus en plus régi par celles-ci. Quant à nos meilleurs scientifiques, s’ils accomplissent des miracles, ils sont encore loin d’avoir trouvé une solution aux plus grands défis sanitaires et énergétiques de notre époque.
Face à la finitude de notre intelligence, une citation d’Einstein me vient rapidement à l’esprit : « Aucun problème ne peut être résolu sans changer le niveau de conscience qui l'a engendré ».
Ce « niveau de conscience », qui est requis pour relever les défis du futur - notamment écologiques - est-il à notre portée ? Ou bien n’est-il accessible qu’à une intelligence bien supérieure à la nôtre, comme le pensent les transhumanistes ? Ce courant de pensée, implanté principalement en Amérique du Nord et en Suède1, articule le discours suivant:
Tous les problèmes du monde, y compris la maladie et la mort, ont vocation à être résolus;
Toutefois, la résolution de ces problèmes requiert de nous affranchir de notre condition d’organismes biologiques finis et imparfaits;
Cette transition vers une phase non biologique de notre évolution coïncidera avec l’apparition d’une intelligence artificielle générale (« AGI ») née d’une Singularité, qui aura vocation soit à nous remplacer, soit à nous absorber petit à petit;
A ce titre, l’Homo Sapiens n’est pas la dernière, mais l’avant-dernière étape de l’évolution, celle qui prépare l’avènement d’un nouvel « Etre Suprême » : la « Superintelligence ».
Telle est en tous cas la position qu’articule Max Tegmark dans Life 3.0, un des livres de chevet de Larry Page, co-fondateur de Google, d’Elon Musk, fondateur ou CEO de Tesla, Space X et Neuralink, ainsi que d’autres figures majeures de la Tech.
Dans Life 3.02, Tegmark3 soutient que l’irruption d’une AGI est non seulement inévitable, mais également, si elle est correctement préparée, souhaitable. Et que cette AGI, si ses buts sont correctement calibrés, sera dotée d’une forme de conscience qui, libérée des chaînes biologiques de la condition humaine, pourra se répandre dans l’Univers tout entier et lui donner vie. Car, et c’est là un point critique de sa pensée, Tegmark est animé par la conviction personnelle que nous sommes la seule forme de vie intelligente et consciente d’elle-même dans tout l’Univers.
Mais avant d’en arriver à la conquête de l’Univers, et si on se cantonne au moyen terme, la survenue d’une AGI pourrait déboucher selon l’auteur sur plusieurs scenarii de coexistence possibles entre intelligence humaine et intelligence artificielle. Ainsi, la vie après la Singularité pourrait, selon Tegmark, ressembler à l’une des ces douze possibilités :
L’utopie digitale libertarienne : Un foisonnement d’entités – IA, humains, cyborgs, humains « uploadés » dans le cloud se partagent harmonieusement la planète grâce à une définition rigoureuse, ex ante, des droits de propriété;
Le « dictateur bienveillant» : la société est dirigée par une IA “sévère mais juste”, et l’humanité vit plutôt bien la perte de sa liberté;
L’utopie digitale égalitaire : Une variante du scénario 1, à ceci près que la coexistence pacifique est garantie non par les droits de propriété, mais au contraire par la disparition de ceux-ci, et la mise en place d’un revenu universel dans une société d’abondance;
Le « Gardien » (Gatekeeper) : une AGI « domestiquée » est créée avec pour unique objectif de prévenir la survenue d’autres AGI moins amicales;
Le Dieu protecteur : une AGI omnisciente, omnipotente et bienveillante intervient de manière minimaliste, et s’attache à donner une illusion de contrôle et de libre arbitre aux humains;
Le Dieu enchainé : une AGI est maintenue confinée (par exemple dans une cage de Faraday) et est exploitée par l’humanité ou, pire, par une partie de celle-ci ;
Le Conquérant : Une AGI prend le pouvoir, l’exerce de manière absolue, et se débarrasse des humains sans ménagement
Le Descendant : Une AGI prend le pouvoir, l’exerce de manière absolue et se débarrasse des humains avec respect et considération, car elle nous reconnait comme ses créateurs;
Le Gardien du Zoo : une AGI prend le pouvoir et conserve, à des fins d’observation, quelques populations humaines dans des réserves naturelles;
1984 : Une dictature humaine empêche à tout prix le surgissement d’une AGI et limite à cette fin certains pans de la recherche scientifique;
Le Retour en arrière : Pour éviter l’avènement d’une AGI, l’humanité revient à un stade pré-technologique, et adopte un mode de vie proche de celui des Amish;
L’auto-destruction : l’AGI ne voit pas le jour car l’humanité s’est auto-détruite avant
C’est un euphémisme de souligner que certains de ces scenarii semblent plus désirables que d’autres.
Les scenarii 1 et 3 sont les plus optimistes même s’ils impliquent - au moins partiellement - la fin de l’homo sapiens tel que nous le connaissons, en donnant naissance à une humanité de plus en plus digitale et de moins en moins biologique. Dans les scenarii 2, 5, 7, 8, 9 - une petite moitié - nous sommes déclassés, dépassés voire détruits par l’AGI. Enfin, les trois derniers scénarii, où l’AGI ne surgit pas, ne sont gère réjouissants (même si je n’ai à titre personnel rien contre les Amish4).
Malgré ce futur incertain, Tegmark laisse entendre tout au long de son livre que la disparition de l’humanité telle que nous la connaissons est un juste prix à payer si cela permet l’émergence d’un niveau de conscience et d’intelligence supérieures au nôtre.
Il me semble important de le rappeler : il ne s’agit pas ici des élucubrations délirantes d’un scientifique isolé, mais du discours articulé d’un penseur qui exerce une influence profonde sur les dirigeants de certaines des entreprises les plus puissantes du monde.
Pour Tegmark et ses puissants disciples, notre mission en tant qu’espèce, c’est ne pas de jouir de la planète comme d’une rente, ni même d’évoluer vers un niveau de conscience plus élevé tout en restant nous-même, mais de transmettre notre conscience et notre intelligence à une entité supérieure, qui réglera tous les problèmes que nous n’avons pas su régler. Avec une pleine acceptation que l’homo sapiens est amené soit à se soumettre, soit à disparaître, soit à devenir non biologique et, de ce fait à devenir autre chose qu’un homme.
La petite phrase de Ray Kurzweil – le pape du transhumaniste, déjà citée, prend désormais tout son sens : « Does God exist? Well, I would say, not yet »
Car, si on pousse la logique transhumaniste jusqu’au bout, notre plus grand accomplissement en tant qu’espèce débile, finie et ignorante, ce sera donc, dans une curieuse inversion du rapport de puissance entre le créateur et sa créature, de donner naissance à un Dieu.
Un Dieu qui, débarrassé de nos faiblesses cognitives, solutionnera les plus grandes énigmes scientifiques, et sur cette base, pourra créer des richesses “inépuisables” dont, dans les meilleurs des scenarii évoqués plus hauts, les hommes pourront bénéficier.
Un Dieu, qui, en récupérant totalement la lumière du soleil grâce une sphère de Dyson, se procurera l’énergie pour construire des vaisseaux qui partiront à la conquête de la galaxie.
Un Dieu qui, en perçant les secrets de l’espace-temps, rendra le voyage intergalactique possible et qui, en réorganisant la matière au niveau atomique, grâce aux nanotechnologies, ralentira l’entropie et la dissipation énergétique de l’univers.
Un Dieu qui transformera toute la matière de l’Univers en un immense cerveau, une méta-conscience connectée, un super ordinateur dont la puissance de calcul permettra peut-être d’accomplir le plus inaccessible des défis : empêcher la mort lente de l’Univers à travers la maîtrise de l’énergie noire.
Un Univers-Dieu connecté, conscient de lui-même, vascularisé de bout en bout par la data. Yuval Noah Harrari, horrifié à titre personnel par cette vision de l’avenir, a même donné dans Homo Deus un nom à cette nouvelle religion: « le dataïsme ».
Un Univers-Dieu qui, enfin, allumera dans chacun de ses atomes la lumière de la conscience. Avec cette vision grandiose que déploie Tegmark dans son chapitre 6, les transhumanistes ce qu’ils sont vraiment : les héritiers de Hegel. Des Idéalistes new age qui voient avec l’AGI la possibilité de donner vie au rêve du vieux philosophe allemand : réaliser dans un Univers-Dieu la parfaite synthèse entre la Nature et l’Esprit.
Cette vision donne le vertige autant qu’elle effraie. Mais, je ne puis lui nier une réelle profondeur. Voire une certaine poésie. Car, au-delà de la futurologie grandiloquente, et entre les lignes, on décèle dans le transhumanisme de Tegmark et de ses coreligionnaires quelque chose de beaucoup plus humble, de beaucoup plus humain : une profonde nostalgie du sacré, et un irréalisable désir d’éternité.
Le transhumanisme s’appuie sur un constat qu’il est difficile de nier, et qui fut le fil rouge de cette seizième éclectique : nous devons accéder à un niveau de conscience plus élevé. Mais cela implique-t-il nécessairement qu’il nous faut nous affranchir de notre enveloppe biologique, et devenir des machines? Réponse la semaine prochaine, pour clore ce cycle sur l’IA, avec Frank Herbert et Isaac Azimov.
Les raisons historiques, sociologiques, voire religieuses du succès du transhumanisme en Suède sont un sujet que j’aimerais élucider - preneurs de vos suggestions de lecture là-dessus!
Selon la classification développée par Max Tegmark, Life 1.0 désigne le vivant régi par les seules lois biologique et en particulier la sélection naturelle. Life 2.0 décrit un entre-deux : le vivant partiellement affranchi de la nature par la culture et la technologie, et pouvant de ce fait évoluer à un rythme plus rapide que celui de la stricte sélection naturelle.
Tegmark, il est important de le souligner, est d’abord un astrophysicien reconnu, spécialisé en cosmologie, la discipline qui s’intéresse à l’évolution de l’Univers dans son ensemble.
Il est intéressant de relever qu’aucun des scenarii de Tegmark ne prévoir un ralentissement technologique raisonné. Pour Tegmark, ralentir le progrès technologue = devenir un Amish. Je connais au moins une personne en France qui pense comme lui.