POUR ELON MUSK, LES HUMAINS DOIVENT FUSIONNER AVEC LES MACHINES… OU DISPARAÎTRE

ELON MUSK
ELON MUSK

Selon le milliardaire, il faudrait inventer une interface neuronale permettant à notre cerveau de dialoguer avec les ordinateurs à haut débit. Sinon, nous risquons d’être largués.
Connu pour ses digressions futuristes, le milliardaire Elon Musk vient à nouveau de marquer les esprits au travers d’un discours tenu à l’occasion du World Government Summit de Dubai. Selon le patron de Tesla, la montée en puissance de l’intelligence artificielle risque d’éclipser les êtres humains dans tout un tas d’activités. Exemple: la conduite automobile avec l’arrivée des voitures autonomes. Pour éviter que les humains ne se retrouvent relégués à des tâches subalternes, il faudrait réussir à “fusionner l’intelligence biologique et l’intelligence numérique”. En d’autres termes, il faudrait que le cerveau humain puisse se connecter directement aux machines, et notamment par l’intermédiaire d’un “cordon neuronal” (“Neural lace”), comme le relate TechCrunch.

Un tel dispositif permettrait, en particulier, de résoudre le problème de “bande passante” dans les interfaces homme-machine actuelles. Alors que les machines sont capables de communiquer à une vitesse de l’ordre de mille milliards de bits par seconde, l’utilisateur humain n’atteint que 10 bits par seconde, que ce soit par l’intermédiaire d’un écran tactile ou par un ensemble clavier-souris. “Une grande bande passante vers le cerveau permettrait d’atteindre une symbiose entre intelligence humaine et numérique et pourrait résoudre la perte de contrôle et la perte d’utilité [de l’homme]”, explique Elon Musk, selon The Verge.

Une telle interface cerveau-machine ne demanderait pas forcément de grande intervention chirurgicale. Lors d’une précédente conférence qui s’est déroulée en 2016, le visionnaire avait déjà abordé cette problématique et estimé que l’on pourrait peut-être se servir du réseau sanguin qui irrigue d’ores et déjà tous nos neurones à haute vitesse. La manière dont une telle connexion pourrait se concrétiser reste évidemment un mystère.

Fin programmée pour « Homo sapiens »

Fin programmée pour « Homo sapiens »
par Marcus D. Besnard

Installée en plein cœur de la Silicon Valley, l’université de la Singularité  s’est donné pour vocation d’enseigner aux entrepreneurs la maîtrise des technologies « exponentielles » — intelligence artificielle (IA), neurosciences, nanotechnologies, génie génétique. Be exponential est le slogan du site… Sa philosophie est liée à son intitulé : la « singularité » désigne le moment, hypothétique, où l’intelligence humaine sera irrémédiablement dépassée par l’IA. Ce concept est la clé de voûte du transhumanisme. Pour rivaliser avec les superordinateurs, les transhumanistes prescrivent une humanité « augmentée », c’est-à-dire aux capacités décuplées par des améliorations technologiques du corps. Ray Kurzweil, principal fondateur de l’université de la Singularité, pense ainsi que l’immortalité serait possible à l’horizon 2030, où nous pourrions transférer notre esprit dans des machines. Exit Homo sapiens.

L’entrepreneur américain Elon Musk fait partie de ceux qui œuvrent à ce futur transhumaniste. Célèbre pour être à l’origine de projets comme le train subsonique Hyperloop, les voitures électriques Tesla ou le tourisme spatial avec SpaceX, il a annoncé en 2017 avoir fondé Neuralink. Cette start-up a pour mission d’élaborer une connexion directe entre le cerveau humain et les ordinateurs, en implantant des électrodes dans le cortex cérébral. L’utilisation serait d’abord médicale — pour soigner des pathologies neurologiques, comme la maladie de Parkinson — mais pourrait ensuite être généralisée, faisant de nous des cyborgs (mi-hommes, mi-machines) capables de transférer nos souvenirs sur le nuage informatique.

Une telle philosophie semble tout droit sortie de la science-fiction. Le concept même de singularité a été inventé par l’écrivain américain Vernor Vinge, qui l’a théorisé en 1993. La technologie développée par Neuralink a été nommée neural lace (« lacet neuronal »), un terme que M. Musk emprunte à l’auteur britannique Iain M. Banks, qui imaginait déjà cette invention dans son cycle « La Culture ». Ce n’est pas la première fois que M. Musk s’inspire de Banks : deux bases de lancement SpaceX ont reçu les noms que l’écrivain a donnés à des vaisseaux spatiaux. Comme le relève 1843, la revue bimestrielle de l’hebdomadaire anglais The Economist : « Pour comprendre la façon dont pensent les magnats des nouvelles technologies, lire les romans de Banks est un bon début. » Les livres de Banks se déroulent dans une société future où la singularité est advenue : les IA sont désormais des consciences quasi divines. Les humains ne peuvent plus les égaler, mais la science permet de modifier son corps à volonté, la maladie et la mort n’existent plus… Banks n’est pas une exception, les auteurs de science-fiction qui évoquent une suprématie des IA sont légion. Le Britannique Charles Stross, par exemple, figure ainsi un avenir où les humains apparaissent comme des primitifs laissés pour compte dans l’évolution, seuls les hommes « augmentés » pouvant rivaliser avec les machines devenues omnipotentes.

Si cette littérature de science-fiction paraît nourrir les conceptions transhumanistes, elle s’avère également en être un puissant vecteur critique. Avec Zero K, le grand Don DeLillo imagine ainsi un institut proposant à des milliardaires de les cryogéniser (c’est-à-dire de conserver leurs corps à très basse température), et sonne l’alerte sur la quête d’immortalité du transhumanisme, qu’il dépeint comme une secte convaincue que la fortune permettrait d’acheter le statut d’homme-dieu. Mais l’humain « transhumanisé » n’est plus qu’un corps, sans personnalité ni émotion, un objet mécanique désincarné dont on peut changer les pièces et la batterie, comme un téléphone. Une humanité « augmentée » n’a alors tout simplement plus rien d’humain.

LE TRANSHUMANISME: REPOUSSER LES LIMITES DU CORPS HUMAIN

Ne pas connaître la fatigue, voir dans le noir, vivre près de 1000 ans… ça serait cool non? Que ça vous plaise ou non, c’est la vision du futur des transhumanistes.

Le transhumanisme est un mouvement de pensée qui entend développer des techniques pour optimiser la santé et les capacités autant intellectuelles que physiques de l’être humain, et ce, dans le but d’allonger sa durée de vie. De ce fait, l’être humain deviendra l’homme augmenté, l’homme plus ou encore le surhomme.

Les transhumanismes se penchent sur la possibilité qu’en 2050 les êtres humains soient pratiquement éternels… Ces derniers pourront vivre jusqu’à 700 voire 1000 ans, grâce à des innovations technologiques qui sont entrain de développer. Est-ce que vous y croyez-vous? Les avancées technologiques seront-elles nous transformer en surhomme d’ici les 30 prochaines années?

Innovations repoussant les limites du corps humain

Yeux

– Saviez-vous qu’il est dorénavant possible de redonner la vue aux aveugles? Des greffes d’implants rétiniens électroniques que les chirurgiens viennent placer dans le fond de l’oeil sont maintenant possibles, permettant ainsi de redonner une vue partielle aux aveugles.

Membres bioniques

– Imaginez un avant-bras contrôlé par la pensée, connecté, équipé d’une plateforme d’atterrissage pour mini drone, capable de soulever des charges énormes… Les membres bioniques se démocratisent de plus en plus. Ce ne seront plus que les amputés qui auront le droit à cette nouvelle technologie, mais bien tous ceux et celles qui souhaitent augmenter leur capacité physique! Courir plus vite, sauter plus haut, nager tel un poisson… sera chose possible!

Cerveau

– Des implants intracorticaux sont déjà utilisés dans le domaine médical et font l’objet de prometteuses avancées. Ils aident à lutter contre les maladies neurodégénératives tels que l’Alzheimer et le Parkinson. D’après les données de l’association britannique de neuroscience, 100 000 personnes souffrant de Parkinson porteraient un implant de ce genre. L’appareil stimule des neurones spécifiques pour ainsi redonner un certain contrôle aux personnes et réduire les tremblements.

– De son côté, Elon Musk développe en ce moment même en partenariat avec sa Start-Up Neuralink un implant cérébral capable de redonner la parole et la mobilité aux personnes paralysées.

– Au-delà de ces implants greffés à notre cerveau, on peut s’attendre dans les années à venir à un cerveau augmenté. Nos pensées ne seront plus d’origine biologique, elles émaneront d’un « cloud »; un nuage artificiel en réseau. Nous serons capables d’effacer de mauvais souvenirs de notre mémoire et de gérer toute l’information reçue.

Organes

– Selon les recherches, en exploitant les cellules-couches on arrivera à fabriquer des organes in vitro à l’aide de l’imprimante 3D. Le coeur, le poumon, le rein, la peau et les cellules responsables du vieillissement seront remplacés par des organes artificiels.

Alors, comme on vient de le voir les transhumanistes ont une vision très futuriste de l’être humain. Ils imaginent un être éternel, et ce, grâce à la technologie. Je vous pose la question: seriez-vous prêt à vivre éternellement?

Avec son entreprise Neuralink, Elon Musk ambitionne de développer des implants neuronaux destinés aux êtres humains. Lors d’une conférence de présentation du prototype, l’entrepreneur a révélé que des expérimentations étaient déjà en cours sur des truies. Cependant, certains scientifiques doutent toujours de la possibilité de déployer, à terme, un tel dispositif.

Révolution scientifique ou fantasme transhumaniste ?

Comme souvent avec Elon Musk, la question fait débat. Souvenez-vous : en 2017, l’entrepreneur américain annonçait la création d’une nouvelle entreprise, Neuralink, destinée à créer des interfaces homme-machine qui permettraient, à terme, de renforcer nos capacités cognitives en agissant directement sur notre cerveau. Trois ans plus tard, la star de la Silicon Valley vient de faire la démonstration en grande pompe de l’avancée de ses travaux, imaginant carrément un futur où l’on pourra « sauvegarder ses souvenirs, et potentiellement les télécharger dans un autre corps ou dans un robot. »

Une puce de 8 millimètres
Le temps d’une conférence d’un peu plus d’une heure retransmise en direct sur YouTube dans la nuit de vendredi 28 à samedi 29 août, des salariés de l’entreprise américaine se sont ainsi succédés sur scène pour présenter les avancées de la dernière version de l’implant neuronal qu’ils ont mis au point. Baptisé The Link, ce dernier fonctionne grâce à la technologie Bluetooth pour communiquer avec l’ordinateur auquel il est relié. Comme le note France Info, à l’origine, l’interface devait « prendre la forme de minuscules électrodes reliées à un appareil situé sur le crâne, à proximité de l’oreille, lequel faisait le lien avec un ordinateur. » Mais c’est finalement une puce de 8 millimètres, devant directement être implantée à l’intérieur du crâne pour fonctionner, qui a été conçue.

Tesla s’est d’ailleurs réjoui du fait que l’activité neuronale de Gertrude a d’ores et déjà pu être observée en temps réel sur un écran, lorsqu’elle avançait sur un tapis roulant dans son enclos. Avant d’annoncer, tout sourire, que Neuralink venait d’obtenir l’approbation des autorités sanitaires américaines pour passer à l’étape des « implantations humaines », sans donner plus de précisions.

« Sur le long terme, je suis certain que chacun pourra retrouver l’usage complet de son corps »

Au-delà du contexte de bataille autour de l’intelligence artificielle dans lequel il s’inscrit, le projet a pour objectif (affiché) d’offrir des solutions aux patients atteints de maladies neurologiques. Car à partir des signaux envoyés par la puce, l’ordinateur qui reçoit les informations est capable de visualiser à tout moment où se trouvent chacun des membres du corps en question — une fonctionnalité potentiellement très prometteuse pour les personnes paraplégiques, par exemple. « Sur le long terme, je suis certain que chacun pourra retrouver l’usage complet de son corps », veut croire Musk.

Ambitions commerciales
Malgré l’enthousiasme du milliardaire, de nombreuses voies scientifiques se sont élevées en marge de la conférence pour lui rappeler la structure très particulière du cerveau humain, qui le rend particulièrement délicat à manier. « Chaque cerveau a une structure unique, massivement interconnectée », met notamment en garde Dean Burnett, chercheur à l’université de Cardiff, auprès de l’AFP. D’autant que, comme souvent avec les projets de celui qui est aussi le patron de Space X, ambitions commerciales et scientifiques semblent se confondre : « L’objectif du fantasque patron, avec cette présentation sur YouTube, était avant tout de séduire et recruter de nombreux ingénieurs, chirurgiens, chimistes, spécialistes de la robotique et autres, poursuit l’AFP dans son article sur le sujet. La start-up ne compte qu’une centaine de salariés, mais en espère 10 000 aussi vite que possible. »

« La plupart des prétentions médicales de Neuralink restent hautement spéculatives »

Un mélange des genres qui donne un aspect spectaculaire à ce genre de présentation, mais dont rien n’indique qu’il tiendra ses promesses d’un point de vue purement scientifique. C’est précisément ce que dénonce le spécialiste des biotechnologies Antonio Regalado dans un article très éclairant publié par la MIT Technology Review : « La plupart des prétentions médicales de la société restent hautement spéculatives, avance-t-il. Bien que Musk affirme que ses implants “pourraient résoudre la paralysie, la cécité, l’audition”, ce dont [la science] manque actuellement, ce n’est pas 10 fois plus d’électrodes mais des connaissances scientifiques sur les déséquilibres électrochimiques. » De quoi doucher les espoirs et les craintes suscitées par l’idée d’un cerveau humain « augmenté ». Pour l’instant ?

Peut-on faire l’amour avec un robot ?

Dans le livre Les robots font-ils l’amour ?, paru aux éditions Dunod, Laurent Alexandre et Jean-Michel Besnier abordent la question des robots et du transhumanisme de manière décomplexée. Alors, peut-on faire l’amour avec un robot ?

La question de la relation Homme-robot est récemment revenue sur le devant de la scène avec la diffusion aux États-Unis de la série Westworld, une science-fiction aux airs de western qui plonge le téléspectateur dans l’univers d’un parc d’attraction futuriste peuplé d’androïdes ultra-réalistes. Dans leur livre Les robots font-ils l’amour ?, paru aux éditions Dunod, Laurent Alexandre, médecin et entrepreneur, et Jean-Michel Besnier, philosophe spécialiste des nouvelles technologies, abordent justement cette fascinante question des robots et du transhumanisme.
L’intelligence artificielle va-t-elle tuer l’Homme ? Est-il désirable de vivre 1.000 ans ? Quels sont nos sentiments pour les robots ? Demain, serons-nous tous cyborgs ? Autant de questions posées dans l’ouvrage.

Le livre Les robots font-ils l'amour ? est paru aux éditions Dunod. © Dunod
Le livre Les robots font-ils l’amour ? est paru aux éditions Dunod. © Dunod

Le cybersexe et la cybersexualité
Le texte qui suit est extrait du chapitre « Peut-on faire l’amour avec un robot ? »
Jean-Michel Besnier : La question de savoir si la sexualité avec les robots est possible appelle naturellement une réponse positive. À la rigueur, la sexualité est possible avec n’importe quel moyen qui permettra l’extinction de la tension résultant de zones érogènes (de toutes les zones érogènes dont l’organisme est support : muqueuses génitales, intestinales, anales…).
L’humain peut donc faire sexe de tout bois – et, a fortiori, exploiter la mécanique du robot. Pourquoi faire particulièrement cas de la cybersexualité ? Parce qu’elle améliore le service rendu par les poupées gonflables ? Pour une grande part, mais ce n’est pas suffisant.

Qu’est-ce que le transhumanisme ? Les auteurs du livre Les robots font-ils l’amour ? nous l’expliquent. © Dunod, via YouTube
Laurent Alexandre : Dans une vie, beaucoup d’êtres humains ont plus de relations onaniques que de rapports sexuels avec un tiers ! Pour ceux-là, l’amour robotisé couplé avec la relation virtuelle sera un plus par rapport à la simple masturbation. Pour que le robotsexe se généralise, il faudra qu’il devienne intelligent, ce qui va prendre plusieurs décennies. Sinon, il s’agira seulement d’un sextoy sophistiqué.
Jean-Michel : Même quand il n’est pas androïde, le robot n’est pas une machine comme une autre. Il est mobile et donne l’impression d’une autonomie. À ce titre, il éveille des illusions animistes. On a l’impression qu’il dessine un point de vue sur le monde et qu’à cet égard, il peut entrer en dialogue avec nous. Au moins autant – mais davantage quand il a forme humaine – qu’un animal domestique avec lequel on s’exprime et on s’explique aussi. Le robot est donc quasiment un animal comme les autres, et donc un être fort proche de nous, qui sommes réputés être également « des animaux comme les autres ». En tant qu’être admissible dans le dialogue, il n’y a pas de raison qu’il ne puisse pas intervenir dans la sexualité – comme les animaux eux-mêmes. S’il est doté des commodités fonctionnelles qui lui permettent d’accueillir et de soulager l’excitation pulsionnelle, il devient un partenaire sexuel idéal.

Jia Jia est une humanoïde au réalisme saisissant. © Xinhua, Barcroft Media
Jia Jia est une humanoïde au réalisme saisissant. © Xinhua, Barcroft Media

Et c’est bien ce que l’on entend dire parfois : le robot remplacera fort bien le partenaire qui peut toujours se refuser (ah la migraine ! Pas ce soir, chéri !), qui n’accepte pas toutes les attentes et qu’intimide souvent l’expression de la jouissance. On pourra donc se payer le luxe d’une machine à dispenser éventuellement les mots de l’amour (comme dans le film Her de Spike Jonze, sorti en 2013), de l’abandon et de la fantaisie – et ce, sans la culpabilisation qui peut atténuer le plaisir chez le pervers lui-même. La sexualité, promue depuis longtemps objet de consommation et sujette au marketing entretenue par la pornographie, obtiendra son débouché le plus intarissable, dans un contexte où, déjà, la libido interhumaine s’essouffle, comme le constatent les addictologues qui cherchent à résoudre les effets de la fréquentation compulsive des sites pornos chez les jeunes.
Laurent : Tu as raison d’évoquer Her. Le vrai cybersexe passe par le croisement de la robotique, de l’intelligence artificielle, des neurosciences et de la réalité virtuelle comme le casque Oculus de Facebook (qui permet de voir une réalité virtuelle comme si elle était réelle). Dans quelques décennies, il sera possible de tomber amoureux d’un robot comme dans le film Her.
Découvrez le livre Les robots font-ils l’amour ? pour en savoir plus sur les robots et le transhumanisme.

transhumanisme.

Playlist : tout savoir sur le transhumanisme, la robotique et l’intelligence artificielle Jean-Claude Heudin, directeur de l’IIM (institut de l’Internet et du multimédia) nous parle de sa vision du transhumanisme, du futur de l’intelligence artificielle et des robots durant cette série d’interviews réunies sous forme de playlist.

Le Transhumanisme. Faut-il avoir peur de l’avenir ?

Présentation du livre de JOUSSET-COUTURIER Béatrice , « Le Transhumanisme. Faut-il avoir peur de l’avenir ? », Eyrolles, 2016.

Ce bref ouvrage, préfacé par Luc Ferry, se veut une introduction à la question transhumaniste, en forme de balayage de son histoire, de ses courants, des questions philosophiques et prospectives soulevées, et des oppositions suscitées. Contrairement à de nombreux ouvrages directement ou indirectement consacrés au sujet, il ne s’agit donc pas d’un livre à thèse, pro ou contra, ni d’une étude centrée sur un aspect particulier (la mort, l’eugénisme ou encore la robotisation).

Il occupe donc une place encore largement vacante, notamment pour le grand public, à qui l’auteur s’adresse (dans un style parfois exagérément infantilisant). Il s’expose de la sorte au risque de dire trop vite sur beaucoup. Ces ornières sont d’abord évitées dans la présentation synoptique qui est faite, dans la première des trois parties, des définitions historiques et conceptuelles du courant transhumaniste, compris globalement comme « mouvement philosophique et scientifique qui veut utiliser tous les moyens […] pour améliorer l’espèce humaine […] et en finalité faire naître le posthumanisme » (p. 11). Les éclairages historiques sur la genèse du mouvement de pensée seront utiles à ceux qui ne se penchent sur la question transhumaniste qu’à l’aune de l’actualité et des enjeux des NBIC (technologies nano, bio, de l’information et cognitives).

JOUSSET-COUTURIER Béatrice , « Le Transhumanisme. Faut-il avoir peur de l’avenir ? », Eyrolles, 2016.
JOUSSET-COUTURIER Béatrice , « Le Transhumanisme. Faut-il avoir peur de l’avenir ? », Eyrolles, 2016.

Selon ce point de départ, la généalogie aboutit naturellement à accorder une place de choix à la doctrine de la Singularité popularisée par Ray Kurzweil, qui est bien entendu l’un des auteurs les plus cités, aux côtés de Laurent Alexandre et Pierre Teilhard de Chardin. Point essentiel de la propédeutique à l’étude du transhumanisme, la notion de « singularité » fait l’objet d’une présentation très rapide (sept pages), peut-être insuffisamment clarifiée conceptuellement (l’introduction des définitions courante, cosmologique et topologique du terme, non exploitées, n’y aide pas). L’articulation de la loi de Moore avec l’idée d’un basculement vers une intelligence dominante « non anthropomorphique », p. 59) n’est pas véritablement analysée ni explicitée. La définition reste suspendue, par le jeu d’une accumulation de citations peu commentées, entre l’idée d’un point de bascule et celui d’une future ère posthumaine à envisager (mais qui, par définition, échappe aux schémas prédictifs traditionnels).

Les discussions épistémologiques autour de la « loi de Moore » elle-même, ne sont pas abordées du tout, ce qui laisse le lecteur aux prises avec l’idée inexacte que le caractère exponentiel des capacités computationnelles et de stockage de l’information, recélerait la perspective mécanique d’un changement d’ère technologique et humaine [1]. Enfin, l’absence d’explication sur le caractère ambigu du statut épistémique de la loi en question (qui n’est ni une conjecture mathématique, ni une variété de constante physique), et l’identification à sa version vulgarisée dont l’obsolescence pourrait être proche, n’en facilite pas l’appréhension.

Le début de la deuxième partie, consacrée à la pensée transhumaniste, confirme ces réserves en brossant une histoire à gros traits des rapports entretenus par l’humanité entre science, économie et pouvoir depuis le Néandertal. Ce passage est librement inspiré de la Brève histoire de l’avenir de Jacques Attali [2], qui n’évite pas les raccourcis historiques et philosophiques coutumiers de ce dernier, et tend à en ajouter. Cette partie aurait sans doute gagné à être une histoire des limites symboliques et techniques de l’humanité pensées comme telles, pour mieux s’articuler avec les chapitres suivants, consacrés aux critiques du transhumanisme et aux débats d’actualité le traversant vis-à-vis du politique et du religieux.

Ces pages, plus claires et informées, donnent la parole à une quantité appréciable de points de vue, notamment ceux de Jacques Ellul et Jean-Claude Guillebaud, et exposent sans atténuations leurs critiques de la technique comme sphère autonome, et du rejet du corps humain comme rejet de l’humanité avec sa finitude. De façon générale, les grandes questions éthiques et démocratiques et les confrontations avec les religions de la question de la « mort de la mort » sont efficacement introduites et prennent soin de laisser chacun libre de la poursuite de son opinion. Le débat entre Jürgen Habermas et Peter Sloterdijk est utilement convoqué. L’auteur apporte un constat lucide sur la pression présente et future de la norme sociale (p. 92), à l’exemple du rapport ambivalent de nos sociétés à l’eugénisme (p. 96, 156). Elle ne résout pas en revanche la contradiction du caractère intrinsèquement neutre ou porteur de valeurs d’une technologie donnée, penchant tantôt pour une hypothèse (p. 117), tantôt pour l’autre (p. 148).

On regrettera qu’il manque à ce tour d’horizon les réflexions importantes de Dominique Lecourt [3] (et sa défense d’un eugénisme humaniste notamment), Alain Supiot [4] (pour l’indispensable anthropologie des limites de l’humain et la critique du technoscientisme) ou Lucien Sfez [5] (pour la critique des valeurs implicites de « l’utopie » transhumaniste).

Il s’agit en définitive d’un livre qui a le mérite de la nouveauté en son genre, mais dont la démarche synoptique ne servira aux demandeurs d’une introduction au sujet qu’à condition d’enrichir leur lecture par l’approfondissement de certaines définitions, et des investigations complémentaires. À défaut d’offrir des outils consistants pour une réflexion prospective (sur l’économie ou le droit des technologies futures notamment), il représentera une porte d’entrée au courant d’idées pour un large public.

TRANSHUMANISME : SYMPTÔME D’UNE DÉCADENCE OU REMÈDE ?

Alors que la technique projette l’avenir d’un homme connecté, réparé ou augmenté, Emmanuel Brochier, maître de conférences en philosophie à l’IPC (Paris), propose du 3 novembre au 1er décembre, une série de 5 rendez-vous sur le thème : « Y a-t-il de bonnes raisons de s’opposer aux transhumanismes ? » Emmanuel Brochier répond aux questions de Gènéthique.

Vous commencez une série de conférences sur le Transhumanisme. Pourquoi ?

Le transhumanisme est à la croisée de l’anthropologie, de la théorie de l’évolution, de la philosophie de la nature,… c’est un point qui cristallise l’ensemble de ces travaux qui, depuis plus de 15 ans, sont l’objet de mes enseignements, et il se trouve, que c’est aussi un sujet d’actualité. Aujourd’hui en effet, avec l’évacuation de l’intériorité, nos contemporains aspirent à une pensée qui ne relève plus de la vie : on se compare à des intelligences artificielles qu’on se surprend par ailleurs à craindre. Le transhumanisme est à la fois le symptôme d’une décadence et un remède. Il signe à la fois la décadence et la grandeur de l’homme. Car l’homme, par sa pensée, est infiniment supérieur à la machine ! Quand Socrate cherche à se comparer, c’est du côté de Dieu qu’il se tourne. Il se tourne vers la Sagesse. Il reconnaît que l’homme est celui qui désire la Sagesse, c’est-à-dire quelque chose de plus grand que lui, quelque chose qui le précède, quelque chose qui n’est pas fait de main d’homme. C’est cela qui fait la grandeur de l’homme. C’est de cela que le transhumanisme nous éloigne en rêvant d’un idéal placé dans des intelligences artificielles interconnectées, des traitements de Big data…

transhumanisme-transhumaniste-biologiquement

De fait, ne faut-il pas craindre ces nouvelles technologies ?

On a souvent peur d’une nouvelle technique. Une peur qu’il faut dépasser par une analyse. On constate alors que le transhumanisme se présente aussi comme un remède parce que la peur profonde qui pousse vers ces technologies, c’est la peur de la mort. Pas seulement celle de la mort personnelle : des ouvrages pensent crédible l’extinction de l’humanité à une échéance relativement proche. Une extinction qui semble d’autant plus menaçante, nous disent certains transhumanistes, que la sélection naturelle ne fait plus son travail à cause du progrès technique. Aussi, si l’humanité veut durer, il faut s’engager dans les nouvelles technologies (NBIC) parce que les conditions qui ont permis notre existence ont disparu. Il faudrait s’y engager maintenant pour sauver les générations à venir. Le problème est que le remède pourrait être pire que le mal. Car ce faisant, l’homme est alors réduit à la machine, les transhumanistes veulent nous affranchir de la distinction entre le naturel et l’artefact.

Comment prendre le contre pied de cette vision de l’avenir de l’homme ?

Face à eux, ceux qui ont une culture classique, qui d’une manière ou d’une autre ont été formés en faisant leurs humanités, proposent spontanément toute une série d’arguments certains plus forts que d’autres, dont il faut évaluer la pertinence.
Le premier de ces arguments consiste à dire « qu’on n’y arrivera pas ». Par exemple, qu’il ne sera pas possible de supprimer le vieillissement. Mais c’est très difficile à prévoir : ne disait-on pas également qu’on n’arriverait pas à cartographier le génome ? A aller sur la lune ?
Le deuxième argument le plus courant est d’ordre éthique, il consiste à réagir au nom d’une nature humaine mal comprise. Certains la superposent à la génétique, mais la nature est d’un autre ordre. D’autres considèrent que l’homme relève et se constitue dans une histoire. Ils dénoncent alors une certaine honte, qui serait de ne pas être pas le fruit d’une rationalité mais celui d’un hasard de l’évolution. Le problème de ces opposants au transhumanisme est qu’ils ne veulent pas voir que l’homme a également une nature.
Pour aller au-delà de ces arguments spontanés, et répondre vraiment aux problèmes soulevés par le transhumanisme, il est important de retrouver le sens de la nature qui, hélas, est aujourd’hui considérée comme un simple réservoir de ressources inexploitée, même parfois par les opposants au transhumanisme. Nous peinons à voir la nature autrement que comme matériau à exploiter y compris au niveau du corps humain (cellules…), quasi infini, et disponible au gré de nos désirs.
Pour la mentalité moderne, la nature n’est bonne que parce qu’elle est l’objet de notre vouloir, et semble mauvaise lorsqu’elle fait obstacle à notre liberté. Les transhumanistes ne pensent pas autre chose. Aussi, pour répondre au défi transhumaniste, il faut chercher à retrouver la nature humaine qui est de l’ordre du bien et qui montre ce qui est souhaitable. Le mieux est souvent l’ennemi du bien.

Vers quel « type » d’homme se dirige-t-on ?

Il y a plusieurs degrés dans le transhumanisme.
Il y a tout d’abord celui qui correspond à l’augmentation des capacités. Le Cybathlon de Zurich en est un exemple. Cette compétition veut montrer que le vrai handicap, c’est la nature, et qu’avec une prothèse, c’est-à-dire en appareillant notre corps biologique, on peut avoir une performance supérieure.
Le second degré, consiste à améliorer la nature humaine. Même si c’est encore du domaine de la spéculation et de l’hypothèse, des sommes colossales sont déjà investies dans des programmes de recherche pour remplacer le biologique par des matériaux nanotechnologiques, au niveau moléculaire, qui feront de l’homme un être interconnecté. Cette évolution de la nature serait à prendre en charge dès maintenant par l’homme. Le concept scientifique de Cyborg, élaboré par Kine et Clynes en 1960, et largement repris par la science fiction, a changé le paradigme : il ne s’agit pas de permettre la vie de l’homme dans l’espace mais d’adapter l’homme à l’espace, et donc de transformer la nature de l’homme, de l’adapter à ces nouveaux défis.
Enfin, le dernier degré est celui de l’amélioration du « ressenti ».

Comment réagir ?

Face à ces grands défis, il ne s’agit pas tant de condamner le transhumanisme, que de ne pas être naïf sur ce qui est en jeu. Pour dire les choses un peu vite, l’homme augmenté qu’il propose est un robot très sophistiqué, c’est-à-dire à un esclave (c’est le sens du mot robot en tchèque)… Mais un robot sophistiqué c’est toujours moins que le plus petit des enfants des hommes, y compris lorsqu’il porte les plus lourds handicaps. Car l’homme passe l’homme, pour parler à la manière de Pascal. Mais il faut prendre le temps de le comprendre. Aussi le temps est-il venu de redécouvrir le sens profond de l’homme.
Chaque génération a un défi à relever, nous n’avons pas seulement à être des héritiers. Si les racines du transhumanisme semblent être si profondes, c’est peut-être parce que certains défis n’ont pas été relevés. Mais ils peuvent l’être maintenant ! N’en doutons pas.
Pour cela, il faut reconnaitre la pertinence du problème auxquels veulent répondre les transhumanistes, à savoir celui qui vient du fait que l’homme n’est pas un être pour la mort, qu’il aspire à la vie et qu’il doit répondre à cette aspiration. Il reste qu’ils y apportent des solutions problématiques. En essayant d’en comprendre les raisons, et en se posant la question de savoir « pourquoi on a l’impression que ça ne peut pas être autrement », il sera possible d’exercer nos responsabilités à l’égard des générations à venir. C’est tout l’objet de ce cycle de cours.

Quels sont les défis à relever pour penser le post-humain?

Cofondateur en 1998 de la World Transhumanist Association (actuelle Humanity+) puis de l’Institut d’éthique pour les technologies émergentes, le philosophe suédois Nick Bostrom interroge en 2003 les valeurs nécessaires à l’établissement du projet posthumaniste.

Celles-ci doivent permettre de l’explorer “sans causer de dommages irréparables au tissu social ni l’exposer à des risques inacceptables”. Le transhumanisme puis le posthumanisme créeront de nouvelles valeurs humaines, il est donc essentiel de partir d’un socle bien établi. De plus, les outils classiques d’exploration de nos valeurs, “de basse technologie”, que ce soit l’éducation, la philosophie, la méditation, et leurs objectifs de se perfectionner ou de créer une société meilleure et plus juste, seront dépassés par les technologies avancées du transhumain, estime Bostrom. À la valeur première de se donner les chances d’explorer les champs du transhumain et du posthumain, le philosophe ajoute:

• la sécurité totale : en aucun cas les choix exploratoires ne doivent entraîner de risque sur l’existence de notre espèce, ou abîmer son potentiel de développement
• le progrès technologique : c’est lui qui permet l’émergence des avancées transhumaines, il va de pair avec et découle de la croissance économique et de la productivité.
• l’accès à tous : le projet posthumain ne doit pas être exploré par quelques élus, mais accessible à tous. Une certaine urgence morale implique également que cet accès soit rendu possible dans le temps d’une génération.

posthumanisme
posthumanisme

Ces quatre valeurs cardinales étant posées, Bostrom en ajoute une dizaine qui en émanent. Il s’agit d’une liste, non exhaustive, qui permet de mettre le projet transhumaniste en pratique. Parmi elles : le libre choix d’explorer telle ou telle voie, sans devoir se conformer à une norme, sans risque de se voir opposer des normes morales ; l’absolue nécessité de faire ses choix en étant informé, et donc formé, par le biais de recherches collectives, de débats, ou sur le plan individuel de techniques avancées pour comprendre et choisir ; la nécessité de règlements mondiaux, de coopération internationale, de paix globale, de disparition des armes de destruction massive ; le respect et la tolérance généralisées, de toutes les intelligences, les humains, les animaux, les êtres artificiels ; le respect de la diversité, celle des espèces et celle des choix de vie ; l’impérative nécessité de prendre soin de la vie et de sauver les vies.

Dix ans plus tard, lors du forum international de Davos en 2015, les participants réunis autour des grands défis et des technologies émergentes, soulignent à leur tour trois valeurs, individuelles et collectives, à développer.

• l’empathie : la capacité à comprendre ce que l’autre ressent, essentielle dans une société de la diversité qui veut assurer sa cohésion. Les technologies avancées doivent aider à la fois à maîtriser ces émotions qu’elles rendront encore plus accessibles, et à libérer du temps aux humains pour qu’ils se concentrent sur ces activités d’empathie.
• le choix personnel : les humains doivent pouvoir déterminer par eux-même leurs choix d’amélioration. Par exemple un nouveau- né doit naître vierge de technologies, car il ignore le droit qu’il a de choisir pour lui-même. Chacun doit de même pouvoir choisir le travail qui lui convient.
• la responsabilité : qu’elle soit collective ou individuelle. Les risques qui pèsent sur notre environnement, par exemple, ne permettent plus de se défausser sur les autres. Les technologies peuvent nous aider à éclairer nos choix, à comprendre en temps réel l’impact de nos décisions.

L’heure est à la réflexion sur une plus large dissémination de ces idées, comme en témoignent les sujets traités lors d’une conférence en mars 2015 dans la Silicon Valley, qui en soulignait le caractère d’urgence: Quels sont les objectifs du projet transhumain à court terme ? De quelle manière atteindre le grand public et placer ces idées au coeur des débats ? De quelle manière s’installer dans le milieu politique ? Comment les idées et innovations transhumanistes peuventelles créer un monde meilleur dès aujourd’hui, pour des milliards de personnes sur Terre ?

Et s’il est un sujet qui soulève de nombreuses questions aujourd’hui, c’est bien celui de l’intelligence artificielle, une IA non maîtrisée, devenue folle ou hostile, comme l’imaginait Nick Bostrom avec son IA spécialiste de la fabrication des trombones qui transforme la planète entière en usine à trombones. Stuart Russel, fondateur du Center for Intelligent Systems à l’Université de Californie, Berkeley, est à l’initiative en janvier 2015 de la lettre ouverte sur les risques liés aux IA signée depuis par plus de 300 personnalités. Il ne faut cependant pas voir cette lettre comme un appel à freiner brusquement toute recherche dans le champ de l’IA. Russel explique également comment les algorithmes d’apprentissage doivent être pensés pour apprendre les valeurs des humains et non pas créer leur propre référentiel. Les fonds collectés à cette occasion sont d’ailleurs destinés à travailler sur des IA bénéfiques pour les humains, dont les algorithmes sont pensés non pas pour les aliéner ou leur faire perdre leur libre arbitre, mais pour les assister dans leur quête d’amélioration. Cette question des algorithmes, leur fonctionnement, leur impact, doit être expliquée et enseignée dès le plus jeune âge, mais également dans les générations actuelles qui ne l’ont pas encore comprise. Résumée par la formule « programmer ou être programmé », la prise de conscience qu’il faut maîtriser ces algorithmes pourra faciliter une exploration conjointe, homme / machine, des connaissances. Andrew Ng (Coursera, Google Brain, Baidu…) estime ainsi que les processus de deep learning actuellement en pointe en IA qui sont fortement consommateurs de données, doivent inspirer les humains qui devraient, eux aussi, dans une logique d’extreme learning, assimiler tout au long de leur vie ces connaissances fondées sur les données, et faire évoluer leurs capacités d’apprentissage en regard.

Un défi technique

Les capteurs et les objets de l’Internet, qu’ils soient dans le corps, sur le corps ou à distance, portent plusieurs défis à relever. Le premier est de créer des capteurs donnant accès à de nouvelles grandeurs physiques, notamment pour permettre la création de nouveaux sens. Qu’allons-nous pouvoir faire, par exemple, une fois que nous aurons l’extrême sensibilité aux sons et aux vibrations des araignées ?

Le deuxième défi est celui de l’intégration des machines à nos cerveaux. Jusqu’à maintenant les interactions en entrée avec le cerveau se font en mode intrusif, mais il est à présent possible également de stimuler à travers la peau crânienne des aires précises du cerveau et influencer sur l’humeur de l’utilisateur. De tels dispositifs seront utiles avant que ne se développent des nanocapteurs et nanoactuateurs capables d’agir sur des groupes de neurones spécifiques.

Le troisième défi est celui de l’intégration de tous ces capteurs entre eux, le système nerveux de l’Internet des objets. Il s’agit notamment de la 5G, avec comme premiers cas d’usages les voitures connectées et autonomes, et la télémédecine. Dans les allées du congrès mobile de Barcelone en mars 2015, il se disait deux choses : que l’Europe allait à nouveau être en retard et qu’il allait falloir lâcher du lest sur la neutralité du net.

Anthropologie de la robotique

À Télécom École de Management, Gérard Dubey analyse les relations entre l’homme et le robot et interroge les défis anthropologiques de la robotique personnelle. Avant le développement de ces « objets » à l’échelle industrielle, de nombreux défis aussi bien pratiques qu’épistémologiques sont soulevés. Ils doivent en effet agir à proximité d’êtres humains, dans leur environnement quotidien et personnel. Chacun étant différent, chaque pathologie étant différente, les robots d’assistance doivent être éminemment flexibles pour s’adapter à toutes les situations humaines possibles. Le sociologue s’est également intéressé aux représentations du robot anthropomorphe à travers la série télévisée Real Humans.

Un défi éthique

Le débat éthique est au coeur des réflexions sur l’Homme augmenté. Il se pourrait même que l’éthique soit un des points qui ne puisse être délégué aux machines et soit notre part d’humanité. Pour Laurent Alexandre, « aujourd’hui, il faut miser sur une grande culture générale et une grande culture éthique. Elles vont devenir fondamentales dans le monde qui vient. Si le droit est assez automatisable, le gisement d’emplois sur la réflexion éthique ne l’est pas. »

C’est d’ailleurs par la médecine d’abord que les réflexions éthiques arrivent. Le docteur Bertalan Meskó, auteur d’un récent guide du futur de la médecine, fait la liste des questions éthiques soulevées par les technologies de rupture. Il en envisage déjà dix : le risque de piratage des dispositifs médicaux ; la défense de notre vie privée et de celle des autres ; la valeur des tests et analyses faits à la maison ; les demandes de personnes saines souhaitant remplacer des parties d’eux-même ; les différences biologiques fondées sur des capacités financières différentes de leurs porteurs ; le bioterrorisme et le nanoterrorisme ; le décalage entre les avancées technologiques de la médecine qu’on voit dans les medias et ce qu’il est possible de faire effectivement dans l’hôpital de quartier ; la question même du transhumanisme ou du posthumanisme, philosophies difficiles à appréhender et qu’il faut prendre le temps d’analyser ; la sexualité devenue objet technologique.

Explorateurs du posthumain

La condition transhumaine ne relève pas d’une transcendance de l’être humain, mais concerne son devenir non téléologique, dans un processus immanent de dérégulation anthropologique.

Les grands acteurs de l’Internet ont pris plusieurs longueurs d’avance en ayant accès aux données de nos comportements. Dans un pays comme la France où la culture verticale est encore très présente, où les transformations dans les entreprises sont longues à mettre en place, le rattrapage d’innovation viendra plus des startups que des grands groupes, mais peutêtre qu’il ne viendra pas uniquement d’une surenchère dans les technologies. Les racines des Lumières doivent nous rappeler que nous devons nous concentrer d’abord sur l’humanité. Que l’objectif n’est pas de construire des stratégies numériques, mais de construire des stratégies dans un monde numérique. Il faut prendre un nécessaire recul pour envisager le panorama dans sa globalité, dans ses transversalités, dans ses transdisciplinarités, et dépasser tous les clivages. Entrepreneurs, chercheurs, penseurs, politiques, citoyens tous ensemble pour retrouver une capacité à penser le monde avec une vision haute.

Joël de Rosnay, scientifique et prospectiviste, écrit depuis longtemps sur l’Homme symbiotique, et sur un macro-organisme planétaire qu’il nomme le Cybionte, produit du mariage de la cybernétique et de la biologie. Pour lui, le transhumanisme tel qu’il se révèle actuellement relève d’une démarche élitiste, égoïste et narcissique. Il lui préfère une autre voie qu’il appelle l’hyperhumanisme, une voie qui permet « la symbiose intégrée et collective avec les machines ». Selon cette approche, ce sont les valeurs et les caractères humains qui seront augmentés et « encore plus humains que ne l’a produit l’évolution ». En faisant disparaître la compétition, la concurrence, et les autres mécanismes qui ont poussé l’humanité dans les méandres de l’individualisme, les technologies pour l’hyperhumain lui permettront de développer des dimensions aujourd’hui inhibées, comme la coopération, le partage, le respect, la solidarité, la fraternité, l’empathie, l’altruisme, autant de valeurs qu’on retrouve bien dans les textes fondateurs de Nick Bostrom.

Finalement, ce que trouvera l’Homme dans sa quête d’augmentation, s’il réussit, c’est se dépasser lui-même en tant qu’individu et accéder à une perception intime du collectif. Ce n’est ni plus ni moins l’émergence d’une conscience planétaire, Cybionte, Noosphère ou Gaïa. Francisco Varela, spécialiste s’il en est de l’émergence de la conscience, expliquait que le monde n’avait pas de couleur définie, animaux, et humains selon les époques, percevant le monde en trichromie, quadrichromie ou pentachromie. Tous les modes de perception sont utiles à la conscience pour comprendre le monde où elle s’incarne. C’est ce que nous devons faire à l’échelle collective pour comprendre le monde qui évolue avec nous, et lui donner tout son sens.

Un défi collectif

Projet éminemment transdisciplinaire, le transhumanisme est également un projet collectif pour l’Humanité qui doit rassembler chercheurs, entrepreneurs, penseurs, décideurs, citoyens…C’est également une chance unique, compte-tenu de la variété des disciplines convoquées, et une nécessité absolue, de donner une place égale aux femmes et aux hommes dans le débat et dans la recherche. Ce pourrait être une voie royale pour les femmes qui sont encore en minorité dans les acteurs en vue de l’ère numérique. On les trouve d’ailleurs aujourd’hui en pointe sur les questions de longévité et d’immortalité. Parmi les figures féminines du transhumanisme, se trouve ainsi Martine Rothblatt, transgenre et fondatrice de Sirius Satellite Radio et CEO de United Therapeutics, une entreprise de transplantation d’organes. Elle a créé une organisation à but non lucratif dédiée au chargement, espéré un jour, de l’esprit dans la machine. Aujourd’hui, cependant, les personnes ne peuvent que charger les activités qu’ils ont dans les réseaux sociaux.

Maria Konovalenko et Anna Kozlova poursuivent une autre voie vers l’immortalité, celle de préserver sa santé et son corps jusqu’à ce que des techniques futures permettent d’aller plus loin. Jeunes chercheuses en biologie et en chimie installées dans la Silicon Valley, elles lancent en mai 2015 une opération de financement participatif pour rédiger le Longevity Cookbook.

La Singularité par Vernor Vinge

Singularité : Vernor Vinge décrit l’ère post-humaine et le triomphe de la robotique
Professeur de mathématique et d’informatique et auteur de science-fiction, Vernor Vinge est le brillant esprit derrière l’une des conceptualisations les plus précises et les plus fécondes de la Singularité.

Difficile de résumer cet article en une phrase sans en perdre la puissance, mais l’on peut dire que la Singularité telle que Vinge la conçoit correspond au moment où l’intelligence artificielle des robots ou des programmes est devenue consciente d’elle-même. Partant de ce constat qui semble simple, Vinge va élaborer trois grands axes de réflexion : pourquoi sa Singularité signe-t-elle la fin de l’humanité, comment pourrait-on l’éviter et comment pourrait-on l’encadrer. Nous avons traduit en français l’intégralité de cet essai de futurologie qui pose à la science des questions éthiques aussi essentielles que contemporaines : d’après Vinge, la Singularité aura lieu entre 2005 et 2050 et l’humanité devra être prête à l’accueillir — ou à y faire face.
Dans les trente ans à venir, nous aurons les moyens technologiques de créer une intelligence surhumaine. Peu après, l’ère des Hommes prendra fin. Un tel progrès est-il évitable ? S’il ne l’est pas, pourrions-nous modifier le cours des événements de façon à survivre ? Ces questions restent en suspens. Des éléments de réponses (et des dangers supplémentaires) sont ci-dessous avancés.
Qu’est-ce que la Singularité ?

L’accélération du progrès technologique a été un élément central de ce siècle. J’affirme dans cet article que nous nous trouvons à l’aube d’un changement comparable à celui de l’apparition de la vie humaine sur Terre. L’origine précise du changement est la création imminente, par la technologie, d’entités dont l’intelligence dépasse celle des humains. Il existe plusieurs biais par lesquels la science pourrait réaliser cette avancée (et il s’agit là d’une raison supplémentaire de penser que cela va réellement se produire) :

Des ordinateurs « vivants » et supérieurement intelligents pourraient déjà exister (à ce jour, il existe une controverse quant à la possibilité de créer une machine équivalente à l’Homme. Si la réponse est « oui », alors, sans aucun doute, des êtres encore plus intelligents pourront être construits peu après).
Les grands réseaux informatiques (et leurs utilisateurs) pourraient « se transformer » en entités supérieurement intelligentes.
L’interface ordinateur/humain pourrait devenir si imbriquée que les utilisateurs pourraient être raisonnablement considérés comme supérieurement intelligents.
Les sciences biologiques pourraient créer des moyens d’améliorer l’intelligence naturelle de l’être humain.
Les trois premières possibilités dépendent largement des évolutions du hardware (matériel informatique). Dans ce domaine, le progrès s’est fait selon une courbe particulièrement régulière au cours des dernières décennies. Suivant cette tendance, je pense que la création d’une intelligence surhumaine verra le jour dans les trente prochaines années. Charles Platt a rappelé que les passionnés et spécialistes d’intelligence artificielle affirment la même chose que moi depuis trente ans. Le temps étant relatif, et pour éviter toute ambiguïté, laissez-moi être plus précis : je serais surpris qu’une telle chose se produise avant 2005 et après 2030.

Quelles sont les conséquences de cet événement ? Lorsque cette intelligence surhumaine produira du progrès, ce dernier sera bien plus rapide. De fait, il n’y a aucune raison pour que le progrès lui-même n’implique pas le développement d’entités encore plus intelligentes – dans un délai encore plus court. Selon moi, la meilleure analogie est celle du passé évolutionniste : les animaux peuvent s’adapter à des problèmes et inventer, mais pas plus rapidement que la sélection naturelle ne le ferait – le monde agit tel son propre simulateur dans l’exemple de la sélection naturelle. Nous autres humains avons la capacité d’intérioriser le monde et d’imaginer diverses hypothèses ; nous pouvons résoudre de nombreux problèmes mille fois plus vite que la sélection naturelle. Ainsi, en créant les moyens d’effectuer ces simulations à des vitesses bien plus élevées, l’humanité du futur sera aussi différente de l’humanité actuelle que ne l’est l’humanité actuelle des animaux les moins évolués.
Du point de vue de l’être humain, ce changement impliquera l’abandon, peut-être brutal, de toutes les règles établies, un emballement exponentiel sans aucun espoir de contrôle. Les évolutions que l’on ne pensait auparavant possible qu’en « un million d’années » (si tant est qu’elles ne se produisent jamais…) interviendront probablement au siècle prochain (Greg Bear décrit une situation dans laquelle les changements majeurs se produisent en l’espace de quelques heures).

Je pense qu’il est juste de nommer cet événement une singularité (« la Singularité », pour les besoins de cet article). Il arrive un moment où nos vieux modèles doivent être écartés pour qu’une nouvelle réalité prenne la place. Plus nous approchons de ce moment, plus cette réalité pèsera sur le cours de l’Humanité, jusqu’à ce que la notion devienne banale. Pourtant, lorsque le moment arrivera enfin, il sera peut-être toujours vécu comme une surprise, un saut dans l’inconnu. Dans les années 50, très peu de personnes l’identifièrent : Stan Ulam paraphrasait John von Neumann :

« Une conversation a tourné autour du progrès toujours plus rapide de la technologie et sur les changements dans le mode de vie humain. Ce progrès implique l’émergence d’une singularité essentielle dans l’histoire de la race, au-delà de laquelle l’Humanité, telle que nous la connaissons, ne peut continuer. »

Vernor_Vinge_small
Vernor Vinge.
Von Neumann utilise lui-même le terme de singularité, bien qu’il semble faire référence au progrès habituel, et non pas à la création d’une intelligence surhumaine (selon moi, la surhumanité est l’essence de la Singularité. Sans cela, nous aurions un excès de richesses techniques, jamais convenablement absorbé).

Dans les années 60, certaines des implications d’une intelligence surhumaine ont été reconnues. I. J. Good a écrit :

« Définissons une machine sur-intelligente comme une machine qui surpasse largement toute activité intellectuelle d’un homme, aussi intelligent soit-il. La conception de machines étant l’une de ces activités intellectuelles, une machine sur-intelligente pourrait donc élaborer des machines encore meilleures ; incontestablement, il y aurait alors une « explosion intellectuelle », et l’intelligence humaine se retrouverait complètement dépassée. Il en résulte que la machine sur-intelligente sera la dernière invention que l’homme aura besoin de faire, à condition que ladite machine soit assez docile pour constamment lui obéir (…) Il est probable qu’au cours du XXe siècle, une machine sur-intelligente soit conçue, et qu’elle soit effectivement la dernière invention que l’Homme n’ait jamais à faire. »

Good a saisi l’essence du bouleversement mais ne va pas au bout de la question des conséquences inquiétantes. La machine qu’il décrit ne serait pas plus un outil pour l’Homme que l’Homme n’en est un pour les lapins, les merles ou les chimpanzés.

Tout au long des années 60, 70 et 80, la reconnaissance du cataclysme s’est diffusée. Ce sont peut-être les écrivains de science-fiction qui ont ressenti les premiers impacts. Après tout, ils tentent d’écrire des histoires à propos de la technologie, et de tout ce qu’elle peut nous apporter. De plus en plus, ces auteurs se heurtent au mur opaque du futur. Il fut un temps où ils pouvaient faire se dérouler leurs histoires des millions d’années dans le futur. Ils se sont rendus compte que leurs extrapolations les plus développées aboutissaient à l’inconnu… dès le lendemain. Il fut un temps où les empires galactiques paraissaient relever de la science-fiction. Aujourd’hui, malheureusement, il en va de même pour les empires interplanétaires.

Qu’en sera-t-il des années 90, 2000, et 2010, au fur et à mesure que nous nous rapprocherons de l’instant fatidique ? Comment la Singularité sera-t-elle perçue par l’Humanité ? Pendant un moment encore, la « machine-sapiens » continuera d’avoir bonne presse. Après tout, tant que nous n’aurons pas un matériel aussi puissant que le cerveau humain, il est probablement ridicule de penser que nous serons capable de créer une intelligence équivalente (ou supérieure) à l’intelligence humaine. (Il existe une hypothèse farfelue selon laquelle nous pourrions créer une équivalence humaine à partir d’un matériel moins puissant à la condition de renoncer à la vitesse, en se contentant d’un être artificiel à proprement parler lent. Il est cependant bien plus probable qu’élaborer le logiciel se révèle être une entreprise délicate, impliquant de nombreux faux départs et autres expérimentations. Si tel est le cas, l’arrivée de machines conscientes de leur existence ne se fera pas avant le développement d’un matériel considérablement plus puissant que ce dont dispose naturellement l’Homme.)

Mais le temps passant, nous devrions voir apparaître de nouveaux symptômes. Le dilemme ressenti par les auteurs de science-fiction sera perçu dans d’autres domaines créatifs. J’ai déjà entendu des auteurs de BD se préoccuper de la manière de créer des effets spectaculaires lorsque tout ce qui est visible peut être produit par le tout-venant technologique. Nous verrons l’automatisme prendre la place d’emplois de plus en plus qualifiés. Nous avons d’ores et déjà des outils (programme de mathématiques symboliques, CAO/FAO) nous permettant de nous affranchir des corvées les plus ingrates. Dit d’une autre manière : le travail véritablement productif relève du domaine d’une fraction de plus en plus petite et élitiste de l’Humanité. A l’aube de la Singularité, nous sommes en train de voir les prédictions du véritable chômage technologique enfin se réaliser.
Un autre symptôme de la progression vers la Singularité : les idées elles-mêmes devraient se répandre plus vite, même les plus radicales devenant rapidement lieu commun. Lorsque j’ai commencé à écrire de la science-fiction au milieu des années 60, il semblait aisé de trouver des idées prenant des décennies à pénétrer l’inconscient culturel ; de nos jours, le procédé semble maintenant prendre quelque chose comme dix-huit mois. Bien sûr, cela pourrait s’expliquer par le fait, qu’en vieillissant, mon imagination s’appauvrit, mais j’en perçois les effets chez les autres également. Comme dans la mécanique des fluides, la Singularité se rapproche alors que nous atteignons la vitesse critique.

Et qu’en est-il de l’arrivée de la Singularité elle-même ? Que peut-on en dire véritablement ? Puisqu’elle implique une frénésie intellectuelle, elle se produira probablement plus rapidement qu’aucune révolution technologique ne l’a jamais fait. L’événement déclencheur sera sûrement imprévu – peut-être même aux yeux des chercheurs impliqués (« Mais tous nos modèles précédents étaient figés ! Nous ne faisions que bidouiller quelques paramètres… » pourraient-ils dire). Si le réseau est suffisamment étendu (dans des systèmes embarqués simultanés), nos artefacts, dans leur ensemble, sembleront soudainement se réveiller.

Et qu’arrivera-t-il un ou deux mois (ou un jour ou deux) après cela ? Je ne peux fournir que des analogies : le progrès de l’Humanité. Nous nous trouverons dans l’ère post-humaine. Malgré mon immense optimisme concernant la technologie, je pense que je serais plus rassuré de contempler ces événements métaphysiques en en étant éloigné de mille ans, plutôt que de vingt.
La Singularité peut-elle être évitée ?

Eh bien, peut-être que cela n’arrivera pas du tout. Parfois, j’essaye d’imaginer les symptômes auxquels nous devons nous attendre si la Singularité ne se développe pas. Il y a des arguments fortement respectés de Penrose et Searle contre la mise en pratique de la machine de la sagesse.

En août 1992, Thinking Machine Corporation a tenu un atelier pour enquêter sur la question « Comment construire une machine qui pense ». Comme vous pouvez le deviner à partir de l’intitulé, les participants n’étaient pas spécialement des soutiens des arguments contre la machine intelligente. En fait, il y avait un accord général selon lequel les esprits peuvent exister sur des substrats non-biologiques et aussi selon lequel les algorithmes sont d’une importance extrême pour l’existence des esprits.

Malgré cela, le débat était plus animé concernant la puissance brute de la matière qui est présente dans le cerveau. Une minorité a estimé que les ordinateurs les plus performants de 1992 étaient environ à trois ordres de grandeur de la puissance du cerveau humain. La majorité des participants était d’accord avec l’estimation de Moravec selon laquelle dix à quarante années nous sépareraient de la parité matérielle. Il y avait aussi une autre minorité qui soulignait et faisait remarquer que le modèle informatique des neurones uniques pourrait être bien plus puissant que ce qu’on ne pourrait croire.
Si tel est le cas, notre matériel informatique actuel pourrait être équivalent à dix ordres de grandeur de l’équipement que nous possédons dans nos cerveaux. Si ceci est vrai (ou à cet égard, si la critique de Penrose ou de Searle est valable), on pourrait ne jamais croiser la Singularité. Au lieu de ça, au début des années 2000, nous verrions les courbes de performances de notre matériel informatique se niveler vers le bas — cela à cause de notre incapacité à automatiser le travail de conception nécessaire pour supporter de futurs améliorations du matériel. Nous nous retrouverions avec du matériel très puissant, mais sans la capacité d’aller plus loin. Le traitement de signal numérique commercial pourrait être génial, donnant une apparence analogue même aux opérations numériques, mais rien « ne se réveillerait » et il n’y aurait jamais le coté intellectuel qui est l’essence de la Singularité. On le verrait probablement comme un âge d’or… et ce serait aussi une fin de progrès. Cela ressemble beaucoup au futur prévu par Gunther Stent. En fait, Stent cite explicitement le développement d’intelligence transhumaine comme une condition suffisante pour rendre ses prévisions invalides.

Mais si la technologie nécessaire à la Singularité peut être atteinte, elle le sera. Même si tous les gouvernements du monde devaient comprendre « la menace » et en être morts de peur, le progrès continuerait. Dans la fiction, on a vu passer des histoires de lois qui interdiraient la construction « d’une machine dont le mode de fonctionnement ressemblerait à l’esprit humain ». En fait, l’avantage compétitif — économique, militaire, même artistique — de chaque avancée dans l’automatisation, est si contraignant qu’il dépasse les lois qui interdiraient de tels procédés car il y a la menace que d’autres puissent s’en accaparer.

Eric Drexler a donné des aperçus très pertinents de jusqu’où l’amélioration technique peut aller. Il reconnaît que des intelligences surhumaines seront disponibles dans un avenir proche — et que de telles entités constituent une menace au statu quo humain. Mais Drexler soutient que nous pouvons limiter de tels dispositifs surhumains pour que leurs résultats puissent être examinés et utilisés sans risque. C’est la machine ultra-intelligente de Good, avec beaucoup de prudence. Je soutiens que le confinement est intrinsèquement impraticable. Pour le cas d’un confinement physique : imaginez-vous enfermé dans votre maison avec l’accès à des données seulement limitées à l’extérieur, à vos maîtres. Si ces maîtres peuvent penser à un taux — disons — un million de fois plus lent que le vôtre, il est probable que dans les années à venir, vous puissiez penser à « l’indication utile » qui vous rendra votre liberté. Une telle entité « super-humaine faible » brûlerait probablement en quelques semaines à l’extérieur. « La super-humanité forte » irait au-delà. Difficile à dire précisément à quoi elle ressemblerait, mais la différence semble être profonde. Imaginez diriger l’esprit d’un chien à une très grande vitesse.
Est-ce que mille années de vie ne contribueraient à augmenter la perspicacité humaine ? Maintenant, l’intelligence du chien a été intelligemment ré-accordée et exécutée à grande vitesse, que nous pourrions voir quelque chose de différent. Beaucoup de suppositions au sujet de la super-intelligence semblent être basées sur le modèle « super-humain faible ». Je crois que nos meilleures suppositions peuvent être obtenues en pensant à la nature de la « super-humanité forte ». J’évoquerai à nouveau ce point plus tard dans l’article.

Une autre approche au confinement serait de construire des règles dans l’esprit de l’entité super-humaine (par exemple, les lois d’Asimov). Je pense que toute règle assez stricte pour être efficace produirait aussi un matériel dont la capacité serait clairement inférieure aux versions libres (et la compétition humaine favoriserait le développement de ces modèles plus dangereux). Le rêve d’Asimov est merveilleux : imaginez un esclave dévoué, qui possède 1 000 fois vos capacités dans tous les domaines. Imaginez une créature qui pourrait satisfaire tous vos désirs en gardant 99,9 % de son temps libre pour d’autres activités. Cela créerait un tout nouvel univers que nous ne comprendrions pas, mais qui serait rempli de dieux bienveillants (et l’un de mes vœux serait de devenir l’un d’entre eux).

Si la Singularité ne peut être confinée, à quel point l’ère post-humaine se porterait-elle mal ? Eh bien… plutôt mal. L’extinction pure et simple de l’espèce humaine est une possibilité. Ou, pour paraphraser Eric Drexler quand il s’est exprimé sur la nanotechnologie : étant donné tout ce qu’une telle technologie peut faire, peut-être que des gouvernements décideraient simplement qu’ils n’ont plus besoin de citoyens !

Pourtant l’extinction physique ne peut pas être la possibilité la plus effrayante. Il y a encore des analogies : pensez à nos différentes relations aux animaux. Certains des abus physiques bruts sont invraisemblables, pourtant…. Dans un monde post-humain, il y aurait toujours beaucoup de niches où une automatisation équivalente à celle de l’humain serait désirable : systèmes incorporés dans des dispositifs autonomes, des esprits conscients d’eux-mêmes — une intelligence largement super-humaine serait probablement une Société d’Esprits avec quelques composants très efficaces. Certains de ces équivalents humains ne pourraient être utilisés pour nulle autre chose que le traitement de signal numérique. Ils seraient plutôt des baleines que des humains. D’autres pourraient être très semblables à l’homme, mais avec un caractère unique, un dévouement qui les enverrait dans une clinique psychiatrique si cela se passait dans notre ère.

Quoi qu’aucune de ces créatures ne puisse être faite de chair et de sang, elles pourraient être ce qu’il y a de plus proche, dans le nouvel environnement à venir, de ce que nous appelons aujourd’hui l’humain. I. J. Good avait quelque chose à dire à ce propos, mais aujourd’hui, son conseil serait probablement discuté : Good a proposé « une Meta-règle-d’or », qui pourrait être paraphrasée de la manière suivante : « Traitez vos inférieurs comme vous voudriez être traités par vos supérieurs ». C’est une idée fantastique, mais paradoxale (et la plupart de mes amis n’y croient guère) puisque la récompense est dure à comprendre. Pourtant, si nous trouvons le moyen de la suivre, cela pourrait nous apprendre quelque chose concernant la plausibilité d’une telle bonté dans cet univers.

J’ai soutenu précédemment que nous ne pouvons pas empêcher la Singularité, que son arrivée est une conséquence inévitable de la compétitivité naturelle des humains et des possibilités inhérentes à la technologie. Et pourtant, nous en sommes les initiateurs. Même la plus grande des avalanches est déclenchée par de petites choses. Nous avons la liberté d’établir les conditions premières, de faire en sorte que les choses arrivent d’une manière moins dangereuse que prévu. Bien sûr, on ne sait pas trop quelle est la bonne manière d’orienter les choses.
D’autres chemins vers la Singularité : l’intelligence amplifiée

Lorsqu’on parle de créer des êtres super-humains intelligents, on s’imagine souvent la création d’une intelligence artificielle (Artificial Intelligence, ou AI). Comme je l’ai observé plus haut, il existe cependant d’autres chemins vers la super-humanité. Les réseaux informatiques et les interfaces humain-ordinateur paraissent plus banals que l’AI, mais sont susceptibles de nous mener à la Singularité. C’est cette approche différente que j’appelle l’intelligence amplifiée (Intelligence Amplification, ou IA). L’IA se réalise de façon très naturelle, la plupart du temps sans être reconnue pour ce qu’elle est par ses développeurs. Mais à chaque fois que notre capacité à accéder à l’information et à la communiquer aux autres est améliorée, nous réussissons, en un sens, une amélioration (amplification) de l’intelligence naturelle. Même de nos jours, la combinaison d’un Ph.D. humain et d’un bon poste de travail informatique (même un poste hors-réseau !) pourrait rivaliser avec n’importe lequel des tests d’intelligence écrite qui existent aujourd’hui.

Et il est très probable que l’IA soit un chemin beaucoup plus facile à emprunter pour réaliser cette super-humanité qu’une AI pure. Chez les humains, les problèmes de développement les plus ardus ont déjà été résolus. Créer et améliorer quelque chose à partir de la connaissance que nous avons de l’humain à ce jour, serait plus facile que de comprendre d’abord la totalité de l’humain pour ensuite construire des machines qui incorporent ce tout. Et il existe au moins un précédent conjoncturel pour cette approche. Cairns-Smith a fait l’hypothèse que la vie biologique a pu se développer comme complément d’une vie encore plus primitive, basée sur la cristallogenèse. Lynn Margulis a prouvé avec force que la mutualisation joue un rôle moteur dans l’évolution.
Vous noterez que je ne propose pas d’ignorer la recherche sur l’AI, ou de moins la financer. Les recherches sur l’AI auront souvent des applications dans l’IA, et vice-versa. Je nous suggère d’admettre le fait que dans la recherche sur les réseaux et interfaces, il existe quelque chose d’aussi profond (et potentiellement plus sauvage) que l’AI. Sous cet angle, on pourra voir des projets qui ne sont pas aussi directement applicables que la recherche sur les réseaux et interfaces, mais qui nous servent à avancer vers la Singularité, en passant par l’IA.

Voici quelques projets possibles qui recouvrent une signification particulière selon le point de vue d’une IA :

l’automatisation humain/ordinateur : prenez les problèmes normalement considérés comme ayant des solutions purement informatiques (les problèmes de hill-climbing par exemple), et les programmes et interfaces qui tirent avantage de l’intuition humaine et du hardware disponible. Si l’on considère toutes les étrangetés des problèmes de hill-climbing hyper-dimensionnel (et les fins algorithmes qui ont été conçus pour leur résolution), d’intéressants dispositifs et outils de contrôle peuvent être imaginés pour le « partenaire » humain du binôme ;
développer la symbiose humain/ordinateur en art : combiner la capacité de génération graphique des machines modernes et la sensibilité esthétique des humains. Bien sûr, il existe quantité de recherches sur la conception d’aides informatiques pour les artistes, dans un but d’économie de main-d’œuvre. Je propose que l’on vise à une meilleure fusion des compétences, que l’on reconnaisse explicitement que l’approche coopérative est possible. Karl Sims a fait un travail remarquable en ce sens ;
permettre les équipes humain/ordinateur aux tournois d’échecs. Nous avons déjà à notre disposition des programmes qui peuvent jouer mieux que presque tous les joueurs humains. Mais quel travail a été fait pour savoir comment ce pouvoir pourrait être utilisé par un humain, pour obtenir un résultat encore meilleur ? Si de telles équipes pouvaient concourir à certains tournois au moins, cela pourrait avoir le même effet positif pour la recherche sur l’IA que l’ajout d’ordinateurs aux tournois a eu sur la niche analogue en AI ;
développer des interfaces qui permettent l’accès informatique au réseau sans que la présence d’un humain rivé sur sa chaise devant un ordinateur soit nécessaire (voilà un aspect de l’IA qui a des conséquences connues, si avantageuses en termes économiques que beaucoup d’effort est fourni) ;
développer des « Decision Support Systems » (DSS, systèmes d’informatique décisionnelle) qui soient davantage symétriques. Les recherches et produits DSS ont connu beaucoup de succès ces dernières années. C’est une forme d’intelligence amplifiée, bien que peut-être trop axée sur les systèmes oraculaires. Tout comme le programme donne des informations à l’utilisateur, l’idée qu’un utilisateur guide le programme devrait se répandre ;
utiliser des réseaux locaux (LAN) pour rendre les équipes d’individus réellement efficaces (c’est-à-dire les rendre plus efficaces que leurs composants). C’est généralement le domaine du « groupware », une activité lucrative de plus en plus populaire. Le changement de perspective serait ici d’envisager l’activité de groupe comme une organisation combinatoire. En un sens, cette proposition peut être considérée comme ayant pour but l’invention de « rules of order » (règles de convenance, de conduite) pour de telles opérations. Par exemple, la concentration du groupe pourrait être plus facilement maintenue que dans des réunions ordinaires. L’expertise de chaque membre humain pourrait être isolée des problèmes d’ego, de la sorte que la contribution de chacun soit axée sur le projet d’équipe. Et bien sûr, les banques de données partagées seraient utilisées beaucoup plus facilement que pendant les opérations conventionnelles de tel ou tel comité. (Vous remarquerez que cette proposition concerne davantage les réunions d’équipe en entreprise que les réunions politiques. Dans un contexte politique, l’automatisation décrite ci-dessus ne ferait que donner plus de pouvoir à la personne qui établit les règles !) ;
exploiter l’Internet mondial en tant qu’outil de combinaison humain/machine. De tous les points sur la liste, c’est celui pour lequel le progrès se fait le plus rapidement, et celui qui pourrait nous conduire à la Singularité avant toute autre chose. Le pouvoir et l’influence d’Internet — même celui qui existe aujourd’hui — est largement sous-estimé. À titre d’exemple, je pense que nos systèmes informatiques contemporains crouleraient sous le poids de leur propre complexité, si ce n’était pour la marge de manœuvre qu’accorde l’Usenet à l’administration système et au personnel support ! L’anarchie même du développement du réseau mondial est la preuve de son potentiel. À mesure que la connectivité, la bande passante, la taille des archives et la vitesse des ordinateurs augmentent, nous observons quelque chose de similaire à la vision de Lynn Margulis, soit une biosphère vue comme un processeur de données reproductif, mais à une vitesse un million de fois plus grande et avec des millions d’agents humains intelligents (nous-mêmes).
Les exemples précités illustrent la recherche qui peut être faite dans le contexte des départements contemporains d’informatique. Il existe d’autres paradigmes. Par exemple, nombre de travaux sur l’AI et les réseaux neuraux pourraient bénéficier d’un lien approfondi avec la vie biologique. Au lieu d’essayer simplement de modéliser et de comprendre la vie biologique à l’aide d’ordinateurs, la recherche pourrait être dirigée directement vers la création de systèmes composites qui aient besoin de l’ « éclairage » de la vie biologique, ou pour des fonctions qu’on ne connaît pas encore assez bien pour être mises en œuvre au niveau du hardware. Un rêve de science-fiction de longue date demeure la création d’interfaces directes entre le cerveau et l’ordinateur. En fait, beaucoup de travaux concrets sont possibles dans ce domaine (certains sont d’ailleurs en cours) :
les prothèses sont l’objet d’une applicabilité commerciale directe. Des transducteurs entre les nerfs et le silicone peuvent être fabriqués. Voici une étape stimulante, à court terme, vers la communication directe ;
des liens directs vers le cerveau semblent réalisables, si le bit rate est faible : étant donné la flexibilité d’apprentissage de l’être humain, il ne semblerait pas nécessaire que les réelles cibles neuronales soient précisément sélectionnées. Même un taux de 100 bits par seconde serait d’une grande aide pour les victimes d’accidents vasculaires cérébraux, qui autrement seraient cantonnés à des interfaces fonctionnant par menus ;
un branchement sur le nerf optique a un potentiel proche de 1 Mbit/s. Mais cela requiert de connaître finement l’architecture de la vision, et de placer un imposant tissu d’électrodes avec une infime précision. Si nous voulons une connexion avec une large bande passante qui s’ajoute aux chemins déjà présents dans le cerveau, le problème devient encore plus inextricable. Coller une grille de récepteurs à large bande passante dans le cerveau ne marcherait simplement pas. Mais supposons que cette grille soit placée en même temps que la structure du cerveau se construit, à mesure que l’embryon se développe, cela implique :
des expérimentations d’embryons animaux. Je ne m’attendrais à aucun succès en termes d’IA dans les premières années d’une telle recherche, mais donner à des cerveaux en cours de formation l’accès à de complexes structures neurales simulées pourrait présenter un intérêt certain pour les personnes qui étudient le développement du cerveau embryonnaire. A long terme, ce genre d’expériences pourrait créer des animaux dotés de chemins sensoriels additionnels et de capacités intellectuelles intéressantes.
A l’origine, j’avais espéré que cette discussion sur l’IA permettrait des approches de la Singularité nettement plus sécurisées (après tout, l’IA permet notre participation dans une forme de transcendance). Hélas, en regardant ces propositions a posteriori, une des seules choses dont je sois certain est qu’elles doivent être prises en compte, qu’elles peuvent nous accorder d’autres options. Mais en ce qui concerne la sécurité, eh bien… certaines suggestions font tout de même un peu peur. Un de mes critiques non-officiels me faisait remarquer qu’une IA pour les êtres humains créerait une élite plutôt sinistre. Nous autres êtres humains avons derrière nous des millions d’années d’évolution, qui nous font regarder la compétition d’un regard noir. Ce regard pourrait bien n’être pas si noir que cela dans le monde contemporain, au sein duquel les perdants adoptent les astuces des gagnants et sont cooptés par les entreprises des gagnants. Une créature créée de novo (de manière spontanée) pourrait se montrer plus inoffensive qu’une même entité fondée sur les crocs et les serres. Même la conception d’un Internet qui s’éveillerait en même temps qu’une humanité réunifiée peut être perçue comme un cauchemar.

Le problème n’est pas seulement que la Singularité représente l’évincement de l’humanité du centre du monde, mais qu’elle contredit nos notions d’ « être » les plus ancrées dans nos mentalités. Il me semble qu’une étude précise de la notion de « super-humanité forte » peut nous expliquer pourquoi.
La « super-humanité forte » et ce qu’on peut en attendre

Supposez que l’on puisse fabriquer la Singularité sur mesure. Supposez que l’on soit capable de réaliser nos rêves les plus fous. À quoi aspirerions-nous alors ? À ce que les humains eux-mêmes deviennent leurs propres successeurs, à ce que n’importe quelle injustice soit tempérée par la connaissance que l’on a de nos racines. Pour les êtres humains restés inchangés, l’objectif serait similaire à celui d’un traitement bénin (donnant peut-être même à ces « attardés » l’apparence de maîtriser des esclaves tout-puissants). Ce pourrait être un âge d’or marchant main dans la main avec le progrès (et dépassant la barrière de Stent). L’immortalité (du moins une durée de vie humaine complète, si l’on parvient à faire en sorte que l’Univers survive) serait possible.

Mais dans ce meilleur des mondes possibles, les problèmes philosophiques eux-mêmes deviennent intimidants. Un esprit qui garde la même capacité ne peut vivre à jamais ; après quelques milliers d’années, il ressemblerait davantage à une cassette tournant en boucle qu’à une personne. Pour vivre infiniment longtemps, l’esprit lui-même doit s’agrandir… et une fois qu’il est assez grand et regarde en arrière… comment peut-il se sentir proche de l’âme qu’il était à l’origine ? Certes, l’être ultérieur serait tout ce qu’était l’original, mais de façon beaucoup plus vaste. Et donc même pour l’individu, la notion d’une nouvelle vie qui s’agrandit de façon incrémentale à partir de l’ancienne, développée par Cairns-Smith ou Lynn Margulis, demeure valide.

Ce « problème » de l’immortalité surgit de façons beaucoup plus directes. Les notions d’ego et de « conscience de soi » ont été le ciment du rationalisme pragmatique de ces derniers siècles. La notion de conscience de soi subit pourtant l’offensive, aujourd’hui, des adeptes de l’Artificial Intelligence. L’Intelligence Amplification contredit notre concept d’ego selon un angle différent. Le monde post-Singularité impliquera un réseau doté de très hauts taux de bande passante. Une des caractéristiques de ces entités dotées d’une « forte super-humanité » sera probablement leur capacité à communiquer à des taux variables de bande passante, pour certains beaucoup plus élevés que ceux du langage ou des messages écrits. Que se passera-t-il quand des morceaux d’ego pourront être copiés et fusionnés, quand le niveau de conscience de soi pourra augmenter ou diminuer pour correspondre à la nature des problèmes en question ? Voici des caractéristiques essentielles de la forte super-humanité et de la Singularité. En pensant à ces questions, on commence à pressentir que l’ère du post-humain sera ô combien plus étrange et différente dans son essence — peu importe qu’elle advienne de façon intelligente et inoffensive.

D’un côté, cette vision correspond à nombre de nos rêves les plus heureux : un temps infini, où l’on pourra sincèrement se connaître les uns les autres et résoudre les mystères les plus insolubles. D’un autre côté, cela ressemble beaucoup au pire des scénarios que j’imaginais plus haut dans cet essai.

Google pour changer le Monde ?

Au-delà du moteur de recherche bien connu des internautes, Google n’est pas seulement un outil permettant de dénicher facilement une information, mais c’est aussi un instrument que les animateurs de Google utilisent pour nous proposer un autre monde.

C’est en effet ce qu’a pu découvrir le public réuni dans l’amphithéâtre Emile Boutmy de Sciences Po, à Paris, le 4 octobre 2014 à 10h, forum qui a été diffusé sur l’antenne de France Culture, le 6 octobre, à 18h20.
Echange passionnant auquel participait Laurent Alexandre, fondateur du site Doctissimo, Dominique Bouillier, rédacteur en chef de la revue « cosmopolitique », le sociologue et chercheur Dominique Cardon, auteur de « la démocratie » (éditeur la république des idées) sous la houlette d’Hervé Gardette, l’animateur de l’émission « du grain à moudre », en présence d’un public attentif.
Il s’agit de découvrir à quoi ressemblerait peut-être le monde de demain.
Nous serions réveillés par l’odeur du café, et non pas par le bruit strident d’un réveil…par un simple mouvement du poignet, nous pourrions décider de la température de notre appartement, de son hygrométrie, de la puissance de l’éclairage, et bien sur de la musique que nous voulons entendre….
Cette apparente fiction est déjà à l’étude un peu partout, telle cette plate forme d’expérimentation Multicom à Grenoble.
Mais ce n’est pas tout, si vous vous blessez dans votre cuisine, en heurtant un coin de porte, une puce intégrée à votre portable permettrait de scanner le membre touché, d’en évaluer les éventuels dégâts, et de proposer un diagnostic…
Votre portable pourrait vous rappeler l’anniversaire d’une cousine lointaine…et pour choisir le cadeau, vous pourriez consulter rapidement des données cumulées et anonymes collectées sur une personne du même âge, ayant les mêmes goûts, et tout ça en grande partie grâce (ou à cause) de Google.

Ray Kurzweil, le "pape" du transhumanisme, qui vient d'être nommé ingénieur en chef du moteur de recherche.
Ray Kurzweil, le “pape” du transhumanisme, qui vient d’être nommé ingénieur en chef du moteur de recherche.

C’est ce que l’on découvre dans un livre récent du à 2 dirigeants de cette entreprise, Eric Schmidtet Jared Cohen, « the new digital age », traduit en français sous le titre : « à nous d’écrire l’avenir ». (Édition Denoël- novembre 2013).
Au-delà de ce scénario de fiction, dans lequel le fameux moteur de recherche a pris une part active, les participants du forum ont tenté de définir les enjeux en question.
Tout d’abord, ils pointent du doigt le fait que Google est une entreprise qui maîtrise toutes les technologies importantes du 21ème siècle, les technologies NBIC, (Nanotechnologie,Biotechnologie, Informatique, Cognitique)
Avec sa filiale Calico, crée en septembre 2013, dont la finalité est de faire reculer la mort, voire de l’euthanasier, de faire le plein de Start Up dans le domaine du Big Data (génétique, utilisation des données pour lutter contre le cancer…) Google est en train de coloniser toutes les NBIC, ce qui fait de lui l’entreprise la plus puissante au monde, la plus intelligente, avec le meilleur management au monde qui soit, ce qui fait de lui la meilleure entreprise au monde, s’il faut en croire Laurent Alexandre : « ce qui les fait bander, ce n’est pas le business, c’est le changement de l’humanité, c’est un projet révolutionnaire (…) et c’est pour ça que nous allons voir le concept « gauche-droite » disparaître au profit d’un nouveau clivage entre les transhumanistes et les bio-conservateurs, entre ceux qui veulent changer le monde par la technologie, et ceux qui vont préférer que l’on freine un peu ».

En fait, Google est depuis le départ un projet politique, par l’innovation technologique qui va permettre de changer la société, les rapports sociaux, la politique…continue Dominique Cardon.
Dominique Bouillier lui emboite le pas, déclarant : « Google essaye de bousculer le monde ancien parce qu’ils ont vraiment compris que le cœur de l’affaire, ce sont les données, au sens large, pas les données personnelles (…) ils ont la capacité de tester les innovations dans tous les domaines, de les abandonner quand ça ne marche pas » et conclut : « il y a une forme d’objectivité algorithmique dans l’organisation des connaissances ».
Eric Schmidt, dans un livre récent destiné à évoquer le management façon Google, raconte sa vision des acteurs idéaux de l’entreprise : d’un coté « les chevaliers », et de l’autre « les valets ». Les premiers ce sont des intelligences créatives, des génies, des divas, des rock stars… à qui il faut donner toute la liberté possible, et la seule tache de l’entreprise, c’est de les recruter dans tous les domaines…et puis il y a « les valets », qui sont des médiocres, jaloux de la réussite des autres, et il faut les écarter. Il s’agit donc d’une société qui voue un culte à l’excellence.

Mais que deviendront alors les « valets » ?
Comme le constate Laurent Alexandre, Google a mis la main sur 1/3 des « bons » qui se sont spécialisés dans l’intelligence artificielle…il s’agit d’un projet neuro-révolutionnaire, et il cite Ray Kurzweil, recruté par Google en 2012, expliquant que « dès 2035 nous aurons des implants intra-cérébraux pour nous connecter à Internet plus vite, ce qui permettra à Google de répondre à nos questions avant que nous les ayons posées », précisant « Google nous connaitra mieux que notre partenaire sexuel, peut-être mieux que nous nous connaissons nous même » concluant « nous sommes bien dans une fascination pour l’intelligence, une volonté de développer l’intelligence artificielle, de l’interfacer avec le cerveau humain, afin d’augmenter les capacités de celui-ci ».
D’ailleurs, des scientifiques sont d’ores et déjà convaincus que la puce sous-cutanée sera bientôt obligatoire pour tout le monde.
Le projet de Google est donc de changer le monde pour qu’il soit meilleur, par le biais de la technologie, en changeant l’humain pour le rendre plus performant.
En tout cas ce projet est voulu transhumaniste et il a 3 axes : d’abord euthanasier la mort, puis, développer l’intelligence artificielle, et enfin interfacer cette intelligence artificielle avec notre cerveau biologique : il s’agit donc d’un vrai projet politique parfaitement pensé dont nos élus devront tenir compte, s’ils ne veulent pas se ringardiser, voire être « largués », ce qui est déjà largement le cas pour nombreux d’entre eux.
Ce projet devrait permettre, grâce aux données accumulées, de revoir totalement l’organisation de la société humaine, et c’est pour cette raison qu’ils s’intéressent aux « maps », à la voiture intelligente, mais aussi à tous les réseaux et services que nous utilisons chaque jour.
Comme le martèle Laurent Alexandre, « nos élites politiques sont totalement inadaptées, (…) l’Etat est incompétent et connaît mal la technologie développée par ces nouveaux géants qui concentrent les meilleurs cerveaux du monde et il va bien falloir changer d’élites politiques au moment où nous changeons de monde (…) vous savez bien que ni Sarközi, ni François Hollande, n’ont d’ordinateurs, nos élites sont des handicapés du mulot, des bras cassés en informatique, et il leur est très difficile de comprendre le monde technologique dans lequel nous rentrons (…) c’est pour ça que si nous voulons réguler les nouvelles puissances trans-humanistes des technologies NBIC, il est absolument urgent d’avoir des élites qui comprennent ces technologies,…des gens plus intelligents à la tête des états européens ».
De quoi s’interroger aujourd’hui sur l’avenir de ces politiques, puisqu’ils semblent avoir d’énormes difficultés à comprendre ce monde qui arrive, voire qui est déjà là, en train de se mettre en place sous nos yeux.
On le sait, en France et ailleurs, nos élites sont coupées des réalités de la rue, ne s’occupant que de « replâtrages » inefficaces, au lieu de participer à la construction d’un projet humaniste, à défaut d’être transhumaniste.
Ils n’avaient pas vu venir la crise financière…on se souvient que Sarközi (en 2012) et Lagarde, en août 2007 prétendaient qu’elle était derrière nous, alors qu’elle ne faisait que commencer.
Ils n’ont pas vu venir la logique délocalisation des emplois et des richesses, alors qu’ils étaient les acteurs consentants de cette mondialisation.
Ils s’illusionnent encore d’une reprise de la croissance et d’une fin du chômage, alors que la tendance prouve bien que tout ça va perdurer longtemps.
Ils sont incapables de prendre le vrai tournant de la transition énergétique, s’arque boutant pour défendre un nucléaire cher et moribond.
Ils restent les otages de la finance mondiale.
Ils n’ont pas pris conscience du gouffre qui s’est crée entre les populations marginalisées des banlieues de nos grandes villes, et leurs pseudos élites, provocant par ce clivage, d’une part le rejet d’une jeunesse désillusionnée, le retour des extrémismes racistes et conservateurs, et d’autre part un dégoût de ce monde politique de nantis qui n’ont d’autres buts que de gagner un fauteuil, et de le conserver le plus longtemps possible, sous le fallacieux prétexte d’une illusoire démocratie.

Singularité technologique : l’avenir de l’humanité ?

Le concept de « singularité technologique » décrit un instant qui inscrit une rupture d’échelle dans l’évolution de notre progrès technologique.

Le développement exponentiel des nouvelles technologies (information, nano-, quanto-, bio-…) et leur rapide convergence, réactivent les concepts profonds et anciens de transhumanisme ou posthumanisme et nous interrogent sur nos capacités d’accès à un événement essentiel que l’on nomme « Singularité Technologique »

Qu’entend-t-on par singularité ?

Ce terme fait clairement référence à la singularité gravitationnelle engendrée par un trou noir en cosmologie et à la notion connexe de déformation puis de discontinuité de l’espace-temps aux abords immédiats de ce trou noir.

À compter de cette date ou de cet événement, notre croissance technologique changera brusquement d’échelle, de plusieurs ordres vers le haut, le progrès, les découvertes scientifiques seront le fruit de forces et d’énergies non humaines ou posthumaines, issues de l’intelligence artificielle (IA).

Cette notion de singularité a été introduite au début des années 1950 par le mathématicien John Von Neumann puis développée durant les années 1960 par Alan Turing et Irving John Good. Elle a inspiré de nombreux scientifiques comme Carl Sagan et de nombreux auteurs de science-fiction durant ces trente dernières années. Elle se réactive régulièrement lors d’annonces d’innovations technologiques majeures (robotiques, biotechnologiques ou autres).

Entre débats sérieux et projets insensés

Aujourd’hui, cette notion de singularité alimente débats, fantasmes sectaires et projets, des plus insensés aux plus sérieux. En 2008, une Université de la Singularité a été créée en Californie par Ray Kurzweil et Peter Diamantis avec le soutien massif de Google, Nokia, Cisco, Autodesk, de la NASA, et de l’administration américaine. L’esprit de cette université tient en un tweet : « Be prepared to learn how the growth of exponential and disruptive technologies will impact your industry, your company, your career, and your life ». Ses moyens financiers sont presque sans limite, à l’image de la puissance des lobbies qui agissent à l’origine de cette création…

Deux questions principales s’imposent alors :

1 – La singularité surviendra-t-elle un jour ?
2 – Si oui, en sommes-nous loin, ou au contraire tout proche ?

La première question est évidemment la plus profonde des deux. Elle se reformule, tantôt comme une prophétie positive et argumentée, tantôt comme une interrogation formelle indécidable par nature. Pour l’aborder sereinement, il faut en premier lieu évoquer une nouvelle singularité, symétrique de la première qui pourrait s’appeler « singularité d’extinction » ou régressive en termes de progrès. Elle représente l’instant potentiel à partir duquel notre civilisation effectue un bond en arrière majeur à l’échelle planétaire : ce brusque saut peut se produire par exemple à la suite d’un impact météoritique avec un géocroiseur massif (non détourné par l’homme et sa technique) de l’orbite terrestre.

Au-delà d’une certaine masse, il est prouvé que cet impact serait totalement destructeur pour la vie humaine et animale, nous ramenant ainsi quelques millions d’années en arrière… et repoussant d’autant la date de notre seconde singularité ; le « nous » employé étant celui des bactéries ou insectes survivants. Il est illusoire de discuter d’une singularité sans évoquer sa forte dépendance à la réalisation ou non de sa symétrique. (Ceci revient d’ailleurs à ne pas oublier le septième terme dans l’équation de Drake : celui indiquant la durée de vie moyenne d’une civilisation.)

Un argument classique pouvant être objecté ici, consiste à penser qu’au-delà d’un certain niveau de maturité technologique, les risques d’extinction de l’espèce s’éloignent, sachant que l’IA saura mettre en œuvre les contre-mesures appropriées et efficaces pour dissiper les menaces futures. Je pense qu’il s’agit plus d’un optimisme béat que d’une bienveillance naturelle du système…

L’homme, depuis sa naissance, baigne dans « l’aléatoire sauvage » et de ce fait subit constamment l’assaut des événements rares, imprévisibles et surpuissants. Ces événements rares, imprévisibles, inédits et surpuissants sont appelés « cygnes noirs » par Nassim Nicholas Taleb, écrivain et philosophe des sciences du hasard (très lu par les financiers en quête de modèles nouveaux et distincts de l’obsolète standard gaussien). Une des idées phares de Taleb est que l’expérience passée n’apporte malheureusement aucune information exploitable concernant la réalisation ou non d’événements inédits a priori très peu probables mais d’impact majeur sur l’évolution du système.

Ray Kurzweil
Ray Kurzweil

Taleb a construit et calibré sa théorie à partir de son expérience de trader des marchés financiers durant les années 1980-90 et de son enfance puis adolescence marquée par la guerre du Liban. Les crachs boursiers (celui de 1929, de 1987, puis la crise que l’on connaît aujourd’hui) sont ses premiers cygnes noirs, les conflits armés, insurrections, révoltes, attentats en sont d’autres à ses yeux, obéissant aux mêmes fluctuations du hasard. Cette vision de la force de l’aléatoire est un frein considérable à la construction de prévisions ou de prédictions fondées. Les cygnes noirs de Taleb nous mettent en garde contre toute arrogance prédictive et nous réduisent de fait aux simples techno-prophéties…

On comprend alors que pour étudier l’éventualité de l’émergence d’une singularité technologique, il est nécessaire d’y inclure l’aléa des cygnes noirs : cette dose d’aléatoire présente à toute échelle, imprégnant chacune des strates poreuses de notre évolution technologique. C’est elle qui est à l’origine des bonds et discontinuités ou des périodes de pause constatées tout au long de notre marche vers le progrès. Enfin, c’est peut-être elle qui constituera l’amorce ou le germe de notre singularité vue à son tour comme le cygne noir essentiel de notre évolution.

Les arguments en faveur de la singularité

Maintenant que le paysage aléatoire est en place, il est possible « d’empiler » certains arguments en faveur de l’avènement d’une singularité technologique :

Le caractère exponentiel de l’évolution technologique est un premier indicateur d’accélération systémique : il suffit de mesurer et comparer les acquis humains à l’échelle du millénaire, du siècle, puis sur dix ans et de constater le gradient !
La convergence rapide de grands territoires de la pensée humaine : mécanique quantique, théories de l’information et de la complexité, intelligence artificielle, astrophysique, sciences cognitives, biologie, philosophie, sociologie, économie et finance. La partition initiale n’existe plus : les savoirs spécifiques circulent et se diffusent, d’un domaine vers un autre, interagissant et modifiant sans cesse les lignes de perception des thématiques classiques.
Le web en tant qu’émergence d’une structure globale issue d’une multitude d’interactions locales : Internet peut être vu comme un graphe dynamique dont les sommets sont les pages web et les arêtes, les liens html liant ces pages. Ce graphe planétaire évolue en temps réel ; à chaque instant, des pages disparaissent, d’autres sont créées, des liens apparaissent, d’autres s’effacent, des topologies se forment et se transforment à l’image d’une entité biologique et des cellules qui la composent. Le transfert massif de l’information humaine vers internet, son stockage, son traitement, sa hiérarchisation via les moteurs de recherche constituent certainement les premiers pas vers notre singularité, si elle doit avoir lieu.
La fusion homme-machine ou le concept de transhumanisme (qui a débuté dès 1958 avec le premier pacemaker implanté) modifie profondément notre rapport au corps. Que ce soit dans un but de simple remplacement de l’organe malade ou dans celui d’augmentation des capacités de l’organe sain, la manipulation nous interroge sur notre propre identité : à partir de quel niveau de transformation passe-t-on du statut d’homme à celui de trans-humain ? Est-il légitime de retarder notre vieillissement et notre mort ? Peut-on « s’augmenter sans se perdre ? » Là encore, cette thématique renforce au premier rang le concept de singularité.
Imaginons maintenant la convergence et l’évolution des quatre arguments que l’on vient de déployer. Nous nous situons bien sûr dans un futur qu’il n’est pas possible de préciser davantage.

L’homme a maîtrisé depuis longtemps la mécanique atomique, il sait construire des bio-calculateurs à l’échelle moléculaire, il sait les connecter en réseaux multi-couche, les activer chimiquement ou physiquement afin de constituer un ordinateur optimal à cette échelle atomique. L’architecture du cerveau humain est également bien explorée : des programmes de simulation cérébrale (utilisant les mêmes échelles de connexions que celles de l’homme) permettent de créer une entité de calcul équivalente en nombre d’instruction par unité de temps et en espace mémoire à celle de notre machinerie cérébrale.
Les sentiments humains (joie, bien-être, douleur, peur, tristesse, envie…) sont représentés par un magma algorithmique efficace.
Le test de Turing a été passé avec succès depuis longtemps par différents types d’algorithmes.
La créativité est un caractère que l’on parvient à faire émerger de codes évolutifs intégrant l’aléatoire (on retrouve ici les cygnes noirs de Taleb).
La totalité de l’information humaine est stockée et accessible sur le descendant de l’internet.
La connexion « homme-machine » a été optimisée et autorise des transferts massifs d’informations dans les deux sens.
Enfin, l’ensemble de ces évolutions technologiques a modifié et guidé l’esprit humain vers une « sagesse d’évolution », ceci via une modération des instincts primitifs et nuisibles à la communauté humaine (dans cet exercice, on est autorisé à rêver…). L’instant de la singularité semble alors établi : une entité de calcul globale intégrant l’humanité et ses représentations externes produit des « connaissances trans-humaines » et accélère de façon exponentielle la vitesse du progrès. L’homme, dépassé par l’IA qu’il a su engendrer, se contente de comprendre et de capitaliser les découvertes produites. Il doit veiller à conserver le pouvoir sur cette production et son emprise sur le monde.

La seconde question évoquait la proximité dans le temps de cette singularité. « Entre trente et cinquante ans ! » répondent en cœur certains scientifiques, technoprophètes ou philosophes des sciences cognitives. « Nous en sommes si proches que l’on peut en ressentir aujourd’hui les manifestations préliminaires » avancent les chercheurs de l’université de la singularité. Cette forme d’arrogance intellectuelle motive et justifie les investissements importants engagés mais elle transgresse aussi totalement le principe du hasard sauvage et sous-estime la longueur du chemin à parcourir.

Qui peut raisonnablement prédire que, proche du but (construire un code doué d’un pouvoir de création et de découverte surpassant l’inventivité humaine), nous ne serons pas confrontés à une obstruction de type Indécidabilité mathématique de Gödel ?

Ce théorème, ultime dans le sens qu’il contient, nous force à la mesure et à la prudence lors de toute prédiction : il fixe des limites dont l’au-delà nous échappe irrémédiablement. Objectivement, personne ne peut apporter une réponse acceptable en termes de date. Il faut juste laisser le temps se déployer, faire son œuvre et se tenir à l’écoute des signes et des cygnes que l’information nous renvoie.