▲ NAM-IP/Infos

NAM-IP Infos 2018/1 – Recherche
Face aux terreurs, développer le spécifique humain

Conférence «Terreur et Cybernétique» organisée par la Fondation d’Arenberg avec la collaboration des Académies de Belgique,
le 17 novembre 2017

«Le danger est dans l’homme que cette civilisation s’efforce en ce moment de former» Georges Bernanos (1945)

Les plus grandes terreurs, en ce début de millénaire, viennent des pouvoirs dont l’humanité s’est dotée et qu’elle continue de développer depuis la mise au point parallèle de l’arme atomique et des outils informatiques. La destruction de la vie sur notre planète (et donc l’extinction de la race humaine) est une hypothèse que l’on ne peut plus écarter (voir R.-F. Poswick, Al Gore et le Pape François : même combat ?, Revue Générale, n° 11-12, nov.-déc. 2015, p. 27-30). Une éventualité qu’évoquait, sur base d’autres analyses, notre prix Nobel Christian de Duve (Génétique du péché originel. Le poids du passé sur l’avenir de la vie, Paris, Odile Jacob, 2009).
Sans écarter totalement et naïvement cette hypothèse nihiliste, je voudrais, après nous avoir fait peur une fois de plus – et il y a vraiment de quoi ! - proposer les plans de l’Arche de Noé qui pourrait probablement surfer sur le tsunami en cours, à savoir le développement volontaire et accéléré du «spécifique humain»!

A. Les terreurs

Terreurs pressenties

Ces terreurs ont été pressenties par une série d’artistes et de penseurs prophétiques à l’intuition remarquable:
- Fritz Lang avec son film-culte Metropolis dès 1927
- Charlie Chaplin avec un autre film-culte Les Temps Modernes, en 1936
- Georges Bernanos, avec La France contre les Robots, et La Révolution de la Liberté (1947)
- Georges Orwell avec son roman 1984 paru en 1949
- Jacques Ellul à travers de très nombreux écrits en 50 ans de réflexion, notamment Propagandes, 1962; Le système technicien, 2012.

 

Ce qui fait peur aujourd'hui

De ces terreurs, on peut trouver une expression médicale à travers l’ouvrage du Dr Laurent Alexandre (La mort de la mort, Paris Lattès, 2011): faudra-t-il bientôt que le droit de mourir soit inscrit dans une nouvelle charte des Droits de l’Homme?

«La grande convergence NBIC, c’est-à-dire les synergies entre Nanotechnologies, Biologie, Informatique, et Sciences Cognitives, doit provoquer, selon L. Alexandre, un recul accéléré de la mort».

 Voilà une hypothèse terrifiante et au moins aussi suicidaire à terme qu’une extinction de la race humaine: mourir à plus de 150 ans ou pouvoir conserver sa conscience personnelle dans un substrat moléculaire qui ne serait plus un corps humain, n’est-ce pas l’équivalent d’une fin d’humanité? Car on touche, dans cette ligne, toutes les promesses de manipulations de ce qui a construit notre structure humaine: manipulation des ADN, des gènes, des tissus moléculaires, régénérescence neuronales, chirurgies préventives, «augmentation» de la structure physique de l’humain, implants, etc.

On trouvera de bonnes synthèses critiques sur le trans-humanisme ou le post-humanisme chez Gilbert Hottois, Le transhumanisme est-il un humanisme?, Académie royale de Belgique, 2014 et dans Luc Ferry, La révolution transhumaniste. Comment la technomédecine et l'ubérisation du monde vont changer nos vies, Plon, 2016.

Une approche appraemment plus optimiste

On peut trouver une autre approche synthétique de ces terreurs sur un mode apparemment plus positif et dans une description qui pourrait faire croire à la neutralité des constats technologiques, dans les ouvrages récents de Pierre Giorgini, l’actuel Président-Recteur de l’Université Catholique de Lille (La Transition Fulgurante. Vers un bouleversement systémique du monde, Bayard, 2014; La Fulgurante Re-création, Bayard, 2015; Au Crépuscule des Lieux. Habiter ce monde en transition fulgurante, Bayard, 2016).

Je résume à ma façon les trois temps de la réflexion de Giorgini, mais en insistant sur ce qu’il appelle les «actants» des changements en cours. Giorgini retient 6 facteurs majeurs qui entraînent les mutations en cours:
1. L’explosion de la puissance de calcul (ordinateurs quantiques), de stockage (Big Data) et de transmission de l’information, associés à une miniaturisation extrême.
2. Un humain connecté en temps réel.
3. Des agents et des machines intelligents (robotisation en tous domaines).
4. Les simulations possibles en réalité virtuelle et augmentée en 3D.
5. L’impression 3D en pratiquement tous types de matériaux et dimensions.
6. Les nanosciences (qui étendent les applications de miniaturisation extrême).

 

Selon Giorgini, ces actants pousseraient l’humanité à s’organiser en systèmes coopératifs maillés (réseaux) dans une économie de fonctionnalité. Les principales mutations auxquelles l’humanité sera soumise, selon Giorgini, seraient:
a) au plan anthropologique : de toutes nouvelles relations entre l’individu et la communauté;
b) au plan socio-politique : un système de démocratie sous forme de «libertés surveillées»;
c) au plan socio-économique: un nouveau rapport à la «production».

 

L’ensemble de ces mutations mènerait à des temps libérés pour un «service utile» de l’humanité! Ces mutations mèneraient également à une métamorphose globalisée dans le champs des consciences en réseau (et Pierre Giorgini se réfère ici aux visions sur le long terme du paléontologue jésuite Teilhard de Chardin). Ces métamorphoses aboutiraient à une redéfinition des espaces de vie et à une cyberdémocratie mondiale: la «glocalisation» ou les «glocalités» en réseau, supports d’une conscience augmentée et partagée!

 

Le plus grand danger: les manipulations mentales

À l’énonciation compétente des terreurs majeures engendrées par la cybernétique, je voudrais ajouter une interprétation personnelle des phénomènes évoqués. Je les regrouperais sous le label de «manipulations mentales». On parle beaucoup plus souvent des différents types de manipulations physiques (génétiques ou autres)… mais, à ma connaissance, je n’ai jamais entendu un vrai débat public autour de cette notion de «manipulation mentale».

On sait, depuis l’époque des premières grandes dictatures mondiales modernes, surtout en Europe, comment la propagande est devenue progressivement une arme scientifiquement étudiée aux fins d’asservir des esprits à un régime. Si nous avons le courage de regarder de façon quelque peu critique nos environnements de communication, nous voyons que la presque totalité de la population mondiale est sous l’emprise d’un laminage gigantesque et quotidien des cerveaux.

On entend parler des manipulations génétiques et de diverses autres touchant aux structures biologiques du vivant (OGM, ADN). Des débats publics ont lieu régulièrement sur ces sujets. La convergence des techniques dans ces domaines souligne et renforce les développements possibles et effectifs, voire les applications qui transforment, augmentent ou réparent le vivant (y compris l’humain)!

Mais on entend très peu parler des «manipulations mentales» auxquelles l’humanité est soumise avec une force d’autant plus violente qu’elles ont tendance à s’accélérer et à s’universaliser! Les simples techniques de la «propagande» et de la «désinformation» (militaire et autre) qui ont précédé l’ère des calculateurs électroniques, étaient déjà conçues de façon scientifique et critique.

Ces phénomènes ont été décrits depuis longtemps (Vance Packard, La persuasion clandestine, 1958; Serge Tchakotine, Le viol des foules par la propagande politique, 1959; Jacques Ellul, Propagandes, 1962).

L’ordinateur a étendu ces techniques, très largement utilisées par tous les types de «marketing», à tous les domaines de la vie en société et, depuis Internet et les réseaux sociaux, à l’ensemble de la planète!
On peut rappeler ici l’intuition présentée sous forme de roman par Thierry Breton (une œuvre de jeunesse de celui qui deviendra quelques temps responsable des finances de la France à Bercy) Vatican III (1985): les États-Unis et l’Union Soviétique se combattent à travers les ressources en calculateurs géants manipulés par les relais culturels que sont pour les uns le Catholicisme et pour les autres l’Islam, le but stratégique de ce combat étant de capturer un maximum d’esprits dans la toile constituée par les réseaux affrontés, ces «continents logiques» aux idéologies opposées qui, chacun, présente l’ensemble des solutions à la vie quotidienne des citoyens de leur naissance à leur décès (politique, alimentation, culture, logement, sport, soins, loisirs, religion, recherche, etc). Cette manipulation mentale s’étend à toutes les populations du monde dans la mesure où elles se branchent (ou bien dès qu'«on» les banche) à la nébuleuse des objets et logiques connectés ou gérés par des ordinateurs.

 

Qui manipule les cerveaux humains?

Il s’agit d’une «manipulation» dans la mesure où les causes et les effets sont subliminaux. La démonstration d’une transformation du fonctionnement même du cerveau humain a déjà été faite (depuis assez longtemps), tant à travers les expériences pédagogiques menées de façon très systématique par Sherry Turckle sur des classes d’enfants scolarisés avec ou sans ordinateurs (création d’autistes de l’écran), qu’à travers des tests sur le fonctionnement différencié du cerveau humain quand il doit gérer la lecture sur une feuille imprimée ou sur un écran (d’autres connexions neuronales sont sollicitées)… pour ne citer que deux exemples documentés! (Voir: Sherry Turckle, Les enfants de l'ordinateur, Denoël, Paris, 1986; Derrick de Kerchove, La Civilisation vidéo-chrétienne, Retz, Paris, 1991).

 Qui décide de ces transformations du fonctionnement de notre cerveau et de notre mémoire? Et en fonction de quelle vision du spécifique humain et de l'avenir de l'humanité? Ces «directives manipulatrices» sont aujourd’hui aux mains de quelques empires électroniques qui n’ont comme vrais adversaires (si ce ne sont pas des alliés payés par eux) que des groupes nébuleux de hackers. Ces nouveaux empires sont aujourd'hui regroupés sous le label de GAFA (Google, Apple, Facebook et Amazon – on peut y ajouter AliBaba à partir de la Chine aujourd’hui) qu’il faut étendre, car ils sont très actifs dans l’ombre, aux empires d’ IBM et de Microsoft! Ce qui nous donnerait le sigle d’une fameuse pieuvre à l’appétit illimité: le GAFAMIAM (Google, Apple, Facebook, AMazon, IBM, Alibaba, Microsoft) !

Ne serait-il pas temps que le citoyen s’inquiète du bourrage de crâne auquel il est soumis «à l’insu de son plein gré»?

Une autre attitude par rapport à ces constats serait de considérer qu’ils sont le signe et la voie vers une humanité de demain qui serait en cours de modelage. Mais alors, ne faut-il pas plutôt tenter à tout prix de pénétrer les sanctuaires où se développent et se mettent en œuvre ces manipulations afin de les pousser à promouvoir ce que l’on peut considérer comme un «spécifique humain» qui pourrait être annulé, atrophié ou transformé d’une façon qui ne permettrait pas de conserver le meilleur de tout l’acquis de siècles d’hominisation et d’humanisation?

Une des dernières présentations de ces terreurs et des dossiers de réflexion en cours peuvent se trouver dans l'amusant livre de Christine Kerdellant, Dans la Google du loup, Plon, janvier 2017. La récolte des avis de quelques leaders des empires du GAFAMIAM ne fait que confirmer les tendances des recherches en cours et l'urgence de la proposition d'une action non de «refus» (il est trop tard pour cela et les moyens à mettre en œuvre sont inatteignables), mais de «proposition alternative positive» pour une évolution vraiment intelligente et critique! 

B. Le spécifique humain 

Cela nous permet de proposer une voie qui permette à l’humanité d’affronter ce tsunami de re-formatage de l’esprit humain.

1. Un nouvel âge de l’humanité

 En prolongation et en syntonie avec les intuitions très fortes du grand jésuite et paléontologue que fut Pierre Teilhard de Chardin, il nous faut «croire» (au sens de «être convaincu») qu’une extinction pure et simple de l’humanité semble être en contradiction avec l’émergence de la «conscience» qui en fait, sur le long terme (les milliards d’années de l’évolution du Cosmos), comme la figure de proue de toute l’évolution! Et, si on ne veut pas le «croire», peut-être, aujourd’hui, l’humain acquiert-il les moyens pour le «vouloir»! Et, dans ce cas, dans quelle ère nouvelle d’humanisation entrons-nous (ou «voulons-nous» entrer), nous et tous ceux qui y seront introduits par nos comportements et nos actions d’aujourd’hui?

Pendant des millénaires (c’est très bien mis en lumière dans les premiers chapitres du Sagesse de Yuval Noah Harari, 2011, 2015), l’humain s’est progressivement distingué de l’animal par son industriosité qui amplifiait ses capacités physiques naturelles grâce à des artefacts et lui donnait de dominer nature et animalité, physiquement. N’est-ce pas le portrait de l’homo faber?

Depuis seulement quelques milliers d’années et peut-être en lien avec le développement des «écritures» (d’abord pictographiques, ensuite alphaphonétiques), l’humain a développé ses facultés mentales. Ce développement a trouvé dans l’imprimerie et l’esprit critique scientifique qu’elle a permis, les premiers frémissements d’une mutation que nous vivons aujourd’hui. C’était – et c’est encore, car ces mutations ne peuvent s’observer que sur la longue durée et ne suppriment jamais totalement l’acquis du passé sur lequel elles se construisent – le temps de l’homo sapiens.

Muni des outils d’une maîtrise physique et intellectuelle sur lui-même et sur son environnement, proche d’exprimer cette maîtrise par des manipulations biologiques, génétiques, mais également «mentales» qui pourraient modifier la race humaine, l’humain n’entre-t-il pas, de ce fait même, dans l’ère de la responsabilité créationnelle?

Progressivement libéré de soucis de nutrition, progressivement libéré de la pénibilité du travail (cf. Jeremy Rifkin, La fin du travail,1995, 1996), explorateur de l’univers (avec des exigences d’adaptation physique à des environnements nouveaux), de plus en plus conscient de son rôle propre dans l’équilibre écologique de sa base planétaire originelle, doté d’outils d’expression et de communication qui lui permettent une créativité artistique et technique presque illimitée (intelligence artificielle), cet humain ne mérite-t-il pas le nom d’homo creativus? Ma foi chrétienne et la vision très positive proposée sur l’avenir de l’humain par Teilhard de Chardin me portent à exprimer très fortement et clairement cette nouvelle phase de développement de l’humanité. Religieusement, elle répond à l’intuition originelle de l’écrivain de la Genèse qui voit la création confiée à l’humain par le Dieu auquel il croit ; de plus elle correspond, pour le chrétien qui veut bien avoir une foi réfléchie, à l’idée fondamentale d’«incarnation» : le Dieu qui veut passer par l’humanité pour finaliser sa création (voir les très belles pages des Lettres de Paul de Tarse, le plus ancien témoin de la foi chrétienne, sur ce développement d’une humanité totale finalisant l’univers à la gloire de Dieu!).

 

2. Le spécifique humain

Penseurs du spécifique humain: Teilhard de Chardin, Blaise Pascal

 Sur base d’une vision positive de l’avenir de l’humanité, il nous faut chercher quels sont les vecteurs spécifiques de cette humanité qui lui permettraient, grâce à la nouvelle culture générée par l’adoption planétaire du code numérique à la place du code alphabétique, de passer du stade de groupes de molécules humaines juxtaposées au stade d’une construction fonctionnelle de ces molécules humaines pour les faire servir au développement d’un «corps» dont tous les éléments soient à la fois personnellement et collectivement conscients tout en développant les fonctions nécessaires à une nouvelle croissance, apte à permettre une extension même au-delà des limites de notre très petite planète!

Cette vision correspond non seulement aux visions de Teilhard de Chardin à la fin de sa vie et sur base de toute sa vision des lois de l’évolution, mais elle correspond étonnamment à un propos qui ne m’avait jamais frappé auparavant dans les Pensées de Pascal, propos que je rapproche avec étonnement des visions les plus avancées de Marvin Minsky, chercheur au M.I.T., sur l’avenir de l’intelligence artificielle. Marvin Minsky dans The Society of Mind (1988) [traduit en français en 1988 chez Inter-Édition à Paris sous le titre La Société de l'esprit] pense qu'une «telle société serait composée d'un grand nombre d'agents simples qui n'ont aucun la capacité suffisante pour constituer «seul» une entité intelligente; mais une signification (ou un «esprit» ou une «conscience» - mind) émergerait de leurs comportements unifiés et de leurs interactions… et cela devrait fonctionner comme une communauté scientifique» (p. 465).  

Quel ne fut pas mon étonnement de lire dans les Pensées de Blaise Pascal ‒ [édition de Brunsvicg chez le Livre de Poche, -, rappelons que Pascal fut l'inventeur de l'une des premières machines à calculer, la «pascaline», dont on parle systématiquement quand on décrit l'histoire de l'informatique]:

Qu'on s'imagine un corps plein de membres pensants (473/167, p. 216);  Membres. Commencer par là – Pour régler l'amour qu'on se doit à soi-même, il faut s'imaginer un corps plein de membres pensants, car nous sommes bien membres du tout, et voir comment chaque membre devrait s'aimer (474/265, p. 216). ‒  Si les pieds et les mains avaient une volonté particulière, jamais ils ne seraient dans leur ordre qu'en soumettant cette volonté particulière à la volonté première qui gouverne le corps entier. Hors de là, ils sont dans le désordre et dans le malheur; mais en ne voulant que le bien du corps, ils font leur propre bien (475/265, p. 216).

 

Le spécifique humain: relation et bon sens

 Je pense, pour ma part qu'il faut trouver dans le domaine du «relationnel» les pistes d'une vraie progression tant de la conscience ‒ un des caractères spécifiques de l'intelligence vraiment humaine ‒ que des prothèses électroniques qui permettront un développement de l'humanité selon sa spécificité. Sur le fonds, cette vision d'un «corps» dont tous les composants sont «intelligents», et, pour leur bien, doivent se mouvoir dans une relation positive avec l'ensemble du corps (et donc de proche en proche avec les autres éléments du corps), me semble constituer une vision humainement riche et techniquement prometteuse! Sommes-nous là au seuil ou aux fondements de la nouvelle éthique exigée par la culture du «tout numérique»?

Mais ceci donne une piste organisationnelle générale pour une mutation qui se fonde sur le «spécifique humain», base hors de laquelle, nous allons vers la disparition de l’espèce «humaine»!

Voici quelques traits de «spécificité» humaine qu’il nous faudrait développer à pas accélérés si nous voulons promouvoir cet homo creativus et non un Gholem ou un Frankenstein.

Ainsi, le virtuel n'est pas le réel (même s'il est une réalité). Comment créer la distance permanente qui permette de ne pas prendre le risque d'introduire l'humanité dans une sorte de rêve éveillé? Ce virtuel ne doit-il pas plutôt permettre à l'humain de jongler avec la réalité de façon nouvelle, grâce à des outils qui lui donnent d'étendre consciemment le champ du réel plutôt que de le masquer ou de l'escamoter? Il ne faut donc pas le limiter aux champs des expériences physiques ou des réalités économiques. N'ayons pas peur de l'étendre aux champs de l'éducation et de l'esprit. Mais en pressentant quel type d'humanité nous voulons façonner grâce à ce nouvel artefact ou, au moins, en posant des repères du "spécifique humain".

La mémoire n'est pas le souvenir. Le souvenir est l'intégration personnelle des mémoires… et, tant mieux, si ces dernières sont de plus en plus puissantes et fiables, voire si l'on peut un jour les brancher directement sur nos circuits biologiques cérébraux! Mais qui éduque au souvenir (c'est-à-dire: la manière de retrouver la bonne mémoire dans une situation existentielle donnée)? comment y éduque-t-on de façon spécifique et hors de tout 'bachotage'? avez-vous connaissance de beaucoup d'expériences pédagogiques allant dans ce sens?

Le raisonnement n'est pas le jugement. Un raisonnement impeccable utilisé mal à propos peut engendrer des catastrophes. Comment former le jugement à l'utilisation des raisonnements les plus appropriés dans une situation donnée? Tous les programmes actuels d'intelligence artificielle se heurtent à la barrière du «bon sens» qui est le moteur du jugement et non du raisonnement (voir Nils C. Nilsson, The Quest for Artificial Intelligence. A History of Ideas and Achievements, Cambridge University Press, 2010)!

La communication n'est pas la relation. Comment faire servir toute communication utilisant les caractéristiques de l'écriture électronique et du code numérique, pour créer et améliorer de vraies relations entre humains, respectueuses de la liberté, des différences, des complémentarités fonctionnelles? Au-delà de ces questions (que l'on ne pose pas assez, à mon avis), il faut restaurer ou promouvoir une vision de l'humain, qui soit cohérente avec les modifications d'environnement, de langage et d'écriture que nous vivons.

D'où l'importance de l'intérêt croissant pour la méditation et les voies d'accès à l'intériorité profonde de la personne, contre-poids indispensable à une technicité sans borne.

Tous ces éléments de spécificité (conscience, souvenir, jugement, relation, etc) construisent et alimentent la conscience, la créativité (l'imagination) et la liberté, moteurs du spécifique humain. Ils exigent un investissement rapide par une large éducation de l'humain sur ces différents axes de sa spécificité!

Conclusion

Noé ne savait pas très bien ce qu'il faisait en construisant une arche. Dans la foi, c'est-à-dire au nom d'une conviction transcendantale, il obéit et créa un véhicule qui serait compatible avec le bouleversement qui arrivait. Et ce véhicule fut le moyen de sauver, dans cet environnement nouveau, le vivant et le juste.

Mes deux propositions (mais il y en aurait probablement d'autres à développer) pourraient, à travers deux visions globales de l'avenir de l'humanité, donner sens ('signification' et 'orientation') à l'aventure mutationnelle que nous vivons. Elles pourraient commander des modalités d'utilisation humaniste de la techno-culture, fondée sur l'écriture électronique et le code numérique, en lui proposant deux symboles ou deux paradigmes.

La première proposition a déjà été évoquée : c’est celle d'une nouvelle ère d'hominisation (plutôt que d'une nouvelle ère mythique comme celle du Verseau) une ère que j'appellerais l'ère de l'Homo creativus. Une humanité qui prend en main, résolument et consciemment, son avenir (voir Teilhard de Chardin, Le Phénomène humain, Paris, Seuil, 1961, pp.312-315).

La seconde proposition ressort de ce que nous venons de dire : c’est la vision d’un Corps d’humanité en cours de croissance. C'est à Paul de Tarse, nourri sur ce point tant à la tradition sémitique qu'à sa formation hellénistique, que nous devons la vision de la construction en cours (ou en espérance) d'un "corps messianique". Cette très ample vision d'une évolution possible de l'humanité vers une unité quasi-biologique a été occultée par la constitution matérielle (matérialiste?) d'une "chrétienté" moulée sur la structure de l'Empire romain. De très anciens textes judéo-chrétiens, comme la Lettre à Diognète soulignent le vrai caractère universel de la construction d'humanité qui devait découler naturellement des principes mis en lumière par Jésus de Nazareth et son entourage. Peut-être l'ère de l'écriture électronique et du code numérique, par ses traits intrinsèquement 'universalisants', donne-t-elle une nouvelle opportunité pour l'humanité de croître dans cette orientation messianique, mais en évitant les pièges totalitaristes! La cybernétique n'est-elle pas un messianisme: un système de « gouvernance » et d'orientation qu'on le réfère à une divinité ou non? Le danger est, en effet, de se laisser inféoder à un nouvel Empire. C'est ici qu'il faut mentionner la condition sine qua non d'une croissance vers une vraie humanité interdépendante qui ne soit ni ruche, ni termitière: la défense et la promotion de la justice, de la conscience et de la liberté. C'était déjà le cri de Georges Bernanos dans La France contre les robots

"La civilisation des machines est la civilisation de la quantité opposée à celle de la qualité. Les imbéciles dominent par le Nombre, ils sont le nombre… le monde dominé par le nombre est ignoble…" ‒ "Le danger n'est pas que les Machines fassent de vous des esclaves, mais qu'on restreigne indéfiniment votre liberté au nom des Machines, de l'entretien, du fonctionnement, du perfectionnement de l'universelle machinerie. Le danger n'est pas que vous suiviez aveuglément la collectivité ‒ dictateurs, État, parti ‒ qui possède les Machines, dispose des Machines, vous donne ou vous refuse la production des Machines. Non, le danger n'est pas dans les machines, car il n'y a pas d'autre danger pour l'homme que l'homme lui-même. Le danger est dans l'homme que cette civilisation s'efforce en ce moment de former".

Qui va finaliser le plan de l’Arche et assembler les planches de salut? Qui va y faire monter le vivant et l’humain? Sommes-nous prêts? Et, sinon, comment pouvons-nous apprêter l’humanité à affronter ces «terreurs» désormais inéluctables?  

R.-Ferdinand Poswick, osb,
Administrateur du Computer Museum NAM-IP