Débat sur la difficulté des prévisions dans la perspective des élections présidentielles

Ce soir, à l’invitation de Jean-Hervé Lorenzi, je participerais à un débat à la Fédération Française de l’Assurance sur “la difficulté des prévisions dans la perspective des élections présidentielles“. Le débat sera animé par Gilles Bénéplanc et Pierre Bollon avec Emeric Bréhier, directeur de l’Observatoire de la vie politique à la Fondation Jean-Jaurès, Dominique Reynié, professeur à Sciences Po et directeur général de la Fondation pour l’innovation politique. et Frédéric Dabi, directeur général délégué de l’Ifop.

Homo Deus, le salut par l’algorithme?

De plus en plus de monde s’interroge sur l’avenir de l’assurance, autour des mots « digital », « big data », « objets connectés », etc, prédisant une révolution à venir. Beaucoup pensent que la révolution a largement commencé, et qu’il serait temps de faire un peu de (science) fiction, pour imaginer ce qui nous attend. Depuis 2010, deux séries télévisées on proposé une vision du futur gouverné par les algorithmes, ‘Black Mirror’ et plus récemment ‘Westworld’. Et en septembre prochaine, la suite d’Homo Sapiens: une brève histoire de l’humanité sera publié en français*, promettant l’arrivé d’une nouvelle religion, le « dataïsme ». Nous reviendrons ici sur les deux ouvrages de Yuvall Harari, le premier sur l’histoire (passée) de l’humanité, et le second, sur l’histoire du futur.

https://freakonometrics.hypotheses.org/files/2017/02/blackmirror.png

De ‘Black Mirror’ à ‘Westworld’

Il y a quelques jours, nous apprenions que des ingénieurs japonnais avaient fabiqué des mini drones pollinisateurs pour remplacer des abeilles (Science et Avenir, 2017). Tous ceux qui vu le dernier épisode de ‘Black Mirror’, Hated in the Nation feront le parallèle. Dans cet épisode, les abeilles-drones sont piratées pour tuer la personne ayant reçu le plus de hastag #DeathTo sur un réseau social de type Twitter. De plus en plus de situations quotidiennes rappellent des trames de films ou de séries de sciences fiction.

Un ouvrage de science fiction qui a fait date est le livre publié en 1818 par Mary Shelley. Dans son roman, Victor Frankenstein créé artificiellement une créature qui va progressivement se doter de conscience. Fritz Lang propose revoit ce mythe en 1927 dans ‘Metropolis’, où un automate féminin séduisant ne nous tue pas, mais bouleverse le monde. On retrouvera une version moderne de ce personnage dans le film ‘Ex-Machina’, et surtout la série ‘WestWorld’, en dévoilant un monde artificiel où des humanoïdes animent un parc d’attraction futuriste, sur le thème du Far-West, en suivant un fil rouge, tout en s’adaptant aux désirs des personnes venues se distraire. Mais malgré toutes les précautions qui sont prises, certaines intelligences artificielles du parc vont acquérir une forme de mémoire, de conscience, et vont finir par se rebeller. Et cette prise de conscience va venir de leurs souvenirs, pourtant supposés être effacés, tous les soirs.

Cette importance de la mémoire et de l’histoire est un point essentiel. Il n’est alors pas étonnant de voir arriver deux superbes ouvrages écrits par un historien israélien, Yuval Harari. Dans le premier opus, il revenait sur l’histoire de l’homo sapiens, avant de proposer dans un second tome (à paraître en français à la rentrée) une réflexion passionnante sur l’intelligence artificielle et l’avenir de l’espèce humaine. « Au cours des dernières décennies, il y a eu une immense avancée dans l’intelligence informatique, mais il n’y a eu exactement aucune avancée dans la conscience informatique. Pour autant que nous le sachions, les ordinateurs en 2016 ne sont pas plus conscients que leurs prototypes dans les années 1950 ». C’est en tant qu’historien qu’il nous invite à réfléchir sur notre avenir.

Une brève histoire du passé

Jacob Bronowski, philosophe, mathématicien (il travailla avec le statisticien Jerzy Neyman et le fondateur de la théorie des jeux John von Neumann) est resté connu du grand public pour ses travaux de vulgarisation. En particulier, en 1974, il publiait « The Ascent of Man » qui servira de base à une série produite par la BBC. Dans cet ouvrage (dont le titre est une référence au second ouvrage de Charles Darwin, « The Descent of Man »), Jacob Bronowski retrace l’histoire de l’humanité, en lien avec les découvertes scientifiques. En 2011, Yuval Noah Harari s’attaque à la même tâche, avec un regard un peu différent, en publiant Homo Sapiens, une brève histoire de l’humanité. Son ouvrage paru en hébreu a été traduit en anglais en 2014, avant d’être publié en français en 2015.

Dans ce premier opus, qui s’est vendue à des millions d’exemplaires à travers le monde, Harari revient sur l’histoire de l’Homo Sapiens, qui a commencé voilà 70 000 ans, avec la révolution cognitive qui a lancé l’histoire de notre espèce, basé sur une mutation génétique, permettant de penser, et surtout de communiquer, avec un langage très différent de celui utilisé par les autres espèces. Non seulement l’homo sapiens peut transmettre des informations, mais surtout, il peut créer des mondes imaginés, des mythes. Selon la thèse de Yuval Harari, c’est notre capacité à raconter des histoires, et à créer des mythes qui a fait de l’Homo Sapiens ce qu’il est devenu. Les chimpanzés, qui partagent pourtant une grande partie de notre code génétique, ne peuvent pas fonctionner efficacement dans des groupes supérieurs à 150. Mais les Homo Sapiens y parviennent. Et nous utilisons nos compétences linguistiques uniques (à l’échelle des espèces) pour créer des mythes – justice, droits de l’homme, argent, religion, nationalité – qui nous lient et nous permettent de coopérer à une grande échelle. Le « mythe des droits de l’homme », par exemple, nous est imposé comme un ensemble de droits « naturels » qu’auraient les êtres humains, mais qui pourtant surprendraient les grecs d’Aristote, ou les membres de nombre de tribus dans le Pacifique.

Un autre mythe récent et important évoqué par Yuval Harari est celui lié au capitalisme, le « mythe du consummérisme romantique ». Un mâle alpha chimpanzé n’irait jamais utiliser son pouvoir pour aller en vacances sur le territoire d’un groupe voisin de chimpanzés. Pourtant, les homo sapiens le font, et cela leur semble « naturel ». Acheter permet de résoudre tous les problèmes : acheter une voiture, un téléphone, un cours de yoga. Ou mieux, un voyage, symbole le plus fort de ce « mythe du consummérisme romantique ». Le romantisme nous pousse à multiplier les expériences (culinaires, musicales), à rompre avec notre cadre familier, et quotidien : il faut « expérimenter ». Le consummérisme nous dit que pour être heureux, il faut consommer. Consommer des produits, des services, des « expériences » justement. Aller deux semaines en Inde ce n’est plus un voyage, mais une « expérience ». Et cette consommation, qui va élargir nos horizons, ne pourra que nous rendre heureux. Mais cette vision est nouvelle. A l’époque des pharaons égyptiens, un homme riche n’emmenait pas sa femme magasiner à Babylone, mais éventuellement envisageait de se faire construire un somptueux tombeau. Les cultures changent, et de nouveaux mythes remplacent les anciens.

Un point intéressant pour conclure ici est l’importance des technologie et des sciences dans l’histoire humaine. Comme le note Yuval Harari « le principal commandement que l’humanisme nous a donné est de créer un sens pour un monde sans signification ». Les hommes ont besoin de comprendre, et les sciences se sont développé en ce sens. Et les technologies ont suivi, en parallèle. Et leur impact a été au-delà du champ traditionnel des sciences. En 1850, le socialisme était un mouvement marginal, qui s’est développé et a révolutionné le monde, à sa manière. A la même époque, Muhammad Al-Mahdi (محمد أحمد ابن عبد الله), prétendant être le Mahdi annoncé par l’islam, tenta de révolutionner le monde arabe, alors qu’en Chine Hong Xiuquan (洪秀全), se proclama « Empereur du Ciel » et lança la Révolte des Taiping. Mais seul Karl Marx réussi. L’explication de Yuval Harari est que Marx, Engels et Lénine avaient compris l’importance de la technologie. Comme l’a dit Lénine «le communisme est le pouvoir des soviets et l’électrification de tout le pays». Autrement dit, il ne peut y avoir de communisme sans électricité, sans chemins de fer, sans radio. En voyant l’informatique comme l’équivalent du chemin de fer et de l’électricité, Yuval Harari place 2017 comme l’équivalent de 1850, et se demande ce que pourrait être notre futur, suite à la révolution que nous sommes en train de vivre.

Une brève histoire du futur

Peu après la parution en anglais du premier opus, Yuval Harari a publié un second opus, sur la « révolution suivante » que nous vivons actuellement. Beaucoup ont vu, à sa sorti, “Homo Deus” comme un livre de «fin de l’histoire», au sens que lui a donné Francis Fukuyama. Mais il ne s’agit pas de la fin, au contraire : le monde (et en particulier la technologie) évolue si vite qu’il est impossible de prévoir ce que l’avenir pourrait être, mais on peut tenter un peu de science fiction. En poursuivant sur sa théorie des mythes, Yuval Harari prétend que l’on est en train de voir naître un nouveau mythe, le « dataïsme ».

Le dataïsme est une sorte une religion. Les divinités agricoles ont été remplacé par les esprits des chasseurs-cueilleurs, puis les grandes religions se sont imposées, dans l’histoire de l’humanité. Les fondamentalistes islamiques ont longtemps répété le mantra que «l’islam est la réponse», mais en 2017, n’est-on pas en train d’instaurer un «Google est la réponse». Les religions traditionnelles ont expliqué que chaque mot, chaque action, faisaient partie d’un grand plan cosmique, et que Dieu nous observait chaque minute et se souciait de toutes nos pensées, de tous nos sentiments. La religion des données dit maintenant que chaque mot et chaque action font partie du grand flux de données, que les algorithmes vous observent et qu’ils se soucient de tout ce que nous faisons et ressentons. L’algorithme est « sans doute le concept le plus important dans notre monde » aujourd’hui, comme le dit Yuval Harari. Pourtant, un algorithme est simplement un modèle mathématique pour résoudre des problèmes, de manière mécanique, automatique. Jusqu’à tout récemment, la meilleure solution pour résoudre des problèmes sur Terre était un cerveau humain, si possible en coopérant. Les algorithmes nous dépassent à présent à une liste toujours croissante de tâches cognitives. Ils font des transactions financières pour nous, plusieurs compagnies ont même mis un algorithme au sein d de leur conseil d’administration. Et ces algorithmes ne cherchent plus du sens, ils cherchent juste des corrélations, des proximités, afin de prévoir de la meilleure manière. En ce sens, c’est effectivement une révolution.

Si les capitalistes croient en la main invisible du marché, les dataïstes croient en la main invisible du flux de données et de l’algorithme, qui pourraient réguler et éviter la congestion automobile, optimiser nos emplois du temps. Comme le capitalisme, le dataïsme a aussi commencé comme une théorie scientifique « neutre », mais est maintenant en mutation dans une religion qui prétend déterminer le bien et le mal. La valeur suprême de cette nouvelle religion est le « flux d’information » (il n’est pas étonnant de voir que la « liberté de l’information » est devenu aussi importante). Pour reprendre la parallèle que propose Yuval Harari, de même façon qu’au début de la période moderne, les impérialistes européens venaient en Afrique et achetaient des pays entiers pour quelques perles, maintenant nous donnons d’importantes possessions, nos données personnelles, à Google et Facebook en échange de vidéos de chats. On semble avoir perdu de vu ce qui était en jeu, et il est très difficile de commencer à penser à la politique en ce début du XXIe siècle. Pire encore, les grandes décisions ne sont plus prises par les gouvernements, mais par une « petite caste internationale d’hommes d’affaires, d’entrepreneurs et d’ingénieurs ». Ces personnes semblent avoir une vision sur l’avenir, comme Yuval Harari peut en avoir (sur la vie éternelle, l’intelligence artificielle, etc), alors que les gouvernements sont devenus de simples gestionnaires.

Les changements que Harari décrit, et notre incapacité à s’adapter au rythme de ceux-ci, pourraient avoir aussi des conséquences économiques importantes. Il considère la perte d’emplois énorme due à l’automatisation comme très probable et «effrayante», résultant dans la création d’une «classe inutile» comprenant des milliards de personnes dépourvues de toute valeur économique ou politique. Cela a commencé avec la classe ouvrière, qui devient la classe de ‘unworking’. Ils seront la première partie de la classe inutile, mais elle a commencé à s’étendre aux classes moyennes.

Oui, le fil rouge que suit Yuval Harai fait peur. Ou que diriez-vous d’un Amazon Kindle amélioré qui lit vos émotions pendant que vous lisez un livre? En utilisant divers capteurs de corps, il pourrait déterminer quelles parties du livre vous font rire ou pleurer, quand votre pouls se réveille, quand vous vous ennuyez ou éveillez. Il saurait lire et se souvenir de nos réactions mieux que notre cerveau conscient. Et Yuval Harari voit plusieurs dangers profond au fait que l’homo sapiens perd sa capacité à faire des choix, libres. Que se passera-t-il une fois que nous nous rendons compte que les clients et les électeurs ne font jamais de choix libres, et que se passera-t-il une fois que nous avons la technologie pour calculer, concevoir ou déjouer leurs sentiments? La théorie des jeux est assez pessimistes car les seules décisions non prévisibles sont des décisions complètement aléatoires. «Nous pouvons bien voir, en fait, un renversement complet de la révolution humaniste», suggère-t-il, «en débarrassant les humains de l’autorité et en mettant des autorités non humaines en charge». Et une fois qu’un dispositif d’intelligence artificielle est devenu indispensable ce n’est plus un gadget, c’est devenu la règle. « Une fois que Google, Facebook et d’autres algorithmes deviennent des oracles omniscients, ils peuvent évoluer en agents et enfin en souverains. » Et c’est effrayant…

Références

Anderson, W. The End of Theory: The Data Deluge Makes the Scientific Method Obsolete. Wired, 2008.

Wortham, J. « ‘Black Mirror’ and the Horrors and Delights of Technology » The New York Times,‎ 30 janvier 2015 

Science et Avenir. Des mini drones pollinisateurs à la rescousse des abeilles. 2017

* la traduction française n’étant pas disponible, il faudra se contenter d’une traduction personnelle de plusieurs néologismes d’Harari.