Quel est l'avis des lecteurs sur Nexus de Yuval No
Yuval Noah Harari
NEXUS
Une brve histoire des rseaux d'information de l'ge de pierre l'IA.
Ed Albin Michel, 560 pages.
D'abord, ne pas avoir peur.
Ne pas craindre de plonger dans cet norme pav de plus de 500 pages, rudit, argument, visionnaire, d'une folle intelligence, et cependant, si facile lire, que dis-je dvorer. Ne pas hsiter s'immerger dans l'immensit des concepts qui sont travaills, foncer dedans, y rflchir, lire et relire pour comprendre quel point la pense de l'auteur nous fait dcouvrir des pans entiers de l'histoire de l'humanit, dont pour certains, je n'avais jamais entendu parler.
Nexus , reprend le principe des prcdents ouvrages succs de l'auteur, retracer l'histoire de l'humanit mais cette fois par l'analyse de l'information, la mise en perspective des rseaux de l'information humaine depuis la naissance de l'humain. Pas de mprise, ce n'est pas un essai sur l'Intelligence Artificielle, ce n'est pas une critique froce de l'IA, ce serait beaucoup trop rducteur. C'est avant tout la composition d'un immense puzzle o chaque pice, chaque poque, chaque tape de l'humanit, par des rseaux d'information, va se mettre en place l'dification puis souvent la disparition des socits Humaines.
Les rseaux d'information sont d'abord des rseaux de coopration, puis des armes de pouvoir. L'information nous dit Harari dans cette tonnante formule, c'est la colle qui fait tenir ensemble les rseaux . Et historiquement, l'auteur nous montre trs bien, illustrant la formule de Orwell, l'ignorance, c'est la force , que les deux plus puissants rseaux contemporains furent le nazisme et le stalinisme. le livre dcrit parfaitement, en dcortiquant habilement, et avec une incroyable rudition, que l'information mne la vrit laquelle mne son tour au pouvoir et parfois, mais pas bien souvent, la sagesse. Ou plutt, la vision nave, c'est que l'ide de l'information correspond la vrit. () mais la majorit de l'information, nous dit-il, ne cherche nullement la vrit. Car la vrit est complique () et raconter une fiction c'est bien plus facile. L'information est une arme, nous le savons, nous le voyons aujourd'hui avec la concentration des mdias, l'IA et ses potentialits infinies et inconnues inquite, avec le risque qu'elle devienne une bombe fatale pour l'humanit, sur une Terre devenue hostile toute vie humaine.
Successivement, l'auteur abordera plusieurs thmes : la mythologie et la bureaucratie, comment les royaumes de l'antiquit jusqu'aux tats actuels se sont, et construits et maintenus, par les rseaux d'information, le problme des informations errones et des Fake news mais avec encore, un temps, la possibilit de s'en protger par des mcanismes d'autocorrection. L'analyse historique des rseaux, pour certains centraliss, pour d'autres dcentraliss, le fonctionnement des tats par l'exploitation de l'information, des fins qui seront souvent tout sauf dmocratiques. Harari explique que l'histoire n'est pas l'tude du pass : c'est l'tude du changement. Toute une partie de l'ouvrage expose clairement la faon dont les hommes ont difi le Canon de la Bible qui est loin d'tre une rvlation, mais une collection de textes choisis, pour les uns, et abandonns pour d'autres, textes souvent discuter et remettre en question. Mme chose pour tous les autres livres sacrs, le Coran ou la Torah. Passionnant de voir comment cette parole, cense tre divine, au final tristement humaine, a faonn nos socits, les couches sociales et l'usage du pouvoir par les dominants. Il montre trs bien que les scientifiques sont trs souvent commands par des experts en mythologie et non l'inverse. En Iran comme en Isral, les physiciens nuclaires reoivent des ordres d'experts en thologie chiite ou juive, qui sont au pouvoir. Alors, si nous avons acquis beaucoup de connaissances par la technologie et l'information, celles-ci sont souvent mises au service d'idologies et de mythologies parfois dlirantes.
Dans la deuxime partie du livre, l'auteur dmontre qu'aujourd'hui, le pouvoir est dtenu par les puces informatiques et que nous sommes, de part et d'autre d'un rideau de silicium. Comment l'histoire n'est pas dterministe mais que nous avons, nous humains, encore la possibilit de faonner notre avenir.
L-dessus j'ai des doutes. Comment ne pas avoir des craintes, de voir l'IA prendre le pouvoir, financier par exemple, grce des algorithmes de plus en plus complexes et autonomes, au risque de ne plus pouvoir rien contrler. Ce n'est pas une prdiction anticipative mais bien une ralit objective. Comment les dmocraties peuvent-elles encore dbattre publiquement de quelque sujet que ce soit, qu'il s'agisse de la finance ou de la question du genre, s'il nous est dsormais impossible de savoir si nous nous adressons un tre humain ou un agent conversationnel, (un chabot) se faisant passer pour un humain ?
J'ai t passionn par la dernire partie de l'ouvrage, o l'auteur explique que ceux qui ont entre autres, le plus craindre de l'IA, ce sont bien les dictateurs, eux qui de tout temps ont concentr le pouvoir totalitaire dans une seule main, et vont se retrouver privs d'un pouvoir absolu par des algorithmes qui les transformeront en marionnettes.
Ne nous y trompons pas, nous sommes tous concerns par cette (r)volution, l'IA va influencer l'quilibre entre les socits dites dmocratiques (mais en existe-t-il qui le sont encore pleinement ?) et les socits totalitaires, le Brsil de Bolsonaro, la Chine, la Core du Nord, la Russie, et les USA si par malheur Trump reprenait le pouvoir.
Depuis toujours, lorsque les socits humaines ont cr des rseaux d'information, le bouche oreille, l'imprimerie et les livres sacrs, le tlgraphe et la Radio, la tlvision et internet, ces technologies ont chang et model l'information, et donc nos comportements.
Harari insiste longuement sur cette dichotomie entre l'existence de mcanismes d'autocorrection qui ont jusqu'ici rgul l'information, et l'IA et ses algorithmes o ces mcanismes n'existeront plus, o la machine pourra s'emballer d'elle-mme sans but humain reconnaissable.
Certes aujourd'hui, les mdias nous dversent des tonnes d'articles bienveillants et positifs, sur l'IA, que l'on pourrait appeler l'Intelligence Autre plutt que l'Intelligence Artificielle, et tout le bnfice que l'on pourrait en retirer, y compris marchand, au premier rang desquels la sant et la mdecine, (mme si l encore il y aurait beaucoup de choses nuancer) , mais ils ne font qu'effleurer au nom du culte de la performance l'attitude la fois tentaculaire et terroriste de ce qu'elle peut engendrer sur la surveillance de nos vies. Que se passera-t-il par exemple, lorsque des dcisions intressant l'ensemble de la collectivit, tel le taux directeur de la banque centrale des tats Unis qui sera choisi et impos par des algorithmes incontrls ?
Plus proche de nous.
On peut voir l'heure actuelle comment le drapage dans l'usage de certains algorithmes utiliss par la CNAF, la CNAM, les Caisses d'Assurance Vieillesse, peuvent cibler de manire illgale et sous couvert de dpister des fraudes fiscales, des personnes vulnrables dont des lments personnels, genre, antcdents mdicaux, race, ge, intgrs par les algorithmes, sont en ralit totalement illgaux.
On apprend aussi beaucoup de choses sur la faon dont sont conus les algorithmes permettant la reconnaissance faciale, utiliss parat-il de manire ponctuelle lors des JO de Paris et qui vont en ralit perdurer et tre dfinitivement adopts, absorbant des quantits massives d'informations, de photos de visages disponibles librement sur Internet.
On apprend comment des pays trs laxistes comme la Chine en matire d'usage du matriel gntique, mettent au point des algorithmes qui permettront d'tablir des liens entre tel ou tel gne dans certaines maladies, trs bien (!), tout en pillant les informations les plus confidentielles et intimes de l'tre humain, au point bientt de voir l'essentiel des informations mdicales de la plante affluer vers la Chine dont l'algorithme gntique deviendra imbattable.
Le propos de l'auteur est celui d'un chercheur, qui avance des projections et en tire les consquences, il ne cherche jamais prdire l'avenir. Sans doute pour ne pas semer la panique, Harari nuance ses arguments vers la fin de son opus, sans beaucoup de conviction cherchant des aspects prometteurs l'IA.
Pour moi en tous cas, ma forte crainte est celle, aprs la dictature du like, aprs la pollution de la sphre sociale par des fake news de plus en plus habiles, que ce soient des textes, des photos ou des vidos circulant sur les rseaux sociaux et mme les chanes d'infos , le risque , avec la caractristique principale de voir une machine apprendre et agir par elle-mme, est d'voluer vers une socit totalitaire qui emprisonnera et verrouillera les esprits. N'est-ce pas dj un peu le cas avec la puissance des mdias, orients 90 % car concentrs dans les mmes mains. Que reste-t-il en France d'une presse libre ?
Ainsi nous dit-il pour attnuer son propos et nous permettre de dormir encore la nuit, les nations continueront bien sr de se faire concurrence dans la course aux nouvelles technologies, mais elles devraient tout de mme se mettre d'accord pour limiter le dveloppement et le dploiement de technologies aussi dangereuses que les armes autonomes et les algorithmes manipulateurs- non par altruisme mais pour leur propre survie.
Oserai-je dire que je trouve le propos juste mais naf ? Parce qu'au fond, que contrler ? Une IA se cache plus aisment qu'une centrale nuclaire non ? Qu'est ce qui peut empcher un gouvernement mal intentionn de concevoir des armes chimiques qui seront dverss par des drones autonomes ? Pour le dire plus simplement, peut-on avoir confiance dans une humanit qui s'est toujours embourbe dans de mauvais choix ?
Mon but en partageant mes impressions dans cette chronique, difficile crire, car un tel essai est impossible rsumer, tant il y a de choses dcouvrir, de dogmes dboulonner, de questions se poser, de pistes avances pour une hypothtique survie heureuse de l'humanit, est avant tout de communiquer mon enthousiasme , tant la virtuosit de l'auteur, son analyse brillante est implacable , et ainsi de donner l'envie de le lire. D'encourager chacun rflchir sur nos chemins personnels qui mis bout bout, tracent celui de l'humanit.
Harari, n'est pas Jacques Attali. Ce qu'il projette court terme n'a plus rien d'une dystopie mais tient plutt d'une ralit objective. Si cela fait froid dans le dos tant on peine dceler une faille dans son analyse, au moins, ne restons pas dans le dni.
D'un point de vue philosophique, Harari enfin, montre trs bien que l'argument de son livre, ce n'est pas la faute de notre nature mais de nos rseaux d'information. En privilgiant, nous dit-il, l'ordre au dtriment de la vrit, les rseaux d'information humains ont produit beaucoup de pouvoir mais peu de sagesse .
Aujourd'hui, les rseaux sociaux sont devenus la premire source d'information. Ou de dsinformation. Il excelle lorsqu'il montre le rle dtestable qu'a pu jouer Facebook dans la guerre civile en Birmanie, mettant en exergue des vidos violentes et fausses, parce que la haine est davantage porteuse en termes d'coute. Et de rentabilit. Et donc d'engagement des consommateurs. Harari cite Clausewitz dans l'art de la guerre , la guerre est la continuation de la politique par d'autres moyens . Remporter des succs militaires sans les transformer en succs politiques ne sert rien. On le voit aujourd'hui au Moyen Orient.
Grand livre mme si un tel qualificatif ne veut pas dire grand-chose, un essai vertigineux une poque charnire de l'humanit. Mais chronique minuscule tant, il y a de choses, d'histoires et de concepts dcouvrir. Ce livre est de la dynamite mettre entre toutes les mains, et tous les ges, pour ne pas dire, bientt, on ne savait pas, on n'avait pas vu les choses ainsi, on a cru aveuglment dans le progrs technologique, mme si des avant gots, avec les exemples de la bulle financire de 2007 l'ont dj fait, transformant en explosifs la gestion des actifs pourris initis par les petits gnies de la finance.
Au mme titre que le drglement climatique, l'intelligence artificielle est devenue un problme universel.
lire absolument. Pour mieux comprendre et mieux dbattre.
Sur ce qui nous attend. Ou pas.