2084, un cauchemar technologique ?

 

Ce livre très volubile nous fait toucher du doigt les conséquences probables de l'évolution technologique en cours. L'histoire, romancée, est celle d'une petite entreprise de manutention et surtout celle d'un contremaître sympathique qui va progressivement se faire dominer par la machine et y perdre sa personnalité. Au cours du récit, de multiples incidentes abordent toutes les voies que peuvent prendre les technologies qui se développent sous nos yeux et dont les conséquences éventuelles sont souvent perçues ici comme inéluctables. L'occasion est ainsi fournie de poser de nombreuses questions, souvent pertinentes, sur l'organisation politique de nos sociétés. Un livre intéressant, sans difficulté de lecture sérieuse ni prétention à délivrer un message dogmatique, même si son pessimisme me semble excessif.

 

Évacuons ce dernier point. Les prévisions faites ici le sont dans un cadre que l'on peut définir comme "linéaire" ou "toutes choses restant égales par ailleurs". L'expérience montre que c'est bien rarement le cas. Les Gafams commettront de faux pas, des événements inattendus se produiront, des ressources feront défaut, les hommes politiques se réveilleront, etc. L'espèce humaine, si elle existe encore, n'a pu y arriver qu'avec des capacités qui sont certainement toujours en elle. La Chine, par exemple, qui n'est pourtant pas un modèle de démocratie, a rappelé fermement à ses Gafams que c'est l'État qui décide dans les questions d'intérêt général, que l'on approuve ou non sa vision. On aurait aimé que ce soient nos démocraties libérales qui le fassent. Je comprends le pessimisme de l'auteur, mais je ne le partage pas et j'espère avoir raison sans en être certain.

 

Le livre insiste sur deux points qui encadrent son raisonnement. Le premier est l'appropriation par le privé de décisions (choix de solutions, investissements, procédures, etc.) d'intérêt général. Quel poids possède encore l'intérêt général (l'État) dans la discussion, quand le savoir-faire et l'argent pour faire appartiennent au privé, dont la première mission (et c'est à mon avis bien ainsi) est de défendre ses intérêts propres. Le conflit est évident et les institutions démocratiques n'ont pas aujourd'hui les outils face à ce problème nouveau. Ce n'est pas, comme le livre pourrait parfois le laisser penser, un combat entre le bien et le mal, mais un choix politique de défense de l'intérêt général en présence d'un problème nouveau, tout en préservant la capacité d'innovation. Mais, où sont nos penseurs politiques ?

 

Le second point est l'affirmation que tout ce que la technique permet de faire se fera. C'est, il me semble, une loi qui n'a jamais été démentie. C'est sans doute le prix à payer pour préserver la curiosité humaine. La question est plutôt : comment cela se fera-t-il ? Oppenheimer, effrayé (après coup !) par la bombe A, prêchait pour que sa maîtrise ne quitte pas les mains des États, représentants de l'intérêt général. Solution partielle, qui n'a pas empêché les États-voyous d'entrer dans la danse. Mais c'est un début de solution quand même. Est-il sage, par exemple, de laisser le privé presque libre de tout faire dans le domaine biologique, pour ne pas parler des projets transhumanistes ? Ou dans la gestion d'internet ? Ou dans la circulation d'opinions, car, comme écrivait Yasha Mounk dans son livre "Le peuple contre la démocratie", le triomphe de la démocratie libérale demande, entre autres, la canalisation de l'information par une élite ? Cela nous fait revenir au point précédent qui est pour moi essentiel.

 

Ce livre foisonnant ouvre bien d'autres pistes de réflexion et aborde les mille avatars de la technologie. Mais tout cela me semble moins nouveau que le livre ne le laisse croire. Pouvons-nous imaginer le bouleversement qu'a été l'arrivée de l'électricité dans les foyers, ou même de l'eau courante ou des premières vaccinations ? Le chemin de fer a suscité des peurs telles que bien des communes ont installé leurs gares loin du centre ! Et le moteur à explosion fut coupable de la disparition de pans entiers de l'économie alors fondée sur l'énergie animale. La liste est longue et je pense que l'Intelligence artificielle ou la manipulation génétique ne sont qu'une étape de ce long chemin de la maîtrise par l'homme de son environnement. Qu'il se fasse aujourd'hui dans l'anarchie et hors de tout contrôle démocratique est le problème.

 

Enfin, j'ai été plusieurs fois gêné par des affirmations douteuses. Quand, par exemple, page 111 on affirme que l'IA Watson va concentrer tout le savoir si les médecins l'utilisent, cela me semble étrange. C'est bien le but de Watson de concentrer tout le savoir disponible pour en tirer le meilleur diagnostic. Mais ce n'est en rien Watson qui fera avancer le savoir ; c'est l'homme par son travail, sa recherche, ses expérimentations. L'IA est un outil, comme une voiture pour avancer. Mais ce n'est pas une voiture qui en concevra une nouvelle ! Autre exemple, page 155, quand l'auteur affirme que la machine remplace l'homme sans créer d'emploi. C'est inexact et l'histoire a montré que les emplois supprimés sont remplacés par d'autres, plus qualifiés, ce qui n'enlève rien à la dureté de la transition, certes. Non, le pire n'est pas toujours certain !

 

En dépit de ces quelques emportements et d'un pessimisme qui me paraît excessif, j'ai beaucoup apprécié cet essai, car il apporte au débat avec clarté des problèmes qu'il serait inconscient de nier. Ces problèmes ne sont ni moraux ni techniques. Ils sont politiques. Or, les classes politiques de nos démocraties libérales sont en général incultes scientifiquement et leurs débats consacrés au court terme. Quant aux problèmes à impact mondial, alors qu'ils deviennent dominants, les instances pour les traiter n'existent pas. Et ce n'est pas le GIEC, cette caricature, qui me fera changer d'avis. Mais, ne serais-je pas en train de retrouver le pessimisme de l'auteur ?

 

Ce livre (320 pages) a été édité en souscription privée et est disponible sur le site : paingrille.org