La décision humaine à l'ère de l'Intelligence Artificielle

Je n'avais jamais lu un essai sur l'IA aussi pragmatique, accessible et informatif que celui-ci. L'IA est -elle utile pour décider, dangereuse et où et quand ? Faut-il toujours laisser le dernier mot à l'homme, même s'il est moins bon que l'IA en matière de décision ? Parfois oui, parfois non, et le livre dit pourquoi et quand. Il est enfin des situations où l'IA ne convient pas et il est bon de le savoir et de comprendre pourquoi. Même si j'ai une idée, modeste, de la façon dont l'IA fonctionne, jamais son interférence avec nos existences ne m'avait semblé aussi bien cernée. À lire d'urgence, quand tant d'âneries prétentieuses sont proférées sur cette invention majeure, particulièrement au sein du monde politique généralement ignorant et inconscient de ses errances. Quand Mistral, comme il l'a fait à leur demande récemment, essaie de leur expliquer, la salle est vide !

Le livre commence par une mise au point historique et montre que travailler sur l'IA est aussi travailler sur la machine humaine. Nous avons en effet 2 approches de pensée, l'une, type 1, rapide et approximative (reconnaître un visage, choisir son chemin, répondre à une question, etc.), mais pas toujours fiable et très personnelle, et l'autre, type 2, lente, mais universelle, sûre, rationnelle, déductive. Toute la science relève de la seconde et n'avait pas, jusqu'à nos jours, d'autres voies. L'IA a au début exploré la seconde voie et, sauf quelques réussites locales, ce fut un échec. C'est son approche en réseau, type 1, qui en a fait ce que nous connaissons aujourd'hui. Mais, comme notre cerveau, elle est loin d'être infaillible !

L'essai entreprend alors un travail essentiel pour nous, êtres humains, celui de savoir quand l'IA type 1 mérite d'être utilisée. Les domaines appropriés (comme imagerie médicale, logistique, finance, menaces) sont ceux où les objectifs sont clairs et les données abondantes. Et là, toute supervision humaine fait perdre l'avantage de l'IA dont les réponses sont, de manière écrasante, meilleures que celles des humains.

À côté de cela, d'autres domaines nombreux et à l'impact social important suscitent l'inquiétude que les auteurs passent en revue. Nous ne les résumerons pas ici, mais des conditions d'acceptabilité existent, que l'usage et les progrès rendront de plus en plus réalisables et efficaces. Ceux qui le réussiront gagneront un tel avantage comparatif que céder à la crainte manifestée par certains serait suicidaire et au fond, lâche.

Vient ensuite une considération essentielle sur des domaines (comme la justice, le couple, un recrutement ou le feu nucléaire) où l'IA ne peut pas et ne doit pas décider seule, mais peut aider la documentation, la préparation de ces décisions uniques. Le livre fait aussi une réflexion très fine sur la difficulté fréquente dans certains domaines, non pas seulement de décider chez l'homme, mais simplement de définir un objectif clair à cette décision et constate que la même ambiguïté, évidemment, rend l'IA inopérante. Il en est de même pour des décisions où les données manquent, quand le temps ne les a pas encore générées. Il est alors inévitable que l'IA ne puisse pas faire mieux que l'humain dans de tels cas ! Et elle fait, comme lui, des erreurs "humanoïdes".

Les auteurs proposent dans ces cas incertains (par essence ou par ambiguïtés humaines) de développer des processus de codécision, où l'IA devient un acteur de ce processus, aidant à repenser le processus de décision et permettant d'inclure ainsi des intrants externes, comme des considérations éthiques.

L'essai se termine par une projection sur les choix stratégiques que nos sociétés peuvent faire à propos du développement de l'IA, liée à l'implication citoyenne qui peut (doit ?) s'y projeter. Refus plus ou moins brutal et réactionnaire de l'IA ? Hyper optimisation techno au mépris de l'humain ? Une autre voie existe, appelée ici "DemocratIA", celle où l'homme garde un contrôle de ses erreurs et ambiguïtés, mais lui accorde l'usage et le profit d'une technologie encore à ses débuts. Une méthode est proposée, qui nécessitera d'être expérimentée et affinée, mais semble prometteuse.

J'ajouterai pour conclure une remarque personnelle, induite par la lecture de ce texte. Les grands problèmes et opportunités que rencontre notre monde actuel sont tous des problèmes complexes et systémiques (type 1) où l'approche purement descriptive et rationnelle, souvent hiérarchique (type 2), est débordée. Cette dernière a fait merveille dans la technologie dont nous disposons, mais s'essouffle au-delà. Traitement des déchets, réchauffement climatique, gestion des ressources, populations, partages des richesses produites, conflits sont des exemples de ce besoin de traitement systémique. Pour la première fois, l'outil conceptuel IA nous ouvre une voie d'accès à ces questions, par un mode d'approche totalement nouveau, même s'il n'est pas plus objectif que l'humain. Alors, n'est-ce pas l'occasion de mettre à l'épreuve une méthode nouvelle, au lieu de se contenter des réponses partielles de la méthode 2, comme l'est pour moi le sacre du Co² que je peine à croire être le seul paramètre du réchauffement qu'il faille prendre en compte ? J'aimerais avoir 20 ans pour voir la suite !

Flammarion (2026), 236 pages