L’intelligence artificielle (IA) accomplit des progrès fulgurants. Elle change en profondeur le monde de la justice, avec l’émergence d’une « justice prédictive » (Le Monde du 6 août 2019). Les robots chirurgicaux font des prodiges, qui pourraient conduire à des ruptures majeures dans les techniques médicales. L’IA serait-elle sur le point de surpasser l’intelligence humaine ou biologique (IB) ?

(...) IA et IB sont-elles concurrentes, et ont-elles des intérêts contraires ? L’IA ne pourrait avoir la velléité d’entrer en guerre contre l’IB que si deux conditions sont remplies : qu’elle se révèle plus performante que l’IB ; et qu’elle ait conscience de sa supériorité. Autrement dit : qu’elle soit dotée d’un pouvoir de décision, qui serait la marque d’une réelle autonomie, et d’une véritable conscience.

La première condition paraît remplie. « Le tsunami de l’IA » va déjà « trop vite et trop haut », estime Laurent Alexandre. « Le neurone perd chaque jour plus de points devant le transistor. » Dans la course à la productivité et à l’efficacité, « la rapidité et l’infaillibilité d’exécution des machines intelligentes » sont de nature à rendre « absolument non compétitif le travail humain ». Le combat est ici inégal. L’IA « galope », tandis que l’IB piétine, dans l’attente d’une hypothétique mutation génétique. Une diligence ne peut lutter contre le TGV.
Une « Singularité » bien hypothétique

Mais qu’en est-il de la seconde condition ? Alexandre écrit que « l’IA pourrait devenir supérieure à l’humanité », pour qui elle prend « des allures de crépuscule ». Ce qui fait la supériorité actuelle (bien qu’en grand péril ?) de l’humanité est l’existence d’une volonté consciente. Même s’ils ne sont pas toujours bons, l’homme est capable de faire des choix, de se doter de buts, et de se poser la question de la valeur de ceux-ci.

L’IA peut-elle être dotée (pire : se doter ?) d’une telle capacité ? Peut-elle devenir capable de réflexion, éthique et politique ? C’est toute la question de la « Singularité » (...)

Si l’intelligence biologique est limitée, et faillible, du moins s’accompagne-t-elle de cette conscience de soi, et de cette capacité de réflexion critique, que l’on ne pourrait attribuer à l’IA que par un tour de magie, semblable à celui qui fait du pantin Pinocchio un véritable être humain.

La croyance en un possible « basculement dans un monde où les robots seraient aussi intelligents que l’homme » témoigne d’une conception réductrice de l’intelligence, limitée à la « puissance de calcul » (...)

Il n’empêche que le développement « galopant » de l’IA pose question. Sans aller jusqu’à penser que, trop faibles devant les machines, nous allons devenir leurs esclaves, voire être exterminés par elles, nous devons reconnaître que la perspective d’une automatisation croissante de tâches humaines de plus en plus complexes, et d’une prise en charge, envahissante, d’activités cognitives de haut niveau par des algorithmes, nous conduit au-devant d’une triple crise : sociale, éthique et existentielle. (...)

Mais tel est alors sans doute, précisément, le véritable enjeu. L’IA nous met au défi de faire nos preuves en humanité ! Où est l’essentiel, qu’il nous faudrait préserver de toutes nos forces ? À travers la question de l’intelligence, c’est bien celle de la spécificité humaine qui est posée. « Que voulons-nous en tant qu’êtres humains ? Avons-nous une spécificité à faire valoir ? ».
Finalement, où est l’ennemi ?

Laurent Alexandre suggère de « sanctuariser quelques lignes rouges qui fondent notre humanité ». Il voit pour celle-ci trois piliers : le corps physique, l’esprit individuel et le hasard. Ce qui lui permet de conclure, de façon optimiste :

« Non, l’intelligence biologique ne mourra pas avec l’IA. »

Pour cela, nous ajouterions volontiers une condition : qu’elle sache quel est son véritable ennemi, et où il se cache. Car la crainte des méfaits d’une « IA forte » est le fruit d’une externalisation de nos terreurs. Nous craignons un ennemi extérieur, alors que, comme Paul Valéry nous en avait prévenus, le véritable ennemi est en nous. (...)

Le plus grand ennemi de l’intelligence humaine, et donc, finalement, de l’humanité, est tapi en l’homme. Il porte un nom : la bêtise. Ou, pour le dire encore plus clairement, sauf le respect que l’on doit au lecteur : la connerie…