En réaction à la tribune du sociologue Manuel Cervera-Marzal consacrée aux risques et aux usages plus prometteurs provoqués par l’IA à l’université, trois enseignants-chercheurs en sociologie à l’Université d’Évry Paris-Saclay jugent nécessaire d’avoir une approche beaucoup plus critique, « en faisant de l’université un lieu de résistance aux évolutions sociales, économiques, technologiques ».

La tribune du sociologue Manuel Cervera-Marzal publiée dans Le Monde le 29 août et consacrée aux bouleversements provoqués par l’IA à l’université commençait bien. Elle rappelait fort justement le désarroi dans lequel sont plongés les collègues universitaires depuis quelques mois face au déferlement de travaux réalisés par des étudiants en ayant recours à l’IA. Sauf que son auteur voit également des « usages plus prometteurs » de cette technologie, appelant ainsi ses collègues à ne pas l’interdire au prétexte que cela serait d’emblée « inapplicable » mais plutôt à s’y adapter en transformant leurs modalités d’enseignement et d’évaluation.

Il ne s’agit évidemment pas « d’ériger des interdits inapplicables » comme le craint l’auteur de cette tribune, et comme cela est souvent mal posé à propos des enjeux environnementaux avec la notion discutable d’« écologie punitive ». Au contraire, l’objectif est d’encourager la population à questionner la place de l’IA dans la société, ses effets et le cas échéant, de décider de s’y opposer collectivement. Il est indéniable que l’IA fait dorénavant partie de notre époque. Faut-il pour autant automatiquement accepter tout ce qui en découle, comme anesthésiés au regard de toutes les facettes du « progrès technologique » ? Il est ainsi bien étrange de la part d’un sociologue de considérer qu’il est des évolutions sociales et technologiques qu’il ne serait pas possible de contester, comme si celles-ci étaient inéluctables et naturelles – en dirait-on tout autant des inégalités de genres, de races ou de classes ?

L’impasse des « bons et mauvais usages » de l’IA (...)

Nombre d’auteurs comme Alain Gras ont démenti cette idée reçue qu’il existerait de « bons et mauvais usages » de techniques sophistiquées, considérées indépendamment de leurs contextes économiques, sociaux et politiques, à l’image du bon et mauvais usage que nous pourrions faire d’un couteau ou d’un marteau [3]. Or, en la matière, il ne saurait y avoir de continuité, ni de comparaison possible entre un marteau et l’IA.

Lorsque Manuel Cervera-Marzal repère durant ses cours des usages intéressants de l’IA, pour « générer un contre-argument » ou « comme point de départ pour discuter un texte », on se demande qui sont ces étudiants qui parviennent à résister à la tentation de faire faire à l’IA le résumé qu’ils devaient initialement réaliser. Car l’IA est d’abord conçue comme une technologie qui se substitue à l’analyse. Il est par conséquent difficile de l’utiliser autrement. Ainsi, que signifierait « faire un usage différent » du smartphone dont la finalité est de pouvoir communiquer à tout moment, et de densifier chaque instant où l’on se retrouve seul et éloigné de ses connaissances ? Quel sens pourrait avoir une utilisation réduite ou mesurée de ce moyen de communication, contraire aux objectifs qui ont guidé sa fabrication et commercialisation ? Il parait inconcevable d’envisager par le seul changement d’usage un autre rapport au temps et à l’espace que celui intrinsèquement contenu dans ces techniques hypercomplexes. (...)

Que dire également de l’argument rebattu selon lequel, par le passé, « chaque grande innovation technique a suscité une sorte de panique morale », argument qui sert de cheval de Troie pour empêcher toute réflexion critique menée à propos de l’innovation technologique. (...)

Loin d’avoir été exagérées, ou rabaissées au rang de peurs infondées, il semblerait que lorsque l’on relit des auteurs tels que Marx, Heidegger, Arendt, Anders, Illich ou encore Ellul, ces contestations et ces analyses critiques furent annonciatrices des dégâts provoqués par ces transformations technologiques aujourd’hui et que souvent, elles ont même été dépassées par l’ampleur des catastrophes actuelles.

In fine, cette tribune est symptomatique des difficultés de la gauche à penser la critique de la technique aujourd’hui, et ce indissociablement d’une critique du capitalisme. (...)

Comme en conclut Manuel Cervera-Marzal, l’université a bien pour vocation l’émancipation. Sauf qu’à la différence de l’auteur, nous considérons qu’une telle émancipation est incompatible avec le formatage des étudiants aux réalités techniques de leur temps. Elle doit au contraire leur donner les moyens de penser de manière critique ces dernières en faisant de l’université un lieu de résistance aux évolutions sociales, économiques, technologiques, etc., ainsi que l’appelaient de leurs vœux des penseurs critiques tels que Jacques Derrida [4] et Noam Chomsky

Lire aussi :

– Une dépossession démocratique : traité de non-prolifération de l’IA et appel à l’action

L’IA est une technologie qui nous dépossède. Face au péril anti-démocratique et au techno-solutionnisme naïf qu’elle implique, nous appelons à un mouvement citoyen face au développement des IA génératives, à une refonte des politiques publiques et à l’instauration de normes internationales contraignantes pour encadrer la consommation d’eau et d’énergie des data centers. (...)
(...)

L’IA : un recul démocratique

De l’industrialisation, de la 5G, jusqu’à l’IA générative, de l’extrême gauche à l’extrême droite, aucune offre politique institutionnelle ne remet en cause, aujourd’hui, la sotériologie du progrès technique. La critique de la révolution industrielle semble être un point mort de l’actualité. Il faut aller de l’avant, la preuve, Emmanuel Macron a affirmé que la France allait investir 109 milliards de dollars dans l’IA. Il faut progresser, quoi qu’il en coûte.

Quiconque s’y oppose se voit affublé de qualificatifs dégradants, décrédibilisants. Souvenons-nous du moment où l’ancien député européen, Benoit Hamon, émettait des réserves vis-à-vis de la 5G, et ce, à raison (...)

Remettre la décision dans les mains des citoyens n’a pourtant rien de révolutionnaire, c’est l’une des caractéristiques propres d’une démocratie. (...)

La 5G est très loin d’être la seule technologie concernée par ce cas, puisque c’est quasiment le cas de… tous les dispositifs techniques que nous utilisons aujourd’hui. De nombreuses utilisations ont été imposées par le haut. Les annuaires en papier ont été peu à peu supprimés, au profit des téléphones. L’expression qui était autrefois satirique « On arrête pas le progrès » fait désormais preuve de vérité à la fois indéniable et incontestable.
Techniques autoritaires et techniques démocratiques

Nous ne pouvons espérer, ni justice sociale, ni réelle démocratie tant que nous sommes soumis à ce règne de la machine. Lewis Mumford distingue les techniques démocratiques des techniques autoritaires.

Les techniques démocratiques sont accessibles, décentralisées et adaptables aux besoins de chacun. (...)

A contrario, les techniques autoritaires sont centralisées et d’une grande complexité. Elles nécessitent des infrastructures extrêmement lourdes, ce qui les rend inaccessibles à la plupart des individus. (...)

Un techno-solutionnisme naïf

Les plus fervents techno-optimistes affirmeront que l’IA est une superbe nouvelle et qu’elle permettra de « décarboner l’environnement ». Ces derniers font preuve d’une naïveté déconcertante à l’égard des technologies, n’ont-ils pas retenu la leçon de Prométhée ? Les mêmes erreurs, encore et encore : nous souhaitons régler des problèmes que nous avons provoqués nous-mêmes à l’aide des mêmes techniques qui les ont provoqués, et nous répétons ce cercle à l’infini. (...)

D’après l’Institut Supérieur de l’Environnement, l’IA génèrerait à travers la consommation énergétique de ses infrastructures une pollution numérique considérable. Les quantités d’énergie requises pour le fonctionnement de l’IA sont gigantesques. Une infrastructure lourde doit être en mesure de fonctionner en permanence.

Plus que l’assèchement de notre raison critique, l’intelligence artificielle aura bientôt raison de nos nappes phréatiques. (...)

L’intelligence artificielle, une révolution aux coûts énergétiques et hydriques colossaux (...)

Une explosion énergétique annoncée (...)

Des politiques publiques à double tranchant

En France, la politique actuelle de soutien au développement de l’intelligence artificielle s’accompagne d’un régime fiscal et électrique particulièrement avantageux pour les data centers. (...)

Appel à l’action

De plus, nous ne devons pas oublier, que l’IA, par son hypercentralisation, tout comme le nucléaire, c’est le recul de la démocratie. L’IA est une technologie qui nous dépossède.

Les citoyens n’ont aucun mot à dire sur le fonctionnement de l’IA. C’est avant tout une affaire de technocrates au pouvoir. (...)

Face à ces constats alarmants, nous appelons a un mouvement citoyen, une refonte des politiques publiques et à l’instauration de normes internationales contraignantes pour encadrer la consommation d’eau et d’énergie des data centers. Le mouvement espagnol « Tu nube seca mi río », par exemple, illustre une mobilisation citoyenne contre les impacts hydriques des infrastructures numériques, tandis que des groupes locaux aux États-Unis et en Inde s’organisent pour empêcher la propagation des data centers dans des zones déjà fragilisées par la sécheresse et la pollution.

Tout comme le nucléaire, l’IA présente un risque technologique majeur. Son caractère systémique risque de faire de l’IA et les conséquences de son développement un désastre pour la race humaine. Les dangers liés au développement d’une IA non alignée sont ceux d’une absorption trop importante de l’économie aux mains de monopoles, d’une dérégulation du marché du travail et d’une perte de contrôle totale, à l’instar d’un emballement d’un réacteur à fission.

Nous sommes bien conscients que le jeu de la compétition internationale exigent une surenchère constante, cependant l’histoire nous montre qu’il existe une voie vers la coopération, comme l’illustrent les accords de non-prolifération nucléaire dont la première ébauche date du 1er juillet 1968 (...)

Nous appelons à une prise de conscience collective et à une action immédiate pour encadrer le développement de l’IA, protéger nos ressources naturelles et préserver notre démocratie, avant que la course au progrès ne devienne une course à l’abîme. (...)

Vous pouvez signer notre pétition ici.