Nous vivons une époque épique ! Voici qu’arrive l’idée d’une démocratie gérée par l’intelligence artificielle, où les machines discuteraient à notre place pour trouver des consensus. Cette idée semble sortir tout droit d’un roman de science-fiction dystopique ? Eh bien non ! C’est bien le projet inquiétant sur lequel travaillent des chercheurs de Google, comme le révèle un article récent de Rob Horning.

Une « machine de Habermas » pour remplacer le débat démocratique

Les chercheurs de Google ont baptisé leur création « machine de Habermas », en référence au philosophe allemand Jürgen Habermas et à sa théorie de l’espace public. Leur objectif affiché est d’aider « les petits groupes à trouver un terrain d’entente lors de discussions sur des sujets politiques clivants ». Concrètement, il s’agit d’un grand modèle de langage (LLM) chargé de générer des « déclarations de groupe » à partir des opinions individuelles exprimées par les participants. L’algorithme vise à maximiser l’approbation collective en lissant les désaccords.

La « machine de Habermas », développée par les chercheurs de Google DeepMind, est un système d’intelligence artificielle conçu pour faciliter les délibérations démocratiques et aider les groupes à trouver un terrain d’entente sur des sujets politiques ou sociaux complexes. Cette IA fonctionne comme un « médiateur » virtuel. (...)

L’objectif est d’identifier les points de convergence et de produire des énoncés de consensus qui représentent au mieux la volonté collective du groupe, tout en veillant à ce que toutes les perspectives soient prises en compte équitablement. Cette technologie vise à surmonter certaines limitations des méthodes traditionnelles de délibération, comme les biais de participation ou les difficultés à atteindre un consensus, en offrant un processus plus efficace et potentiellement plus équitable de prise de décision collective. (...)

Les résultats de leurs expériences sont pour le moins troublants : les participants ont systématiquement préféré les déclarations générées par la machine à celles produites par les humains du groupe. Comme si nous étions plus enclins à nous accorder avec une position artificielle et désincarnée qu’avec celle d’un autre être humain.
Un outil de contrôle social ou d’émancipation collective ?

Derrière les intentions louables affichées se cache en réalité un projet profondément antidémocratique. Loin de favoriser un véritable débat d’idées et une action collective, cette « machine de Habermas » vise avant tout à atténuer la conflictualité et à lisser les opinions divergentes. Il s’agit ni plus ni moins que d’automatiser la production du consensus, en court-circuitant le processus démocratique fait d’échanges, de confrontations et de compromis. Les chercheurs de Google vantent d’ailleurs la « rapidité » et « l’efficacité » de leur système par rapport aux délibérations humaines, jugées trop lentes et inefficaces.

On retrouve ici une vision technocratique et managériale de la démocratie. Elle est réduite à un simple processus d’optimisation et de résolution de problèmes. Exit les passions, les convictions et l’engagement citoyen : la politique devient une affaire de machines et d’algorithmes.
Vers une démocratie sans citoyens ?

Le danger ultime de tels outils est de vider la démocratie de sa substance en évacuant progressivement les citoyens du débat public. (...)

Les citoyens seraient réduits au rôle de simples pourvoyeurs de données, leurs opinions servant à nourrir les algorithmes. Les hommes politiques n’auraient plus qu’à faire des propositions qui vont dans le sens indiqué par la machine.

Cette approche techniciste nie la dimension fondamentalement humaine et sociale de la démocratie. Elle oublie que le processus démocratique ne vise pas seulement à prendre des décisions, mais aussi à forger une communauté politique à travers le débat et l’action collective.
Cette IA de Google menace aussi l’essence du travail social (...)

En effet, le cœur du travail social repose sur la relation humaine et l’empathie. Or, l’introduction d’une médiation algorithmique menace de réduire les interactions à des échanges standardisés et dépersonnalisés. (...)

si l’IA peut offrir des outils intéressants pour certaines tâches administratives, son utilisation dans le cœur du métier de travailleur social représente une menace sérieuse pour l’intégrité et la qualité de l’accompagnement social. Il est important que la profession continue de se mobiliser pour préserver l’essence humaine et sociale de son intervention, au risque de voir au fil du temps, une fois que les technologies seront là, son rôle réduit à celui de simple exécutant d’une machine.
Repenser la technologie au service de la démocratie

Face à ces dérives, il est urgent de repenser le rôle de la technologie dans nos systèmes démocratiques. Plutôt que de chercher à remplacer les débats citoyens par des machines sophistiquées, nous devrions explorer des pistes pour mettre l’IA au service d’une démocratie plus participative.

Cela pourrait passer par des outils d’aide à la délibération collective, facilitant l’organisation de débats à grande échelle. Ou encore par des systèmes de fact-checking en temps réel pour lutter contre la désinformation. L’essentiel est de garder l’humain au cœur du processus démocratique, la technologie ne devant être qu’un outil d’émancipation et non de contrôle.

En définitive, le projet de « machine de Habermas » nous rappelle que la démocratie n’est pas un simple mécanisme de prise de décision, mais bien un idéal politique fondé sur la participation active des citoyens. (...)