L’intelligence artificielle générale (AGI) est-elle un réel idéal ? Est-ce un idéal bénéfique pour la majorité ? Faut-il continuer de financer la recherche pour la création d’une telle entité supposée dépasser les capacités humaines quand, dans le même temps, ceux qui y œuvrent alertent sur les dangers d’une AGI « non-alignées » avec les valeurs de l’humanité ?
Lorsqu’on creuse ce paradoxe, on tombe rapidement sur différents courants de pensée qui animent depuis plusieurs années la Silicon Valley. Transhumanisme, altruisme effectif, long-termisme… Le monde technologique baigne dans ces mouvements qui irriguent, en particulier, la recherche en intelligence artificielle la plus en vue.
Si ces mouvements sont débattus depuis longtemps, la critique s’accentue depuis plusieurs mois. Elle est notamment portée par les alertes de l’ingénieure Timnit Gebru et le philosophe Emile Torres, qui alertent sur les liens idéologiques que ces courants entretiennent avec un mouvement plus ancien : l’eugénisme. Dans un article tout juste paru dans la revue First Monday, les deux scientifiques relient les idées au fondement des TESCREAL (un acronyme qui réunit transhumanisme, Extropianisme, singularitarisme, cosmism, Rationalisme, Altruisme Effectif et long-termisme) à celles de ce courant dont les idées ont irrigué les démocraties européennes au tournant du XXe siècle, et qui en a motivé les heures les plus sombres. (...)
à force de voir émerger les sept mêmes courants de pensée au gré de leurs recherches, Gebru et Torres expliquent avoir imaginé l’acronyme TESCREAL tant pour les rassembler que pour en faciliter la citation. « Une fois cette étape franchie, il est apparu que la conceptualisation de ces idéologies comme constituantes d’un mouvement unique, cohérent et s’étendant sur les trois dernières décennies était justifiée par des considérations historiques, sociologiques et philosophiques. » (...)
Aux racines des idées TESCREAL
Prenons donc une approche historique. De ce point de vue, dans la tradition occidentale, on retrouve des idées eugénistes jusque chez Platon et Aristote. Pour autant, le mouvement eugéniste en lui-même est issu du travail de Francis Galton, qui s’inspire alors de son cousin Charles Darwin. L’anthropologue britannique crée le terme eugénisme en 1883, affirme que les capacités humaines sont héréditaires, et encourage à créer une « race d’hommes très doués » par des mariages spécifiques cultivés sur plusieurs générations.
L’eugénisme prend, en réalité, deux formes. La positive consiste à améliorer les traits considérés « désirables » dans la population. La négative consiste à réduire la part de la population considérée « inadaptée » dans le total, une logique qui se traduit directement dans les programmes de stérilisation forcée dont les premières occurrences sont tournées contre les populations noires et mexicaines et remontent aux années 1910 en Californie. Ces programmes ont inspiré les logiques d’« hygiène raciale » développées par le régime nazi jusqu’à commettre l’Holocauste.
Les stérilisations forcées, elles, ont perduré dans les colonies françaises puis les DOM jusqu’à l’époque où, dans la métropole, les femmes se battaient pour obtenir le droit à l’avortement. À l’heure des pénuries de pilule abortive, le sujet continue même de faire controverse.
Gebru et Torres qualifient ces tendances de « première vague » de l’eugénisme. Avec les technologies, une deuxième vague émerge : plus besoin de s’embarrasser de générations pour atteindre le but fixé par Galton, la technique permet de « sélectionner » des gènes, de « designer » des enfants avec des traits phénotypiques ou d’intelligence particuliers, voire de se modifier soi-même radicalement.
Sept courants relatifs à la fin des temps
C’est là que surgit le « T » de TESCREAL : le mouvement transhumaniste, qui déclare qu’une « amélioration humaine » radicale est non seulement désirable, mais possible. (...)
Le Singularitarisme émerge en parallèle, au tournant du millénaire. Ses promoteurs les plus célèbres sont Ray Kurzweil, qui a prévu en 2005 que la singularité technologique aurait lieu en 2045, et Eliezer Yudkowsky, qui a de son côté écrit en 2014 qu’elle aurait lieu… l’an prochain. La singularité peut être entendue comme le point où le progrès technologique deviendrait si rapide qu’il créera une rupture fondamentale dans l’histoire humaine, voire, selon Kurzweil, cosmique. Elle peut aussi être entendue comme une « explosion d’intelligence », où les algorithmes atteignent un niveau d’auto-amélioration qui leur permettent de devenir « superintelligents ».
Transhumaniste, ancien du mouvement extropien et fondateur de SingularityNET.io, Ben Goertzel publie de son côté, en 2010, un « Cosmist manifesto ». Il y considère que la fusion de l’humanité aux technologies permettrait le développement d’IA sensibles (sentient) et de technologies de téléchargement de l’esprit.
Rationalisme est le nom que se donne une communauté centrée autour du blog LessWrong (« moins faux ») créé en 2009 par Eliezer Yudowsky. Il s’agit là principalement de s’« entraîner » au rationalisme, avec une connivence affichée pour les idées transhumanistes et singularistes, et notamment la possibilité d’une explosion d’intelligence.
Quant à l’Altruisme Effectif et au longtermisme, il s’agit des courants qui ont le plus fait parler d’eux dans les années récentes. Si le premier cherche initialement à appliquer les principes du rationalisme pour faire le « plus de bien possible » avec un nombre fini de ressources, une part non négligeable de ses membres en vue ont déplacé leur attention vers des problématiques concernant le lointain futur de l’humanité. (...)
Si Torres et Gebru réunissent ces sept courants, c’est qu’ils leur trouvent plusieurs correspondances. Tous émanent des idées transhumanistes, pour commencer. Tous ont des convictions eschatologiques, c’est-à-dire relatives à la fin des temps. « Comme dans des religions comme le christianisme, elles prennent deux formes : utopiques ou apocalyptiques », écrivent Gebru et Torres, avec l’idée d’un paradis construit grâce à l’ingénierie. En substance, l’utopie sera atteinte lorsque l’humanité aura réussi à construire des êtres surintelligents (par exemple des intelligences artificielles générales) « alignées » avec les valeurs humaines, l’apocalypse le sera si ces créatures émergent et ne sont pas alignées avec le « bien de l’humanité ».
Les deux chercheurs constatent par ailleurs une grande circulation des personnes entre les différentes catégories (...)
Tous des hommes, blancs, des mêmes générations, du même type d’éducation (hauts diplômes, de la même poignée d’universités) et de la même zone géographique, relevait déjà la spécialiste de l’IA Zoe Cremmer, lorsqu’elle critiquait l’importance prise par le concept flou d’ « intelligence » dans la communauté altruiste effective.
Un aperçu du transhumanisme en France (...)
la docteure en sociologie Cécilia Calheiros a spécifiquement travaillé sur la traduction francophone du mouvement transhumaniste.
Elle y constate, comme dans les divers noms cités jusqu’ici, une quasi exclusivité d’hommes, « très fortement diplômés, en moyenne à bac +5, avec souvent un parcours d’ascension sociale » parmi les tenants du transhumanisme. Elle relève l’existence de deux principaux courants : ceux qui œuvrent « à une évolution du monde et de l’espèce humaine au long terme », en se plaçant expressément dans le champ politique, et les bodyhackers, « qui cherchent plutôt à vivre l’augmentation humaine ici et maintenant », avec un recours aux neurotropes « pour être plus efficaces, dans une logique de productivité intellectuelle et d’efficacité ».
D’un côté comme de l’autre, Cecilia Calheiros souligne que le catastrophisme n’est pas tellement présent : les transhumanistes « sont plutôt dans une attitude très positive, pleine d’espoir » pour l’évolution de l’humanité. Dans un sens, pointe-t-elle, ces idées « résonnent beaucoup avec des courants plus grands public de la quête de la meilleure version de soi-même, qu’on trouve dans des pratiques comme le yoga, la méditation ou les routines d’optimisation de soi ».
Quant à la question de l’eugénisme, elle admet qu’il est « compliqué de ne pas en voir une forme » dans le discours porté par ces courants, qui défendent une forme d’eugénisme « libérale, perçue comme positive : une exacerbation des traits positifs de l’humain, plutôt que la suppression de la population porteuse de traits négatifs ».
Le problème avec le QI
Cette quête des « traits positifs » est au cœur des enjeux soulevés par Gebru et Torres. Couplée aux évolutions technologiques, c’est elle qui justifie la quête d’êtres post humains intelligents ou « super-intelligents », quand bien même cette notion d’ « intelligence » n’est jamais précisément définie. C’est elle aussi qui justifie la préoccupation de certaines des personnalités pré-citées pour la notion de quotient intellectuel (QI).
Or, d’après Gebru et Torres, l’obsession pour les tests de QI est l’un des éléments qui participe à lier les idéologies TESCREAL à l’eugénisme. (...)
Quand bien même la population mondiale continue de croître, une personnalité comme Elon Musk s’inquiète ainsi régulièrement du déclin la population. Il dit aussi, publiquement, que les gens « intelligents » devraient avoir plus d’enfant. Comme le traduit le journaliste Paris Marx, si le chef d’entreprise agit comme si la population se réduisait, c’est qu’il ne s’intéresse qu’à un segment précis de la population... celui de la population blanche.
Et Gebru et Torres de pointer que, faute de définitions précises, ce sont précisément ces idées fondamentalement discriminantes et héritées des mouvements eugénistes qui restent dans le champ de l’intelligence artificielle. En pratique, cela dit, comment ces dernières ont-elles influencé le champ scientifique ? C’est ce que nous détaillons dans un second article.