Pour les scientistes1 qui sont hélas nombreux chez ceux qui vivent de la science, il n’est pas très important que le processus de développement des activités humaines liées à la connaissance ait affecté gravement les conditions de vie dans la biosphère pour les générations futures. Le scientisme, une idéologie laïque, née au XIXe siècle, appuyée sur la marchandisation du monde, voit la solution de ces menus inconvénients dans l’adaptation de l’être humain et oriente la recherche sur des solutions comme le transhumanisme, la manipulation génétique et l’intelligence artificielle, qui seraient l’avenir de l’humanité.
Pour les scientistes1 qui sont hélas nombreux chez ceux qui vivent de la science, il n’est pas très important que le processus de développement des activités humaines liées à la connaissance ait affecté gravement les conditions de vie dans la biosphère pour les générations futures. Le scientisme, une idéologie laïque, née au XIXe siècle, appuyée sur la marchandisation du monde, voit la solution de ces menus inconvénients dans l’adaptation de l’être humain et oriente la recherche sur des solutions comme le transhumanisme, la manipulation génétique et l’intelligence artificielle, qui seraient l’avenir de l’humanité.
Cette croyance en la « science réalisée » , se réclamant des sciences cognitives, s’appuie sur les connaissances mathématiques, physiques et biologiques du moment et leurs progressions. Elle est soutenue par le développement de la culture de l’informatique et du progrès dans un public dont la vie est transformée par les écrans du quotidien.
Il n’est pas très étonnant que les GAFAM, les multinationales qui soutiennent cette évolution, soient parmi les plus grosses capitalisations boursières de la planète : la matière est porteuse. (...)
Les développements de l’après guerre, avec la création de nouveaux instruments d’investigation scientifiques ont fortement influencé (et continuent à le faire) un développement industriel accompagnant l’offre néolibérale jusqu’à présent considérée comme devant être illimitée.
Le second aspect moins médiatisé mais que certains chercheurs comme Eric Sadin analysent en profondeur2 montre dans l’évolution logicielle un facteur inquiétant de dépossession du pouvoir de décision humain.
A partir du moment où l’humain en a inventé l’usage et jusqu’au XXe siècle de notre ère,les outils ont été considérés comme des amplificateurs du travail humain, physique, puis intellectuel avec leur extension philosophique et scientifique. L’artéfact utilitaire, sous forme matérielle ou dématérialisée, est longtemps resté un accessoire, important certes mais toujours subordonné à la volonté humaine. Le développement industriel apportant de nouvelles contraintes organisationnelles, l’homme est devenu ensuite plus dépendant de ses outils .
L’outil informatique, au coeur de la 4ème révolution a d’abord été comme tout outil un instrument d’appoint ouvrant de nouveaux horizons à certaines activités humaines mais progressivement il s’est inséré dans une partie plus invasive de l’organisation de nos sociétés. (...)
Le développement des systèmes « experts » permettant à l’ordinateur d’apprendre de son environnement – c’est à dire du nôtre – des éléments qui peuvent être hors des limites de notre perception (pression, température, pollution…) et de rechercher par itération la solution la mieux adaptée à un contexte donné a ouvert la voie au rêve scientiste de l’intelligence artificielle.
On aurait tort de ne pas prendre au sérieux ce rêve, cette utopie qui dans un monde capitaliste hautement spéculatif, se mesure en centaines de milliards de dollars de capitalisation boursière au NAZDAQ et sur d’autres places boursières.
Le concept de l’intelligence artificielle, aussi vieux que la légende du Golem fait partie des objectifs plus ou moins affichés des cinq entreprises multinationales dites GAFAM, américaines et d’influence mondiale qui bâtissent leur fortune sur la manipulation sociale au travers notamment des réseaux sociaux et investissent énormément sur des recherches d’avant garde. Les objectifs affichés sont l’immortalité, l’homme augmenté par le transhumanisme, et l’exploitation intensive des nanotechnologies, entre autres. La base légendaire de leur développement est dans la Silicon Valley mais les GAFAM sont en réalité présents dans tous les « pôles d’excellence » répartis dans le monde par le biais multinational qu’ils contrôlent et les marchés qu’ils dominent.
Y aurait-il un danger pour la démocratie ? Certains le pensent et ne manquent pas d’arguments. Essayons d’y voir plus clair.
Nous arrivons à un niveau d’intelligence artificielle tel que, dotant la machine d’un nombre suffisant de mémoire, de capteurs sensitifs et de circuits réflexes, la machine évalue elle-même ses algorithmes et est en mesure de les auto corriger pour le meilleur résultat possible, qui deviendra alors sa propre base d’évaluation. (...)
Verra-t-on dans un avenir plus ou moins lointain un robot suffisamment « éduqué » en mesure d’élaborer ses propres programmes d’action sans le concours d’un « maître » ?
Sans vouloir entrer dans un schéma complotiste ou simplement paranoïaque, nous ne sont plus très loin du drone tueur choisissant sa cible dont le projet circule dans certains états-majors militaires, ni du frigo qui passe ses commandes de menus-repas lui-même en fonction de votre taux de cholestérol contrôlé par un capteur placé dans votre salle de bain, sujet pas si lointain qui a déjà fait l’objet d’articles dans une presse qui n’est pas de science fiction et qui fait saliver d’avance les chercheurs de Stanford et de Berkeley.
Cette vision d’une société cocon dans laquelle l’humain serait privé progressivement de toute initiative par un environnement de machines pilotées par l’une ou l’autre des GAFAM a de quoi inquiéter, et mériterait qu’on se penche un peu plus sur le statut de l’IA dans une société humaine en cours de lobotomisation.
Pour autant, ce n’est pas le seul aspect inquiétant de cet appui de plus en plus marqué des comportements humains à des relations dépersonnalisées avec des machines. (...)
La plus représentative de ces machines est le smartphone que l’on extrait de plus en plus de sa poche pour s’en servir comme de la canne de l’aveugle dans toutes les démarches quotidiennes.
Il n’est pas question de dénier l’utilité de cet « ami du quotidien » doté de tant de possibilités qui nous aide à survivre sans coup férir à la brutalité d’une vie moderne trépidante, nous maintient en permanence en contact avec l’ensemble de la planète, nous rappelle nos rendez-vous, nous fournit un environnement musical nous éloignant de la promiscuité de la foule du métro et finalement nous plonge dans une solitude que jamais Robinson seul sur son ile n’a dû ressentir, entouré des manifestations de la vie sauvage autour de lui. Il ne s’agit plus de « cocooning », mais au contraire d’une activation ne laissant plus aucun répit, la marque d’une efficacité individuelle toujours questionnée et qui dissuade de céder au caractère empathique de la vie en société en même temps qu’a l’expression de la solidarité qui pourrait en découler. (...)
La plus représentative de ces machines est le smartphone que l’on extrait de plus en plus de sa poche pour s’en servir comme de la canne de l’aveugle dans toutes les démarches quotidiennes.
Il n’est pas question de dénier l’utilité de cet « ami du quotidien » doté de tant de possibilités qui nous aide à survivre sans coup férir à la brutalité d’une vie moderne trépidante, nous maintient en permanence en contact avec l’ensemble de la planète, nous rappelle nos rendez-vous, nous fournit un environnement musical nous éloignant de la promiscuité de la foule du métro et finalement nous plonge dans une solitude que jamais Robinson seul sur son ile n’a dû ressentir, entouré des manifestations de la vie sauvage autour de lui. Il ne s’agit plus de « cocooning », mais au contraire d’une activation ne laissant plus aucun répit, la marque d’une efficacité individuelle toujours questionnée et qui dissuade de céder au caractère empathique de la vie en société en même temps qu’a l’expression de la solidarité qui pourrait en découler. (...)
Il est bien naturel que l’imagination humaine nous amène du progrès technique améliorant nos conditions de vie et ouvrant de nouvelles portes vers l’avenir … à la condition de ne pas détruire notre humanité dans le processus.
C’est la raison pour laquelle, dans le contrat implicite dont nous convenons avec le système économique, conduisant la 4ème révolution industrielle, il va falloir que nous prenions la peine de lire en détail les clauses écrites en tous petits caractères et même celles non écrites.