Oubliez John Connor et le T-800, toute tentative de résistance serait vaine sans le livre. Selon une équipe de chercheurs mandatés par le NICTA, centre australien de recherche en technologies de l’information et de la communication, l’éthique constituerait l’arme la plus efficace pour éviter à l’humanité de se faire éradiquer un jour par ses propres machines. Alors que les expériences se multiplient autour de l’intelligence artificielle (IA) et autres appareils autonomes, le seul fait de se poser les bonnes questions pourrait éviter le jugement dernier.

Plus sérieusement, ces chercheurs ont réalisé une étude sur les dangers qu’impliquent certains progrès technologiques d’aujourd’hui et de demain. Ils en ont conclu que les risques liés à ces expériences étaient bien réels et que la science-fiction pouvait éventuellement constituer un support permettant d’éduquer les étudiants et scientifiques quant à certaines questions éthiques.

Leur rapport pointe : « Nous constatons actuellement de réelles violations éthiques et des défis découlant des actuelles techniques et mises en œuvre liées à l’IA : sous la forme de baisse systématique dans le respect de la vie privée, d’augmentation du recours à l’IA dans les questions de sécurité, de pertes d’emplois dues à la mécanisation et au contrôle automatique des processus de travail. » (...)

En effet, depuis quelque temps, on ne parle plus seulement d’armes autonomes dans la fiction, on y travaille pour de vrai. Et tandis que les étudiants scientifiques seraient friands de littérature SF et fantastique, les anticipations d’auteurs comme Arthur C. Clarke ou Isaac Asimov peuvent nourrir les débats traitant de l’éthique en recherche et développement technologiques.

Ces thèmes inquiétants, que l’on prend de moins en moins à la rigolade, sont traités depuis des décennies par les visionnaires du registre littéraire. (...)