Des choses qualifiées de pure fiction il y a quelques décennies (ou dans un passé proche), sont pourtant une réalité aujourd’hui. De la loi sur les robots à la gestion des réseaux sociaux et vos données après la mort, les sujets sont nombreux et inquiétants ; ils méritent que l’on s’y attarde dès à présent.

(...) La fiction d’il y a 100 ans (dans les années 20, après la Première Guerre mondiale) n’a rien à voir avec celle d’aujourd’hui.

Les trois lois d’Asimov…

C’est à cette époque que de grands noms de la littérature de science-fiction sont nés. C’est notamment le cas d’Isaac Asimov (1920 - 1992), largement connu pour son Cycle des robots et ses fameuses « trois lois » qui ont tant inspiré d’autres auteurs/réalisateurs par la suite :

• Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
• Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi ;
• Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la Première ou la Deuxième Loi ;

Formulées dans les années 40, ces lois n’avaient aucune application pratique à l’époque. Avec l’arrivée des robots (sous toutes leurs formes) et le galop effréné ces dernières années de l’intelligence artificielle générative, on peut dire que la réalité est en passe de rattraper la fiction.

Mais nous sommes encore loin pour le moment d’une intelligence artificielle générale, c’est-à-dire capable de réaliser toutes sortes de tâches, y compris cognitives, à la place des humains. Une telle IA serait douée d’une forme de sensibilité ou de volonté… et c’est précisément ici que la réalité se heurte à la fiction, ou vice-versa.

Les intelligences artificielles qui animent les robots sont programmées par des humains pour effectuer des tâches précises (...)

Partons du principe qu’une intelligence artificielle générale arrivera un jour. Quelles devraient alors être les « lois » à mettre en place ? Et, comment s’assurer de leur fiabilité ? Le film I, Robot montre comment des règles en apparences simples (celles d’Azimov) peuvent être détournées.

De Terminator à Matrix en passant par Tron, les réalisateurs s’en donnent à cœur joie sur les « dérives » des intelligences artificielles. (...)

Dans un article publié début 2023, le service communautaire d’information sur la recherche et le développement (CORDIS) de la Commission européenne n’y allait pas par quatre chemins. Il expliquait « pourquoi le XXIe siècle exige de mettre à jour les lois de la robotique formulées par Asimov ». (...)

Dans le cas présent, un humain est à la manœuvre, mais qu’en serait-il avec un robot doté d’une IA générale et d’une conscience ? Quelle règle devrait-on mettre en place ? De manière plus terre à terre, comment doit se faire le choix des victimes dans le cas des voitures autonomes ?

Certains ont déjà répondu à la question, Mercedes-Benz préfère sauver le conducteur, même si cela se fait au détriment de plusieurs autres vies. (...)

Surveillance de masse : de George Orwell aux agences gouvernementales

« Un champ de mines éthique »

« Ce domaine de l’IA est un champ de mines éthique. La dignité du défunt est de la plus haute importance et il convient de veiller à ce qu’elle ne soit pas bafouée par les motivations financières des services numériques d’après-vie, par exemple », ajoute-t-elle.

Cela soulève de nouvelles questions. Imaginons qu’une personne souhaite laisser un deadbot en guise de cadeau/souvenir à ses proches, rien ne l’interdirait pour l’instant. Les proches pourraient alors développer des « liens émotionnels forts » et pourraient alors être « particulièrement vulnérables à la manipulation ».

Pour Tomasz Hollanek (un autre co-auteur de l’étude Philosophy & Technology), « des méthodes, voire des rituels, permettant de désactiver les deadbots dans la dignité devraient être envisagés. Il peut s’agir d’une forme d’enterrement numérique, par exemple, ou tout autre type de cérémonies dicté par le contexte social ». (...)

« Un champ de mines éthique »

« Ce domaine de l’IA est un champ de mines éthique. La dignité du défunt est de la plus haute importance et il convient de veiller à ce qu’elle ne soit pas bafouée par les motivations financières des services numériques d’après-vie, par exemple », ajoute-t-elle.

Cela soulève de nouvelles questions. Imaginons qu’une personne souhaite laisser un deadbot en guise de cadeau/souvenir à ses proches, rien ne l’interdirait pour l’instant. Les proches pourraient alors développer des « liens émotionnels forts » et pourraient alors être « particulièrement vulnérables à la manipulation ».

Pour Tomasz Hollanek (un autre co-auteur de l’étude Philosophy & Technology), « des méthodes, voire des rituels, permettant de désactiver les deadbots dans la dignité devraient être envisagés. Il peut s’agir d’une forme d’enterrement numérique, par exemple, ou tout autre type de cérémonies dicté par le contexte social ».

Papi décédé ne fait plus de la résistance… mais de la pub ? (...)

On ne l’avait pas vu venir, mais ce type de dérive est finalement presque une évidence.

D’autant que c’est déjà le cas. Le Point en parlait en 2013 dans un article intitulé Les stars défuntes, un filon publicitaire. (...)

Faut-il que la réalité rejoigne, voire dépasse la fiction ? À vouloir vivre entouré des défunts, vivons-nous réellement l’instant présent ? Vous avez deux heures.