Comment distinguer les faux humains des vrais ? Il faut regarder les yeux

Numerama

Article mis en ligne le 18 septembre 2021

dernière modification le 17 septembre 2021

Les réseaux neuronaux permettent de créer des photos très convaincantes de personnes qui n’existent pas. Ces images sont si réalistes qu’elles sont très difficiles à distinguer de portraits authentiques. Mais des chercheurs ont trouvé un moyen de distinguer les vraies des fausses.

Les intelligences artificielles sont capables, depuis quelques années, de produire des photos très réalistes de personnes qui n’existent pas. Des chercheurs de Nvidia ont réussi en 2017 à créer des milliers de visages, grâce à des réseaux neuronaux. Depuis 2019, le site ThisPersonDoesNotExist propose également des photos générées par intelligence artificielle.

Très impressionnante, la technologie peut aussi s’avérer un peu effrayante. CNN rapportait le cas de Jenna Abrams, une supposée conservatrice américaine suivie par près de 70 000 personnes sur Twitter, qui était en réalité un compte animé par une entité russe, liée au gouvernement, et qui se cachait derrière une photo créée par intelligence artificielle. L’an dernier, une enquête du média américain The Daily Beast avait permis d’identifier un réseau de faux journalistes, qui ont utilisé des photos générées par ThisPersonDoesNotExist, afin de se créer une fausse identité. Ces faux journalistes avaient sévi pendant près d’un an, et avaient réussi à faire publier, dans des médias, des éditos qui faisaient l’éloge des Émirats arabes unis. (...)

Des défauts au niveau des pupilles

La question qui se pose, dans ces situations, est bien sûr celle de l’identification. Est-il toujours possible, pour des humains, de réussir à déterminer s’il s’agit d’une vraie personne sur la photo ? Si l’exercice est complexe, la réponse est rassurante. Des chercheurs de l’université de l’état de New York ont étudié des photos créées par les réseaux neuronaux, et ils ont constaté que l’intelligence artificielle n’arrivait toujours pas à bien reproduire les pupilles. « Nous nous sommes rendu compte que les pupilles d’un grand nombre de photos générées par IA étaient de forme irrégulière, et qu’elles sont différentes de celles de vrais êtres humains », précisent les chercheurs dans leur publication.

Ils racontent avoir analysé un millier de photos générées par ThisPersonDoesNotExist, qu’ils ont comparées à 1 000 photos de personnes réelles. (...)

Et c’est vrai : sur des images de ThisPersonDoesNotExist que Numerama a analysées, les défauts sur les pupilles se repèrent assez facilement, une fois que l’on sait ce que l’on cherche. (...)

Bien sûr, la méthode des chercheurs a certaines limites. Il existe en effet des maladies rares qui provoquent une déformation des pupilles. Cela reste toutefois des cas de figure exceptionnels. Les chercheurs notent également que ces défauts sont difficiles à voir sur certaines photos générées par IA. Mais, globalement, « cette méthode permet à des humains de rapidement se faire une idée sur la photo, et de savoir si elle représente une véritable personne ». (...)

D’autres petits détails peuvent alerter : les cheveux ne sont pas cohérents, des accessoires tels que des boucles d’oreilles ou des cols apparaissent de manière étrange. Si une personne porte des lunettes, ces dernières sont également susceptibles d’avoir des défauts, que ce soit au niveau des branches ou des verres. (...)

L’arrière-plan des photos est généralement flou, voir complètement abstrait. Il y a aussi la position des visages. Ils sont, dans la grande majorité des cas, de face ou bien légèrement de trois quarts, et la position des yeux est toujours la même, sur toutes les photos. On les voit très rarement de haut, ou en contre-plongée, et les visages sont de manière générale parfaitement centrés. Ces défauts sont malheureusement peu visibles au premier coup d’oeil : il faut la plupart du temps regarder la photo avec attention, faire des zooms, et surtout, savoir quoi chercher

Le contrat d’engagement républicain, outil de mise au pas du monde associatif

Créé afin de lutter contre « l’islamisme radical » et « tous les séparatismes », le contrat d’engagement républicain (CER) n’a, à ce jour, jamais en réalité été invoqué à l’égard d’associations confessionnelles, qu’elles soient islamistes ou liées à d’autres mouvements radicaux ou séparatistes, révèle un décompte réalisé par l’Observatoire des libertés associatives.

Et sur les vingt-quatre cas relevés, seuls trois portent sur des faits liés à la religion musulmane au sein d’associations telles qu’une section locale du Planning familial, accusée d’avoir représenté une femme voilée sur une affiche, une MJC, à laquelle on a reproché d’avoir embauché des femmes voilées, et une association d’aide aux femmes, accusée sans preuve de « prosélytisme religieux ».

Pour le reste, le CER, que les associations doivent obligatoirement signer lorsqu’elles demandent une subvention, a été brandi à l’égard de l’association Alternatiba Poitiers accusée de « désobéissance civile » ; d’une association d’aide aux mal-logé·es, l’Atelier populaire d’urbanisme (APU), dont une salariée est accusée de violences verbales envers des agents municipaux ; d’une association d’aide aux immigré·es ayant appelé à une manifestation contre les violences policières interdites ; d’une télévision associative, Canal Ti Zef à Brest, mobilisée dans la lutte contre l’évacuation d’un squat ; ou encore d’une compagnie de théâtre, la compagnie Arlette Moreau à Poitiers, ayant moqué son préfet. (...)

Lors de l’adoption de la loi séparatisme, à l’été 2021, des député·es de l’opposition et des responsables associatifs avaient déjà alerté sur les risques d’un détournement du CER dans un but de répression politique. (...)

Parler de détournement du CER est excessif. Lorsqu’on relit les débats parlementaires, on se rend en effet compte que la majorité assumait, dès le départ, le fait de ne pas viser exclusivement les associations séparatistes radicales mais toute association ayant recours à certains modes d’action liés à la désobéissance civile. (...)

Pourtant, malgré ce champ d’application particulièrement large, le contrat d’engagement républicain est en partie un échec pour le gouvernement. « Le bilan est encore loin d’être concluant », constatait un rapport d’évaluation du Sénat publié au mois de mars, qui soulignait le peu de cas de mobilisation du CER – quatre selon le rapport – et des modalités d’application disparates en fonction des collectivités. « Cette loi ne fait peur à personne. Surtout pas aux islamistes », assénait même sa rapporteuse, Jacqueline Eustache-Brinio.

Comment le gouvernement s’est lui-même piégé (...)

En créant ce contrat, le gouvernement s’est en quelque sorte piégé lui-même. Il n’existe pas en effet de droit à la subvention pour les associations. Chaque collectivité dispose de ce fait d’un droit discrétionnaire en matière d’attribution et elle peut refuser ou accorder telle ou telle subvention sans avoir à se justifier.

En créant le CER, la loi séparatisme a créé un nouvel acte administratif qui offre une prise juridique, un recours possible pour les associations. Or, dans la seule décision visant directement le CER rendue à ce jour, le tribunal administratif de Poitiers a rejeté la demande du préfet de la Vienne visant à obtenir le remboursement d’une subvention versée à l’association Alternatiba pour avoir tenu un atelier de désobéissance civile.

D’autres recours lancés ces derniers mois devraient permettre de préciser cette jurisprudence naissante. (...)

il n’est par exemple qu’évoqué à l’oral dans une réunion ou dans un mail ou brandit comme une menace, sans que l’on sache s’il est vraiment à l’origine d’une sanction à non.

Au mois d’août dernier, Le Monde révélait ainsi qu’il existe une « liste rouge » d’associations basées dans la région du plateau de Millevaches qui seraient privées de subventions par la préfecture sans que cela leur ait été officiellement notifié, leur ôtant ainsi toute possibilité de recours.

Plus récemment, une association d’aide aux immigré·e·s, l’Asti du Petit-Quevilly en Seine-Maritime, s’est vu « rappeler » ses engagements par la préfecture pour avoir appelé à une manifestation contre les violences policières interdite. Celle-ci a transmis cet « avertissement » aux partenaires financiers, dont la métropole de Rouen, qui a en conséquence suspendu l’examen des demandes de subvention de l’Asti. (...)

« Il y a chez certaines collectivités une profonde incompréhension du CER, qui est utilisé à tort et à travers, et notamment comme un moyen de pression, de régulation des relations avec les associations », analyse Claire Thoury, présidente du Mouvement associatif, une organisation regroupant environ 700 000 associations, et qui avait publié, en janvier 2023, un premier bilan de l’application du CER. (...) « Le CER a désormais un effet presque plus symbolique que pratique », ajoute Julien Talpin, chercheur en science politique au CNRS et l’un des fondateurs, en 2019, de l’Observatoire des libertés associatives. « On peut penser que certaines associations n’oseront plus aborder certains sujets comme les violences policières ou en ce moment le conflit israélo-palestinien. Le problème est de réussir à objectiver ces effets indirects et diffus et cette autocensure. » (...)

« Il y a donc une dissonance entre ce que prétend défendre le CER et les conséquences de son application à certaines associations, pointe-t-elle. Cela ne fait en outre qu’ajouter de la confusion à ce que sont les valeurs républicaines. » (...)

L’entrée en vigueur du CER est en outre intervenue dans un contexte de défiance croissante entre le monde associatif et les autorités. « Nous sommes en fait dans un contexte de dérive générale », affirme Claire Thoury. (...)

« Il y a également eu récemment le maire de Saint-Raphaël qui impose à toutes les associations touchant des subventions de participer aux manifestations patriotiques de la ville. C’est hallucinant ! », s’indigne la présidente du Mouvement associatif. (...)

« Les associations ne sont pas là pour faire plaisir aux pouvoirs publics, insiste Claire Thoury. Ce n’est pas leur mission. Mais l’inverse non plus ! Une association peut très bien s’opposer à une collectivité sur un sujet précis et être en accord sur un autre. C’est ce qu’on appelle un contre-pouvoir et c’est tout simplement le cours normal de la vie démocratique. » (...)

Source

Dans la même rubrique