L'algorithme Open Source de Twitter est un leurre

Wired

L’algorithme Open Source de Twitter est un leurre

#Twitter #algorithme

Article mis en ligne le 14 avril 2023

dernière modification le 13 avril 2023

Vendredi dernier, Twitter a publié le code source de son algorithme de recommandation sur GitHub. Twitter a déclaré qu’il mettait son algorithme en "open source", ce à quoi je suis généralement favorable. Les algorithmes de recommandation et le code source ouvert sont au cœur de mon travail de chercheur et de défenseur de la responsabilité des entreprises dans l’industrie technologique. Mes recherches ont démontré pourquoi et comment des entreprises comme YouTube devraient être plus transparentes sur le fonctionnement interne de leurs algorithmes de recommandation, et j’ai mené des campagnes pour les inciter à le faire. Mozilla, l’organisation à but non lucratif dont je suis l’un des principaux membres, a ouvert le code du navigateur Netscape et invité une communauté de développeurs du monde entier à y contribuer en 1998, et n’a cessé de militer en faveur d’un internet ouvert depuis lors. Alors pourquoi ne suis-je pas impressionné ou enthousiasmé par la décision de Musk ?

Le soi-disant "open sourcing" de Twitter n’est en fait qu’une habile diversion pour détourner l’attention des récentes mesures prises par l’entreprise en matière de transparence. Il y a quelques semaines, Twitter a discrètement annoncé qu’il fermait la version gratuite de son API, un outil sur lequel les chercheurs du monde entier s’appuient depuis des années pour mener des recherches sur les contenus préjudiciables, la désinformation, la santé publique, la surveillance des élections, le comportement politique, etc. L’outil qui le remplace coûtera désormais aux chercheurs et aux développeurs entre 42 000 et 210 000 dollars par mois. La décision de Twitter a attiré l’attention des législateurs et des organisations de la société civile (notamment la Coalition for Independent Tech Research, dont je suis membre du conseil d’administration), qui l’ont condamnée.

L’ironie de la chose, c’est que bon nombre des questions soulevées au cours du week-end lors de l’analyse du code source ont pu être testées par l’outil même que Twitter est en train de désactiver. Par exemple, des chercheurs ont supposé que le paramètre "UkraineCrisisTopic" trouvé dans le code source de Twitter était un signal permettant à l’algorithme de rétrograder les tweets faisant référence à l’invasion de l’Ukraine. En utilisant l’API de Twitter, les chercheurs auraient pu récupérer les tweets relatifs à l’invasion de l’Ukraine et analyser leur engagement pour déterminer si l’algorithme les amplifiait ou les désamplifiait. Des outils comme ceux-ci permettent au public de confirmer ou d’infirmer de manière indépendante les pépites d’informations fournies par le code source. Sans eux, nous sommes à la merci de ce que Twitter nous dit être vrai.

Le coup d’éclat de Twitter n’est que le dernier exemple en date d’un lavage de transparence de la part de l’industrie technologique. En 2020, TikTok a également utilisé les mots "code source" pour éblouir les régulateurs américains et européens qui exigeaient plus de transparence sur le fonctionnement de la plateforme. C’est la première plateforme à annoncer l’ouverture de "centres de transparence" physiques, censés "permettre aux experts d’examiner et de vérifier les pratiques de TikTok". En 2021, j’ai participé à une visite virtuelle du Centre, qui s’est résumée à une présentation Powerpoint du personnel politique de TikTok expliquant le fonctionnement de l’application et passant en revue les politiques de modération de contenu déjà publiques. Trois ans plus tard, les centres sont toujours fermés au public (le site web de TikTok en donne la raison : la pandémie) et TikTok n’a pas publié de code source.

Si Musk avait vraiment voulu responsabiliser l’algorithme de Twitter, il aurait pu le rendre non seulement transparent, mais aussi vérifiable. Il aurait pu, par exemple, créer des outils permettant de simuler les résultats d’un système algorithmique en fonction d’une série d’entrées. Cela permettrait aux chercheurs de mener des expériences contrôlées pour tester la manière dont les systèmes de recommandation classent le contenu réel. Ces outils devraient être mis à la disposition des chercheurs qui travaillent dans l’intérêt général (et, bien sûr, qui peuvent démontrer que leurs méthodes respectent la vie privée des personnes) pour un coût faible ou nul.

Il y a de bonnes nouvelles sur ce front : La loi européenne sur les services numériques, qui devrait entrer en vigueur pour les très grandes plateformes en ligne dès cet été, obligera ces dernières à effectuer des audits de leurs algorithmes par des tiers afin de s’assurer qu’ils ne risquent pas de nuire aux personnes. Le type de données qui sera exigé pour ces audits va bien au-delà de ce que Twitter, TikTok ou toute autre plateforme fournit actuellement.

La publication du code source a été une décision audacieuse mais précipitée, à laquelle Twitter lui-même ne semblait pas préparé : Le dépôt GitHub a été mis à jour au moins deux fois depuis la publication pour supprimer des parties embarrassantes du code qui n’étaient probablement pas destinées à être rendues publiques. Si le code source révèle la logique sous-jacente d’un système algorithmique, il ne nous dit presque rien sur la manière dont le système fonctionnera en temps réel, sur de vrais tweets. La décision d’Elon Musk nous empêche de savoir ce qui se passe en ce moment sur la plateforme, ou ce qui pourrait se passer par la suite.

Loi « immigration » : « Des digues ont sauté face à la xénophobie et à la remise en cause de l’Etat de droit »

MRAP
Emmanuel Macron a procédé à la promulgation de la loi dite « Pour contrôler l’immigration, améliorer l’intégration » le 26 janvier. La veille, le Conseil constitutionnel infligeait un revers sérieux au gouvernement et aux parlementaires ayant voté ce texte, en jugeant non conforme à la Constitution près de 40% de son contenu.

Mais cette décision est un soulagement en trompe-l’œil car les magistrats n’ont pas jugé sur le fond la plupart des mesures mais en ont censuré seulement la forme, estimant qu’elles n’avaient pas de relation directe avec le projet de loi initial.
Ils laissent ainsi la porte ouverte à ce que ces dispositions, directement issues d’une idéologie xénophobe, ressurgissent via de nouvelles propositions législatives. C’est d’ailleurs ce que l’Union centriste, et, bientôt, les Républicains, tentent de faire via une proposition de loi déposée fin janvier au Sénat, reprenant quelques-unes des pires mesures censurées.

D’autre part, l’institution a jugé conformes à la Constitution d’autres mesures délétères pour la vie et les droits des personnes étrangères, présentes dans le texte initial du gouvernement. Pis, elle n’a pas émis d’avis sur la constitutionnalité de plus de quarante mesures extrêmement inquiétantes de la loi. Il s’agit là du texte le plus répressif depuis 1945. Car les mesures, pour certaines déjà en vigueur, constituent une aggravation manifeste de l’arsenal répressif à disposition des préfets et maintiendront des milliers de personnes dans une précarité toujours plus grande.

Démantèlement progressif

Le volet répression du projet de loi initial, déjà inquiétant, est ainsi durci : condition de « respect des principes de la République » pour l’obtention ou le renouvellement d’un titre de séjour, renforcement de la double peine, levée des protections contre les obligations de quitter le territoire français (OQTF), y compris pour les conjoints ou parents de Français, instrumentalisation de la menace à l’ordre public, allongement des délais pour accéder au juge des libertés en zone d’attente et en centre de rétention administrative, allongement de la durée exécutoire des OQTF, de la durée des assignations à résidence ou encore des interdictions de retour sur le territoire, création d’un fichier de mineurs étrangers délinquants ou encore exclusion de l’aide sociale à l’enfance pour les jeunes sous OQTF.

L’ensemble de ces mesures constitue une attaque sans précédents contre les droits des personnes étrangères, par sa violence et son ampleur.

Par ailleurs, la loi contient un démantèlement progressif du système d’asile. La fin de la collégialité des formations de jugement à la Cour nationale du droit d’asile, la facilitation du refus ou du retrait des conditions matérielles d’accueil, la possibilité du placement en rétention des personnes avant l’enregistrement de leur demande d’asile, la délivrance quasi automatique d’OQTF dès le rejet de leur demande sont autant de mesures qui visent à vider de sa substance notre système d’accueil pour les personnes cherchant une protection en France.

Le gouvernement annonçait un texte « équilibré », entre humanité et fermeté. Seule la seconde intention subsiste, alors que le volet intégration de la loi a été réduit à peau de chagrin. Désormais, le gouvernement ne cache même plus sa volonté d’avoir recours à une immigration choisie, recherchant de la main-d’œuvre à disposition, « consommable » selon les besoins de notre société.

Des digues ont sauté face à la xénophobie et à la remise en cause de l’Etat de droit. L’esprit de cette loi et la plupart des mesures du gouvernement ou issues d’amendements des Républicains, adoptées avec le concours du Rassemblement national célébrant une « victoire idéologique », sont incompatibles avec une société humaniste.

Un jeu funeste

Depuis mars 2023, l’examen parlementaire de ce texte a servi à justifier les discours les plus haineux et racistes, mais également ceux remettant en cause des éléments fondateurs de notre système démocratique. Parce que certaines de leurs propositions politiques seraient incompatibles avec les conventions internationales, les traités européens et notre Constitution, la droite et l’extrême droite ont ainsi affirmé la nécessité de réformer notre système de hiérarchie des normes pour déroger à ces obligations et engagements.

L’ensemble de ces textes protecteurs garantit le respect effectif des droits humains et la dignité de toutes et tous sur notre territoire, et ne devrait jamais être révisé dans le but de retirer des droits à certains. Or, le gouvernement s’est prêté à ce jeu funeste en faisant sciemment voter une loi comprenant des dispositions inconstitutionnelles.

Des digues ont sauté. Les conséquences seront difficilement réparables. Le gouvernement ne semble d’ailleurs pas vouloir s’engager dans leur reconstruction, comme en témoignent les annonces sur la future réglementation de l’aide médicale de l’Etat ou la réforme constitutionnelle sur le droit du sol à Mayotte. Le soutien inconditionnel de la France au dangereux Pacte européen sur la migration et l’asile est un autre signal délétère.

Nous ne nous résignerons pas et continuerons de lutter pour une société humaniste tournée vers l’accueil, protégeant toute personne, quel que soit son statut administratif, et faisant respecter les droits humains de manière inconditionnelle.

Les migrations continueront, qu’il y ait des voies légales et sûres ou non pour traiter les demandes. Des politiques d’accueil dignes pour toutes et tous, même si elles demandent du courage politique, seraient une solution plus pérenne pour le respect des droits des personnes exilées et pour la société.

Le contrat d’engagement républicain, outil de mise au pas du monde associatif

Créé afin de lutter contre « l’islamisme radical » et « tous les séparatismes », le contrat d’engagement républicain (CER) n’a, à ce jour, jamais en réalité été invoqué à l’égard d’associations confessionnelles, qu’elles soient islamistes ou liées à d’autres mouvements radicaux ou séparatistes, révèle un décompte réalisé par l’Observatoire des libertés associatives.

Et sur les vingt-quatre cas relevés, seuls trois portent sur des faits liés à la religion musulmane au sein d’associations telles qu’une section locale du Planning familial, accusée d’avoir représenté une femme voilée sur une affiche, une MJC, à laquelle on a reproché d’avoir embauché des femmes voilées, et une association d’aide aux femmes, accusée sans preuve de « prosélytisme religieux ».

Pour le reste, le CER, que les associations doivent obligatoirement signer lorsqu’elles demandent une subvention, a été brandi à l’égard de l’association Alternatiba Poitiers accusée de « désobéissance civile » ; d’une association d’aide aux mal-logé·es, l’Atelier populaire d’urbanisme (APU), dont une salariée est accusée de violences verbales envers des agents municipaux ; d’une association d’aide aux immigré·es ayant appelé à une manifestation contre les violences policières interdites ; d’une télévision associative, Canal Ti Zef à Brest, mobilisée dans la lutte contre l’évacuation d’un squat ; ou encore d’une compagnie de théâtre, la compagnie Arlette Moreau à Poitiers, ayant moqué son préfet. (...)

Lors de l’adoption de la loi séparatisme, à l’été 2021, des député·es de l’opposition et des responsables associatifs avaient déjà alerté sur les risques d’un détournement du CER dans un but de répression politique. (...)

Parler de détournement du CER est excessif. Lorsqu’on relit les débats parlementaires, on se rend en effet compte que la majorité assumait, dès le départ, le fait de ne pas viser exclusivement les associations séparatistes radicales mais toute association ayant recours à certains modes d’action liés à la désobéissance civile. (...)

Pourtant, malgré ce champ d’application particulièrement large, le contrat d’engagement républicain est en partie un échec pour le gouvernement. « Le bilan est encore loin d’être concluant », constatait un rapport d’évaluation du Sénat publié au mois de mars, qui soulignait le peu de cas de mobilisation du CER – quatre selon le rapport – et des modalités d’application disparates en fonction des collectivités. « Cette loi ne fait peur à personne. Surtout pas aux islamistes », assénait même sa rapporteuse, Jacqueline Eustache-Brinio.

Comment le gouvernement s’est lui-même piégé (...)

En créant ce contrat, le gouvernement s’est en quelque sorte piégé lui-même. Il n’existe pas en effet de droit à la subvention pour les associations. Chaque collectivité dispose de ce fait d’un droit discrétionnaire en matière d’attribution et elle peut refuser ou accorder telle ou telle subvention sans avoir à se justifier.

En créant le CER, la loi séparatisme a créé un nouvel acte administratif qui offre une prise juridique, un recours possible pour les associations. Or, dans la seule décision visant directement le CER rendue à ce jour, le tribunal administratif de Poitiers a rejeté la demande du préfet de la Vienne visant à obtenir le remboursement d’une subvention versée à l’association Alternatiba pour avoir tenu un atelier de désobéissance civile.

D’autres recours lancés ces derniers mois devraient permettre de préciser cette jurisprudence naissante. (...)

il n’est par exemple qu’évoqué à l’oral dans une réunion ou dans un mail ou brandit comme une menace, sans que l’on sache s’il est vraiment à l’origine d’une sanction à non.

Au mois d’août dernier, Le Monde révélait ainsi qu’il existe une « liste rouge » d’associations basées dans la région du plateau de Millevaches qui seraient privées de subventions par la préfecture sans que cela leur ait été officiellement notifié, leur ôtant ainsi toute possibilité de recours.

Plus récemment, une association d’aide aux immigré·e·s, l’Asti du Petit-Quevilly en Seine-Maritime, s’est vu « rappeler » ses engagements par la préfecture pour avoir appelé à une manifestation contre les violences policières interdite. Celle-ci a transmis cet « avertissement » aux partenaires financiers, dont la métropole de Rouen, qui a en conséquence suspendu l’examen des demandes de subvention de l’Asti. (...)

« Il y a chez certaines collectivités une profonde incompréhension du CER, qui est utilisé à tort et à travers, et notamment comme un moyen de pression, de régulation des relations avec les associations », analyse Claire Thoury, présidente du Mouvement associatif, une organisation regroupant environ 700 000 associations, et qui avait publié, en janvier 2023, un premier bilan de l’application du CER. (...) « Le CER a désormais un effet presque plus symbolique que pratique », ajoute Julien Talpin, chercheur en science politique au CNRS et l’un des fondateurs, en 2019, de l’Observatoire des libertés associatives. « On peut penser que certaines associations n’oseront plus aborder certains sujets comme les violences policières ou en ce moment le conflit israélo-palestinien. Le problème est de réussir à objectiver ces effets indirects et diffus et cette autocensure. » (...)

« Il y a donc une dissonance entre ce que prétend défendre le CER et les conséquences de son application à certaines associations, pointe-t-elle. Cela ne fait en outre qu’ajouter de la confusion à ce que sont les valeurs républicaines. » (...)

L’entrée en vigueur du CER est en outre intervenue dans un contexte de défiance croissante entre le monde associatif et les autorités. « Nous sommes en fait dans un contexte de dérive générale », affirme Claire Thoury. (...)

« Il y a également eu récemment le maire de Saint-Raphaël qui impose à toutes les associations touchant des subventions de participer aux manifestations patriotiques de la ville. C’est hallucinant ! », s’indigne la présidente du Mouvement associatif. (...)

« Les associations ne sont pas là pour faire plaisir aux pouvoirs publics, insiste Claire Thoury. Ce n’est pas leur mission. Mais l’inverse non plus ! Une association peut très bien s’opposer à une collectivité sur un sujet précis et être en accord sur un autre. C’est ce qu’on appelle un contre-pouvoir et c’est tout simplement le cours normal de la vie démocratique. » (...)

Source

Dans la même rubrique