Passer d’un monde contrôlé par une trentaine d’algorithmes (10 + 10 + 10) à un monde sans algorithmes. Ou à tout le moins arriver à habiter le réel, dans la sphère intime, personnelle, dans notre travail, dans nos loisirs, en parvenant à s’extraire de toute forme de guidance et/ou de déterminisme algorithmique que nous n’aurions pas choisi, dont nous ne serions pas conscients et dont l’intentionnalité réelle nous demeurerait obscure.
Éviter qu’un jour peut-être la dysalgorithmie, ce "trouble de résistance algorithmique où le sujet fait preuve d’un comportement ou d’opinions non-calculables", ne devienne une pathologie reconnue.
Sauf à vivre dans une déconnexion totale, est-il possible de s’abstraire de ces formes de guidage algorithmique aussi sourdes que constantes ?
Plusieurs phénomènes sont en train de se produire et concourent à créer un moment inédit à l’échelle de l’emprise que les GAFA ont sur l’écosystème numérique depuis une quinzaine d’années. D’abord la "crise" réputationnelle et d’image que traversent successivement les grandes plateformes. En ce moment c’est au tour de Facebook mais avant lui Google avait également connu ses annus horribilis. Ensuite la crise éthique des ingénieurs et l’essor du "Design ethique", de la "privacy by design" et autres labels "Time Well Spent", même si tout cela est en train d’être récupéré par les mêmes GAFA et qu’il nous faut l’observer avec circonspection. Et enfin l’arrivée d’un cadre réglementaire opportun - le RGPD - et qui pourrait être le point de départ d’un nouveau cercle plus vertueux que vicieux.
(C’est un fameux) Trois mâts de la navigation de demain.
La conjonction de ces 3 phénomènes ne va bien sûr pas nous ramener à l’utopie de la déclaration d’indépendance du Cyberespace mais elle va probablement être l’acte fondateur d’un nouvel embranchement tripartit.
D’un côté nous aurons le maintien d’une navigation carcérale (où nous serons en permanence traqués et observés) dans laquelle l’expérience utilisateur pourra être considérée comme "dégradée". Une expérience déjà vieille de presque 10 ans ... On connaît l’antienne : "Si c’est gratuit c’est toi le produit".
De l’autre une navigation dans les mêmes services mais où nous paierons pour avoir un semblant de garantie que notre vie privée sera respectée et que notre expérience utilisateur ne sera pas en permanence interrompue par de la publicité. Là encore l’idée n’est pas nouvelle mais elle paraît aujourd’hui inévitable(...)
En quelques semaines et sans que cela ne choque désormais plus personne nous sommes ainsi passés de "Facebook sera toujours gratuit" à "Il y aura toujours une version gratuite de Facebook". Et donc une version payante également, sans publicités, comme je vous l’avais déjà annoncé depuis longtemps et comme l’a encore confirmé Bloomberg récemment. Et comme vient encore de le confirmer le lancement du test d’un accès payant aux groupes Facebook.
On a aussi, dans une autre genre de course à la monétisation, les énièmes fonctionnalités et outils de monétisation lancés par Youtube ces dernières semaines (avec encore tout récemment l’annonce pour les chaînes de plus de 10 000 abonnés de la possibilité de proposer des abonnements à des contenus premium pour 4,99 dollars par mois). De manière générale, nombre de contenus et de services hier gratuits au sein même des plateformes sont et seront toujours davantage payants avec un modèle d’abonnement, modèle qui va permettre de faire taire la colère des créateurs tout en renforçant leur assignation à résidence attentionnelle, et qui permettra aux plateformes, mais dans un second temps, soit de prélever une commission substantielle sur ces abonnements, soit, hypothèse la plus probable, de présenter une offre de type "bouquet" dans laquelle vous paierez directement à la plateforme pour l’accès à un certain nombre de chaînes ou de services, à charge pour la plateforme d’en reverser ensuite une (toute petite) part aux créateurs et aux auteurs.
Et puis bien sûr se développera également une branche de logiciels libres - il faut en tout cas au moins autant le souhaiter que le soutenir - avec des modes de gouvernance s’apparentant à des communs et où les circuits courts de la connexion seront à l’écologie de l’esprit ce que le "bio" est à l’écologie tout court. Avec le devoir de s’interroger dès aujourd’hui sur les moyens de garantir l’indépendance des communs. (...)
Mais les usages ont changé.
Smartphones et applications sont aujourd’hui l’usage premier de connexion, et quelques vortex attentionnels géants, tous ou presque liés à l’un des GAFAM, de Youtube à Facebook en passant par Instagram, Snapchat ou Twitter, concentrent l’essentiel de notre temps connecté pour couvrir des besoins qui vont de l’information au divertissement en passant par la gestion de notre quotidien dans ses aspects les plus triviaux comme les plus fondamentaux.
Et derrière ces usages, des rentes elles aussi inédites se sont constituées. Pour les grands écosystèmes du web, la gratuité, c’est terminé.
Nous en parlions plus haut, une version payante de Facebook n’est plus un tabou. Du côté de Google Maps la bascule s’est faite ce 11 Juin 2018.
Mais revenons à la question initiale du "guidage" ou de la "guidance" algorithmique.
Et la possibilité de s’en abstraire (ou pas).(...)
Pour pouvoir guider, proposer, conseiller, prescrire, il faut commencer par ordonner, trier, classer et donc catégoriser. (...)
Catégorisation catégorique et catégorielle.
Voilà au moins 15 ans que l’on laisse les algorithmes catégoriser.(...)
ce qui est logique de leur point de vue (mathématique, statistique et objectivé) n’est pas nécessairement rationnel de notre point de vue (subjectivé et contextuellement mouvant).
Sans même parler de "compréhension", sur la plupart des sujets qu’ils traitent, les algorithmes sont incapables de simplement "prendre en compte" le contexte autrement que par l’historique de recherche ou les proximités sémantiques littérales. D’immenses budgets sont d’ailleurs investis en recherche et développement par les GAFA pour parvenir à une compréhension fine qui permette d’éviter d’étranges et problématiques rapprochements entre certains contenus. Mais l’éditorialisation algorithmique est un mécanisme encore très confus et biaisé, y compris même pour ceux qui tentent de le contrôler, dès lors qu’il dépasse la dimension de la simple recommandation transactionnelle. (...)
"Un coup de dé jamais n’abolira le hasard".
Et aucun algorithme jamais ne parviendra à opérer un traitement éditorial contextuellement assez fin ou élaboré qui soit l’équivalent de celui opéré par une intelligence humaine. Croire le contraire est, au mieux, le signe d’un anthropomorphisme candide, et au pire celui d’un transhumanisme radical (ou d’une Benoît Hamonade donc).
Des programmes, des algorithmes et des données peuvent permettre de "choisir" des contenus ciblés à proposer, mais aucune machine, aucun algorithme et aucun jeu de données ne sera jamais capable de savoir qu’elle est en train de choisir, ni d’opérer un travail réflexif critique sur la nature de ce choix ; or ce sont là les deux conditions nécessaires pour parler d’éditorialisation véritable.
Sans cette approche réflexive et critique dynamique, l’éditorialisation tourne à vide : elle n’est plus un arbitrage documenté mais un arbitraire automatisé.
Retour vers le futur.
De manière assez troublante et paradoxale nous sommes en train d’assister au retour des annuaires de recherche.(...)
je veux dire que nous assistons au retour d’une approche catégorisée, catégorique (qui ne souffre pas de discussion) et surtout - et ça c’est inédit et très problématique - catégorielle (au sens sociologique) de l’organisation et de la mise à disposition des contenus.
A ceci près que ce ne sont plus des humains mais des algorithmes qui effectuent le travail de catégorisation, qu’ils le font en effet sans que cela ne souffre de discussion (c’est catégorique), et que cette catégorisation catégorique repose sur des données catégorielles (souvenez-vous de Facebook détectant notre classe sociale). (...)
une approche où chaque "catégorie de travailleur" (Digital Labor) se voit proposer une navigation limitée aux quelques "rubriques" les plus aptes à restreindre toute forme de dissonance cognitive dans un contexte de tâche donné ou dans une historicité située de requêtage et de recherche.
Une version non-algorithmique de Youtube.
Suite aux nouvelles polémiques - la dernière datait de Novembre 2017 avec Peppa Pig et ses amitiés flippantes - autour de la plateforme Youtube for Kids qui "suggérait" des vidéos traitant du suicide et du cannibalisme ou de diverses théories conspirationnistes, la société mère (Google / Alphabet) annonçait en Avril que l’application Youtube Kids allait être "non-algorithmique".
"Une version non-algorithmique de Youtube". C’est quand même dingue non ? C’est un peu comme si on disait, je ne sais pas moi, par exemple, "Une version de gauche de la politique d’Emmanuel Macron", ou alors "Une version humaine et humaniste de Gérard Collomb." C’est fou.
C’est fou mais c’est quoi "une version non-algorithmique de Youtube" ? C’est l’idée que tous les diffuseurs seraient vérifiés (à charge pour eux de ne pas faire n’importe quoi avec leurs contenus ...), et que les parents auraient la possibilité de désactiver les "suggestions". Une version également dénommée "Whitelisted" c’est à dire fonctionnant avec une "liste blanche" de contenus et de diffuseurs "autorisés" (et donc une liste noire de contenus et de diffuseurs interdits).(...)
ce mouvement de "désalgorithmisation" (et donc du renforcement de la modération humaine ou des "listes blanches / noires de contenus") est loin d’être isolé chez les GAFA.
Le même Google, avec cette fois l’arrivée du RGPD a là encore été le premier à annoncer l’arrivée de publicités sans personnalisation alors que, là aussi, il fut pendant 15 ans le chantre et le leader incontesté de la personnalisation publicitaire. Annonce qui a bien sûr généré quelques réactions assez tendues dans le monde des requins, des vautours, des comment on dit déjà, ah oui, des annonceurs qui semblent découvrir le niveau de leur aliénation à cette régie craignant ce qui - au-delà de l’abus de position dominante de ladite régie - ne devrait être qu’un salutaire assainissement.
Et ce n’est là qu’une étape car Google vient d’annoncer la refonte totale de ses outils publicitaires(...)
Désalgorithmisation et éditorialisation sont dans un bateau.
Comme l’explique depuis longtemps Marcelo Vitali-Rosati, l’éditorialisation c’est :
"l’ensemble des dispositifs qui permettent la structuration et la circulation du savoir. En ce sens l’éditorialisation est une production de visions du monde, ou mieux, un acte de production du réel."
J’ajoute donc, pour être cohérent avec ce que je racontais plus haut, que cet acte de production du réel doit opérer simultanément un travail réflexif critique sur la nature des éléments qu’il produit. Sans cela il s’agit en effet simplement d’algorithmisation(...)
L’un des combats qu’il va nous falloir mener va être de permettre aux processus d’éditorialisation authentiques d’offrir une résistance naturelle aux processus d’algorithmisation tournant en tâche de fond dans la plupart de nos interactions sociales et marchandes connectées ou non.
Algorithmisation et éditorialisation sont aussi miscibles que l’eau dans l’huile. (...)
nous sommes toujours pris, dans le numérique comme hors du numérique, dans des logiques cognitives de polarisation. Nous "penchons", naturellement ou artificiellement toujours davantage d’un côté de l’échiquier politique, sociétal, culturel, etc. Du fait de notre éducation, de nos lectures, etc ... Or le numérique n’est pas, n’est plus, un "milieu" ou un écosystème homogène. Il est traversé par une ligne de fracture claire entre d’un côté des biotopes fermés et propriétaires (les plateformes) et de l’autre une multitude rhizomatique de contenus et de services "ouverts".
Or les logiques de polarisation numériques ne sont pas entièrement assimilables ou comparables aux logiques de polarisation non-numériques. Parce que la question de la "concurrence" ne s’y pose pas dans les mêmes termes, parce que les autorités de régulation et de contrôle y sont plus diffuses et moins présentes, et surtout parce que les logiques d’usage sont radicalement différentes et souvent antagonistes de celles du monde analogique. Pour le dire plus simplement (et plus caricaturalement), le monde analogique ne dispose pas de média - au sens littéral - capable à la fois de nous informer, de nous divertir, d’interagir avec nos amis, de nous permettre de publier du contenu, etc ... Or c’est précisément cette approche holistique qui nous piège souvent dans l’analyse des phénomènes à l’oeuvre dans les plateformes et des enjeux qu’ils soulèvent. (...)
les choix que nous ferons collectivement devront prendre en compte les choix qui seront faits, plus ou moins explicitement, plus ou moins sous la contrainte, par les plateformes qui règnent pour l’instant sur l’essentiel de nos vies connectées.
Si cet équilibre déjà fragile et mouvant entre éditorialisation et algorithmisation venait à se briser, à l’échelle d’un secteur (la santé, l’éducation, etc.) ou d’un enjeu sociétal, politique ou culturel majeur (migration, politique familiale ...), le risque est que des formes de déterminismes techniques catégoriels remettent en cause la part de libre-arbitre et d’imprévisible qui, tant à l’échelle individuelle que collective, empêche les sociétés humaines de basculer dans des formes douces de totalitarisme ou de guidance libérale toxique (la fameuse main invisible du marché ayant trop souvent tendance à se transformer en main bien visible dans la gueule des plus pauvres).
Le cas ParcoursSup.(...)
nous avons, me semble-t-il, aujourd’hui davantage besoin "d’ouvrir" et de rendre transparents les processus de décision politiques plutôt que les algorithmes qui les servent, les masquent, ou les exonèrent de leur responsabilité.
La question que je posais au début de cet article était la suivante :
"Sauf à vivre dans une déconnexion totale, est-il possible de s’abstraire de ces formes de guidage algorithmique aussi sourdes que constantes ?"
La réponse est oui, si et seulement si nous parvenons collectivement à réaffirmer la primauté de l’éditorialisation sur l’algorithmisation du monde. Il nous faut pour cela renouer avec le rhizome, avec les agencements collectifs d’énonciation qui fabriquent de la dissonance plutôt qu’avec ceux qui n’appellent qu’à des formes triviales ou élaborées et dissimulées de résonance. Ce qui implique de disposer d’architectures techniques le permettant.
Cela tombe bien. Il en est une qui est parfaitement fonctionnelle depuis déjà près d’un quart de siècle et que l’on appelle ... le web.