La société qui gère l’infrastructure technique du système d’assurance maladie autrichien a lancé un appel d’offres massif pour des services d’intelligence artificielle. Le projet est entouré de secret, même si les antécédents de l’entreprise incitent à la prudence.

À première vue, "IT-Services der Sozialversicherungen GmbH" (IT-SV) est une société de logiciels comme les autres. Peu de gens en ont entendu parler, même dans leur pays d’origine, l’Autriche. Mais IT-SV n’est pas une société de logiciels comme les autres. Elle gère le logiciel de presque tous les services de sécurité sociale autrichiens et prétend s’occuper de 8 800 000 bénéficiaires - dans un pays qui compte 9 030 000 habitants.

En décembre, IT-SV a lancé un appel d’offres pour toute une série de services, dont la reconnaissance vocale, les chatbots, l’analyse d’images, etc. Au total, l’IT-SV prévoit d’investir 52,5 millions d’euros dans l’intelligence artificielle.

Les entreprises doivent prouver qu’elles ont accès à du personnel expérimenté dans un certain nombre de domaines et seront jugées en fonction des tarifs journaliers qu’elles pratiqueraient. Les candidats doivent nommer un certain nombre de développeurs, de data scientists et d’architectes par lot pour lequel ils postulent. L’appel d’offres ne mentionne aucun projet concret, ni aucun élément d’information supplémentaire.

Un deuxième appel d’offres visant à "créer un système d’approvisionnement dynamique pour l’IA" a été publié en même temps, sans estimation de valeur. Il apporte quelques éclaircissements sur les objectifs potentiels du premier appel d’offres en donnant deux domaines d’utilisation à titre d’exemple : les services de comptabilité tels que l’analyse automatique et la vérification des factures, ainsi que les prévisions, par exemple pour identifier les facteurs de coûts pour les compagnies d’assurance.

AlgorithmWatch a tenté de contacter l’IT-SV pour obtenir plus de détails sur les domaines d’utilisation prévus (pourquoi l’IT-SV aurait-elle besoin d’un chatbot de 9 millions d’euros pour la comptabilité ?) ou sur les calculs qui ont conduit à l’estimation des coûts du projet. Plusieurs courriels envoyés à l’adresse fournie pour les demandes de presse sont restés sans réponse. Le numéro de téléphone indiqué sur le site web pour les demandes de renseignements de la presse n’est pas utile non plus. Notre appel n’a pas été pris par une personne du service de presse, mais par une opératrice. Après avoir envoyé un dernier courriel de confrontation, le service de presse a refusé de faire des commentaires, invoquant une politique qui consiste à ne pas commenter les appels d’offres en cours - même si la date limite de dépôt des offres était déjà dépassée.

(Nous n’avons pas pu déposer de demande de liberté d’accès, car la loi autrichienne sur la liberté d’information, qui a été adoptée en janvier et qui permettrait d’adresser des demandes à ces entreprises, n’entrera en vigueur qu’en 2025).

ÖGK ("Österreichische Gesundheitskasse"), le plus grand assureur maladie d’Autriche, qui possède une partie d’IT-SV et est cité dans les appels d’offres comme l’un des clients potentiels des soumissionnaires, s’est refusé à tout commentaire et a demandé à AlgorithmWatch d’adresser ses questions à IT-SV (qui ne répond pas). Les questions concrètes sur les systèmes IT-SV déployés chez ÖGK sont restées sans réponse.

Aller vite et tout casser

Les services sociaux autrichiens ne sont pas étrangers à l’apprentissage automatique. Au moins deux projets antérieurs d’IT-SV ont déjà été déployés. En décembre 2019, ils ont introduit à l’ÖGK un classificateur de documents automatisé qui transmet les courriels des assurés aux services responsables en fonction de leur texte et de leurs pièces jointes. IT-SV a également reçu 2,8 millions d’euros pour le "système KAI", un projet visant à accélérer le processus de remboursement des traitements effectués par des médecins non conventionnés avec l’assurance maladie. Selon le rapport annuel des plus grandes caisses d’assurance maladie, deux tiers des demandes de remboursement ont été traitées de manière semi-automatique en octobre 2022.

En Autriche, beaucoup doutent que la KAI ait accéléré les remboursements. Un patient a rapporté au journal Kurier qu’il avait envoyé 15 factures en 2021 et qu’il avait été remboursé dans un délai moyen de 27 jours. En 2023, sur la base de 17 factures, il a été remboursé après 54 jours. Un porte-parole de l’ÖGK a expliqué ce retard en disant que le système était basé sur l’apprentissage automatique et qu’il était donc encore en phase d’apprentissage.

D’autres services publics autrichiens ont déployé l’intelligence artificielle à grande échelle avec des résultats controversés. L’agence pour l’emploi a lancé en janvier un chatbot basé sur l’apprentissage automatique appelé "Berufsinfomat". Il propose aux utilisateurs de poser des questions telles que "Comment devenir programmeur" ou "Je trouve les officiers de police intéressants ! Quelles sont les exigences ? Un développeur de logiciels a constaté que le logiciel était discriminatoire à l’égard des femmes si les utilisateurs indiquaient leur sexe dans les messages-guides. La même agence avait précédemment tenté d’introduire un algorithme qui classait les demandeurs d’emploi en fonction de la probabilité qu’ils trouvent un emploi. Une analyse des données (sans apprentissage automatique) a montré que l’algorithme classait les femmes dans une catégorie inférieure parce que les données antérieures indiquaient qu’elles avaient moins de chances de trouver un emploi. L’agence autrichienne pour l’emploi n’a vu aucun problème dans cette logique, mais s’est abstenue de déployer l’algorithme après un tollé de la société civile.