Le logiciel OASIS qui croise différentes de nos données afin de repérer et de faire contrôler des fraudeurs fiscaux potentiels n’est encadré par aucune loi. Ni le code source des algorithmes utilisés ni les types de données qui le nourrissent ne sont publiés. Plus encore, toute demande d’y avoir accès est refusé. Qui a décidé de ces outils? Qui a créé ces algorithmes? Selon quels critères? OASIS ne conduit-il pas à des décisions injustes au regard de la loi? La réponse à ces questions, on la trouve dans le nouveau livre d’Isabelle Degrave: « L’État numérique et les droits humains. »
L’État nous voit sans lui même être vu
Elise Degrave, Docteur en sciences juridiques et professeure à la Faculté de Droit à l’Université de Namur, Directrice de l’équipe de recherches en E-gouvernement au Namur Digital Institute (Nadi/Crids), co-directrice de la Chaire E-gouvernement de l’Université de Namur et membre du Conseil wallon du numérique: « On s’intéresse très peu aux agissements de l’État numérique. C’est une matière qui est en fait jusqu’ici très peu connue, même des avocats qui ont tendance à ne pas invoquer les arguments qu’ils ne connaissent pas simplement pas. C’est peu connu, c’est technique, c’est dans les coulisses, donc c’est obscur. Mais lorsque l’on se penche sur ce dossier, on constate qu’il y a une accélération dans l’usage de nos données.
L’État nous voit, sans lui même être vu.
En 2022, un avant-projet de loi a mis sur la table la communication de nos données de santé aux sociétés d’assurances. Il a été déposé par le Ministre des finances de l’époque dans le but d’une « meilleure efficience dans la gestion des contrats d’assurance. » Elise Degrave: « Ce projet a provoqué de vives réactions, ébranlant la confiance en l’État des citoyens vu cette réutilisation de données potentiellement nuisible. Le texte, manquant de balises suffisante pour empêcher les dérives, n’a pas abouti. » En France, les manifestations sont surveillées par des drones. En Hongrie, les mauvais payeurs d’impôts sont mis en vitrine sur Internet. Aux frontières de l’Europe, on utilise des robots détecteurs de mensonge pour sélectionner les migrants.
Notre vie sociale est guidée par les algorithmes
Elise Degrave: « Autant de cas réels qui confirment les craintes d ‘un déséquilibre de plus en plus marqué entre l’état et les individus au départ de la réutilisation de leurs données. La technologie redessine l’administration dans son fonctionnement et dans son rapport avec le citoyen. Le choix de l’école secondaire d’un enfant, l’octroi d’une aide sociale ou l’identification de fraudeurs potentiels, le travail des agents humains est guidé par des algorithmes qui peuvent jouer un rôle déterminant dans la décision administrative. »
Une nécessité de légalité, d’égalité et de transparence
Pour la professeure, la numérisation des services de l’État pose 3 défis. Le premier est celui de la légalité. Comment encadrer l’état numérique? Un gouvernement peu soucieux des droits humains pourrait utiliser notre double numérique de manière préjudiciable, par exemple en organisant une traque ciblée des personnes en fonction de leur origine ou de leur orientation sexuelle. Le deuxième est celui de l’égalité? Numérisation rime-t-elle avec vulnérabilisation? « Dans les services publics, les écrans remplacent progressivement les agents. De plus en plus de personnes peinent à exercer leurs droits et respecter leurs obligations dans la société « sans contact ». Le troisième défi est la transparence. « Le numérique est intangible et invisible. Il est si difficile d’identifier ce que deviennent les données confiées à l’État que même en cas de bugs dommageables, retrouver l’erreur s’apparente souvent à cherche une aiguille dans une botte de foin. »
