- La première attente des administrations concerne la mise en conformité des traitements algorithmes existants avec les nouvelles obligations issues de la loi pour une République numérique et du Réglement européen sur la protection des données (principe de transparence et de redevabilité).
- La seconde attente concerne la conception et l’utilisation de nouveaux systèmes algorithmiques, notamment ceux qui permettront la prise de décisions automatisées : règles de conception à prendre en compte pour rendre ces systèmes transparents et redevables dès leur conception ("by design"), méthodologies pour assurer la maîtrise continue du traitement, ...
- Enfin, le recours à des solutions développées par le secteur privé (développement ad hoc d’algorithmes, utilisation de solutions de type « AI as a service ») nécessite un appui dans l’évaluation de la solution, notamment au plan de sa solidité scientifique et technique mais aussi des conditions à fixer pour assurer la bonne mise en oeuvre de la législation existante.
L’engagement « Renforcer la transparence des algorithmes et des codes sources publics » du plan d’action national 2018-2020 de la France définit un ensemble d’actions en lien avec les algorithmes publics:
- élaborer un guide d’ouverture des codes sources publics,
- formuler des recommandations sur l’application du principe de transparence des algorithmes introduits par la loi pour une République numérique,
- identifier les enjeux techniques, juridiques et sociétaux par le biais de 5 monographies d’algorithmes publics.
Les engagements pris dans le cadre du Partenariat pour un Gouvernement ouvert (PGO) font l'objet d'une évaluation indépendante.
Trois premiers axes de travail ont été identifiés, en tenant compte des attentes des administrations, du nouveau contexte juridique et des engagements de la France dans le cadre de l’OGP, ainsi que des champs de compétence d’autres institutions travaillant sur ce sujet.
- A quoi servent aujourd’hui les traitements algorithmiques dans le secteur public ?
- Qui les conçoit ? Qui les utilise ? Dans quelles conditions ?
- Avec quels résultats et quels impacts pour les usagers, les agents et la société dans son ensemble ?
Il n’existe pas aujourd’hui de panorama complet de l’utilisation d’algorithmes par les administrations, ce qui constitue pourtant un pré-requis pour assurer la bonne application du cadre juridique (et en particulier l’obligation de diffusion des caractéristiques des principaux traitements utilisés) et pour élaborer un véritable diagnostic de situation. Nous accompagnerons donc les administrations dans le recensement des principaux traitements algorithmiques.
Ce travail sera aussi alimenté par la réalisation de 5 monographies détaillées, c'est à dire l'analyse de cas d'usages liés à l'utilisation des algorithmes par le secteur public. L’objectif de ce travail de terrain est aussi d’identifier des bonnes pratiques déjà mises en œuvre et qui méritent d’être plus largement diffusées parmi les acteurs publics, par exemple en matière de gouvernance ou de participation des usagers.
2. L’intelligibilité du fonctionnement et des décisions des algorithmes pour l’ensemble des parties prenantes (usagers, agents, décideurs publics, société)
Les éléments fournis aux usagers par les administrations sur le fonctionnement des traitements algorithmiques et la logique des décisions sous-jacentes doivent l’être « sous une forme intelligible », y compris en application du droit national et européen. Cela représente un défi majeur compte tenu de la technicité de certains traitements algorithmiques et de la diversité des publics visés.
En outre, les administrations doivent fournir des types d’informations différents, compte tenu du cadre juridique, y compris pour tenir compte des besoins variés des usagers en la matière :
- il nous faut être capable de communiquer la logique générale de fonctionnement sans toutefois occulter la diversité des situations et des cas que le traitement doit traiter, pour l’information générale ;
- il nous faut être aussi capable de rendre compte du fonctionnement précis du traitement algorithmique dans un cas particulier et de communiquer à l’usager les données concernées.
- Comment s’assurer que le code informatique ne trahisse pas le droit, ni dans son esprit ni dans sa lettre ?
- Comment écrire le droit pour qu’elle puisse se coder facilement ?
Le troisième axe de travail est spécifique à la question des algorithmes publics : la relation entre le code informatique et la loi.
Dans ce contexte, le code informatique est censé traduire de manière opérationnelle et lisible par une machine des règles juridiques (lois, décrets, circulaires) écrites en langage naturel (mais juridique).
L'expérience d'Etalab sur le cas Admission Post-Bac (APB), mais aussi celle du calculateur de l’impôt sur le revenu, nous laisse entrevoir que la relation entre le code et la loi (pour emprunter la terminologie du « Code is law » de Lawrence Lessig) sont beaucoup plus riches et diverses qu’une simple traduction univoque loi > code. Parfois, le code informatique est contraint de résoudre des imprécisions des textes juridiques et « grave dans le sicilium » des pratiques administratives non écrites qui ne sont donc pas redevables.
Par exemple, les concepteurs d’APB ont dû interpréter de manière univoque et précise la notion floue de « domicile du candidat par rapport à la formation demandée » (distance mesurée en kilomètres, en temps de parcours ou d’un rattachement à un département, à une région, à une académie ?).
- Le programme EIG - entrepreneurs d'intérêt général saisons 2 et 3 (Etalab / Dinsic)
- Les lauréats du 1er appel à manifestation d'intérêt "Intelligence artificielle" (Etalab/Dinsic)
- Loup Cellard, doctorant à l'Université de Warwick (UK), notamment pour l'écriture du guide des algorithmes publics,
- La Fondation Internet nouvelle génération, programme "NosSystèmes" (Fing)
- La Chaire Innovation publique (ENA & ENSCI Les Ateliers)
- L'Ecole nationale d'administration (ENA)