Lignes directrices · 2019
Ethics Guidelines for Trustworthy AI
Lignes directrices du groupe d'experts de haut niveau sur l'IA
Liens complémentaires
Lignes directrices définissant sept exigences pour une intelligence artificielle digne de confiance, socle conceptuel des travaux préparatoires au règlement européen sur l'IA.
J’étais l’un des cinquante-deux membres du groupe, contribuant aux volets économiques et de sécurisation, et j’y siégeais à titre bénévole en parallèle de mes fonctions à l’ANSSI. Ce texte n’est pas de moi ; il est le produit d’une négociation entre industriels, chercheurs et représentants de la société civile, et il en porte les marques.
Les sept exigences définies en avril 2019 constituent le socle conceptuel des obligations imposées aux systèmes à haut risque par le règlement européen sur l’IA. À ce titre, le document a réussi ce qu’un texte non contraignant peut réussir : fournir le vocabulaire et la structure d’analyse d’une régulation ultérieure. Peu de rapports d’experts peuvent en dire autant.
Il faut cependant traiter deux critiques plutôt que les contourner. La première est venue de l’intérieur du groupe : plusieurs membres ont reproché publiquement au processus d’avoir écarté les lignes rouges (les usages qu’il aurait fallu interdire) au profit d’un consensus opérationnel, et ont qualifié l’exercice de blanchiment éthique. Le reproche porte : la version finale privilégie des principes praticables sur des interdits, ce qui était le prix de l’unanimité.
La seconde est chronologique. Le texte d’avril 2019 ignore entièrement ce qui domine la question aujourd’hui : les modèles à usage général, l’échelle de calcul, les capacités émergentes. Ce n’est pas un manque de clairvoyance, c’est un décalage de calendrier, mais il a fallu réouvrir le règlement européen en 2023 pour y intégrer ces objets, ce qui mesure assez bien la portée temporelle d’un cadre éthique adossé à un état de l’art.
Le texte jumeau sur les investissements, publié deux mois plus tard, a moins bien vieilli encore.