L’UNESCO et l’UE s’unissent pour accélérer la mise en place de règles éthiques concernant les IA

Adoptée à l’unanimité par les 193 États membres en novembre 2021, la Recommandation de l’UNESCO est le premier cadre normatif universel pour l’éthique de l’intelligence artificielle. Elle est fondée sur la promotion et la protection des droits humains, de la dignité humaine et de la durabilité environnementale et comprend des chapitres politiques concrets qui appellent à une meilleure gouvernance des données, à l’inclusivité et à l’égalité des genres.

Depuis novembre 2021, elle fournit un cadre normatif commun à tous les pays du monde. Près de 30 pays ont déjà commencé à établir leur législation nationale sur la base de cette Recommandation, garantissant que l’intelligence artificielle respecte les libertés fondamentales et les droits humains, et bénéficie à toute l’humanité.

Reconcevoir notre rapport à l’IA

Au moment de promulguer son texte il y a deux ans, l’UNESCO évitait soigneusement le piège de la technophobie bas du front en affirmant que l’intelligence artificielle pourrait aider à créer 3,3 millions d’emplois supplémentaires, à lutter contre la propagation et les conséquences de la pandémie de COVID-19 mais également à accompagner des millions d’étudiants à terminer leurs études secondaires. Pour autant, l’Organisation pointait aussi du doigt « les risques et des défis, liés à une utilisation malveillante ou à l’aggravation des inégalités et des clivages ».

Alors comment la réglementer ? Le texte commence par stipuler que chaque citoyen doit avoir accès aux enregistrements de ses données personnelles et doit être en mesure de les effacer. La norme renforce donc la capacité des organismes de réglementation à faire respecter ces dispositions. Autre point essentiel : l’interdiction explicite de l’utilisation de systèmes d’IA pour la notation sociale et la surveillance de masse.

La Recommandation souligne que, lors de l’élaboration de cadres réglementaires, la responsabilité et l’obligation de rendre des comptes devraient toujours incomber aux êtres humains en dernier ressort et les technologies de l’IA ne devraient pas être dotées elles-mêmes d’une personnalité juridique. Enfin, le texte met l’accent sur l’évaluation de l’impact éthique en encourageant les États membres à envisager de mandater un responsable de l’éthique de l’IA indépendant ou un autre mécanisme pour superviser des audits et effectuer une surveillance continue.

Une législation qui en appelle d’autres

« Face aux défis pressants engendrés par l’IA, nous devons aller plus vite en apportant un soutien accru aux pays à faible revenu. Je salue la décision de la Commission européenne de se joindre à l’UNESCO pour soutenir ces pays, en finançant la mobilisation d’experts et l’organisation de formations. C’est la coopération multilatérale dans tout ce qu’elle peut apporter de meilleur », déclare Audrey Azoulay, Directrice générale de l’UNESCO.

À l’heure où l’IA générative suscite une inquiétude croissante, le partenariat entre l’UNESCO et la Commission européenne promet de mobiliser 4 millions d’euros pour aider les pays à faible revenu à élaborer leurs stratégies et réglementations au niveau national. Cet accord prévoit notamment de financer la mise en place d’une équipe, baptisée les « Experts en éthique de l’IA sans frontières », qui fournira un appui à la demande et des conseils sur mesure en politiques publiques, afin de renforcer la capacité des institutions des États membres à mettre en œuvre la Recommandation.

L’UNESCO promet déjà d’organiser chaque année un Forum mondial sur l’éthique de l’IA, qui servira de plateforme de formation et permettra aux acteurs de l’IA du monde entier de partager les meilleures pratiques. L’organisation « fondée sur le partage des savoirs et de la connaissance » a également annoncé qu’elle développera un kit d’outils sur l’IA à destination des acteurs du système judiciaire.