Le réel est truffé un peu plus chaque jour d’intelligence artificielle. Dans un champ traditionnel du droit déjà bien chamboulé par les aménagements relatifs aux NTIC, la jurisprudence veille et est sommée de traquer ses travers. Où l’on se dit encore
que le simple bon sens ne nuirait pas.
Alors que l’intelligence artificielle se fraye tranquillement un chemin dans tous les recoins de notre quotidien, se muant petit à petit en compagnon sinon naturel, au moins indispensable, une course poursuite est lancée. Avec ce temps de retard qui caractérise les lois, le législateur a compris qu’il devait plancher sur un nouvel encadrement de ce qui est bel et bien une révolution technologique.
Le Règlement Général sur la Protection des Données (RGPD), entré en vigueur le 25 mai 2018, a défini les conditions que les entreprises doivent respecter pour exploiter les données personnelles en leur possession. La Commission européenne s’attèle, parallèlement, à la rédaction d’un autre texte, «e-Privacy», centré, lui, sur les échanges d’informations (métadonnées) qui transitent au sein même des fournisseurs de services électroniques.
Ces lois visent à empêcher les sociétés d’exploiter comme bon leur semble les data qu’elles ont parfois récoltées de manière « originale ». En 2013, le fabricant de mobilier urbain connecté RenewLondon avait notamment installé dans douze poubelles de la City de Londres des puces afin de traquer les passants par le biais de leurs téléphones portables. Plus récemment, un assistant vocal Echo d’Amazon a enregistré une conversation privée d’une famille à Portland aux États-Unis avant de l’envoyer à un de ses contacts. Le législateur souhaite aujourd’hui empêcher ces excès, mais le problème n’est pas mince.
Opportunités, menaces et bon sens
« Les technologies progressent tellement vite qu’il est difficile pour la loi de suivre ce rythme effréné », regrette Claude Chaffiotte, le directeur d’Accenture Interactive en France et au Benelux. « Les tensions sont assez fortes aujourd’hui, mais j’espère que le bon sens prévaudra…» Rien n’est moins sûr. « On a parfois l’impression que la science-fiction remplace la réalité. Le législateur va avoir beaucoup de travail pour encadrer l’intelligence artificielle. Nous n’en sommes qu’aux prémices. Lorsqu’un individu dit « oui » aux questions qui lui sont posées par une entreprise, la loi ne peut pas passer au-dessus des choix du consommateur », constate Matthieu Frairot, le directeur général de l’agence digitale Fullsix Group France. Une réglementation ne peut pas non plus tout prévoir, surtout dans le cas d’une technologie aussi évolutive que l’apprentissage profond.
« Le deep learning permet aux machines d’apprendre par elles-mêmes en se servant des informations qui leur sont données par leurs utilisateurs », résume Thomas Saint-Hilaire, le responsable des plateformes digitales chez Prosodie-Capgemini. On ne peut pas empêcher cela. Lorsqu’un individu remplit un formulaire sur la Toile, il se contente de cocher des cases. Il est donc assez facile de s’assurer que ses réponses ne vont pas à l’encontre de la loi. Mais avec les assistants vocaux, la personne peut s’exprimer librement. Même si on ne lui pose pas de questions personnelles, rien ne l’empêche de dévoiler des données privées, comme son numéro de téléphone par exemple. Si un client dit qu’il a du mal à lire le message qu’on lui a envoyé, la machine peut en déduire que sa vue n’est pas parfaite et cette information pourrait aussi intéresser sa compagnie d’assurance… Il est donc nécessaire que les informations personnelles soient effacées.
Le législateur, lui, ne peut rien faire contre ce phénomène. « La loi a, par définition, un temps de retard par rapport aux pratiques sociales. Le législateur va davantage travailler avec des experts afin d’anticiper au mieux les possibles opportunités et menaces liées aux nouvelles technologies, mais légiférer ne sera pas suffisant. Une prise de conscience et une évolution des mentalités au sein de la communauté scientifique sont nécessaires pour éviter des débordements. Il serait notamment nécessaire de former les scientifiques à la philosophie et à l’éthique afin qu’ils s’assurent que leurs recherches restent en accord avec des valeurs morales prédéfinies », analyse Aurélie Jean, docteur des sciences et CEO d’In Silico Veritas.
Hippocrate en World Wide Web
Aurélie Jean poursuit : « Avec Grégory Renard, spécialiste en traitement du langage et basé en Californie, nous nous sommes inspirés du serment d’Hippocrate inhérent au corps médical pour écrire en juin 2018 un code éthique, « le serment d’Holberton-Turing », qui a déjà été signé par une centaine de scientifiques, mais aussi par des philosophes, des politiques, des entrepreneurs et des citoyens lambda ». Cette déclaration solennelle porte le nom d’Alan Mathison Turing, le mathématicien et cryptologue britannique qui est considéré comme l’inventeur de l’intelligence artificielle, et de Betty Holberton, l’une des six programmatrices du premier ordinateur entièrement électronique (ENIAC) construit pour être « Turing-complet ».
Dans ce serment, les signataires s’engagent « à rétablir, à préserver ou à promouvoir l’équité et l’éthique dans tous leurs éléments, physiques et mentaux, individuels et sociaux ». Ils promettent également de respecter « toutes les personnes, leur autonomie et leur volonté, sans aucune discrimination sur l’âge, la condition physique, les affiliations politiques, les croyances religieuses, les origines sociales, les origines ethniques ou encore l’orientation sexuelle ».
« Je respecterai les avancées et progrès scientifiques durement acquis par les scientifiques et les ingénieurs qui m’ont précédé et partagerai les connaissances que je possède avec ceux qui me suivront », souligne le serment. « Je me souviendrai qu’il y a un art à l’Intelligence Artificielle, aussi bien que pour la Science, et que les préoccupations humaines l’emportent sur les préoccupations technologiques. Je respecterai la vie privée des utilisateurs et je veillerai à ce que leurs données personnelles ne soient pas divulguées. Je me souviendrai que je ne manipule pas que des données, des zéros et uns, mais des êtres humains dont les interactions avec mon logiciel d’intelligence artificielle peuvent affecter la liberté, la famille ainsi que la stabilité économique. Je respecterai les secrets qui me sont confiés ».
Aurélie Jean et Grégory Renard savent que leur texte devra être modifié pour s’adapter aux évolutions technologiques. « Ce serment est le vôtre, il est fait pour évoluer dans le temps à partir de vos contributions mutuelles, à partir de contributions d’experts du domaine, mais aussi de philosophes, d’économistes, de dirigeants et de tout citoyen en général » jugent-ils. Au lieu d’attendre une loi, il suffit souvent de penser aux conséquences de ses actes pour éviter le pire.
Cet article a été tiré du numéro 26 de la revue INfluencia : « Que l’intelligenre soit ! Intelligences humaines et artificielles ». cliquez sur la photo ci-dessous pour la consulter. Et pour vous y abonner, c’est par ici.
