On s’était fait peur -et on aime bien se faire peur à la télévision ou au cinéma- en regardant « Nosedive », l’épisode de la série Black Mirror qui montrait une société au sein de laquelle toutes nos interactions sociales étaient notées. Mais il ne s’agit que d’une dystopie, se rassurait-on.
Seulement voilà, la dystopie est devenue réalité puisque depuis 2015 le gouvernement chinois a mis en place un système efficace de « crédit social », qui évalue la vie de ses citoyens, afin de récompenser les « bons » et de punir les « mauvais ». Efficace, car la méthode a déjà des répercussions réelles sur le quotidien des Chinois. Cette liste noire les aurait empêchés en effet de prendre quelque 17,5 millions de billets d’avion et 5,5 millions de billets de trains en 2018, comme vient de le révéler un rapport du Centre chinois national public d’information sur le crédit. Et tout cela pour des crimes aussi graves que… le non-paiement d‘amendes, fumer dans un transport en commun, avoir un ticket non valide ou refuser d’effectuer son service militaire.
Au même moment, on apprend que des chercheurs du Georgia Institute of Technology à Atlanta publient une étude montrant qu’il y avait plus de risques que les véhicules autonomes écrasent des piétons noirs ou à peau foncée que des blancs. La couleur de peau plus sombre rendrait plus difficile la détection automatique par les voitures. Les algorithmes seraient-ils racistes ? Ou serait-ce le faute des programmeurs qui ne donnent pas assez d’exemples de piétons non-blancs et limitent ainsi la capacité d’apprentissage de l’intelligence artificielle ?
Chine-USA : même combat dans la déshumanisation…
* James Joyce. Ulysse (1922)
