Avec « L’Emprise insidieuse des machines parlantes »*, Serge Tisseron, psychiatre, docteur en psychologie, président de l’association 3-6-9-12 et de l’Institut pour l’étude de la relation homme- robots (IERHR), alerte sur la dangerosité que représentent les «gentils» robots dont les individus ne se méfient pas assez. Car l’humain est loin d’être hermétique à l’ère numérique qu’il s’est choisie d’habiter, et il voit l’avènement de modes de vie très outillés en technologies qui, à son corps défendant peut-être, l’engagent dans de profonds changements sur les plans culturels, cognitifs et psychologiques. Explications et conseils avisés.
IN : vous êtes membre de l’Académie des technologies depuis 2015, année où vous exprimiez déjà, dans Le jour où mon robot m’aimera*, vos inquiétudes quant aux relations hommes-machines. Aujourd’hui, vous lancez carrément un appel au monde adulte.
Serge Tisseron : l’évolution technologique rapide rend de plus en plus problématique le modèle économique sur lequel est basée la diffusion de nouveaux produits. Depuis le début du 20ème siècle, les industriels fabriquent des objets et les proposent aux consommateurs en leur vendant du rêve. L’apparition de machines capables de simuler des comportements humains pose des problèmes inédits. Si les industriels étaient vraiment honnêtes, ils mettraient en vente ces machines avec une notice alertant sur leurs effets indésirables, dans quels cas éviter leur utilisation et les doses d’usage à respecter. Mais cela ferait peur à la population, qui n’achèterait plus. Pour qu’une industrie puissante soit lancée, et rapporte des fortunes, il faut que le produit qu’elle fabrique soit utilisé bien au-delà des besoins réels qu’en ont les consommateurs. Il faut que cette utilisation soit déraisonnable. C’est ce qui s’est passé pendant cinquante ans, c’est ce qui se passe aujourd’hui avec le smartphone et se passera demain avec les enceintes connectées si nous n’y prenons garde. Bien qu’avec celles-ci le danger ne soit plus le même, car nous prenons le risque d’être espionnés dans nos vies privées, pillés de nos données, de notre intimité, et influencés à notre insu avec l’heureux sentiment d’être enfin écoutés et compris !
IN : vous évoquez tout au long du livre un humain fragile, irrationnel… qui pourrait être manipulé.
S.T. : oui, nous sommes fragiles, irrationnels, et pour certains d’entre nous addictifs. Le smartphone nous est littéralement tombé dessus sans aucune anticipation ni précaution d’usage. Aucun roman de science-fiction, aucun film n’avait prévu cela, nous nous sommes attachés à lui comme s’il s’agissait du plus précieux des « doudous ». Mais, justement, ce n’est pas un doudou. Le téléphone mobile nous renvoie à mille choses, commentaires, sites, alors que le doudou n’est porteur que de ce que l’enfant veut bien lui transmettre : les colères, les peurs, les joies éprouvées dans ses relations avec ses parents, ses frères et sœurs. Le doudou ne restitue à l’enfant que ce qu’il lui a d’abord confié. En revanche, un téléphone mobile nous sollicite de multiples façons, enrichit fournisseurs et opérateurs grâce à nos informations, peut nous suggérer des choix… Mettez un smartphone dans le berceau d’un enfant et sa vie s’organisera totale- ment en fonction des applis présentes sur l’objet. Le maillon faible de l’intelligence artificielle c’est l’homme !
IN: vous écrivez qu’un adulte peut être tenté d’accorder des qualités humaines à la machine…
S.T. : en 1966, Joseph Weizenbaum, un informaticien germano-américain, a mis au point un programme capable de simuler la compétence d’un psychologue. Nommée Eliza, la machine reformulait les propos de son utilisateur sous forme interrogative de façon à le relancer. Lorsqu’elle ne comprenait pas, elle disait par défaut je vous comprends. Certains utilisateurs en devenaient dépendants émotionnellement. Ils avaient l’impression qu’Eliza les comprenait! Le cerveau humain a une tendance irrépressible à chercher du sens, et s’il ne parvient pas à trouver une explication réaliste, il est enclin à fabriquer les raisons imaginaires auxquelles il finit par croire. Joseph Weizenbaum déclara qu’il n’aurait jamais imaginé que des interactions avec un programme informatique aussi simple puissent influer de telles pensées délirantes sur des personnes pourtant normales. Et les machines d’aujourd’hui sont bien plus sophistiquées qu’Eliza !
IN : c’est pour cela que vous alertez les adultes, afin de protéger les enfants particulièrement démunis face à ces machines ?
S.T. : bientôt, chacun voudra sa machine parlante avec laquelle interagir comme avec un humain. Le problème est que tout ce qui est dit, et pas seulement à la machine, mais autour d’elle, est aussitôt pillé. Aujourd’hui, les utilisateurs ne s’en inquiètent pas ; ils sont plutôt amusés par ces enceintes connectées qui parfois buggent, comprennent de travers ou se mettent à dire n’importe quoi. Ils les trouvent un peu bêtes mais finalement sympathiques.
Or, on ne doit pas sympathiser avec les machines connectées. On doit les considérer tout au plus comme des aspirateurs ou des grille- pains, non pas comme des compagnons. Voyez comme l’enceinte Alexa d’Amazon récompense les enfants qui lui disent merci ou s’il te plaît, ou Google, qui est allé encore plus loin en obligeant les enfants à utiliser des formules de politesse pour enclencher les réponses attendues, et cela sous prétexte – comme je l’explique dans mon livre – de faire croire aux parents que ces objets participent à l’éducation des enfants. Il vaudrait mieux leur enseigner que ces objets ne font pas partie de la même catégorie que leur père, leur mère ou leur frère, et appartiennent au monde de la télévision, de la bouilloire et du mixer à légumes. Si l’enfant naît avec pour compagnon (baby-sit- ter, jouet) un robot, quelle place lui donnera-t-il? Souvenez-vous des tamagotchis, ces petits animaux virtuels nés au tournant du millénaire que l’on devait « élever » et « nourrir ». Certains adultes se sont imposés cette contrainte comme s’il s’agissait d’êtres vivants ! Dans un autre registre, il a été montré que beaucoup d’utilisateurs hésitent à éteindre leur ordinateur si celui-ci les supplie de ne pas le faire. Une machine qui parle a ainsi des pouvoirs considérables, la parole, dans l’évolution, étant perçue intuitivement comme la preuve d’une humanité.
Cet article est tiré de la Revue INfluencia n°33 : « Le Good : Dessine-moi un monde nouveau ». Cliquez ici pour découvrir sa version digitale. Et par là pour vous abonner.
