INfluencia: comment en êtes-vous venue, en tant que psychologue clinicienne à penser que l’IA générative pouvait vous être utile ?
Marie-Françoise Bertrand : j’ai exercé pendant plusieurs années en tant que psychologue libérale. La “psy/tech” s’est imposée comme un moyen de répondre aux attentes des patients. Ils souhaitaient un avis expert, disponible H24 qui puisse répondre immédiatement à leur principale question : grave ou pas grave? Lorsque j’ai recueilli ces attentes auprès d’un panel de 200 personnes je ne savais pas encore qu’il me faudrait innover et créer une IA en psychologie.
En effet, il faut savoir que l’univers de la psychologie est très satellisé, avec autant d’avis et diagnostics que de praticiens. Faites vous-même l’expérience et consultez au moins trois praticiens différents : vous obtiendrez 3 diagnostics différents donc 3 plans thérapeutiques distincts, si tant est que le professionnel ne soit pas averse au mot “diagnostic”! La première étape a donc été de s’accorder sur un référentiel théorique commun avant même de lancer la recherche sur comment transposer une démarche de diagnostic en sciences humaines, dans une interface numérique.
les familles ont besoin d’accéder à un avis d’expert psychologique, sans pour autant subir le regard et la culpabilité que la démarche peut impliquer.
IN. : vous-vous lancez alors dans l’aventure Family Up…
M-F. B. : après 10 années de métier, j’ai fait face à plusieurs constats, les familles ont besoin d’accéder à un avis d’expert psychologique, sans pour autant subir le regard et la culpabilité que la démarche peut impliquer. Ces dernières ont besoin d’aide mais n’ont pas toujours les moyens ou les aides financières pour y accéder. 80% des demandes de consultation pour les enfants n’ont pas besoin d’un suivi psychothérapeutique. Des conseils experts délivrés au bon moment auraient empêché une cristallisation de problèmes éducatifs en symptômes.
Donc, face à la demande trop importante au sein de mon cabinet, j’ai dû mettre en place une méthodologie téléphonique pour me permettre de trier « l’urgence » d’une prise en charge thérapeutique. C’est ainsi que le concept de My Family Up est né en 2015 avec pour ambition de rendre la psychologie accessible à tous. Pour y répondre, le digital était la seule option.
DSM-V, est le manuel statistique des maladies mentales utilisé par les psychiatres pour établir un diagnostic. Ce dernier, dans une certaine mesure, est une algorithmie tirée des statistiques d’apparition des maladies mentales. Couplé à du machine learning, votre I.A va “apprendre” en établissant des corrélations entre le pourcentage d’apparition d’une donnée et son diagnostic.
IN. : en quoi consiste cette méthode ?
M-F. B. : My Family Up développe des applications utilisant l’intelligence artificielle (IA) pour répondre aux besoins des parents ; dès leur projet de naissance jusqu’aux 18 ans de l’enfant avec Parent’UP . Des aidants de personnes âgées avec Mon Repère Aidant. Ces deux applications permettent de répondre 24 heures sur 24 et de manière personnalisée à des problématiques autour du bien-être mental. Toujours dans l’objectif de rendre accessible la psychologie à tous, nous avons développé notre organisme de formation à destination des professionnels de la petite enfance, l’enfance & l’adolescence, de la santé et des séniors qui embarque un simulateur de comportement des enfants. Ce simulateur permet d’avoir des formations e-learning très ludiques et innovantes.
La difficulté n’est pas dans l’établissement du diagnostic lui-même mais plutôt le temps et le volume de données qu’il faut pour établir un diagnostic fiable.
IN. : pensez-vous qu’une IA générative puisse aider à déceler réellement des maladies mentales…
M-F. B. : déceler, oui bien sûr! La difficulté n’est pas dans l’établissement du diagnostic lui-même mais plutôt le temps et le volume de données qu’il faut pour établir un diagnostic fiable. Pour tenter d’illustrer mon propos je ferai appel au DSM-V, qui est le manuel statistique des maladies mentales utilisé par les psychiatres pour établir un diagnostic. Ce manuel statistique est, dans une certaine mesure, une algorithmie tirée des statistiques d’apparition des maladies mentales. Couplé à du machine learning, votre I.A va “apprendre” en établissant des corrélations entre le pourcentage d’apparition d’une donnée et son diagnostic. Par exemple : dans 100% des cas de schizophrénie nous trouvons 99% de cas corrélés avec l’élément : antécédent traumatique.
Maintenant nous compliquons un peu les choses. L’élément antécédent traumatique, qui l’a trouvé: l’IA ou vous ? Avez-vous demandé à votre IA d’analyser les corrélations dans un ensemble de données supervisées où vous même avez classifié des éléments tels que les antécédents, le poids, la taille, la qualité du sommeil et bien d’autres données….Ou avez-vous laissé votre IA classifier par elle-même et établir des corrélations sans superviser les choses ? Dans la seconde hypothèse, la difficulté réside dans la quantité de données à “faire avaler” à votre IA, par contre ses résultats seront plus fiables que dans la version n°1 et peut-être plus porteurs pour la Recherche.
Pratiquement toutes les maladies mentales peuvent-être diagnostiquées par une IA, là encore c’est le degré de fiabilité du diagnostic par rapport au temps imparti pour réaliser ce diagnostic que l’IA va améliorer…
IN. : où s’arrête la compétence de l’IA et votre rôle à vous, individus?
M-F. B. : pratiquement toutes les maladies mentales peuvent-être diagnostiquées par une IA, là encore c’est le degré de fiabilité du diagnostic par rapport au temps imparti pour réaliser ce diagnostic que l’IA va améliorer. Le professionnel de santé est un humain qui doit décider en composant avec ses propres émotions et ses biais cognitifs. Son état émotionnel ou sa fatigue peut interférer sur la fiabilité de son diagnostic. Combien de temps faut-il à un psychiatre pour établir un diagnostic fiable? 1H, 2H, 3H…. Combien de questions doit-il poser à son patient ? De combien d’informations doit-il disposer pour y arriver ?
Une IA qui se supervise toute seule n’est pas éthiquement acceptable dans une relation d’aide, justement parce que la variable humaine est une composante essentielle dans l’accompagnement psychologique et thérapeutique.
Et puis, il y aussi un autre sujet : accepte-t-on la même chose d’une IA? La réponse est simple : non. Plus fiable, rapide et émotionnellement neutre, elle doit s’envisager comme un second avis ou encore une aide au diagnostic. Une IA qui se supervise toute seule n’est pas éthiquement acceptable dans une relation d’aide, justement parce que la variable humaine est une composante essentielle dans l’accompagnement psychologique et thérapeutique. C’est pourquoi nous avons choisi de construire une IA où l’humain garde toujours la main !
en France, nous faisons face à une énorme problématique : le tabou de la santé mentale, la pénurie de psychologue, de psychiatres et pédopsychiatre
IN. : si l’on parle beaucoup de progrès dans l’IA et la santé, c’est moins le cas en santé mentale… Pourquoi ?
M-F. B. : en France, nous faisons face à une énorme problématique : le tabou de la santé mentale, la pénurie de psychologue, de psychiatres et pédopsychiatre, etc. Bien que la covid-19 ait révélé la nécessité de prendre en compte cette sphère de la santé, le constat est trop tardif, et oui la santé mentale a toujours été le parent pauvre de la médecine. Le sous-financement chronique depuis des décennies a fini d’épuiser les vocations.
En santé mentale vous n’avez pas de “radiographie” d’un trouble anxieux mais une liste de manifestations communes à d’autres pathologies ou troubles. Les IA sont donc plus complexes à construire car le diagnostic différentiel est plus flou qu’en matière de santé tout court…
On peut au moins remercier la COVID sur ce point : elle a fait prendre conscience à tous les Français que la santé dépend aussi de son état mental et que le numérique n’est pas à diaboliser mais à accompagner. Les besoins en santé mentale ont explosé et sont particulièrement visibles chez nos jeunes. Diagnostiquer c’est bien mais le véritable enjeu c’est accompagner. Comme dirait le proverbe “Rien ne sert de courir à diagnostiquer”…, il faut l’effectif à temps pour faire cette course !”
Ensuite je dirai qu’il est beaucoup plus difficile et onéreux de construire une IA en santé mentale pour deux raisons essentielles selon moi: en psychologie la frontière entre un trouble et une réponse adaptative à un environnement difficile est plus complexe qu’il n’y paraît, ce qui complique l’établissement du diagnostic. En santé pour établir par une IA un diagnostic de cancer du poumon, vous faites avaler à votre machine apprenante une quantité importante de radiographies de poumons et leurs diagnostics. La machine associe donc le diagnostic cancer à une imagerie noircie sur tel ou tel lobe du poumon. En santé mentale vous n’avez pas de “radiographie” d’un trouble anxieux mais une liste de manifestations communes à d’autres pathologies ou troubles. Les IA sont donc plus complexes à construire car le diagnostic différentiel est plus flou. Le second point est lié à la relation patient/thérapeuthe. Je parle ici de l’importance du transfert avec son thérapeuthe dans l’accompagnement thérapeutique. La notion de confiance, de projection émotionnelle n’est pas reproductible par une IA. C’est souvent la dimension du feed-back immédiat qui fait défaut. C’est pourquoi nous avons lancé notre programme de recherche Méta Psy, pour détecter dans la voix les état émotionnels à risque, en temps réel.
La porte d’entrée est toujours un cas d’usage du quotidien qui interroge les individus et pas forcément un trouble mental.
IN. : comment imaginez-vous le trajet d’un patient qui fait appel à Family Up?
M-F. B. : alors je ne l’imagine pas je le constate car nos IA sont déjà commercialisées et utilisées. Que ce soit pour un parent comme pour un aidant. La personne doit se connecter sur l’une de nos plateformes (via son pc, tablette ou téléphone), ensuite elle devra sélectionner un sujet qui lui pose question comme “mon enfant est-il harcelé à l’école” ou encore “mon aidé atteint de la maladie d’Alzheimer a un comportement agressif envers moi”. La porte d’entrée est toujours un cas d’usage du quotidien qui interroge les individus et pas forcément un trouble mental. En ce sens, nos applications sont d’abord préventives pour le grand public et permettent ensuite la détection et l’accompagnement des troubles. Puis, répondre à des questions (par oui ou par non) pour ensuite recevoir une méthode à mettre en place composée de conseils, d’outils psychopédagogiques, de vidéos, etc. Si l’IA détecte un soupçon de trouble ou pathologie alors elle orientera l’utilisateur vers un professionnel extérieur ou vers nos propres psychologues. Si besoin, les personnes peuvent également prendre rendez-vous à distance (visio/tel) avec l’un d’eux.
IN. : la santé mentale est l’un des sujets qui depuis la covid est devenue omniprésente. Comment expliquez-vous cette soudaine prise de conscience, alors que les maux mentaux existent de tous temps ?
M-F. B. : le corpus médical et scientifique et plus précisément les professionnels en santé mentale alertent les pouvoirs publics depuis quelques décennies déjà ! Les problèmes de santé mentale ont toujours existé. La réalité c’est que ce sujet ne passionnait guère les médias. Notre société a rédigé des articles bien avant la pandémie pour sensibiliser le public à la baisse drastique des pédopsychiatre en France et expliquer le pourquoi de la création d’une IA en santé mentale, et croyez moi cela n’a pas été une mince affaire. En 2014 j’alertais déjà la presse et les pouvoir publics sur le fait qu’en France il ne resterai à l’horizon 2023 qu’une poignée de pédopsychiatres (moins de 600) et guère plus de psychiatres !
Cette expérience collective de la Covid a attiré l’attention des médias sur l’importance de la santé mentale. Depuis la covid, le tabou de la santé mentale se brise petit à petit.
Étant donné que nous étions tous dans ce cas précis “dans le même bateau” avec des degrés différents d’anxiété lié à différents confinements, l’isolement social, la peur de maladie, la perte d’êtres chers, le stress lié à l’emploi,…. Ces facteurs ont exacerbé les problèmes de santé mentale pour de nombreuses personnes, même celles qui n’avaient jamais connu de troubles mentaux auparavant. Cette expérience collective a attiré l’attention des médias sur l’importance de la santé mentale. Depuis la covid, le tabou de la santé mentale se brise petit à petit. Le véritable enjeu pour les acteurs de la filière est que la santé mentale ne soit pas qu’un “sujet” à régler sur le court terme, mais une réalité à “prendre en compte” sur le long terme. Et là, les médias ont compris leur rôle de lanceurs d’alerte et ont agi comme un véritable porte-voix.
IN. : avez-vous des concurrents? Qui sont-ils ?
M-F. B. : à ce jour, non, nous n’avons pas de concurrent direct qui développent eux-même leur propre IA pour soutenir la santé mentale des familles. Certaines sociétés émergent sur des secteurs précis en créant des chatbots pour accompagner les Aidants mais ciblés sur 1 seule pathologie; Ils ont recours à chatgpt, écrivent quelques lignes de code en personnel et déclarent ensuite créer des IA métier. Je déplore que la France ait recours à des IA étrangères pour construire ses offres de services et de ce fait ne puisse garantir la sécurité des données de leurs utilisateurs, ou encore à l’exploitation de ces données à d’autres fins que celle d’une recherche éthique.
nous militons en faveur de la construction d’ IA 100% française, éthique, où la supervision humaine est indispensable.
pensez-vous que l’IA générative soit un outil suffisant et abouti pour s’attaquer à un sujet auquel beaucoup résistent?
M-F. B. : comme souligné précédemment, nous militons en faveur de la construction d’ IA 100% française, éthique, où la supervision humaine est indispensable. Nous avons développé notre IA en fonction du métier de psychologue. Il s’agit donc d’une IA experte qui est en mesure de diagnostiquer une pathologie et aussi d’y associer le programme thérapeutique le plus adapté en fonction des singularités du sujet qui consulte. Donc un programme 100% personnalisé. Lorsqu’il n’y a pas de programme thérapeutique à proposer car pas de pathologie avérée, l’IA est en mesure de transmettre une méthode optimale pour agir par soi-même. Cette méthode écrite et personnalisée permet à tout un chacun d’agir sans craindre de mal agir ou d’aggraver la situation, selon les recommandations issues des sciences humaines (parfois des sciences de l’éducation, de la psychologie, de la sociologie….). Ce qui permet aux personnes n’ayant pas forcément les moyens, l’envie, le temps… de consulter directement un professionnel, d’avoir via l’IA la possibilité d’obtenir un premier avis expert et des réponses professionnelles écrites. Donc oui, notre IA est un bon outil pour obtenir des réponses expertes sans attendre, sans peur et éviter qu’un potentiel mal-être se cristallise en symptôme.
IN. : son rôle peut-il aller plus loin ?
M-F. B. : elle n’a pas l’objectif de remplacer le métier autour de la psychologie. Bien au contraire, elle est la première porte d’entrée permettant à chacun de faire un premier pas vers un éventuel parcours psychologique si besoin. C’est une nouvelle expérience de la psychologie sans contraintes et plus libre qui permet de répondre à une question importante : grave ou pas grave ? Et aujourd’hui il n’existe rien d’autre sur le marché qui vous permettra de savoir si vous devez consulter urgemment ou comment résoudre votre problème par vous même avec une méthode experte personnalisée. Enfin, nous assurons aussi un suivi si besoin et sur demande des utilisateurs via l’un de nos psychologues.
IN. : une IA peut-elle avoir cette neutralité que l’on n’a pas forcément chez un psy, ou en tout cas, ce filtre « machine », est-il susceptible d’être plus efficace qu’un humain?
M-F. B. : c’est l’une des forces de l’IA ! Seule une Intelligence Artificielle peut relever le défi et présenter l’avantage pour le “patient” de supprimer la peur du jugement et de recevoir un avis professionnel écrit et sans biais cognitif. Donc pour de la détection ou du diagnostic oui l’IA peut s’avérer plus performante que l’humain. Par contre pour accompagner en thérapie un patient là c’est plus difficile et pas efficace par rapport à l’humain.
en 2022 les citoyens anglo-saxons ont déclaré faire bien plus confiance à une application qu’à un traitement pharmaceutique pour soigner leur problème de santé mentale. En France, premier pays européen consommateur de médicaments, cette annonce sonne comme une révolution et inquiète toute l’industrie pharmaceutique.
IN. : on parle de la révolution que représente la tech, l’IA prospective et l’IA générative, quelle est votre position à ce sujet?
M-F. B. : effectivement nous vivons une véritable révolution tech qui a déjà impacté nos métiers, nos usages et aussi nos esprits. Je vous cite un exemple : en 2022 les citoyens anglo-saxons ont déclaré faire bien plus confiance à une application qu’à un traitement pharmaceutique pour soigner leur problème de santé mentale. En France, premier pays européen consommateur de médicaments, cette annonce sonne comme une révolution et inquiète toute l’industrie pharmaceutique. La véritable révolution qu’imposent les IA concerne notre rapport au temps. L’IA et les technologies qu’ elle embarque accélèrent tous les processus et aucun de nos modèles Français n’a été pensé pour. Je vous donne un autre exemple pour illustrer ces propos : si vous souhaitez valider une application dotée d’une IA en santé mentale en dispositif médical. En France, faire valider un dispositif médical se compte en années. Le processus est calqué sur l’industrie pharmaceutique et sa nécessité d’expérimenter à grande échelle et longtemps après les effets d’un dispositif. Si vous développez une application avec une IA votre technologie sera à peu près pérenne sur 12 à 18 mois, ce qui est totalement incompatible avec la demande d’homologation en dispositif médical.
IN. : vous dites être inquiètée par les chatbots. pourquoi ?
M-F. B. : d’abord et avant tout parce que générer un contenu sur la base de tout ce qui circule sur le net présente des risques d’erreurs majeurs : annoncer que la terre est plate et que les œufs de vache se trouvent dans des nids nous a tous bien fait rire. Par contre, la vitesse à laquelle ils ont apporté des corrections est spectaculaire. Ensuite, j’ai trouvé chatgpt très limité en matière de diagnostic en santé mentale ou encore dans ses propositions de prévention très “bateaux”. Vous vous doutez bien que nous avons fait le test avec notre IA métier et je n’y ai pas vu de révolution!
IN. : quels sont les dangers inhérents à une telle avancée?
M-F. B. : je ne sais pas s’il faut parler de danger car les IA ne nous menacent pas. C’est l’utilisation des IA qui doit être questionnée : qu’une IA soit en mesure de reproduire un tableau de Vinci c’est intéressant, amusant, stimulant…Mais que ce tableau soit revendu en contrefaçon ou que le marché se passe de la créativité des artistes, c’est bien l’utilisation des IA qui est à questionner. Il en a toujours été ainsi et l’humain n’en est pas à sa première révolution technologique. Encore une fois ici tout est une question de temps et la difficulté viendra surtout de la rapidité avec laquelle nous régulerons l’utilisation l’IA. Les communautés d’experts et les utilisateurs sont assez réactifs, mais qu’en est-il de nos institutions ?
IN. : pensez-vous que la révolution tech va créer des jeunes différents, modifier les esprits, manipuler les gens?
M-F. B. : la révolution technologique a déjà eu un impact significatif sur la façon dont les jeunes grandissent, interagissent avec le monde et perçoivent l’information. Des études ont montré que nos jeunes sont bien plus performants aujourd’hui qu’au siècle dernier. Pourtant on continue d’entendre que nos jeunes étaient bien mieux formés et plus intelligents avant ! Donc en effet, je pense que la révolution tech va continuer de modifier les manières de travailler, d’accéder à l’information, et donc permettre aux jeunes de traiter plusieurs informations à la fois.
IN. : est-ce pour autant négatif ?
M-F. B. : tout dépendra de la manière dont cela sera utilisé, réglementé et autre. Comme tout, la nouveauté s’apprend, donc il est nécessaire de sensibiliser les plus jeunes quant à l’utilisation de ces nouvelles tech, à leurs risques et bien-sûr leurs avantages. Enfin, la manipulation des gens existe depuis toujours et ne dépend pas d’une révolution tech. L’imprimerie et ensuite les médias ont été accusés de manipulation et pourtant, plus un pays dispose de médias indépendants et plus il est libre de ses choix.
