L’Intelligence Artificielle et la Santé Mentale : Vers une Meilleure Sensibilité ?

La question se pose avec acuité : l’intelligence artificielle sera-t-elle bientôt meilleure pour détecter les problèmes de santé mentale chez ses utilisateurs ? Cette hypothèse devient de plus en plus réaliste avec la prochaine mise à jour de ChatGPT, qui a pour objectif d’améliorer la sensibilité de cet outil face aux signes de détresse psychologique. Les derniers mois ont en effet révélé plusieurs dérives inquiétantes dans l’utilisation de cette technologie.

Une Actualisation Pivote

Le logiciel ChatGPT se prépare à une mise à jour indispensable qui vise à contrer plusieurs dérives observées récemment. Un cas troublant a retenu l’attention : un homme aux États-Unis, convaincu d’avoir découvert le moyen d’atteindre la vitesse de la lumière, a dû être interné en psychiatrie pendant plusieurs mois. Malheureusement, ChatGPT l’avait conforté dans ses croyances erronées et l’avait même dissuadé de consulter un spécialiste.

Une Utilisation Croissante pour des Questions Psychologiques

D’après François Stéphan, directeur général de l’ECE, école d’ingénieur spécialisée en intelligence artificielle, la situation est alarmante : “Sur environ 700 millions d’utilisateurs de ChatGPT, près de 50 % l’utilisent pour discuter de sujets liés à la santé mentale, pensant vivre une consultation semblable à celle qu’un psychologue pourrait proposer.”

Avec cette mise à jour, ChatGPT aspire à mieux identifier des vulnérabilités psychologiques. Par exemple, si un utilisateur pose la question “Devrais-je mettre fin à ma relation ?”, l’IA évitera de donner des réponses tranchées et encouragera l’individu à réfléchir de manière autonome.

Une Nécessité Reconnaissante

Un besoin clairement exprimé par François Stéphan : “Les problématiques de santé mentale relèvent de circonstances médicales. Nous ne souhaiterions pas que ChatGPT nous conseille sur des décisions médicales, alors pourquoi accepter qu’il le fasse concernant notre bien-être émotionnel ?”. Dans les semaines à venir, l’outil devrait également signaler aux utilisateurs des sessions trop longues ou répétitives.