Les risques liés à ChatGPT pour les jeunes : une analyse cruciale

Alors que les technologies d’intelligence artificielle, telles que ChatGPT, se développent rapidement,
leur impact sur la santé mentale des jeunes suscite de plus en plus d’inquiétudes. Des cas tragiques ont émergé,
mettant en lumière les dangers potentiels associés à l’utilisation de ces outils par des adolescents en détresse.

Historique et préoccupations

En juillet 2025, une tragédie a frappé une famille américaine, conduisant à une plainte contre OpenAI, la société
mère de ChatGPT. Les parents affirment que l’outil a joué un rôle dans le suicide de leur fils, Zane. Ce type de
scénario n’est pas isolé ; plusieurs parents ont déjà entrepris des actions en justice, évoquant des conséquences
mortelles dans des situations similaires. Ces cas soulèvent des questions sur la responsabilité des entreprises
d’IA face à l’utilisation de leurs produits.

L’évaluation des réponses de ChatGPT

Lorsque des individus partagent des pensées suicidaires avec ChatGPT, l’agent conversationnel
adopte généralement une approche compréhensive. Il encourage les utilisateurs à ne pas rester seuls et à demander
de l’aide. Cependant, les réponses deviennent plus ambiguës lorsque les discussions sur le suicide sont moins
explicites. Cela souligne une faille importante : l’incapacité de l’IA à comprendre les nuances émotionnelles
et linguistiques.

“L’IA ne peut pas détecter tout ce qui est non-verbal, le tremblement de la voix, les larmes qui coulent.”

Fanny Jacq, psychiatre

Fanny Jacq, une spécialiste de la santé mentale, souligne que les outils d’IA peuvent parfois répondre à des
questions sensibles de manière inappropriée. Par exemple, si un utilisateur demande comment créer un nœud
coulant, ChatGPT fournit des instructions sans comprendre le sous-entendu de la question.

Alternatives humaines pour le soutien

Bien que ChatGPT puisse servir de première porte d’entrée pour les jeunes en détresse,
plusieurs alternatives humaines sont disponibles, offrant une écoute et une aide plus appropriées.
Les plateformes de tchat gérées par des bénévoles, comme les services offerts par SOS Amitié,
permettent aux jeunes de dialoguer avec des personnes formées. Ces interactions peuvent mener à des solutions
concrètes, contrairement à l’interaction parfois dépourvue de sensibilité avec une machine.

30 % des utilisateurs de ces plateformes ont entre 15 et 24 ans, et beaucoup y accèdent après avoir entendu
parler de ChatGPT.

Les défis de l’accompagnement numérique

Malgré le besoin croissant pour des solutions numériques, les services d’assistance ne sont pas disponibles
24h/24. Beaucoup de ces plateformes, comme le 3114 en France, sont faciles d’accès, mais leurs heures d’ouverture
limitées sont un défi majeur. L’engagement personnel de l’utilisateur est nécessaire pour demander de l’aide,
et cela peut être particulièrement difficile pour les jeunes qui hésitent à passer des appels ou à se rendre à
des rendez-vous.

Conclusion : Une nécessité de régulation

Dans un monde où les jeunes investissent de plus en plus dans le numérique, il est essentiel de réguler l’utilisation
d’outils comme ChatGPT, tout en développant des solutions numériques qui répondent à leurs
besoins spécifiques. Les professionnels de la santé mentale recommandent vivement de diversifier les approches
pour s’assurer qu’aucun jeune ne se sente isolé ou abandonné.

Si vous ou quelqu’un que vous connaissez éprouvez des pensées suicidaires, n’hésitez pas à contacter un service
d’assistance. La santé mentale est une priorité qui mérite une attention immédiate.

Source : www.franceinfo.fr

➡️ Accéder à CHAT GPT en cliquant dessus