Les écarts de l’IA : un cas concret avec ChatGPT 4

Le 4 juin, durant le tournoi de Roland-Garros, Novak Djokovic dévoile son intervention au genou. Pour l’outil d’intelligence artificielle ChatGPT 4, tout va bien pour le joueur de tennis. Mais cette évaluation incorrecte met en évidence l’un des problèmes principaux des IA génératives : elles peuvent “halluciner”, autrement dit commettre des erreurs. Cette aptitude à interpréter de façon erronée les informations peut avoir des conséquences significatives.

Les restrictions de la crédibilité des IA génératives

Des fausses interprétations telles que celles faites par ChatGPT 4 ne sont pas exceptionnelles. Les IA génératives peuvent fournir des réponses incorrectes, parfois spectaculaires. Malgré ces défauts, Google a récemment intégré son propre système, Gemini, à son moteur de recherche. Cette résolution suscite des interrogations et des réactions vives aux États-Unis. Effectivement, Gemini a été accusé de délivrer des informations erronées, comme la prétendue trajectoire scolaire de l’ancien président américain Andrew Johnson, décédé bien avant les événements fictifs.

Les origines de ces erreurs

Les experts s’accordent pour dire que ces erreurs sont inévitables. Elles sont souvent attribuées aux vastes modèles de langage utilisés par les IA génératives. Ces modèles apprennent à anticiper les probabilités d’apparition de mots ou de suites en fonction du contexte. Cependant, s’ils n’ont pas été confrontés à certains sujets pendant leur phase d’apprentissage, ils peuvent générer des réponses fausses. Ainsi, les IA n’ont aucune notion de vérité absolue et peuvent fourvoyer en produisant des informations crédibles mais erronées.