Amazon confronté à une vague d’articles générés par des IA
Amazon a récemment été confronté à un problème inattendu : la mise en ligne d’articles générés par ChatGPT, une intelligence artificielle développée par OpenAI. Ces articles étaient associés à des produits vendus sur la plateforme et portaient des noms absurdes, déclenchant des messages d’erreur d’OpenAI.
Par exemple, une commode était appelée « je suis désolé mais je ne peux pas répondre à cette requête car elle contrevient aux conditions d’utilisations d’OpenAI », un message d’erreur provenant de l’IA.
Cette découverte a été faite par les journalistes de The Verge, qui ont constaté que cette pratique n’était pas isolée. En effet, de plus en plus de contenus générés par des IA, tels que des descriptions de produits ou des messages sur les réseaux sociaux, se retrouvent en ligne malgré les tentatives de contrôle d’OpenAI.
Amazon a depuis supprimé ces articles de sa plateforme, mais leur présence a été remarquée sur d’autres sites et moteurs de recherche, témoignant de la difficulté à endiguer ce phénomène.
Les conséquences de cette prolifération
Cette prolifération d’articles et de contenus générés par des IA soulève des questions sur la fiabilité des informations en ligne. En effet, la diffusion de messages d’erreur ou de descriptions fantaisistes peut prêter à confusion, voire être exploitée par des individus malveillants.
Les réseaux sociaux ne sont pas épargnés, avec la diffusion de messages similaires provenant de comptes différents, créant ainsi une illusion de crédibilité.
Quelles solutions envisager ?
Face à cette situation, il est nécessaire de repenser les processus de validation et de publication de contenus en ligne. Pour Amazon, cela pourrait passer par la création d’une sélection plus stricte des produits mis en vente, réduisant ainsi le risque de voir apparaître des articles fantaisistes.
Il est également crucial de sensibiliser les utilisateurs à la présence croissante de contenus générés par des IA et à la nécessité d’une vérification rigoureuse avant de partager ou d’acheter des produits en ligne.
Source : www.frandroid.com