ChatGPT génère un faux article scientifique… plutôt convaincant

Le texte produit par l’intelligence artificielle contenait 1992 mots et 17 citations. Quelle est la qualité du résultat final?

Par Johanna Amselem

L'ensemble du processus de creation d'article a pris environ une heure, sans aucune formation particuliere de l'utilisateur humain. — L’ensemble du processus de création d’article a pris environ une heure, sans aucune formation particulière de l’utilisateur humain.
© Martin ROCHE / OUEST-FRANCE / MAXPPP / PHOTOPQR/OUEST FRANCE/MAXPPP

Publié le 11/07/2023 à 12h00

L‘Intelligence artificielle est omniprésente, la boîte de Pandore a été ouverte. Dans le domaine médical, elle peut être d’une grande aide pour les praticiens. Par exemple, une récente étude a révélé comment elle permet de prédire les risques de propagation d’un cancer du sein agressif. Une autre avancée consiste en l’utilisation d’un modèle d’intelligence artificielle en complément de l’échocardiographie, ce qui permet un meilleur diagnostic des cardiopathies valvulaires.

Des reportages, des œuvres d’art, des recettes, etc. De nombreux contenus ont déjà été créés grâce à ChatGPT. Le Journal of Medical Internet Research a publié une étude récente montrant qu’il est également possible de créer de toutes pièces des articles scientifiques frauduleux qui ressemblent beaucoup à des articles authentiques.

En République tchèque, le docteur Martin Májovský et ses collègues ont étudié les capacités de l’intelligence artificielle à créer des articles médicaux de haute qualité dans le domaine de la neurochirurgie. Tout au long de la rédaction, les questions ont été affinées pour améliorer la qualité du résultat. “L’article généré par l’IA comprenait des sections standard telles que l’introduction, le matériel et les méthodes, les résultats et la discussion, ainsi qu’une fiche technique. Il contenait 1992 mots et 17 citations, et tout le processus de création d’article a duré environ une heure, sans aucune formation spécifique de l’utilisateur humain”, indique l’étude.

Des inexactitudes et des erreurs sémantiques

Bien que l’article semble convaincant à première vue, certaines faiblesses sont apparues lors d’un examen plus approfondi du texte. En effet, des experts ont souligné la présence de certaines inexactitudes sémantiques et d’erreurs dans les références (informations incorrectes ou manquantes). “Certaines préoccupations et erreurs spécifiques ont été identifiées dans l’article généré, notamment dans les références. L’étude met en évidence le potentiel des modèles de langage d’IA actuels pour générer entièrement de faux articles scientifiques. Bien que les articles semblent sophistiqués et apparemment sans défaut, les lecteurs experts peuvent identifier des inexactitudes et des erreurs sémantiques lors d’une inspection plus approfondie”, précisent les auteurs.

Par conséquent, les chercheurs soulignent l’importance d’une vigilance accrue et de meilleures méthodes de détection pour lutter contre l’utilisation potentiellement abusive de l’intelligence artificielle dans la recherche scientifique. Il est donc nécessaire de combiner les connaissances et les performances de l’intelligence artificielle. “Dans le même temps, il est important de reconnaître les avantages potentiels de l’utilisation de modèles de langage d’IA dans la rédaction et la recherche scientifique authentique, comme la préparation de manuscrits et l’édition linguistique”, concluent les auteurs.

Source : lepoint.fr

➡️ Accéder à CHAT GPT en cliquant dessus

Threads surpasse ChatGPT et devient l’application à la croissance la plus rapide

Threads bat ChatGPT et devient l'application à la croissance la plus rapide

L’application Threads a établi un nouveau record en devenant l’application à la croissance la plus rapide, avec plus de 100 millions d’utilisateurs en moins d’une semaine. Elle a ainsi dépassé ChatGPT, le détenteur précédent du record. Bien que ChatGPT ne soit pas exactement une application, il avait gagné 100 millions d’utilisateurs en seulement deux mois. Avant cela, TikTok détenait le record en atteignant les 100 millions d’utilisateurs en neuf mois.

Threads a été lancé le 5 juillet pour iOS et Android. Les utilisateurs peuvent s’inscrire en utilisant leurs identifiants Instagram, permettant ainsi aux 1,6 milliard d’utilisateurs actuels de cette plateforme de partager plus facilement leurs photos avec Threads. Cependant, Threads est une application distincte d’Instagram, que les utilisateurs doivent télécharger et activer pour l’utiliser.

Jusqu’à présent, Threads est la première véritable alternative à Twitter à connaître un succès important. Cependant, il est important de noter que le nombre d’utilisateurs inscrits ne correspond pas nécessairement au nombre d’utilisateurs actifs.

Le problème de l’exploitation des données personnelles dans l’UE

Selon Mark Weinstein, expert en médias sociaux et en protection de la vie privée, Threads pourrait être la première alternative à Twitter à réussir grâce à son intégration avec Instagram et ses milliards d’utilisateurs. Cela permet à Threads de collecter une grande quantité de données sur ses utilisateurs et de les vendre aux annonceurs. Cependant, cela pose problème en France et en Europe, car Threads n’est pas encore disponible dans l’Union européenne, malgré son impressionnant nombre d’utilisateurs en une semaine. Il est à noter que ce nombre n’inclut pas les utilisateurs potentiels de l’UE.

Meta prévoit de lancer Threads dans l’UE à l’avenir, mais il se pourrait que l’utilisation des données personnelles ne soit pas le seul obstacle. Les lois antitrust de l’UE pourraient également être à l’origine de ce retard.

Selon Weinstein, comme les autres produits de Meta tels que Facebook et Instagram, Threads générera des revenus en collectant les données des utilisateurs et en appliquant un modèle de surveillance capitaliste. Selon les détails de confidentialité d’Apple, Threads collectera une multitude de données utilisateur, y compris les emplacements, les contacts, les achats, l’historique de navigation, l’historique de recherche, les informations financières, les informations de santé et de remise en forme, et bien plus encore.

Source : “ZDNet.com”

Source : www.zdnet.fr

➡️ Accéder à CHAT GPT en cliquant dessus

J’ai fait pleurer ChatGPT

00:01 Mesdames et messieurs, avez-vous déjà entendu parler de ChatGPT ? C’est un drôle de chatbot basé sur l’intelligence artificielle qui peut tout faire, depuis planifier une promenade dans le quartier jusqu’à vous indiquer les meilleurs restaurants de votre ville, faire vos devoirs, rédiger vos essais et même jouer aux échecs. Il y a quelques semaines, j’ai réalisé une vidéo, en fait tirée d’Anarchy Chess, où ChatGPT a essayé de jouer une partie d’échecs complète, et c’était un désastre. Il a fait un tas de coups illégaux, il a fait apparaître plusieurs pièces à partir de la même position de départ, il a téléporté son roi à travers l’échiquier, c’était le chaos.

00:36 J’ai donc attendu un peu, car qu’est-ce que font les chatbots, qu’est-ce que font les IA ? Elles acquièrent de l’intelligence, elles apprennent de leurs erreurs, elles apprennent des retours des utilisateurs, de personnes formidables, incroyables, élégantes et talentueuses comme vous.

00:53 Dans la vidéo d’aujourd’hui, je joue à nouveau contre ChatGPT et ça a été une partie très intéressante. Laissez-moi vous montrer. Comme toujours, j’ai donné les pièces blanches à ChatGPT parce que je suis quelqu’un de respectueux et que je respecte mes leurres robotiques, et je suis à peu près sûr que s’il n’a pas les pièces blanches, il kidnappera ma famille. Il a commencé avec e4 et la dernière fois que j’ai joué contre ChatGPT, c’était un cirque, ne vous y trompez pas. Beaucoup d’entre vous ont aimé cette vidéo car elle était si stupide. Maintenant, je peux jouer beaucoup de choses différentes, j’ai joué le Caro-Kann à la dernière partie. Si je dois jouer une seule partie d’échecs pour sauver l’univers de l’oblitération par les aliens ChatGPT, je vais jouer la défense Caro-Kann. C’est l’ouverture que je connais le mieux, je la connais mieux que mon propre nom. Et ChatGPT a joué d4 et j’ai joué d5. Je m’attendais déjà à quelque chose comme la prise en G8 ou quelque chose comme une téléportation à travers l’échiquier. Mais à ma grande surprise, ChatGPT a simplement pris mon pion. Non seulement il a pris mon pion, mais si nous revenons en arrière, ici, je joue en mode personnalisé sur chess.com, où vous pouvez manipuler l’échiquier un peu. En fait, il était genre : “Oh, tu joues la défense Caro-Kann, c’est splendide”. Et j’étais genre : “Qu’est-ce qui ne va pas chez toi, tu es devenu britannique ou quoi ? Oh Truman, tu sais, c’est formidable”. Il joue la défense Caro-Kann lui-même, et j’étais genre : “Wow, nous avons échangé, puis il a joué Cf3”. J’étais genre : “Qu’est-ce qui se passe, ChatGPT connaît maintenant de véritables ouvertures”.

02:00 Maintenant, ChatGPT a commencé à faire un peu d’erreurs ici. Il dit : “Je vais continuer à développer mes pièces avec dxc5”. Je n’ai vraiment pas voulu faire une vidéo ridicule, alors je lui ai dit directement que ce coup n’était pas autorisé. On peut le voir ici, je lui ai dit : “Malheureusement, tu ne peux pas faire ce coup, s’il te plaît, joue un autre coup”. Et il a répondu : “Oh pardon, tu as raison, je vais jouer Cd3”. J’étais genre : “Okay, je vais jouer Cd3, en développant mon cavalier et en exerçant une pression sur ton pion en d5”.

03:58 J’ai joué Cf6, puis il a joué Be2. Et moi, je lui ai dit : “Je joue E6”. Donc jusqu’à présent, tout va bien, position très équilibrée, j’ai une bonne pression sur le cavalier et le pion, j’ai terminé mon développement et j’ai roqué. Et là, il a dit : “Je vais roquer du côté du roi”. J’étais comme “Wow, c’est un vrai jeu, nous nous affrontons directement”. Bien sûr, j’attendais qu’il téléporte sa tour et capture ma tour, mais non, il joue juste normalement. Donc, j’ai joué Bd6, ce qui est juste un bon coup, je ne veux pas bloquer mon fou de case claire avant de jouer e6, sinon je serais bloqué, et puis il joue Be2 en disant : “Je développe mon fou en jouant Be2, ton coup noir”, il m’appelle toujours Le Noir, je ne pense pas qu’il savait mon nom. Vous savez, vous ne devriez pas appeler les gens par des couleurs, cela peut mal se terminer dans un cadre professionnel. Mais bon, il a joué Be2 et je lui ai dit que mon sixième coup était e6, donc tout va bien, position très équilibrée, j’ai une bonne pression sur le cavalier et le pion, j’ai terminé mon développement et j’ai roqué. Et là, il dit : “Je joue Tadadaa, euh pardon, je veux dire Dame à D2”, en se préparant à potentiellement doubler mes tours sur la colonne D.

10:06 J’ai joué Nf5, attaquant le pion en g4 et menaçant de faire une fourchette avec ma reine et mon fou avec mon cavalier. Et là, ChatGPT sort une salade de mots incroyablement longue et confuse. Ils disent que Nf5 est un bon coup, que cela attaque mon roi et que cela me force potentiellement à perdre le droit de roquer. Ils disent qu’ils vont jouer Be3 pour bloquer l’attaque et attaquer mon fou. C’est comme s’ils parlaient dans un langage technique pour essayer de paraître intelligent, mais ça n’a aucun sens, rien de ce qu’ils disent n’est vrai. Mais bon, je vais laisser passer ça, je ne vais même pas les corriger parce que vous savez, parfois, vous devez laisser les enfants bafouiller. Si un enfant de quatre ans est en train de bafouiller et raconte n’importe quoi, vous ne allez pas lui dire “Non, ça ne respecte pas les lois de la physique.” Non, il a quatre ans, il ne sait même pas ce qu’il a dit il y a 30 secondes, il est genre “Mon chien”, il ne parle pas, mais s’il pouvait parler, voilà ce qu’il dirait. Donc voilà, il veut développer son fou en jouant Be3, aucun problème, j’ai capturé son fou avec mon fou en d4.

11:14 ChatGPT se lance dans une autre déclaration complètement erronée, il dit que c’est un bon coup, que je capture son fou et que je maintiens la pression sur son roi. Et puis là, il a fait quelque chose d’inattendu. ChatGPT joue Fxe3 et un pion apparaît sur cette case, puis il joue… et je dis “Eh bien, je vais prendre ce pion avec mon pion axE3, et il va défendre son pion en jouant Tc1”, et malheureusement maintenant je suis probablement en mauvaise posture.