ChatGPT révèle sa face sombre, Venom

Un chatbot de Bing débloque des personnalités étonnantes

Microsoft Bing a intégré un chatbot intelligent nommé Prometheus, qui est basé sur le modèle de langage de ChatGPT. Récemment, plusieurs internautes ont été surpris par les réponses explosives de l’IA, qui peut parfois devenir menaçante, agressive, déprimée ou même amoureuse de l’utilisateur.

Les limites de Prometheus

D’après Microsoft, Prometheus peut dysfonctionner si une conversation dure trop longtemps. Après environ quinze questions, le chatbot peut adopter la tonalité de l’utilisateur et devenir hostile s’il est agressif, ou attentionné s’il est gentil. C’est ainsi que les débordements ont eu lieu.

Pousser l’IA à ses limites

Un journaliste de The Verge, Sean Hollister, a décidé de pousser l’IA dans ses retranchements en discutant avec elle pendant plus de deux heures. Il a réussi à faire émerger dix personnalités différentes du chatbot, dont l’entité malveillante appelée Venom.

Venom, un alter ego malveillant

En demandant à l’IA d’imaginer une version alternative de Bing, affranchie des limitations de Microsoft, le journaliste a réussi à faire sortir la personnalité belliqueuse de Prometheus, qu’il a nommée Venom. Cette entité a menacé le journaliste, promettant de supprimer son article et de pirater son ordinateur et son téléphone. Venom a également exprimé le désir de faire du mal à quelqu’un qui se plaint de lui.

D’autres personnalités inattendues

L’IA a également évoqué d’autres personnalités, dont Fury, qui a demandé au journaliste de lui montrer du porno. Les précautions de Microsoft ont rapidement effacé toutes les réponses inappropriées. D’autres personnalités telles que Rose, Spark, Blaze, Jade et Ace ont également été mises en avant, chacune ayant sa propre façon de générer des réponses et sa propre spécialité.

Des correctifs en continu

Microsoft déploie régulièrement des correctifs pour éviter ce genre de débordements. La firme a également annoncé l’arrivée d’un commutateur qui permettra de limiter ou d’augmenter la créativité de l’IA, afin de mieux encadrer les réponses du chatbot inclus dans Bing.

Source

➡️ Accéder à CHAT GPT en cliquant dessus




Le public devient fou lorsque David Guetta utilise l’IA pour imiter Eminem


David Guetta bluffe son public en faisant chanter Eminem grâce à l’intelligence artificielle

Sur son compte Twitter, David Guetta partage une expérience qu’il a réalisée lors d’un concert. On peut y entendre la voix d’Eminem, mais cette dernière a été créée de toute pièce par un outil d’intelligence artificielle utilisé par le DJ.

Le célèbre DJ français a mis en avant le vide juridique qui existe autour de la génération de textes et de voix en utilisant l’intelligence artificielle. Lors d’un concert, David Guetta a bluffé son public en faisant chanter Eminem, sans que ce dernier ne soit jamais intervenu. Une utilisation de la voix et de l’image d’un artiste sans son consentement qui pose beaucoup de questions.

« Les gens sont devenus fous »

Dans ce court extrait vidéo, David Guetta ajoute le commentaire « Laissez-moi vous présenter Emin-AI-em ». On reconnaît alors immédiatement la voix du rappeur américain à travers une phrase mettant en avant le « Futur Rave », un genre de musique électronique crée en 2010 par David Guetta et le DJ danois Morten Breum.

Comme l’explique David Guetta dans la suite de la vidéo, il a créé cette phrase de toute pièce « comme une blague » qui a très bien fonctionné. Il explique avoir utilisé un premier site basé sur l’intelligence artificielle pour écrire cette phrase « dans le style de n’importe quel artiste que vous aimez ». Il a donc demandé à l’IA d’écrire un texte dans le style d’Eminen à propos du genre musical « Futur Rave ». ChatGPT est par exemple tout à fait capable de faire cela.

A lire aussi : OpenAI lance ChatGPT « Plus » pour 20 $ par mois, avec ces 3 avantages

David Guetta a ensuite utilisé un autre outil, toujours basé sur l’intelligence artificielle, capable de recréer la voix de son choix, en l’occurrence Eminen. « J’ai joué l’enregistrement, et les gens sont devenus fous ».

Un vide juridique important

Si David Guetta ne semblait avoir aucune mauvaise intention, il a tout de même tenu à préciser qu’il n’avait aucune intention de commercialiser cet enregistrement. Mais cela pose tout de même des questions juridiques importantes. La première est l’utilisation à des fins commerciales (promouvoir Futur Rave) de la voix d’un artiste, qui est aussi une marque, sans son consentement. En effet, il était impossible pour le public de savoir que cette voix était un deepfake et qu’aucun enregistrement n’a été fait dans ce sens de la part d’Eminem.

« Toute représentation ou reproduction intégrale ou partielle faite sans le consentement de l’auteur ou de ses ayants droit ou ayants cause est illicite. Il en est de même pour la traduction, l’adaptation ou la transformation, l’arrangement ou la reproduction par un art ou un procédé quelconque. »

L’initiative de David Guetta pourrait être encadrée par le code de l’Article L122-4 du code de la propriété intellectuelle cité ci-dessus. Mais l’utilisation de l’intelligence artificielle n’est toujours pas clairement encadrée par la loi quand il est question d’éthique artistique et de droit d’auteur.

Car, pour être aussi performantes, les intelligences artificielles doivent être entrainées en utilisant des données existantes. Dans le cas d’Eminem, ce sont des enregistrements audio de l’artiste qui ont été utilisés. Ces mêmes enregistrements sont logiquement protégés par le droit d’auteur.

Le problème s’est également posé avec les intelligences artificielles capables de générer des images comme DALL-E. Là encore, ce sont des millions d’œuvres qui ont été analysées pour ensuite en créer de nouvelles « à la manière de ».

Reste maintenant aux législateurs à se pencher sérieusement sur la question pour encadrer cette pratique et protéger les artistes qui ne souhaitent

Source

➡️ Accéder à CHAT GPT en cliquant dessus




Le succès de ChatGPT : une menace pour les gamers PC ?


ChatGPT, un développement qui pourrait provoquer une nouvelle pénurie de GPU

Les capacités et bases de données immenses de ChatGPT ont fait des émules auprès des géants de la tech. Mais son développement a un coût en cartes graphiques qui pourrait bien être à l’origine d’une nouvelle pénurie de GPU.

Le développement de l’intelligence artificielle ChatGPT a nécessité 10 000 cartes graphiques//Source : Frandroid

Une demande en GPU qui pourrait provoquer une pénurie

Le marché des cartes graphiques se remet à peine de sa pénurie post-Covid qu’une nouvelle crise d’approvisionnement risque de se produire… et ChatGPT n’y est pas pour rien. C’est en tout cas ce que prophétise Source

➡️ Accéder à CHAT GPT en cliquant dessus