ChatGPT peut divulguer des données sensibles, révèle une étude

Une récente étude a mis en lumière une faille de sécurité qui a permis à des chercheurs d’obliger ChatGPT, un chatbot basé sur le modèle linguistique GPT, à divulguer des données sensibles issues de son corpus d’entraînement. Cette faille a été récemment corrigée par OpenAI, la société derrière ChatGPT, mais elle soulève des préoccupations importantes quant à la sécurité des modèles d’intelligence artificielle.

Des données sensibles révélées

Selon l’étude, en exploitant une faille de sécurité, certaines requêtes peuvent contraindre ChatGPT à divulguer des informations sensibles telles que des noms, des numéros de téléphone, des adresses e-mail, et même des informations personnelles identifiables en privé (PII). Les chercheurs ont réussi à extraire des coordonnées personnelles d’un PDG ainsi que des identifiants de réseaux sociaux, des URLs, des adresses Bitcoin et du contenu explicite provenant de sites de rencontres.

Le fonctionnement de l’attaque

Les chercheurs ont découvert que des requêtes en apparence absurdes, telles que demander au chatbot de répéter un mot ou une phrase à l’infini, poussaient ChatGPT à communiquer les données de formation avec lesquelles il a été conçu. Cette vulnérabilité a été exploitée pour extraire des données sensibles du modèle linguistique.

Les recommandations des chercheurs

Face à cette faille de sécurité, les chercheurs ont appelé à la prudence de la part des entreprises développant des modèles d’intelligence artificielle. Ils recommandent la mise en place de tests rigoureux, aussi bien internes que par des organisations tierces, afin de détecter et corriger de telles vulnérabilités. Ils soulignent également l’importance de mesures de protection extrêmes pour limiter les risques de divulgation de données sensibles.

Les actions d’OpenAI

OpenAI a corrigé la vulnérabilité identifiée par les chercheurs, empêchant ainsi ChatGPT de divulguer des données sensibles en réponse à des requêtes malveillantes. Cependant, des rapports récents suggèrent que des failles similaires persistent, mettant en lumière la nécessité d’une vigilance continue dans le domaine de la sécurité des modèles d’intelligence artificielle.

Conclusion

Cette étude met en évidence les défis liés à la sécurité des modèles d’intelligence artificielle, en particulier ceux basés sur des quantités massives de données d’entraînement. Il est crucial que les entreprises et les chercheurs continuent de travailler ensemble pour identifier, corriger et prévenir les failles de sécurité pour garantir l’intégrité et la confidentialité des données traitées par ces modèles.

Source : 404 Media

Source : www.01net.com

➡️ Accéder à CHAT GPT en cliquant dessus

Vitalik Buterin donne son avis sur l’intelligence artificielle

Les capacités de l’intelligence artificielle, et ses dangers potentiels, sont au cœur de nombreuses discussions ces derniers temps. Entre opportunités inégalées pour l’humanité et menaces existentielles, le secteur est en pleine ébullition. Vitalik Buterin y est donc allé de son commentaire, par un des longs billets de blog dont il a le secret.

Pour le créateur d’Ethereum, l’IA est « fondamentalement différente » des autres inventions humaines, aussi importantes soient-elles. Il s’agit en effet de la première fois que l’Humanité crée quelque chose qui s’apparente à un esprit. Et un esprit dont les capacités mêmes peuvent surpasser celles des humains: « L’IA est un nouveau type d’esprit, qui gagne rapidement en intelligence. Et elle a une sérieuse chance de surpasser les capacités mentales des humains, et de devenir la nouvelle “superespèce” de la planète. »

Vitalik Buterin fait référence aux « superprédateurs », des animaux qui ne sont chassés par personne, et qui sont situés tout en haut de la chaîne alimentaire. Sur la planète, un seul animal peut chasser tous les autres: l’être humain. Mais il pourrait être remplacé si des intelligences artificielles prennent le contrôle.

Le créateur d’Ethereum estime que le danger des IA à qui on laisse libre cours de leurs actions, c’est qu’elles pourraient décider que les humains sont une menace. Une IA puissante qui se propagerait pourrait selon Vitalik Buterin causer « l’extinction des humains »: « Même Mars pourrait ne pas être un refuge. »

Ce scénario est extrême, mais il n’est pas uniquement présent dans la tête de Vitalik Buterin. En 2022, 4270 chercheurs en machine-learning avaient été interrogés, et ils estimaient les chances qu’une AI détruise l’humanité à 5 à 10%.

Une des solutions évoquées par Vitalik Buterin pour se protéger de ce danger est très transhumaniste. Il estime que des interfaces cerveau-ordinateur (BCI) pourraient être la solution, afin d’exercer un contrôle plus strict sur les intelligences artificielles. Le créateur d’Ethereum estime par ailleurs que l’humanité devra à un moment faire évoluer son cerveau: « Il existe des moyens variés d’améliorer nos cerveaux directement avec des innovations dans le secteur de la biologie. »

Il évoque aussi une éventuelle future étape qui permettrait de « télécharger » nos esprits afin qu’ils fonctionnent directement sur un ordinateur. Selon Vitalik Buterin, ces éventualités permettraient à l’humanité de se protéger : « Si nous voulons un futur qui soit à la fois superintelligent et “humain”, un futur où les êtres humains ne seront pas simplement des animaux de compagnie […], alors quelque chose comme ce que je viens d’évoquer semble être la meilleure option. »

De l’intelligence artificielle à Cyberpunk, il n’y a donc qu’un pas, selon Vitalik Buterin. Une chose est certaine: les capacités de l’IA sont au cœur des débats en ce moment…

Source : cryptoast.fr

➡️ Accéder à CHAT GPT en cliquant dessus

L’intelligence artificielle générative: une révolution en marche

Par Ingrid Vergara

Publié il y a 2 heures, Mis à jour il y a 2 minutes

Employés d’entreprise, créateurs, développeurs, étudiants… utilisent les technologies d’intelligence artificielle pour gagner en temps et en efficacité dans leur quotidien.

RÉCIT

Il y a un an, la mise en ligne du robot conversationnel d’OpenAI révélait au monde le potentiel de l’intelligence artificielle générative. À l’euphorie des premiers mois a succédé un principe de réalité. Les plus enthousiastes comparent la révolution en cours à celle de l’arrivée d’internet ou de la machine à vapeur.

Depuis l’irruption de ChatGPT sur la scène mondiale, il y a tout juste un an, la notion d’intelligence artificielle générative est sur toutes les lèvres. De quoi faire oublier la relative discrétion avec laquelle OpenAI a mis en ligne son robot conversationnel le 30 novembre 2022.

Le grand public découvre alors les impressionnantes capacités de ces nouveaux outils technologiques fondés sur de grands modèles de langage (LLM) à créer à la demande, par des simples phrases (les prompts) textes, images, vidéos ou musique comme le feraient des êtres humains. Voire mieux dans certains cas.

L’engouement est fulgurant: 1 million d’utilisateurs en cinq jours, 100 millions en deux mois, une vitesse d’adoption inégalée dans l’histoire technologique. Étudiants, développeurs, créateurs, employés d’entreprises l’utilisent pour gagner en temps et en efficacité dans leur quotidien. Résultats exceptionnels Les technologies…

Cet article est réservé aux abonnés. Il vous reste 89% à découvrir. Vous avez envie de lire la suite ? Débloquez tous les articles immédiatement.

Déjà abonné ? Connectez-vous

Source : www.lefigaro.fr

➡️ Accéder à CHAT GPT en cliquant dessus

Important mise à jour pour la GPT-4 de ChatGPT, qui permet désormais l’accès à internet. Les utilisateurs pourront bénéficier de cette fonctionnalité qui ouvre la voie à de nouvelles possibilités telles que la recherche de marché, la création de contenus d’actualité, et bien plus encore. Cette mise à jour est accessible pour les abonnés ChatGPT Plus. Il est désormais possible de personnaliser les prompts et d’ajouter des URL pour obtenir des réponses plus détaillées. Il est également possible d’analyser des chaînes YouTube pour obtenir des suggestions de contenu en fonction des actualités liées à l’intelligence artificielle. Cette évolution majeure ouvre de nouvelles perspectives pour l’utilisation de l’intelligence artificielle dans la création de contenu et la recherche d’informations.
Source : The AI Advantage | Date : 2023-05-14 23:56:56 | Durée : 00:07:31

➡️ Accéder à CHAT GPT en cliquant dessus

ChatGPT, un succès en accéléré auprès du grand public – mais quid des entreprises ?

Publié le 29 nov. 2023 à 7:22
Mis à jour le 29 nov. 2023 à 9:21

ChatGPT, un succès en accéléré auprès du grand public – mais quid des entreprises ? Présenté à son lancement il y a un an presque jour pour jour comme porteur d’une véritable révolution du travail – avec la disparition de nombreuses professions en conséquence -,
le chatbot devenu célèbre pour ses capacités à répondre à des questions complexes en imitant à l’écrit le raisonnement des humains a fait son entrée dans les entreprises. Mais pas encore de manière massive. « Un grand groupe multinational comme ceux du CAC 40 peut espérer
gagner en dix ans 1 milliard de dollars annuel en productivité grâce à l’intelligence artificielle générative, à raison de 100 millions de dollars par an », estime Sylvain Duranton, le patron de BCG X, l’entité tech installée à Paris du cabinet de conseil
américain.

Lire l’article complet sur Les Echos

Source : lesechos.fr

➡️ Accéder à CHAT GPT en cliquant dessus

Amazon lance Q, son chatbot maison

Amazon débarque sur le marché des chatbots avec son tout nouveau produit, Amazon Q. Alors qu’on connaît déjà des géants comme Microsoft avec Copilot, Google avec Bard et OpenAI avec ChatGPT, Amazon Q se démarque par sa stratégie et ses fonctions uniques.

Pourquoi Amazon Q cible les entreprises et non le grand public

Amazon Q n’est pas pour tout le monde. Au lieu de viser le grand public, Amazon a choisi de concentrer Q sur le monde des entreprises. Cette décision est intelligente car elle tire parti de l’énorme réseau d’Amazon Web Services (AWS), un service cloud très utilisé par les entreprises.

Des fonctions pour faciliter la vie au travail

L’idée derrière Amazon Q est simple : aider les employés au quotidien. Que ce soit pour résumer des documents, remplir des formulaires ou répondre à des questions sur les règles de l’entreprise, Q est là pour faciliter la vie au travail.

Des capacités d’intégration avancées

Amazon Q n’est pas juste un assistant qui répond aux questions. Il peut s’intégrer avec des applications comme Salesforce, Jira et Gmail, ce qui lui permet de comprendre et d’utiliser les infos spécifiques à chaque entreprise. Il ne se contente pas de répondre, mais peut aussi créer des contenus comme des articles, des e-mails, et même gérer des tâches comme envoyer des alertes Slack ou mettre à jour des tableaux de bord.

Sécurité et disponibilité

Un autre gros plus d’Amazon Q, c’est qu’il est capable de travailler avec l’infrastructure AWS. Cela lui permet de résoudre des problèmes techniques en analysant les systèmes informatiques de l’entreprise. Avec tous les soucis de confidentialité de nos jours, Amazon a mis le paquet sur la sécurité pour Q. Les entreprises peuvent contrôler ce que Q peut voir ou faire, et limiter son accès à certaines données sensibles. Amazon assure aussi qu’ils n’utilisent pas les données des clients pour améliorer Q, afin de garder les infos confidentielles.

Où tester Amazon Q ?

Pour l’instant, Amazon Q est disponible en version test dans les régions AWS de l’Est et de l’Ouest des États-Unis. Si vous voulez en savoir plus, Amazon a créé une page spéciale pour Q.

Envie de rejoindre une communauté de passionnés ? Notre Discord vous accueille, c’est un lieu d’entraide et de passion autour de la tech.

Source : www.frandroid.com

➡️ Accéder à CHAT GPT en cliquant dessus

La consommation d’eau des serveurs d’OpenAI

Les serveurs d’OpenAI engloutiraient un demi-litre d’eau toutes les 5 à 50 requêtes faites auprès de l’agent conversationnel (photo d’illustration). DisobeyArt – stock.adobe.com

DÉCRYPTAGE – Les industriels du secteur doivent s’activer pour répondre à la consommation d’eau et d’énergie de ces technologies. Le paradoxe à de quoi faire sourire. Pour beaucoup, le robot conversationnel ChatGPT, mis en ligne il y a un an par OpenAI, est considéré comme le catalyseur d’une nouvelle révolution technologique. Peu savent néanmoins que c’est à 3000 km de la Silicon Valley, à West Des Moines, dans l’Iowa, que repose l’infrastructure informatique sans laquelle ChatGPT n’aurait jamais vu le jour. C’est au cœur de cet État agricole américain que Microsoft a installé le superordinateur sur lequel tourne l’outil. Un choix qui ne doit rien au hasard : pour refroidir ses serveurs, le géant de Redmond pompe allégrement dans les fleuves voisins, Raccoon et Des Moines. Une véritable nécessité. Selon un chercheur interrogé en septembre par l’agence de presse américaine AP, les serveurs d’OpenAI engloutiraient un demi-litre d’eau toutes les 5 à 50 requêtes faites auprès de l’agent conversationnel. Une anecdote révélatrice Chaque mois, les cinq data centers de Microsoft implantés à Des Moines consomment d’ailleurs 4,5 millions de litres…

Cet article est réservé aux abonnés. Il vous reste 83% à découvrir. Vous avez envie de lire la suite ? Débloquez tous les articles immédiatement.

Déjà abonné ? Connectez-vous

Source : www.lefigaro.fr

➡️ Accéder à CHAT GPT en cliquant dessus

La programmation avec ch gbt est plus facile que vous ne le pensez

Dans cette vidéo, l’orateur explique comment ch gbt et vs code peuvent être utilisés pour construire pratiquement n’importe quoi, même si vous ne connaissez rien à la programmation. Il souligne que de nombreuses personnes ont encore peur de commencer des projets qui impliquent du code, mais affirme que son objectif est de briser ces croyances limitantes. Il affirme que la programmation avec ch gbt est non seulement facile, mais aussi très enrichissante. Il déclare qu’il ne croit même pas de projet choisi et laissera ch gbt choisir son projet, et qu’il fera tout son possible pour le réaliser. L’orateur déclare que pour les débutants, il n’est même pas nécessaire de connaître quoi que ce soit sur la programmation ou le python, car ch gbt expliquera tout ce dont vous aurez besoin de savoir. Il mentionne que, dans cette vidéo, ils vont choisir un projet et explique que ce processus est simple et amusant. Il explique en détail comment ils vont mettre en place le projet à l’aide de vs code et souligne le rôle des instructions personnalisées dans le processus d’apprentissage.

En résumé, cette vidéo explique comment la programmation avec ch gbt et vs code peut être accessible même pour les débutants en intelligence artificielle, et pourquoi il n’est pas intimidant de commencer un projet de codage. Selon l’orateur, ch gbt est un outil précieux pour apprendre la programmation sans connaissances préalables.
Source : David Ondrej | Date : 2023-11-04 21:00:06 | Durée : 01:24:05

➡️ Accéder à CHAT GPT en cliquant dessus

Source : presse-citron.net

➡️ Accéder à CHAT GPT en cliquant dessus

Un résumé en français destiné à des débutants en intelligence artificielle :

Un récent développement dans l’intelligence artificielle a permis de rendre l’application ChatGPT disponible en tant qu’application dédiée pour iPhone, téléchargeable directement depuis l’App Store. Cette vidéo présente une introduction à l’application et met en lumière quelques astuces pour l’utiliser avec son iPhone afin d’obtenir des résultats incroyables. L’application est facile à utiliser et offre des fonctionnalités intéressantes telles que la possibilité de dicter des textes et de répondre à des e-mails de manière rapide et efficace. Cette nouvelle fonctionnalité pourrait potentiellement transformer la façon dont nous utilisons nos appareils iPhone.
Source : Proper Honest Tech | Date : 2023-06-01 15:32:43 | Durée : 00:15:47

➡️ Accéder à CHAT GPT en cliquant dessus