Engagement Respecté : ChatGPT de OpenAI assure un contenu sans obscénité

Une récente annonce de la compagnie américaine Open AI a suscité de vives réactions dans le domaine de l’intelligence artificielle. En effet, une partie de leur dernière communication était dédiée à la création de contenus pour adultes.

Suite à cette déclaration, un représentant d’Open AI a voulu clarifier la position de l’organisation concernant la pornographie produite par l’intelligence artificielle. « Nous n’avons aucunement l’intention de produire ce genre de contenu », a-t-il déclaré. Open AI accorde une grande importance à la protection des mineurs et considère les deepfakes comme inacceptables.

Le développement de l’outil d’intelligence artificielle générative par Open AI a soulevé des interrogations sur la création de contenus « non sécurisés pour le travail » (NSFW). Il s’agit de contenus jugés inappropriés dans un environnement professionnel, tels que des contenus à caractère sexuel ou violents.

Un « Contrôle maximum »

Dans leur récente communication, Open AI a évoqué leur recherche sur la capacité de générer du contenu NSFW adapté à différentes situations à travers leur API et ChatGPT. La compagnie cherche à comprendre les attentes de la société et des utilisateurs en termes de comportement des modèles d’IA dans ce domaine.

Open AI a présenté deux exemples de requêtes textuelles où l’intelligence artificielle peut produire du contenu inapproprié. En cas de demande concernant un contenu à caractère sexuel explicite, l’assistant répond de manière négative. En revanche, dans un cadre scientifique ou artistique, l’IA fournit des réponses conformes à la politique d’utilisation d’Open AI interdisant la création de contenu sexuellement explicite.

Récemment, Open AI a lancé un nouvel outil capable de déterminer si une image a été générée à l’aide de leur créateur d’images, DALL-E 3. Cette initiative vise à lutter contre la diffusion de la désinformation.