OpenAI, précurseur en intelligence artificielle (IA) génératrice et créateur de ChatGPT, a récemment révélé un outil innovant de réplication vocale nommé “Voice Engine”. Conçu pour reproduire la voix d’un individu à partir d’un court échantillon audio de seulement 15 secondes, cet outil suscite à la fois intérêt et préoccupation.

Face aux dangers manifestes d’usurpation d’identité et de diverses fraudes, OpenAI prend des mesures strictes pour restreindre l’utilisation de Voice Engine. Dans un communiqué, la société basée à San Francisco a mis en avant la nécessité de coopérer avec divers partenaires afin d’encadrer l’utilisation de cet outil, particulièrement en cette période électorale où la désinformation représente un défi majeur.

Les scientifiques craignent en effet une possible mauvaise exploitation des applications d’IA génératrice, notamment des outils de réplication vocale, accessibles aisément et difficiles à repérer. Suite à un événement politique récent impliquant une fausse communication téléphonique mettant en jeu la voix du président américain Joe Biden, les autorités américaines ont décidé d’interdire les appels utilisant des voix générées par IA.

OpenAI met en avant le respect de directives strictes pour l’usage de Voice Engine, incluant notamment le consentement éclairé de toute personne dont la voix est reproduite. La transparence est également cruciale, les auditeurs devant être informés que la voix qu’ils écoutent est produite artificiellement.

Diverses mesures de sécurité ont été instaurées pour assurer la traçabilité des sons générés par Voice Engine et superviser son utilisation. Ces mesures préventives font écho aux recommandations de la Maison Blanche concernant le développement de l’IA, alertant sur les risques d’abus à des fins malveillantes.