OpenAI Voice Engine clone votre voix en 15 secondes : l’IA qui va détruire la société ?

OpenAI dévoile Voice Engine : une IA capable de cloner n'importe quelle voix en 15 secondes. Cet outil est impressionnant, mais présente aussi d'immenses dangers… à tel point que la firme hésite à le relâcher auprès du grand public ! Découvrez pourquoi…

L'essor des DeepFakes et des dangers qui l'accompagnent n'est pas près de s'estomper… bien au contraire. Après ChatGPT, DALL-E ou encore Sora, OpenAI vient de dévoiler sa nouvelle IA : Voice Engine.

Cet outil révolutionnaire est capable de cloner n'importe quelle voix humaine, à partir d'un simple échantillon de 15 secondes. Elle génère une copie synthétique de votre voix.

/

Une IA développée en secret depuis 2 ans

Selon Jeff Harris d'OpenAI, le modèle d'IA générative derrière Voice Engine est en réalité le même que ChatGPT utilise pour ses fonctions vocales. Il se cache aussi derrière les voix préconfigurées de l'API text-to-speech.

Par ailleurs, suite à un partenariat confidentiel, Spotify l'utilise depuis septembre 2023 pour générer le doublage des plus gros podcasteurs dans toutes les langues. Ceci concerne par exemple Lex Fridman.

Concernant la provenance des données d'entraînement, OpenAI refuse de rentrer dans les détails. La firme confie seulement que le modèle a été entraîné sur un mélange de données disponibles publiquement, et achetées sous licence.

/

Une boîte de Pandore à ne surtout pas ouvrir

Au-delà d'un danger pour l'emploi, Voice Engine introduit surtout de terribles risques de sécurité. C'est pourquoi OpenAI n'a pas encore fixé de date de lancement, afin de déterminer comment éviter les abus.

Déjà dans le passé, les utilisateurs du forum 4chan se sont servis de la plateforme ElevenLabs pour diffuser des messages de haine en imitant la voix de célébrités comme Emma Watson.

Lors d'un test, le journaliste James Vincent de The Verge a été capable d'exploiter des outils IA pour cloner des voix et générer des discours de menaces violentes, ou encore des propos racistes et transphobes.

Un autre journaliste, le reporter Joseph Cox de Vice, a généré un clone de voix suffisamment convaincant pour tromper le système d'authentification d'une banque.

Avec un outil si puissant que Voice Engine, on peut craindre que des criminels utilisent l'IA pour déstabiliser les élections présidentielles. Déjà en janvier 2024, une campagne téléphonique s'est servie d'un deepfake de Joe Biden pour dissuader les citoyens du New Hampshire de voter.

Afin d'empêcher de telles dérives, OpenAI a restreint l'accès à Voice Engine à seulement une dizaine de développeurs pour le moment.

La firme priorise aussi les cas d'usage les moins risqués et les plus « socialement bénéfiques ». Ceci inclut notamment les applications dans le domaine de la santé et de l'accessibilité, ou encore dans les médias.

https://www.lebigdata.fr/openai-voice-engine

Jusqu'où ira-t-on ?

Ça fait peur, questions politique, criminalité, etc.; si on peut faire dire n'importe quoi à n'importe qui.

OpenAI est génial. Je m'en sers tous les jours. Quant à cloner ma voix, je n'y voix aucun intérêt comme le générateur d'images assez basique.

On va enfin entendre Macron dire que le gras c'est la vie !

il y a 53 minutes, Plouj a dit :

Jusqu'où ira-t-on ?

Plus loin encore...Et ce sera trop tard pour faire machine arrière,tel est l'humain

il y a une heure, Plouj a dit :

à tel point que la firme hésite à le relâcher auprès du grand public !

Mais oui ils se soucient des potentiels risques. On y croit.

elle est déjà en voie de destruction... Du coup, un peu plus, un peu moins

Il y a 14 heures, Atipique a dit :

Ça fait peur, questions politique, criminalité, etc.; si on peut faire dire n'importe quoi à n'importe qui.

Et ça permet de douter de toute parole, et de prétendre qu'on n'a pas dit ça.

Le notaire va avoir du travail.

Bonjour 

L'IA va être très utile pour résoudre certains problèmes , mais dangereuse dans certaines mains .notre civilisation actuelle est trop agressive et aveugle et finira par se détruire tout en étant consciente des dangers  potentiels qui dorment dans l'ombre de nos folies .

Bonne journée

Il y a 1 heure, Talon 1 a dit :

Et ça permet de douter de toute parole, et de prétendre qu'on n'a pas dit ça.

Le notaire va avoir du travail.

C'est surtout en politique pendant des élections que ça fait peur! Meme si on peut prouver après que c'est  un fake, c'est  trop tard; le mal est déjà fait.

Il y a 17 heures, Plouj a dit :

OpenAI dévoile Voice Engine : une IA capable de cloner n'importe quelle voix en 15 secondes. Cet outil est impressionnant, mais présente aussi d'immenses dangers… à tel point que la firme hésite à le relâcher auprès du grand public ! Découvrez pourquoi…

L'essor des DeepFakes et des dangers qui l'accompagnent n'est pas près de s'estomper… bien au contraire. Après ChatGPT, DALL-E ou encore Sora, OpenAI vient de dévoiler sa nouvelle IA : Voice Engine.

Cet outil révolutionnaire est capable de cloner n'importe quelle voix humaine, à partir d'un simple échantillon de 15 secondes. Elle génère une copie synthétique de votre voix.

/

Une IA développée en secret depuis 2 ans

Selon Jeff Harris d'OpenAI, le modèle d'IA générative derrière Voice Engine est en réalité le même que ChatGPT utilise pour ses fonctions vocales. Il se cache aussi derrière les voix préconfigurées de l'API text-to-speech.

Par ailleurs, suite à un partenariat confidentiel, Spotify l'utilise depuis septembre 2023 pour générer le doublage des plus gros podcasteurs dans toutes les langues. Ceci concerne par exemple Lex Fridman.

Concernant la provenance des données d'entraînement, OpenAI refuse de rentrer dans les détails. La firme confie seulement que le modèle a été entraîné sur un mélange de données disponibles publiquement, et achetées sous licence.

/

Une boîte de Pandore à ne surtout pas ouvrir

Au-delà d'un danger pour l'emploi, Voice Engine introduit surtout de terribles risques de sécurité. C'est pourquoi OpenAI n'a pas encore fixé de date de lancement, afin de déterminer comment éviter les abus.

Déjà dans le passé, les utilisateurs du forum 4chan se sont servis de la plateforme ElevenLabs pour diffuser des messages de haine en imitant la voix de célébrités comme Emma Watson.

Lors d'un test, le journaliste James Vincent de The Verge a été capable d'exploiter des outils IA pour cloner des voix et générer des discours de menaces violentes, ou encore des propos racistes et transphobes.

Un autre journaliste, le reporter Joseph Cox de Vice, a généré un clone de voix suffisamment convaincant pour tromper le système d'authentification d'une banque.

Avec un outil si puissant que Voice Engine, on peut craindre que des criminels utilisent l'IA pour déstabiliser les élections présidentielles. Déjà en janvier 2024, une campagne téléphonique s'est servie d'un deepfake de Joe Biden pour dissuader les citoyens du New Hampshire de voter.

Afin d'empêcher de telles dérives, OpenAI a restreint l'accès à Voice Engine à seulement une dizaine de développeurs pour le moment.

La firme priorise aussi les cas d'usage les moins risqués et les plus « socialement bénéfiques ». Ceci inclut notamment les applications dans le domaine de la santé et de l'accessibilité, ou encore dans les médias.

https://www.lebigdata.fr/openai-voice-engine

Jusqu'où ira-t-on ?

Mwé...suis pas convaincue par la démonstration ( j’ai écouté l'audio fournie).
La prononciation et les accents toniques de la voix d'origine sont clairement accentués, pas naturels du tout.

Je commencerai à m'en faire quand ils pourront rendre l'histoire crédible en prenant la voix de n'importe qui comme "base" dans des circonstances tout à fait "non" préparées".

il y a 3 minutes, chanou 34 a dit :

Mwé...suis pas convaincue par la démonstration ( j’ai écouté l'audio fournie).
La prononciation et les accents toniques de la voix d'origine sont clairement accentués, pas naturels du tout.

Je commencerai à m'en faire quand ils pourront rendre l'histoire crédible en prenant la voix de n'importe qui comme "base" dans des circonstances tout à fait "non" préparées".

Cela a été fait il y a des années avec la participation volontaire d'Obama. Le clip lui faisait dire des âneries qu'il n'avait jamais dites.

Toutefois, cette technologie n'était pas à la portée de n'importe qui à l'époque.

il y a 2 minutes, Atipique a dit :

Cela a été fait il y a des années avec la participation volontaire d'Obama. Le clip lui faisait dire des âneries qu'il n'avait jamais dites.

Toutefois, cette technologie n'était pas à la portée de n'importe qui à l'époque.

Comment l 'IA avait-elle été entrainée auparavant? Sur quoi?

à l’instant, chanou 34 a dit :

Comment l 'IA avait-elle été entrainée auparavant? Sur quoi?

 

Sur des milliards de données disparates.

à l’instant, jeremie974 a dit :

Sur des milliards de données disparates.

non, à propos d'Obama...

à l’instant, chanou 34 a dit :

non, à propos d'Obama...

Sur ses discours dans les médias.

à l’instant, jeremie974 a dit :

Sur ses discours dans les médias.

Donc sa voix à lui.Rien que la sienne. ca rend la tâche beaucoup plus simple.

il y a 9 minutes, chanou 34 a dit :

Comment l 'IA avait-elle été entrainée auparavant? Sur quoi?

 

Aucune idée de comment ils ont fait et par qui. Tout ce dont je me souviens, c'est que l'experience date un peu; Obama était encore président, c'est dire!

C'était la chaine CNN qui en avait parlé et avait joué le clip.

Bien entendu, l'IA date de bien des années; c'est a cause des chatbots genre ChatGPT aboutis récemment pour le grand public, qu'on en parle autant ujourd'hui.

De toute façon, d'accord ou pas, si il y a des dollars à gagner..