Une semaine après avoir ouvert l’accès à sa plate-forme de clonage de voix, ElevenLabs, startup de la parole basée sur l’intelligence artificielle, a déclaré qu’elle pourrait devoir repenser cette ouverture au milieu “d’un nombre croissant de cas d’utilisation abusive du clonage de voix”.
La société, fondée en 2022 par l’ancien ingénieur en apprentissage automatique de Google Piotr Dabkowski et l’ancien stratège de déploiement de Palantir Mati Staniszewski, a abordé le problème sur Twitter après Vice a trouvé des clips(Ouvre dans une nouvelle fenêtre) sur 4chan avec ce qui ressemble à des voix de célébrités générées automatiquement faisant des déclarations douteuses. L’un, par exemple, semble être l’acteur Emma Watson lisant de Mein Kampf; d’autres incluent des sentiments homophobes, transphobes, violents et racistes de personnalités médiatiques comme Joe Rogan et Ben Shapiro.
Bien qu’il ne soit pas clair lesquels des clips 4chan ont été créés à l’aide de la version bêta d’ElevenLabs, un message contenait un lien vers Prime Voice AI, suggérant que le logiciel de la société a peut-être été utilisé.
“Alors que nous voyons notre technologie être massivement appliquée à une utilisation positive, nous constatons également un nombre croissant de cas d’utilisation abusive du clonage de la voix. Nous aimerions résoudre ce problème en mettant en œuvre des garanties supplémentaires”, a écrit la société dans un fil Twitter du lundi(Ouvre dans une nouvelle fenêtre)en lançant des idées telles que l’élimination de sa plate-forme Voice Lab pour créer de nouvelles voix, et à la place la vérification manuelle de chaque demande de clonage.
Il a encouragé les gens à répondre sur Twitter ou à envoyer des messages directs à l’entreprise avec leurs réflexions. Sur la base des réponses du public, un certain nombre de personnes (qui ne semblent pas être redevables aux avocats d’entreprise) pensent qu’ElevenLabs devrait faire fi de la prudence et ne rien faire. “La voix n’est qu’une gamme de fréquences”, a déclaré une personne. “Envisagez de ne rien faire jusqu’à ce que vous obteniez un cesser et de vous abstenir ou quelque chose comme ça”, a écrit un autre. Quelques-uns ont proposé un soutien provisoire pour un service payant.
Recommandé par nos rédacteurs
ElevenLabs propose la “synthèse vocale” et le “clonage de la voix”, ce dernier se traduisant par un enregistrement d’échantillon propre, d’une durée de plus d’une minute. Le “clonage professionnel”, quant à lui, peut prétendument reproduire n’importe quel accent, pour une utilisation dans des newsletters, des livres et des vidéos.
Des progrès similaires dans l’automatisation ont précédemment conduit à une augmentation des vidéos deepfake (en particulier : la pornographie). Et bien qu’ElevenLabs ait construit son logiciel dans le but de “convertir instantanément l’audio parlé entre les langues”, il y aura toujours quelqu’un qui en abusera.
Recevez nos meilleures histoires !
S’inscrire pour Quoi de neuf maintenant pour recevoir nos meilleures histoires dans votre boîte de réception tous les matins.
Cette newsletter peut contenir des publicités, des offres ou des liens d’affiliation. L’inscription à une newsletter indique votre consentement à notre Conditions d’utilisation et Politique de confidentialité. Vous pouvez vous désabonner des newsletters à tout moment.
/cloudfront-us-east-2.images.arcpublishing.com/reuters/LMMVNFVCHNK6FAXXJUG5LVBELI.jpg "Un mort et deux blessés après l’attaque d’un homme contre des touristes près de la Tour Eiffel à Paris")
