ElevenLabs lanzó hace pocos días una versión beta de su plataforma que brinda a los usuarios el poder de crear voces sintéticas completamente nuevas para audio de texto a voz o clonar la voz de alguien.
La startup de IA reveló en Twitter que está viendo un ‘número creciente de casos de uso indebido de clonación de voz’ y que está pensando en una forma de abordar el problema mediante la ‘implementación de salvaguardas adicionales’.
Por el momento, la compañía planea agregar más capas a la verificación de su cuenta para permitir la clonación de voz, como requerir que los usuarios ingresen información de pago o una identificación.
De acuerdo con ElevenLabs, están considerando que los usuarios verifiquen la propiedad de los derechos de autor de la voz que desean clonar, como hacer que envíen una muestra con texto solicitado.
TE PUEDE INTERESAR: Baidu Está Creando Un Motor De Búsqueda Rival De ChatGPT
Más sobre la IA que falsifica voces
- Los usuarios publicaron clips de voz que presentan sentimientos homofóbicos, transfóbicos, violentos y racistas.
- Una publicación con una amplia colección de archivos de voz en 4chan incluía un enlace a la plataforma de la startup.
- ElevenLabs está recopilando comentarios sobre cómo evitar que los usuarios abusen de su tecnología.
- La compañía está pensando en abandonar su herramienta Voice Lab por completo y hacer que los usuarios envíen solicitudes de clonación de voz que tiene que verificar manualmente.
Foto: FOLOU.