Meta anuncia una nueva herramienta de inteligencia artificial para generar voz, pero considera su liberación demasiado peligrosa
🎯 Resumen:
- Meta ha presentado ‘Voicebox’, una revolucionaria herramienta de inteligencia artificial que genera voz.
- Aunque Voicebox supera a otras IA de generación de voz, Meta ha optado por no liberarla al público debido a posibles usos indebidos.
- Voicebox ofrece beneficios potenciales como la capacidad de brindar un habla más naturalista a las personas que no pueden comunicarse verbalmente y la posibilidad de realizar traducciones en tiempo real.
Meta, la empresa madre de Facebook, ha anunciado una nueva herramienta de inteligencia artificial (IA) llamada ‘Voicebox’. Este software representa un avance significativo en la generación de voz impulsada por IA. Sin embargo, la compañía ha decidido no lanzarla al público aún, considerando que podría tener consecuencias desastrosas.
Voicebox es capaz de generar clips de audio en seis idiomas europeos y, según Meta, es el primer modelo de IA de su tipo que puede completar tareas más allá de lo que fue específicamente entrenado para hacer. La empresa afirma que Voicebox supera a las demás IAs de generación de voz en casi todos los aspectos.
Una de las capacidades más destacadas de Voicebox es la creación de réplicas precisas de la voz de una persona a partir de un archivo de audio de solo dos segundos. Aunque esta habilidad puede parecer inofensiva, podría ser peligrosamente explotada si cayera en manos equivocadas.
Ya existen herramientas similares, pero su autenticidad es menos convincente. A menudo se utilizan para generar contenido humorístico, como videos en redes sociales que simulan a figuras públicas jugando videojuegos. Sin embargo, estas voces sintéticas son fácilmente distinguibles de las voces originales.
Meta ha publicado un artículo de investigación donde detalla una herramienta clasificadora diseñada para diferenciar entre el habla generada por Voicebox y el habla humana. Aunque la herramienta es «altamente efectiva», no es completamente infalible.
Además de reconocer los riesgos de mal uso, Meta también destaca los beneficios potenciales de la generación de voz por IA. Voicebox podría proporcionar un habla más naturalista a personas con impedimentos del habla o que no pueden comunicarse, acercándonos a la idea de un «traductor universal» que solo existe actualmente en la ciencia ficción.
También hay otras aplicaciones para Voicebox; puede utilizarse para editar y mejorar el habla grabada. Si has grabado un audio pero has pronunciado mal una palabra o has sido interrumpido por ruido de fondo, Voicebox puede aislar el segmento ofensivo y ‘regrabar’ un fragmento de habla con tu voz.
A pesar de la emoción que rodea a esta tecnología innovadora, Meta ha decidido adoptar un enfoque cauteloso. Este tipo de prudencia, paciencia y respeto por la magnitud de la tecnología de IA es un cambio bienvenido en una industria donde a menudo se antepone el beneficio económico a las posibles consecuencias.
