En un nuevo avance tecnológico que mezcla innovación con preocupación, TikTok ha introducido una herramienta que permite a los usuarios clonar su propia voz utilizando inteligencia artificial. Esta función, aún en fase beta para la versión de Android, fue descubierta por el analista AssembleDebug, quien exploró las recientes actualizaciones de código de la popular red social.
La función, denominada ‘Clonar tu voz con IA‘, promete replicar la voz de cualquier usuario con tan solo 10 segundos de grabación de audio. Según capturas de pantalla filtradas, una ventana emergente informa a los usuarios sobre este proceso, explicando que necesitan grabar un breve texto proporcionado por TikTok. Después, la plataforma procesa esta grabación y crea una copia idéntica que los usuarios pueden emplear en sus videos.
Sin embargo, esta innovación no está exenta de riesgos. El potencial de abuso de una voz clonada es considerable, elevando inquietudes sobre la privacidad y el uso indebido de esta tecnología. Aunque TikTok asegura que la información de la voz se mantiene privada y que los usuarios pueden eliminarla cuando lo deseen, permanecen las dudas sobre la seguridad a largo plazo de estos datos y qué podría hacer la empresa con el entrenamiento recibido a través de las voces recolectadas.
La función ‘Biblioteca de voz de TikTok’, donde se encuentra esta herramienta, aún está en construcción y no se ha anunciado oficialmente cuándo será accesible para todos los usuarios, ni siquiera si esta característica llegará a implementarse plenamente.
El uso de inteligencia artificial para crear deepfakes de voz plantea serias preguntas éticas y legales, similares a las preocupaciones que han surgido con los deepfakes visuales. Esta herramienta de TikTok podría seguir propagando la práctica de crear contenidos falsificados, lo que subraya la necesidad de una regulación más estricta y medidas de seguridad robustas en la era digital.
Por ahora, la comunidad en línea y los expertos en tecnología y ética aguardan más información y claridad de TikTok sobre cómo planea manejar estos desafíos y proteger a sus usuarios de posibles malos usos de la tecnología.
