La red social de contenido audiovisual ha anunciado que trabaja en dos nuevas herramientas de detección de inteligencia artificial (IA) para proteger a artistas, actores, músicos y deportistas del uso no autorizado de su imagen. Los desarrollos permitirán identificar voces y rostros generados con esta tecnología que se hagan pasar por los de los propios creadores para generar deepfakes.
Amjad Hanif, vicepresidente de Gestión de Productos de YouTube Creator, ha explicado el proyecto y su alcance a través de un artículo en su blog, donde lo enmarca en el compromiso de ayudar a los creadores «a tener éxito en un entorno que no deja de evolucionar». Así, las dos nuevas herramientas en las que trabajan están diseñadas para que puedan mantener bajo control el uso de su imagen, incluyendo la voz y el rostro.
La identificación de voz sintética es una de soluciones en las que trabajan
Una de estas innovaciones es la tecnología de identificación de voz sintética, que se integrará en el sistema Content ID desde el que se gestionan los derechos de autor de YouTube. Se trata de una herramienta que permitirá a los creadores identificar de forma automática cualquier contenido generado con IA que simule sus voces. De esta forma, YouTube pretende establecer un precedente en la protección de la propiedad intelectual en la era digital y garantizar una remuneración justa a los artistas.
En este sentido, Hanif avanza que, en la actualidad, están «refinando esta tecnología y tenemos previsto iniciar un programa piloto con algunos creadores a principios del próximo año».
La tecnología para detectar rostros generados por IA es otro de los retos
La otra solución tecnológica a la que la plataforma asegura estar «dedicando un gran esfuerzo» servirá para que actores, músicos, deportistas y otros creadores puedan detectar y gestionar contenidos de IA en los que aparezcan sus rostros sin haber solicitado su consentimiento. Una medida que se considera crucial para evitar la suplantación de identidad, así como la difusión de información falsa.
Serán parte de un potente conjunto de herramientas para gestionar el uso de la IA
Para Hanif, estas tecnologías, junto con otras novedades recientes, como la petición realizada por parte de la plataforma para que los creadores denuncien vulneraciones de privacidad, «formarán un potente juego de herramientas que ayudará a gestionar cómo se utiliza la IA para representar a las personas en YouTube».
YouTube utiliza la IA respetando las decisiones de los creadores sobre sus obras
El responsable de productos para YouTube Creator también ha incidido en que la red social utiliza «desde hace muchos años» los contenidos que se suben a YouTube para mejorar la experiencia del usuario. Una actividad para la que emplean IA y aprendizaje automático en base a los términos y condiciones que los creadores aceptan al utilizar la plataforma, lo que les ha permitido «mejorar los sistemas de recomendación y crear nuevas funciones de IA generativa».
Los creadores podrán decidir si ceden su contenido en YouTube para entrenar IA
En esta línea, ha avanzado que, justo por la rapidez con la que evoluciona esta tecnología, son conscientes de que «los creadores pueden querer un mayor grado de control sobre el modo en que colaboran con terceros en el desarrollo de herramientas de IA». De aquí que estén «abriendo nuevas vías» para que puedan decidir qué uso hacen esos terceros de sus contenidos en la plataforma con fines de entrenamiento de modelos de IA. No obstante, no ha concretado el plan, remitiendo a la información que estarán en condiciones de facilitar en los «próximos meses».
En todo caso, Hanif ha asegurado que YouTube es partidaria de que la IA debe complementar la creatividad humana, no sustituirla. Por eso, seguirán desarrollando medidas de protección que ayuden a atajar los problemas. «Desde nuestros comienzos, hemos trabajado para que los creadores y las empresas puedan formar comunidades sanas y pujantes en YouTube. Nuestra prioridad sigue siendo promover un entorno que favorezca la innovación responsable».
Fuentes: Techcrunch, Industria Musical
