La startup de inteligencia artificial (IA) se suma al esfuerzo para detectar imágenes, audios y vídeos falsos creados con esta tecnología. OpenAI ha lanzado un nuevo detector de deepfakes que compartirá con un pequeño grupo de investigadores para probarlo. Además, anuncia un nuevo desarrollo, Media Manager, para que los creadores y titulares de contenido puedan excluir sus obras para entrenar la IA de la empresa.
Métodos para identificar contenido creado por IA
OpenAI ha revelado el lanzamiento de una herramienta que permite detectar imágenes falsas creadas con la tercera versión de su modelo DALL-E. En un artículo del blog de la compañía, anuncia que ha comenzado a desarrollar nuevos métodos para rastrear y comprobar si el contenido se ha creado mediante IA. En este contexto, ha surgido la nueva herramienta para determinar si las imágenes están generadas por IA, así como introducir una marca de agua para etiquetarlas que, esperan, sea resistente a las manipulaciones. Además, han incorporado marcas de agua para audio en Voice Engine, el modelo de voz personalizado que también están perfeccionando.
Detector de imágenes falsas en pruebas
La firma ha indicado que va a compartir el detector de deepfakes con un reducido grupo de investigadores especializados en desinformación para que puedan testarlo en casos reales y ayudar a identificar las mejoras que pueden introducirse. El anuncio lo ha confirmado Sandhini Agarwal, investigadora de OpenAI especializada en seguridad y política, en The New York Times, quien aseguró que la herramienta puede contribuir a solucionar el problema, pero no lo va a resolver. En la lucha contra los deepfakes, «no existe una solución milagrosa», ha advertido.
El nuevo detector, según las pruebas realizadas por la propia empresa, puede identificar el 98,8% de las imágenes creadas por DALL-E 3 a partir de una descripción en lenguaje natural. Sin embargo, en otros sistemas, el rendimiento del detector sólo alcanza entre el 5% y el 10%, por lo que la compañía ha aclarado que la herramienta no se ha diseñado para detectar imágenes producidas por otros generadores como Midjourney o Stability.
Compromiso con las credenciales de autenticidad
Siguiendo la estela de otros gigantes de la tecnología, como Google o Meta, la firma se ha unido al comité directivo de la Coalición para la Procedencia y Autenticidad del Contenido, conocido como C2PA, para seguir desarrollando credenciales para el contenido digital. El estándar C2PA es un protocolo universal para etiquetar imágenes, videos, clips de audio y otros archivos que muestra cuándo y cómo fueron producidos o alterados, incluso con IA. OpenAI admite que, aunque estas soluciones técnicas son valiosas, se precisa un esfuerzo conjunto. «Es necesario que plataformas digitales, creadores de contenido y agentes intermediarios colaboren para mantener los metadatos asociados, lo que facilitaría a los consumidores finales tener transparencia respecto al origen del contenido.»
Media Manager, proyecto en favor del copyright
Por otro lado, la startup está trabajando en Media Manager, un gestor que permita a los creadores y titulares de contenido indicar sus preferencias sobre el uso de sus obras y datos personales en la IA. Según publica en su blog, está colaborando con ellos «a medida que desarrollan la herramienta». Prevé tenerla implementada en 2025 y «esperamos que establezca un estándar en la industria de la IA», indican.
Se entiende que este proyecto tiene como fin ayudar a garantizar el cumplimiento de los derechos de autor, pero aún se desconocen muchos detalles. Como apunta Wired, la compañía no ha dado a conocer a ninguno de sus socios ni ha aclarado cómo funcionará la herramienta. ¿Podrán los propietarios de contenidos hacer una única solicitud para cubrir todas sus obras? y ¿se podrán realizar solicitudes relacionadas con modelos que ya hayan sido entrenados y puestos en marcha? son algunas incógnitas por desvelar.
