OpenAI, la destacada empresa emergente de inteligencia artificial ha lanzado una nueva herramienta diseñada para detectar contenido creado por su generador de imágenes, DALL-E, como parte de su esfuerzo para combatir la desinformación. La herramienta será compartida con un grupo selecto de investigadores especializados, quienes la probarán en situaciones reales para identificar formas de mejorarla.
El detector de OpenAI puede identificar correctamente el 98,8% de las imágenes generadas por DALL-E 3, la última versión del generador de imágenes de la empresa. Sin embargo, la herramienta no está diseñada para detectar imágenes producidas por otros generadores populares como Midjourney y Stability.
A pesar de este avance, OpenAI reconoce que el detector es solo una pequeña parte de lo que se necesitará para combatir los llamados deepfakes en el futuro. Sandhini Agarwal, investigadora de OpenAI enfocada en seguridad y políticas, subraya que el detector es solo un punto de partida para nuevas investigaciones.
La compañía se unirá al comité directivo de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA), un esfuerzo de la industria para desarrollar credenciales que certifiquen la autenticidad del contenido digital. Este estándar funciona como una “etiqueta nutricional” para imágenes, videos, audio y otros archivos, mostrando cuándo y cómo fueron producidos o alterados, incluso si fue con inteligencia artificial.
OpenAI también está trabajando en formas de añadir marcas de agua a sonidos generados por inteligencia artificial, con la esperanza de que estas marcas sean difíciles de eliminar.
La industria de la inteligencia artificial, liderada por empresas como OpenAI, Google y Meta, enfrenta una creciente presión para responsabilizarse por el contenido generado por sus productos. Los expertos piden que se impida a los usuarios crear material engañoso y malicioso, y que se ofrezcan formas de rastrear su origen y distribución.
En un año lleno de elecciones importantes en todo el mundo, las peticiones para monitorear el linaje del contenido de IA son cada vez más urgentes. El audio y las imágenes generados por inteligencia artificial ya han impactado campañas políticas y votaciones en países como Eslovaquia, Taiwán e India.
Aunque el nuevo detector de OpenAI puede ayudar a mitigar el problema, no lo resolverá por completo. Como dijo Agarwal: “En la lucha contra los deepfakes, no existe una solución milagrosa.”
¿Qué opinas sobre el nuevo detector de deepfake de OpenAI?
