OpenAI contraataca a las deepfakes: herramienta para detectar imágenes creadas con IA y marcas de agua invisibles
OpenAI, la compañía de investigación en inteligencia artificial, está tomando medidas para combatir la creciente amenaza de las deepfakes y el contenido falso generado por IA. Han anunciado dos iniciativas clave:
- Un clasificador de detección de imágenes: Esta herramienta analiza una imagen y determina la probabilidad de que haya sido creada por su propio generador de imágenes DALL-E 3. Con una precisión del 98%, la herramienta puede identificar imágenes manipuladas incluso si se recortan, comprimen o modifican los colores. Si bien actualmente solo funciona de manera óptima para DALL-E 3, OpenAI está trabajando para mejorar la detección de otros modelos de generación de imágenes.
- Marcas de agua invisibles: OpenAI se está asociando con la Coalición de Autoridad y Procedencia del Contenido (C2PA) para desarrollar marcas de agua digitales que se incrustan en el contenido generado por IA, como imágenes y audio. Estas marcas actúan como una firma invisible que identifica el origen del contenido y verifica su autenticidad.
Ver también: ¡Aplastando el arte! iPad Pro de Apple: polémica en redes
Estas iniciativas son una respuesta a la creciente preocupación por la desinformación propagada a través de contenido falso creado con IA. La capacidad de generar imágenes y videos hiperrealistas plantea un desafío para discernir lo real de lo artificial. Las herramientas de OpenAI pueden ayudar a periodistas, investigadores y el público en general a identificar contenido generado por IA y evaluar su credibilidad.
OpenAI reconoce que la detección de contenido de IA de otras fuentes aún está en desarrollo. Su intento anterior de clasificar texto escrito por IA no tuvo éxito debido a la baja precisión. Sin embargo, su compromiso con la transparencia y la lucha contra la desinformación los impulsa a desarrollar soluciones más sólidas.
La importancia de estas iniciativas radica en establecer estándares abiertos para la detección de contenido generado por IA. Al contar con herramientas confiables y protocolos universales, las personas pueden navegar mejor por el panorama digital y confiar en la autenticidad de la información que encuentran en línea.
Además de lo anterior:
- OpenAI está ofreciendo acceso al clasificador de detección de imágenes a investigadores y organizaciones de periodismo sin fines de lucro para recibir comentarios y mejorar su eficacia.
- Su colaboración con C2PA apunta hacia la creación de un sistema integral para rastrear el origen del contenido y garantizar su procedencia.
Ver también: Coca-Cola: «Spills», un brindis a las conexiones humanas que valen cada gota
La lucha contra la desinformación y las deepfakes es un esfuerzo continuo. OpenAI, a través de estas herramientas, está dando un paso importante para garantizar la integridad del contenido digital y empoderar a las personas para interactuar de forma más informada con el mundo online.
