Por Hardik Vyas y Seana Davis
10 jul (Reuters) - Una nueva herramienta de detección de IA de Meta, que la empresa presentó esta semana junto con el lanzamiento de su modelo de generación de imágenes Muse Image, no logró identificar algunas de sus propias imágenes generadas por IA una vez recortadas, según un análisis de Reuters.
Este hallazgo pone de relieve las dificultades que plantea la verificación de imágenes generadas por IA tras sufrir modificaciones, una limitación que podría dificultar la identificación de "deepfakes" durante un año en el que se celebran las elecciones de medio mandato en Estados Unidos.
Este contenido se hizo gracias al apoyo de la comunidad de El Destape. Sumate. Sigamos haciendo historia.
En un análisis de 40 imágenes generadas con Muse Image, Reuters descubrió que la herramienta de detección verificó todas las imágenes originales generadas por IA, pero no logró verificar el 55% de esas mismas imágenes tras recortarlas a aproximadamente entre un tercio y la mitad de su tamaño original.
Meta dice que la herramienta de detección preliminar puede identificar sus propias imágenes generadas por IA, incluso si están recortadas, mediante un sistema de marca de agua invisible llamado "Content Seal", que se integra en cada imagen generada por Muse Image y está diseñado para ayudar a los usuarios a verificar si ha sido creada por los modelos de IA de Meta.
Al ser consultada por los resultados del análisis de Reuters sobre la herramienta de detección, Meta señaló que se trata de una versión preliminar. La empresa afirmó que la marca de agua está diseñada para permanecer intacta tras ediciones habituales, pero que la señal podría perderse si una imagen se recorta en exceso.
Las empresas tecnológicas Google y OpenAI han advertido que sus propias herramientas de detección no son infalibles frente a las técnicas de alteración de imágenes.
En marzo, el Consejo de Supervisión de Meta -un órgano de expertos que toma decisiones vinculantes y emite recomendaciones sobre cuestiones de contenido en todas las plataformas de redes sociales de la empresa- instó a la compañía a redoblar sus esfuerzos para hacer frente a la "proliferación de contenido engañoso generado por IA" en sus plataformas.
Siwei Lyu, profesor de informática en la Universidad Estatal de Nueva York en Buffalo que investiga el análisis forense de imágenes con IA, afirmó que no había evaluado la herramienta de Meta, pero que los sistemas basados en marcas de agua tienen limitaciones.
"Los métodos basados en marcas de agua pueden ser muy eficaces cuando la marca de agua permanece intacta, pero cualquier modificación que elimine o debilite la señal incrustada -como el recorte, el cambio de tamaño, la compresión intensa o la edición- puede reducir su eficacia", explicó.
Con información de Reuters
Cerrar sesión