Meta identificará y etiquetará automáticamente las imágenes generadas por IA
La gigante tecnológica Meta, conocida por ser la matriz de Facebook, Instagram y Threads, anunció que en los próximos meses implementará un sistema para identificar y etiquetar de forma automática las imágenes fotorrealistas generadas por Inteligencia Artificial (IA) que circulan en sus redes sociales.
Esta iniciativa busca brindar a los usuarios una mayor claridad sobre la procedencia de las imágenes y evitar confusiones entre el contenido generado por humanos y el creado por algoritmos.
En un mundo digital en el que cada vez se encuentra más contenido generado por IA con un alto nivel de realismo, la tarea de distinguir entre lo producido por humanos y lo generado por máquinas se ha vuelto más desafiante.
La compañía ha expresado su entusiasmo por la creatividad demostrada por los usuarios que utilizan sus herramientas de IA generativa, como el generador de imágenes del ‘chatbot’ Meta AI, que permite crear imágenes a partir de simples indicaciones de texto.
Sin embargo, reconoce que la transparencia es un elemento esencial en este nuevo contexto tecnológico.
Para lograr este objetivo, Meta no solo etiquetará las imágenes generadas por su propia IA, sino que también implementará etiquetas en las imágenes fotorrealistas creadas con IA generativa de terceros, como Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock.
Estas etiquetas se añadirán automáticamente en todos los idiomas disponibles en cada red social, con el propósito de informar a los usuarios sobre el origen de las imágenes.
La empresa liderada por Mark Zuckerberg trabajó en colaboración con socios de la industria para establecer normas comunes para identificar el contenido generado por IA.
Además de las etiquetas visibles, Meta ha introducido marcas de agua invisibles, como metadatos incrustados en los archivos de las imágenes, para proporcionar una mayor solidez en la identificación de este tipo de contenido.
Estas prácticas están en línea con las directrices del Partnership on AI (PAI), un foro donde se debaten temas relacionados con la IA.
Sin embargo, la compañía reconoce que aún queda trabajo por hacer, especialmente en lo que respecta a la identificación de contenido de audio y video generado por IA. A pesar de los avances, la detección de señales en estos formatos no se ha llevado a cabo a gran escala.
Por lo tanto, Meta permitirá a los usuarios informar sobre este tipo de contenido en sus redes sociales y añadirá etiquetas en caso necesario. Además, en casos de contenido que represente un alto riesgo de engaño, se aplicarán etiquetas más prominentes.
La empresa está comprometida en seguir avanzando en este campo y desarrollar clasificadores capaces de detectar contenido generado por IA incluso cuando no se utilicen marcadores invisibles. También está trabajando en métodos para dificultar la eliminación o alteración de marcas de agua invisibles en contenido generado por IA.
Meta ha destacado la importancia de la IA en la detección de contenido engañoso en sus plataformas, lo que incluye la identificación de incitación al odio y otras infracciones de sus políticas de comportamiento.
Información de El Tiempo
