México | 2024-02-07
Meta ha revelado su nuevo enfoque para identificar y etiquetar contenido generado por inteligencia artificial en sus plataformas sociales, incluyendo Facebook, Instagram y Threads.
La empresa ahora automatizará la etiquetación de imágenes fotorrealistas creadas mediante su función "Meta AI", permitiendo a los usuarios discernir fácilmente si una imagen ha sido generada por inteligencia artificial o por un humano.
Concretamente, cuando se produzcan imágenes fotorrealistas utilizando esta función, Meta incorporará marcadores visibles en las imágenes, junto con marcas de agua invisibles y metadatos incrustados en el archivo de la imagen. Estas medidas facilitarán la identificación del contenido generado por inteligencia artificial, incluso si se comparte en diversas plataformas o se modifica de alguna manera.
Además, Meta ha anunciado planes para comenzar a etiquetar las fotografías generadas por IA producidas con herramientas de Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock en los próximos meses.
La compañía de Mark Zuckerberg ha anunciado que comenzará a requerir a sus usuarios que revelen cuando realicen publicaciones de video o audio generados con inteligencia artificial. Aquellos que no lo hagan podrían enfrentar sanciones e incluso ser baneados de las plataformas de Meta.
Reconociendo la responsabilidad compartida en el desarrollo de la inteligencia artificial, Meta está colaborando con otras empresas en el Partnership on AI (PAI) para establecer mejores prácticas en este campo. Adobe ha lanzado recientemente el sistema Content Credentials, que incluye información sobre la procedencia del contenido en los metadatos de las imágenes.
Por su parte, Google ha extendido su marca de agua SynthID a archivos de audio, luego de su lanzamiento en versión beta para imágenes. Además, YouTube anunció el año pasado que los creadores de contenido deben revelar el uso de inteligencia artificial en sus videos.
A pesar de los avances en la detección de contenido generado por inteligencia artificial, no todo puede ser identificado con la tecnología actual. Para abordar este desafío, Meta está desarrollando clasificadores que puedan detectar automáticamente contenido de inteligencia artificial sin marcadores.
También están trabajando en tecnologías de marcas de agua invisibles más robustas para dificultar su eliminación o alteración.