La inteligencia artificial generativa (GenAI) está revolucionando la creación de contenido visual con resultados de calidad sorprendente. Esto marca un hito en el acceso a la creación de contenidos de aspecto profesional sin necesidad de habilidades de diseño específicas. Sin embargo, esta capacidad también introduce riesgos significativos, como la dificultad para distinguir entre imágenes reales y las generadas por IA, lo que puede ser aprovechado para desinformación y fraudes.
Frente a estos retos, las redes sociales, como TikTok, están implementando políticas para mejorar la transparencia mediante la etiquetación de contenido generado por IA. TikTok anunció recientemente que todas las imágenes creadas con herramientas como DALL·E de OpenAI llevarán una etiqueta “generado por IA”. Esta etiqueta es obligatoria y no puede ser removida por el usuario, buscando así notificar claramente cuando el contenido no es auténtico o ha sido manipulado. TikTok enfatiza que el incumplimiento de las reglas de etiquetado manual previas puede resultar en sanciones.
Para determinar qué contenido ha sido generado por IA, TikTok utiliza las Credenciales de Contenido de la Coalition for Content Provenance and Authenticity (C2PA). Estas credenciales actúan como una marca de agua digital identificando contenido alterado con IA. Aunque no todas las plataformas han adoptado esta solución, es un paso adelante en la autenticación de contenido.
Además, TikTok planea expandir el uso de Credenciales de Contenido a medios exportados desde la plataforma hacia otras redes sociales, permitiendo así una mayor atención al origen del contenido compartido en múltiples plataformas. Esta iniciativa es parte de un movimiento más amplio en la industria tecnológica, con empresas como Meta anunciando la implementación de etiquetas basadas en el estándar C2PA para identificar imágenes generadas por IA en sus plataformas.
En resumen, estamos asistiendo al inicio de esfuerzos significativos por parte de redes sociales y entidades tecnológicas para abordar la transparencia y autenticidad del contenido generado por IA, garantizando así una mayor confiabilidad y seguridad en el ecosistema digital.