Los deepfakes y las imágenes falsas generadas por inteligencia artificial (IA) están creciendo en sofisticación, llevándonos a cuestionar la autenticidad de las imágenes que vemos, desde notables ejemplos como un atractivamente vestido Papa Francisco o la detención de Donald Trump. Estas creaciones están desdibujando las líneas entre realidad y ficción en el ámbito digital, lo que eleva la necesidad de un escrutinio cuidadoso no solo de las imágenes falsas sino también de las verdaderas.
Elliot Higgins, un destacado analista de Inteligencia Open Source, ha llevado su lucha contra la desinformación a su plataforma Bellingcat. En un mundo inundado por la información y la desinformación generadas artificialmente, la IA plantea el desafío dual de engañar al público para que crea en falsedades y al mismo tiempo para que dude de verdades evidentes. Esto se refuerza con numerosos ejemplos de sistemas de detección que erróneamente marcan imágenes auténticas como generadas por IA, y plataformas como Instagram donde fotos reales son interceptadas por filtros destinados a capturar contenido artificial.
Estos errores no solo destacan las deficiencias en las herramientas de detección, sino que también nos hacen considerar cómo la percepción humana es igualmente susceptible. La avanzada generación de imágenes y videos por IA pueden simular con precisión la realidad, desafiando nuestra capacidad para discernir lo real de lo fabricado. Con la evolución de tecnologías que permiten la creación de videos deepfake altamente convincentes, nos enfrentamos a un futuro donde nuestra confianza en el contenido visual podría estar permanentemente en duda, impactando no solo la percepción individual sino también la colectiva de eventos y noticias.