El inicio del año trajo consigo una controversia en la plataforma X, anteriormente conocida como Twitter, debido al uso de Grok, una inteligencia artificial (IA) desarrollada por Elon Musk, para crear imágenes falsas de mujeres desnudas sin su consentimiento. Este fenómeno reavivó debates sobre la ética de los deepfakes, imágenes o videos alterados con IA que parecen reales. Como respuesta, el Gobierno anunció un anteproyecto de ley para combatir estas prácticas, modificando la ley orgánica de protección civil del derecho al honor, la intimidad personal y familiar, y la propia imagen. Las «ultrasuplantaciones» hechas con IA serán delito si no hay consentimiento de la persona afectada y si se busca dañar su integridad moral, con penas que pueden incluir hasta dos años de prisión. El anteproyecto también aumenta la edad mínima para consentir la cesión de imagen a 16 años.
Otra novedad significativa es la protección post mortem de la imagen o voz de una persona, siempre que esto sea especificado en un testamento, lo que podría afectar contenidos de true-crime que usen IA para recrear voces o imágenes de víctimas fallecidas. Este punto es particularmente relevante en casos donde la reproducción de estos elementos pueda resultar perjudicial para la memoria del difunto o para los familiares. Además, la reforma contempla excepciones para el uso de imagen o voz en contextos como obras creativas o humorísticas, siempre señalando el uso de IA.
El debate en torno a si estas medidas eran necesarias surge en el ámbito legal, con opiniones divergentes sobre la suficiencia de la legislación actual para abordar los retos digitales. No obstante, estas acciones responden a un mandato de la Unión Europea para que los estados miembros regulen los deepfakes, en particular aquellos con contenido sexual no consentido. Este caso, junto a incidentes previos de uso indebido de IA para generar imágenes inapropiadas, ilustran la creciente preocupación por regular el impacto de las nuevas tecnologías en la privacidad y la dignidad de las personas.