Las Ultrafalsificaciones: retos probatorios

Analiza las ultrafalsificaciones como manifestación avanzada de la manipulación audiovisual mediante inteligencia artificial. Expone su origen, funcionamiento, oportunidades y riesgos, con especial atención a la desinformación, la violencia sexual contra las mujeres y las conductas delictivas asociadas. Examina el marco jurídico internacional, comunitario y nacional, así como las políticas de detección y eliminación aplicadas por las plataformas.

Se centra en la incorporación de contenidos ultrafalsificados al proceso, la erosión de la confianza en la prueba audiovisual, su impugnación, la acreditación de autenticidad, la prueba pericial y los instrumentos de corroboración. También aborda la valoración judicial, el uso de herramientas de inteligencia artificial y la revisión o nulidad de sentencias basadas en pruebas ilícitas o falsas.

La obra ofrece:

Regulación internacional, comunitaria y nacional de las ultrafalsificaciones y carencias normativas existentes.
Impugnación y autenticación de imágenes, audios y vídeos ultrafalsificados mediante prueba pericial e instrumentos de corroboración.
Valoración judicial de la prueba audiovisual y revisión de sentencias firmes basadas en pruebas ultrafalsificadas.


CAPÍTULO I
INTRODUCCIÓN: CONTEXTO EN EL QUE SURGEN LAS ULTRAFALSIFICACIONES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
La era de la desinformación . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
Oportunidades y amenazas de las ultrafalsificaciones . . . . 29
Breves apuntes sobre el funcionamiento de la tecnología: inteligencia artificial y redes generativas adversariales (GANs). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
CAPÍTULO II
REGULACIÓN Y CARENCIAS NORMATIVAS . . . . . . . . . . . . . . . 43
Marco jurídico internacional. . . . . . . . . . . . . . . . . . . . . . . . . . . 45
El Convenio de Budapest y otros convenios internacionales 46
Recomendaciones de organismos internacionales. . . . . . . . 48
Algunos ejemplos de Derecho comparado . . . . . . . . . . . . . . 49
La intensa actividad reguladora en Estados Unidos. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
Otros países pioneros . . . . . . . . . . . . . . . . . . . . 52
Marco normativo comunitario . . . . . . . . . . . . . . . . . . . . . . . . . 54
El Reglamento de Servicios Digitales y su impacto en los contenidos manipulados . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
Deepfakes: definición y origen del término. . . . . . . . . . . . . .
El Reglamento de IA: una respuesta (parcial) a las ultrasuplantaciones. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
La Directiva sobre la lucha contra la violencia contra las mujeres y la violencia doméstica . . . . . . . . . . . . . . . . . . . . . 65
Otras normas comunitarias de relevancia . . . . . . . . . . . . . 69
Marco jurídico nacional . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72
Políticas de detección y eliminación de contenido implementadas por las plataformas. . . . . . . . . . . . . . . . . . . . . . . . . . 76
CAPÍTULO III
LA CRIMINALIZACIÓN DE LAS ULTRAFALSIFICACIONES. 81
Calificación de las conductas delictivas que pueden ser cometidas a través de ultrafalsificaciones. . . . . . . . . . . . . . . 83
Los deepfakes sexuales: una nueva herramienta para ejercer violencia contra las mujeres. . . . . . . . . . . . . . . . . . . . 94
Un fenómeno profundamente sexista . . . . . . . . . . . . . . . . . 94
Un nuevo modo de violencia con el mismo propósito de control y dominación . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 99
CAPÍTULO IV
DEEPFAKES EN LOS TRIBUNALES: ALCANCE Y PRINCIPALES RETOS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
Pruebas manipuladas hiperrealistas: multiplicidad de escenarios y riesgos para la integridad probatoria . . . . . . . . . 110
La erosión de la confianza en las pruebas audiovisuales y la «defensa deepfake». . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117
Consecuencias penales de la introducción de ultrafalsificaciones en el proceso . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124
Jueces y deepfakes: ¿preparados para el desafío?. . . . . . . . 128
¿Justicia para quien pueda pagarla? Asimetría tecnológica y desequilibrio procesal . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132
CAPÍTULO V
PRUEBAS ULTRAFALSAS: IMPUGNACIÓN Y DESAFÍOS DE AUTENTICIDAD. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137
Medios de prueba a través de los cuales se pueden incorporar las ultrafalsificaciones. . . . . . . . . . . . . . . . . . . . . . . . . . . 139
La impugnación de los documentos audiovisuales ultrafalsificados . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145
Momento y fundamento de la impugnación . . . . . . . . . . . . 147
Acreditación de la autenticidad de la prueba impugnada: desplazamiento de la carga probatoria . . . . . . . . . . . . . . . . 150
La prueba pericial: examen técnico de la autenticidad o alteración de la fuente tecnológica . . . . . . . . . . . . . . . . . . . . . 157
Pruebas instrumentales para corroborar la veracidad de imágenes, audios y vídeos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165
CAPÍTULO VI
VALORACIÓN DE LOS DOCUMENTOS AUDIOVISUALES Y NULIDAD DE LA SENTENCIA BASADA EN PRUEBAS ULTRAFALSAS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 173
La valoración de los documentos audiovisuales: imprescindible contextualización. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174
La cuestionable admisión de herramientas de IA para valorar la prueba . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 180
La IA: una solución prometedora . . . . . . . . . . . . . . . . . . . . 180
La validez científica de las herramientas de IA. . . . . . . . . . 186
¿Son adecuadas las reglas probatorias existentes o deben exigirse estándares más rigurosos? . . . . . . . . . . . . . . . . . . . . 192
Una propuesta de estándares mínimos para la adecuada presentación de la prueba . . . . . . . . . . . . . . . . . . . . . . . . . . 197
Herramientas de certificación electrónica: los denominados «testigos online» . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 201
La impugnación de las sentencias firmes basadas en pruebas ultrafalsificadas. Falsedad versus ilicitud.. . . . . . . 206
La revisión de sentencias basadas en pruebas ultrafalsificadas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 206
La prueba deepfake como prueba ilícita . . . . . . . . . . . . . . . 210
CAPÍTULO VII
A MODO DE CIERRE: PRESERVAR LA JUSTICIA EN TIEMPOS DE MANIPULACIÓN. . . . . . . . . . . . . . . . . . . . . . . . . . . . 217
BIBLIOGRAFÍA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 221