IMPACTO DE LA REVOLUCIÓN TECNOLÓGICA EN LA CIUDADANÍA 'Inteligencia artificial y decisiones judiciale'

La obra analiza el uso actual de la inteligencia artificial (IA) en el ámbito judicial español y su impacto en los derechos de la ciudadanía. A través de cinco estudios, el libro examina desde la Filosofía del Derecho los desafíos que plantea la incorporación de la IA en la función jurisdiccional, destacando la necesidad de garantizar un uso ético, justo y legal de estas tecnologías, acorde con las expectativas sociales sobre la administración de justicia.

En esta obra el lector podrá encontrar nuevos posicionamientos teóricos acerca del rol activo de los jueces en la protección del Estado de Derecho, la difícil equiparación entre la inteligencia humana y la computacional y la defensa de un humanismo ilustrado para orientar el diseño y la aplicación de algoritmos en el ámbito judicial. A lo largo de sus páginas, los autores insisten en la necesidad de establecer garantías efectivas para la ciudadanía, como la supervisión humana permanente, la transparencia en el funcionamiento de los sistemas y la exigencia de una racionalidad pública en las decisiones.

En esta obra el lector encontrará diferentes propuestas críticas relativas a los requisitos mínimos necesarios para que las actuaciones procesales asistidas por tecnologías emergentes puedan ser calificadas como justas, de acuerdo con los valores y garantías consagrados en el texto constitucional.

ÍNDICE

PRÓLOGO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . IX
I. INTELIGENCIA ARTIFICIAL Y ESTADO DE DERECHO. ALGUNAS REFLEXIONES A
PARTIR DE LAS DECISIONES JUDICIALES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
Nuria Belloso Martín
1. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
2. Imperio de la ley. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
3. Igualdad ante la ley . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
4. Separación de Poderes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
5. Legalidad y control de la Administración . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
6. Previsibilidad y estabilidad de las leyes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
7. Debido proceso . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
8. Participación democrática . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
9. Protección de los derechos fundamentales . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
10. Reflexiones finales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
Referencias . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
Informes y legislación . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
Sentencias y Resoluciones judiciales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
II. SISTEMAS DE INTELIGENCIA ARTIFICIAL Y EPISTEMOLOGÍA JURÍDICA. . . . . . . . . 41
Adolfo J. Sánchez Hidalgo
1. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
2. De la racionalidad reflexiva a la racionalidad tecnológica . . . . . . . . . . . . . . . 43
3. Luces y sombras de la inteligencia artificial . . . . . . . . . . . . . . . . . . . . . . . . . . 48
4. La idea de una inteligencia artificial jurídica . . . . . . . . . . . . . . . . . . . . . . . . . 54
5. La irreductibilidad formal de la prudencia . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
6. Conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
SUMARIO
VIII IMPACTO DE LA REVOLUCIÓN TECNOLÓGICA EN LA CIUDADANÍA
III. LA ÉTICA DE LOS ALGORITMOS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
Fernando H. Llano Alonso
1. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
2. La supervisión humana de los algoritmos: ¿efecto placebo o mecanismo eficaz
de regulación? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70
3. La función correctora de los principios de la ética de la ia en el diseño y desarrollo
de los algoritmos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72
4. El caso Herzberg. Crónica y análisis del primer error algorítmico fatal en la
historia de la IA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77
5. Un dilema mortal y tres modelos éticos para los sistemas algorítmicos . . . . . . . . 81
6. Conclusión . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
IV. GARANTÍAS DEL CIUDADANO ESPAÑOL ANTE LAS RESOLUCIONES JURÍDICAS
AUTOMATIZADAS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
Manuel Rodríguez Puerto
1. Planteamiento. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 90
2. La automatización de la resolución jurídica . . . . . . . . . . . . . . . . . . . . . . . . . . . 90
3. Las dificultades para regular la IA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 94
4. El nivel constitucional . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95
5. Regulación de la UE sobre la IA jurídica . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 101
6. Conclusión . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109
V. JUSTICIA, ADMINISTRACIÓN DE JUSTICIA Y TECNOLOGÍAS. . . . . . . . . . . . . . . . 113
Fernando Galindo Ayuda
1. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 114
2. Justicia judicial . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117
3. Inteligencia artificial . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 125
4. Riesgos y regulación . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136
5. Conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159
Referencias . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161