CONTEXTOS JURÍDICOS DE LA INTELIGENCIA ARTIFICIAL

El impacto social y profesional de la IA es una realidad incuestionable. En esta obra, de carácter transdisciplinar, expertos en lenguaje y sistemas informáticos, profesionales del Derecho e investigadores de distintas disciplinas jurídicas reflexionan sobre algunos de los desafíos que aquella plantea en diversos contextos jurídicos, tanto teóricos como prácticos.

Dirigido a académicos, profesionales del Derecho y estudiantes, el lector podrá encontrar en este libro, por un lado, un análisis de los cambios que la IA está provocando en la teoría jurídica y en diferentes sectores del ordenamiento.

En este sentido, las nuevas tecnologías nos obligan a repensar categorías jurídicas básicas y a diseñar nuevos instrumentos legales de protección de los derechos de ciudadanos. Con este propósito nos preguntamos si son necesarios los neuroderechos; cómo la IA incide en los derechos al honor, la intimidad y la propia imagen; o si podemos proteger mejor a los consumidores frente a los potenciales daños de una IA defectuosa.

Por otro lado, se abordan los efectos de la IA jurídica (sistemas IA diseñados y/o entrenados para realizar tareas jurídicas) en la práctica del Derecho, así como su incidencia en los principios esenciales del Estado de Derecho. En esta dirección, la obra se adentra en el cambio de paradigma que implica la tecno-regulación; el impacto que la utilización de la IA para la prevención e investigación policial de los delitos tiene sobre las garantías del acusado; o las posibilidades y límites de su aplicación en la Administración de Justicia, considerando los problemas de interpretación judicial en contextos de opacidad tecnológica y los desafíos de la utilización de IA generativa en la toma de decisiones judiciales. Temas de especial interés en nuestro país tras la introducción de la posibilidad legal de utilizar IA para generar borradores de resoluciones judiciales.

SUMARIO
PRESENTACIÓN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . XI
CAPÍTULO 1
INTELIGENCIA ARTIFICIAL EN EL ÁMBITO JURÍDICO:
ANÁLISIS DE SU EVOLUCIÓN Y APLICACIONES PRÁCTICAS
Diego García Saiz
I. IntroduccIón . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
II. La prImera oLa: sIstemas expertos y La búsqueda de La LógIca formaL . . . . . . . . . . . . . . . 2
III. La era deL dato: machIne LearnIng o aprendIzaje automátIco . . . . . . . . . . . . . . . . . . . 5
IV. eL deep learning y La comprensIón deL Lenguaje jurídIco . . . . . . . . . . . . . . . . . . . . . . 9
V. La era de La creacIón: InteLIgencIa artIfIcIaL generatIVa . . . . . . . . . . . . . . . . . . . . . . . 11
VI. concLusIones: desafíos estructuraLes y eL futuro de La Ia en eL ámbIto jurídIco . . . . . . . 14
CAPÍTULO 2
ÉTICA(S) DE LA INTELIGENCIA ARTIFICIAL Y DERECHO:
CONSIDERACIONES A PROPÓSITO DE LOS LÍMITES
Y LA CONTENCIÓN DEL DESARROLLO TECNOLÓGICO
Fernando H. Llano Alonso
I. IntroduccIón . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
II. La Ia fuerte y eL aLIneamIento de sus objetIVos con Los VaLores humanos . . . . . . . . . . . 22
III. La étIca de La Ia y La ampLIacIón de Los prIncIpIos de La bIoétIca . . . . . . . . . . . . . . . . . 26
IV. dIVersos enfoques y modeLos étIcos de La Ia . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
V. a modo de concLusIón: hacIa una metaétIca de La Ia . . . . . . . . . . . . . . . . . . . . . . . . 34
VI CONTEXTOS JURÍDICOS DE LA INTELIGENCIA ARTIFICIAL
CAPÍTULO 3
¿SON NECESARIOS LOS NEURODERECHOS?
Rafael de Asís
I. Las propuestas sobre Los neuroderechos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
1. La libertad cognitiva . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
2. Los cinco neuroderechos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
II. refLexIones sobre Los neuroderechos desde dos de sus crítIcas . . . . . . . . . . . . . . . . . . 49
1. La falta de precisión . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
2. Lo innecesario de la propuesta . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
3. Tres categorías de derechos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
III. refLexIones fInaLes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
CAPÍTULO 4
CONCIENCIA JURÍDICA E INTELIGENCIA ARTIFICIAL
Jesús Ignacio Martínez García
I. eL despertar de La concIencIa jurídIca . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
II. La representacIón mentaL deL derecho . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
III. concIencIa constItuyente . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72
IV. formacIón de sentIdo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75
V. fIguras de La concIencIa jurídIca . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77
VI. nIVeLes de concIencIa . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83
VII. concIencIa y Lenguaje . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
VIII. La InterrupcIón de Los mecanIsmos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 88
Ix. La concIencIa deL no . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92
x. admIrabLes autómatas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 96
xI. comprensIón y refLexIón . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 97
CAPÍTULO 5
EL DERECHO ANTE EL FETICHISMO DE LA TECNO-REGULACIÓN
Y EL RIESGO DE NATURALIZACIÓN DE LAS NORMAS
Jorge Crego
I. IntroduccIón . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103
II. La tecno-reguLacIón: reguLacIón a traVés deL dIseño de La esfera de posIbILIdades . . . . . . 106
III. anáLIsIs deL fetIchIsmo de La mercancía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
1. La cosificación: elemento central del fetichismo . . . . . . . . . . . . . . . . . . . . . . 114
2. La dominación impersonal de las cosas sobre las personas . . . . . . . . . . . . 118
3. La mistificación de las relaciones sociales operada por la cosificación . . . . . 120
4. El fetichismo como fenómeno complejo: cosificación, dominio y mistificación . . 125
IV. tres InterpretacIones deL fetIchIsmo de La tecnoLogía . . . . . . . . . . . . . . . . . . . . . . . . 126
1. El fetichismo tecnológico de la valorización en Marx . . . . . . . . . . . . . . . . . . 128
SUMARIO VII
2. El fetichismo tecnológico de la extensión en Hornborg . . . . . . . . . . . . . . . . . 130
3. El fetichismo tecnológico de la normatividad . . . . . . . . . . . . . . . . . . . . . . . . 132
V. La fetIchIzacIón deL derecho en La tecno-reguLacIón . . . . . . . . . . . . . . . . . . . . . . . . 136
1. La tecno-cosificación de la relación entre autoridad y sujeto jurídico y el apa-
rente dominio de las cosas sobre el comportamiento humano . . . . . . . . . . . . 137
2. La ocultación de la relación subyacente a la tecnología regulatoria . . . . . . . 140
3. El riesgo de naturalización de las normas en el modelo tecno- regulatorio . . . 142
VI. deL ImperIo de La Ley a La tecno-reguLacIón: ¿qué se puede perder en eL camIno? . . . . . . 144
CAPÍTULO 6
LA IA Y SU CONSIDERACIÓN LEGAL COMO PRODUCTO DEFECTUOSO
Julio Álvarez Rubio
I. un nueVo escenarIo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147
II. nueVas característIcas, nueVos rIesgos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149
1. La intangibilidad . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149
A. El nuevo concepto . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149
B. Programas informáticos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 152
C. Archivos de fabricación digital . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154
D. Servicio conexo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 155
E. Componente . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156
2. La apertura . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158
A. El control del fabricante como referencia . . . . . . . . . . . . . . . . . . . . . . 158
B. La interconectividad y sus riesgos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 160
C. La necesaria ampliación de la nómina de responsables . . . . . . . . . . . . . 161
3. La complejidad/opacidad . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 163
A. La exhibición de pruebas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 166
B. Presunciones iuris tantum en el ámbito probatorio . . . . . . . . . . . . . . . . . . 168
4. La autonomía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174
A. El autoaprendizaje como propiedad natural de la IA . . . . . . . . . . . . . . . 174
B. Los riesgos de desarrollo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 178
CAPÍTULO 7
HONOR, INTIMIDAD Y PROPIA IMAGEN
EN LA ERA DE LA INTELIGENCIA ARTIFICIAL
Carmen Fernández Canales
I. IntroduccIón . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183
II. breVe excurso sobre eL honor, La IntImIdad y La Imagen . . . . . . . . . . . . . . . . . . . . . . . 187
III. La cuarta reVoLucIón IndustrIaL. benefIcIos y rIesgos de La Ia . . . . . . . . . . . . . . . . . . 189
IV. La Ia en reLacIón con eL derecho aL honor, La IntImIdad y La propIa Imagen . . . . . . . . . 199
V. a modo de concLusIón . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 210
VIII CONTEXTOS JURÍDICOS DE LA INTELIGENCIA ARTIFICIAL
CAPÍTULO 8
LA INTELIGENCIA ARTIFICIAL COMO HERRAMIENTA
PARA LA PREVENCIÓN E INVESTIGACIÓN DE LOS DELITOS:
¿POLICÍA PREDICTIVA O PREJUICIO ALGORÍTMICO?
Cristina San Miguel Caso
I. IntroduccIón . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211
II. deLImItacIón conceptuaL de La poLIcía predIctIVa . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212
III. benefIcIos, objetIVos y fInaLIdad. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 215
IV. ¿es posIbLe predecIr eL comportamIento humano?: Los escoLLos de La predIccIón . . . . . . . . 219
V. aproxImacIón a dIferentes sIstemas de predIccIón . . . . . . . . . . . . . . . . . . . . . . . . . . . 225
1. Los sistemas de información geográfica . . . . . . . . . . . . . . . . . . . . . . . . . . . 226
2. Los sistemas de valoración del riesgo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229
A. RisCanvi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 230
B. Viogen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232
VI. concLusIón . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 236
CAPÍTULO 9
LA TECNOLOGÍA DIGITAL Y LA INTELIGENCIA ARTIFICIAL EN LA ADMINISTRACIÓN
DE JUSTICIA: UN NUEVO CONTEXTO, UNOS MISMOS DERECHOS
M.ª Olga Sánchez Martínez
I. IntroduccIón . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 237
II. deL juez autómata aL juez robot . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239
III. Las InteLIgencIas múLtIpLes de La funcIón judIcIaL . . . . . . . . . . . . . . . . . . . . . . . . . . . . 242
IV. La InteLIgencIa artIfIcIaL entre eL pasado y eL futuro, La InfaLIbILIdad y eL error, eL carácter
normatIVo y eL apoyo a La apLIcacIón de Las normas . . . . . . . . . . . . . . . . . . . . . . . . . 248
V. derechos y garantías procesaLes en La transformacIón dIgItaL de La justIcIa . . . . . . . . . 252
VI. estrategIas étIcas y jurídIcas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 259
VII. concLusIones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 264
CAPÍTULO 10
CONSTRUCCIÓN JUDICIAL DEL DERECHO Y DESAFÍOS
INTERPRETATIVOS EN CONTEXTOS DE OPACIDAD TECNOLÓGICA
John A. Carlin Sánchez
I. IntroduccIón . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 267
II. opacIdad tecnoLógIca e InterpretacIón judIcIaL: una aproxImacIón anaLítIca . . . . . . . . . 272
1. La opacidad del derecho como desafío interpretativo . . . . . . . . . . . . . . . . . 273
2. Efectos de la indeterminación normativa y tecnológica en el rol judicial . . . . 277
3. Del texto a la norma: interpretación en contextos de opacidad . . . . . . . . . . . 281
4. La reconfiguración de la interpretación judicial: hacia una normatividad inte-
grada y contextualizada . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 285
SUMARIO IX
A. La interpretación judicial como proceso relacional y adaptativo . . . . . . . 286
B. La complejidad de la normatividad en contextos de opacidad tecnológica . . . 287
C. La crisis de competencia judicial tecnológica: nuevas formas de autoridad
y legitimidad. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 288
D. Desarrollo de una metodología interpretativa integral . . . . . . . . . . . . . . . 289
III. La construccIón normatIVa en contextos de opacIdad tecnoLógIca . . . . . . . . . . . . . . . 290
1. Análisis de casos paradigmáticos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 291
A. El desafío de la evidencia digital . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 291
B. La opacidad del reconocimiento facial . . . . . . . . . . . . . . . . . . . . . . . . . 293
2. Patrones interpretativos emergentes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 294
3. La reconfiguración de la función judicial . . . . . . . . . . . . . . . . . . . . . . . . . . . 296
4. Hacia una normatividad tecnológicamente integrada . . . . . . . . . . . . . . . . . . 297
IV. concLusIones: hacIa una nueVa comprensIón de La InterpretacIón judIcIaL en contextos tec-
noLógIcos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 299
CAPÍTULO 11
EL DESAFÍO JUDICIAL DE LA IA GENERATIVA: ¿PUEDEN LOS TRIBUNALES
UTILIZAR CHATGPT PARA LA TOMA DE DECISIONES?
José Ignacio Solar Cayón
I. La ecLosIón de La Ia generatIVa y su apLIcacIón aL domInIo jurídIco . . . . . . . . . . . . . . 303
II. IrrupcIón de La Ia generatIVa en La admInIstracIón de justIcIa: La utILIzacIón de facto de
chatgpt como asIstente judIcIaL . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 310
III. enfoques reguLatorIos sobre eL uso de La Ia generatIVa en La toma de decIsIones judIcIaLes . . 325
1. La auto-regulación por parte del poder judicial . . . . . . . . . . . . . . . . . . . . . . 325
2. La regulación legal del uso de la IA en la Administración de Justicia . . . . . . . 330
A. El Reglamento europeo de IA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 330
B. El marco jurídico español . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 336
a) El Real Decreto-ley 6/2023: la introducción de actuaciones judiciales
asistidas por sistemas de IA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 336
b) ¿Pueden los tribunales españoles utilizar IA generativa para producir
(propuestas de) resoluciones judiciales? . . . . . . . . . . . . . . . . . . . . . . 345