La inteligencia artificial en el sector público

En el dinámico y acelerado mundo de la tecnología, la inteligencia artificial se erige como una de las innovaciones más transformadoras de nuestra era. Su capacidad para analizar grandes volúmenes de datos, aprender de ellos y tomar decisiones informadas ofrece oportunidades sin precedentes para mejorar la eficiencia, la transparencia y la calidad de los servicios públicos. Sin embargo, la implementación de la IA en el sector público no está exenta de desafíos significativos.

Esta obra colectiva reúne a destacados expertos y profesionales de diversos ámbitos desde académicos e investigadores hasta funcionarios públicos y tecnólogos para ofrecer un análisis detallado y transversal de los retos que enfrenta la adopción de la IA en las instituciones gubernamentales.

Esta obra examina cuestiones especialmente críticas como la ética y la privacidad, la equidad y la inclusión, la seguridad y la confiabilidad, o la necesidad de marcos legales y regulatorios adecuados. Además, se exploran casos de estudio y experiencias prácticas que ilustran tanto los logros como los obstáculos encontrados en la implementación de la inteligencia artificial en diferentes contextos y niveles de gobierno.

Con una perspectiva crítica y constructiva, esta obra invita a los lectores a reflexionar sobre el futuro de la Administración pública en la era de la inteligencia artificial y a participar activamente en la construcción de un marco ético y sostenible para su desarrollo.

ÍNDICE

PRIMERA PARTE. TRANSFORMACIÓN Y RETOS REGULATORIOS DE LA INTELIGENCIA ARTIFICIAL

LOS DERECHOS Y GARANTÍAS DE LOS PARTICULARES ANTE EL USO DE LA INTELIGENCIA ARTIFICIAL POR LA ADMINISTRACIÓN PÚBLICA

I.Intangibilidad del procedimiento basado en IA y garantías de los ciudadanos

II.Caracteres de la IA y posicionamiento de la administración pública

II.1. Funcionamiento de la IA

II.2. La función de la Administración ante la IA

La actuación de la administración basada en IA

III.1. Obtención de información y sistemas de alertas

III.2. Prestación de servicios públicos

III.3. Toma de decisiones: algoritmos predictivos

Derechos de los ciudadanos

IV.1. Acceso a la Administración digital

IV.2. Procedimiento administrativo: participación y motivación

IV.3. Privacidad y elaboración de perfiles

IV.4. Transparencia

IV.5. Seguridad

Derechos digitales
Conclusiones

Bibliografía

CLAVES PARA UN USO ÉTICO Y CONFIABLE DE LA INTELIGENCIA ARTIFICIAL EN EL SECTOR PÚBLICO. MODELO DE GOBERNANZA Y HERRAMIENTAS PARA EL DISEÑO DE UN MARCO INSTITUCIONAL

I.Introducción

II.Construyendo el camino hacia un uso ético de la Inteligencia Artificial

I.1. Los primeros pasos en Europa hacia una IA legal, ética y robusta

I.2. Principios éticos en el Reglamento Europeo de Inteligencia Artificial

I.3. Una visión a la Inteligencia Artificial desde los instrumentos internacionales

1.1. Crecimiento inclusivo, desarrollo sostenible y bienestar

1.2. Valores centrados en el ser humano y equidad

1.3. Transparencia y explicabilidad

1.4. Robustez, seguridad y protección

1.5. Responsabilidad

I.4. La regulación sobre la Inteligencia Artificial en España

Riesgos éticos y sociales en una gestión pública basada en IA: instrumentos de mitigación y control

II.1. El modelo del regulador europeo: uso de la IA basado en la gestión de riesgos

II.2. El recurso a los instrumentos de soft law: el caso de la Carta de Derechos

Digitales

II.3. El enfoque de los Códigos de conducta en el Reglamento de Inteligencia Artificial

II.4. Transparencia algorítmica y registros de algoritmos

II.5. El papel y finalidad de las evaluaciones y auditorías de algoritmos

Un modelo de gobernanza para el diseño, implantación y seguimiento del uso de la IA en el sector público

III.1. Un nuevo modelo organizativo: Chief Artificial Intelligence Officer (CAIO)

III.2. La Oficina Europea de Inteligencia Artificial

III.3. La Agencia Española de Supervisión de la Inteligencia Artificial: su nueva dimensión en la ENIA 2024

Conclusiones

Bibliografía

Otros documentos de consulta

LA INTELIGENCIA ARTIFICIAL SOSTENIBLE. EL SECTOR PÚBLICO ANTE LOS DESAFÍOS DEL DESARROLLO SOSTENIBLE DE LA INTELIGENCIA ARTIFICIAL

I.Introducción

II.Inteligencia Artificial como tecnología sostenible

II.1. La conformación del concepto de IA sostenible en la Unión Europea

II.1.1. Antes del Reglamento Europeo IA

II.1.2. La IA sostenible en el Reglamento Europeo de la IA

II.1.3. Hacia una definición integradora de la IA sostenible

La Inteligencia Artificial sostenible desde la perspectiva internacional

III.1. Recomendación de la OCDE sobre Inteligencia artificial

III.2. Recomendación sobre la ética de la Inteligencia artificial de la UNESCO

III.3. Carta Iberoamericana de Principios y Derechos en los Entornos Digitales

III.4. Carta Iberoamericana de la Inteligencia Artificial en la Administración Pública

El sector público español y el desarrollo de una IA sostenible

IV.1. Plan Nacional de Algoritmos Verdes

IV.2. Principios para el control, la auditoría y la supervisión de la IA sostenible

IV.3. La nueva Estrategia Nacional de Inteligencia artificial 2024 y su propuesta para reforzar la sostenibilidad de la IA

Conclusiones reflexivas

Referencias bibliográficas

Referencias normativas

REGULANDO LA IA: RETOS, PERSPECTIVAS Y ESTRATEGIAS PARA UN MARCO REGULATORIO ADAPTATIVO

I.Introducción

I.1. La IA y su intersección con el mundo jurídico

Fundamentación teórica: por qué y para qué regular

II.1. ¿Es necesario regular la IA?

II.2. El papel del derecho frente a la tecnología

II.3. ¿Para qué regular la IA?

Escuelas jurídicas y su enfoque sobre la IA

III.1. Iusnaturalismo

III.2. Positivismo

III.3. Realismo jurídico

III.4. Sociológico

III.5. Nuevos enfoques

¿Cómo regular la IA?

IV.1. Hard law vs. soft law

IV.2. Perspectivas vertical y horizontal

IV.3. Internacional vs. nacional

IV.4. La flexibilidad necesaria en un mundo tecnológico en cambio constante

Conclusión y recomendaciones

V.1. Derecho elástico

V.2. Recomendaciones y estrategias para el futuro

V.3. Principios orientadores para legisladores y abogados

V.4. Consideraciones prácticas y márgenes de error

Bibliografía

UN SOMERO ANÁLISIS AL RÉGIMEN SANCIONADOR DEL NUEVO REGLAMENTO EUROPEO DE INTELIGENCIA ARTIFICIAL Y A SU POSIBLE IMPACTO EN EL SECTOR PÚBLICO

I.Introducción

II.Las razones de la normativa europea, su estructura y la gobernanza prevista

III.La Unión Europea y su poder sancionador

IV.Visión general del régimen sancionador del reglamento de inteligencia artificial

IV.1. La potestad sancionadora que el Reglamento delega a los Estados miembros

IV.2. La potestad sancionadora que el Reglamento mantiene a nivel supranacional

IV.3. Autoridades nacionales específicamente identificadas como eje de la aplicación efectiva del sistema de sanciones y control

El reto de controlar, regular y, en su caso, sancionar el uso de la inteligencia artificial en el sector público

V.1. ¿La Administración Pública puede ser sancionada por un mal uso de la IA?

V.2. La Administración Pública como sujeto pasivo de las sanciones de IA. Algunas reflexiones inevitablemente incompletas

Bibliografía

SEGUNDA PARTE. INTEGRACIÓN DE LA INTELIGENCIA ARTIFICIAL EN LAS ORGANIZACIONES PÚBLICAS HACIA PERSPECTIVAS COMPLEJAS: EVALUACIÓN DEL IMPACTO DE LOS ASISTENTES VIRTUALES EN EL ENTORNO DEL SECTOR PÚBLICO

I.Cuestiones preliminares

II.Asistentes virtuales para un sector público a la vanguardia de los Avances tecnológicos

II.1. Asistentes virtuales en atención primaria de salud (APS)

II.2. Asistentes virtuales en la actividad administrativa

Big data como límite de los asistentes virtuales
La (des)humanización de la relación ciudadano/a administración pública

IV.1. Hacia un futuro no tan lejano. Un apunte

A modo de conclusión

Bibliografía

ESCENARIOS DE USO DE LA IA EN ADMINISTRACIONES LOCALES

I.Introducción

II.Marco teórico

II.1. Inteligencia Artificial: Conceptos y Aplicaciones

II.2. Contexto estratégico y normativo

II.3. Beneficios y Desafíos de la Implementación de la IA

II.3.1. Implementar la IA en los servicios públicos

II.3.2. Fomentar la investigación y el desarrollo en IA

II.3.3. Garantizar el uso ético de la IA

II.3.4. Concienciar, formar y capacitar en IA

II.3.5. Promover la IA en las empresas locales

Diagnóstico de la situación actual

III.1. Estructura y funciones de la Diputación de Cádiz

III.2. Retos

III.3. Áreas de Oportunidad

III.3.1. Servicios directos a la ciudadanía

III.3.2. Apoyo técnico, económico y tecnológico a los ayuntamientos

III.3.3. Coordinación de servicios municipales

III.3.4. Organización de servicios de carácter supramunicipal

III.3.5. Aprovechamiento de los datos que manejan los sistemas de información existentes

III.4. Riesgos y Limitaciones Actuales

III.4.1. Desconocimiento de las posibilidades que tiene la IA

III.4.2. Reticencia natural de los funcionarios y empleados públicos al cambio

III.4.3. Amenaza a los puestos de trabajo de menor cualificación

III.4.4. Sesgos en los algoritmos de la IA

III.4.5. Uso malintencionado de la IA

III.4.6. Reemplazo de los trabajadores humanos en muchos campos

III.4.7. Preocupaciones éticas sobre la IA

III.4.8. Evitar replicar el modelo burocrático

III.4.9. Capturas sindicales y corporativistas

Plan de implementación

IV.1. Objetivos Específicos

IV.2. Áreas de Implementación Prioritarias

IV.2.1. Automatización de la tramitación de procedimientos administrativos

IV.2.2. Generación de documentación administrativa

IV.2.3. Servicios jurídicos

IV.2.4. Machine learning para extracción de datos de documentos en papel y en formato

Electrónico

IV.2.5. Análisis de datos masivos

IV.2.6. Chatbots de atención a ciudadanía y empleados

IV.2.7. Creación GPTs propios

IV.2.8. Seguridad ciudadana y emergencias

IV.2.9. Ciberseguridad

IV.2.10. Aplicaciones No-Code

IV.2.11. Creación de mapas mentales

IV.3. Acciones Concretas

VI.3.1. Desarrollo de un marco de competencias digitales

IV.3.2. Plan de sensibilización y capacitación para el personal empleado de la Diputación y de sus ayuntamientos

IV.3.3. Creación de un Comité de Inteligencia Artificial

IV.3.4. Creación de un equipo de trabajo estable a modo de Oficina de Proyectos

IV.3.5. Identificación de colaboradores voluntarios de los ayuntamientos y entidades del sector público provincial

IV.3.6. Dotación presupuestaria estable para la contratación de servicios y consultorías especializadas

IV.3.7. Automatización de procesos con tecnología RPA

IV.3.8. Análisis de datos masivos y análisis predictivo

IV.3.9. Supervisión de cumplimiento normativo

IV.3.10. Seguridad ciudadana y en dependencias corporativas

IV.3.11. Ciberseguridad

IV.3.12. Transparencia y rendición de cuentas

IV.3.13. Atención a la ciudadanía y empleados públicos

IV.3.14. Integración profunda de sistemas propios con IA

IV.4. Recursos Necesarios

IV.5. Cronograma de Implementación

Evaluación del impacto

V.1. Metodología de Evaluación

Conclusiones y recomendaciones

LA INTELIGENCIA ARTIFICIAL Y LA SECRETARÍA DE LAS ENTIDADES LOCALES. DE LA ESCRIBANÍA A LA CUSTODIA DEL ALGORITMO

I.Introducción

II.Las funciones y el rol de la secretaría ante la transformación digital

II.1. La organización tradicional de las funciones de secretaría

II.2. Planteamiento previo sobre el nivel de digitalización de los servicios locales

II.3. La toma de decisiones en las entidades locales, el expediente administrativo y la coordinación jurídico-administrativa de la secretaría y de los servicios administrativos

II.4. El rol de la secretaría ante la transformación digital y la IA

La inteligencia artificial como instrumento para la secretaría

III.1. La regulación de la inteligencia artificial

III.2. El gobierno de los datos

III.3. El control de los algoritmos

III.4. La automatización y la IA

III.5. La prevención de los sesgos

La innovación de las funciones de la secretaría con la asistencia de la inteligencia artificial

IV.1. Fe pública local

IV.2. La asistencia a las sesiones de los órganos de gobierno

IV.3. Asesoramiento legal preceptivo

IV.4. Funciones de coordinación jurídico-administrativas

IV.5. Atención a la ciudadanía y a los servicios administrativos

IV.6. La superior dirección de los archivos y registros

IV.7. Funciones en los procesos electorales y en la constitución de las corporaciones locales

IV.8. Transparencia y acceso a la información

IV.9. Protección de datos

IV.10. Ciberseguridad

El examen del expediente por la secretaría y la inteligencia artificial

V.1. La relevancia del examen del expediente

V.2. La automatización del examen del expediente y la técnica de compliance

V.3. El examen del expediente con la asistencia de IA como garantía para la integridad y la corrección jurídica en la toma de decisiones

Conclusiones

VI.1. El rol de la secretaría y la IA en la entidad local

VI.2. Prevención de riesgos de la IA

VI.3. La IA es un instrumento para el reforzamiento de la integridad institucional

VI.4. Optimización de la adquisición de soluciones basadas en IA y asistencia de las diputaciones provinciales

VI.5. La organización y coordinación como asignatura pendiente de todo el sector público

VI.6. ¿Mandarán las máquinas en las entidades locales?

Bibliografía

¿HACIA UNA INSPECCIÓN DE TRABAJO Y SEGURIDAD SOCIAL EFICAZ Y EFICIENTE GRACIAS A LA INTELIGENCIA ARTIFICIAL? POR AHORA NO, OBJETIVO INACABADO

I.Introducción

II.Los principios de eficacia y eficiencia en las administraciones públicas

Y en la inspección de trabajo y seguridad social

II.1. La interconectividad de la transparencia con la eficacia y la eficiencia

III.Presunto concepto de inteligencia artificial aplicado al sector público

IV.La evolución de la digitalización en la inspección de trabajo y seguridad social y la aplicación de la inteligencia artificial

IV.1. La modernización de la Inspección: Proyecto LINCE

IV.2. La Herramienta de Lucha contra el Fraude

IV.3. El procedimiento sancionador automatizado de la Inspección (2022)

IV.4. Propuesta de futuro

Breves conclusiones

Bibliografía

La inteligencia artificial aplicada a la seguridad y la defensa en perspectiva jurídica

I.Introducción al tema de estudio

II.La inteligencia artificial aplicable a la defensa más allá de los medios de combate

II.1. ¿Se están empleando estos sistemas de IA?

¿Es posible una regulación de estos sistemas?

III.1. Razones para la regulación

III.2. ¿Qué es lo que hay que regular?

III.3. ¿Qué papel desempeña la ética en esta problemática?

III.4. Esbozos sobre un posible marco normativo europeo

III.5. Iniciativas internacionales sobre la materia

Ideas fuerza a modo de conclusión

Bibliografía

DOCUMENTACIÓN NORMATIVA E INSTITUCIONAL

INTELIGENCIA ARTIFICIAL CREATIVA EN LA ADMINISTRACIÓN PÚBLICA: TRANSPARENCIA Y EXPLICABILIDAD DE UN PROCESO ¿CREATIVO?

I.Introducción

II.Una inteligencia artificial coherente con la dignidad de la persona. Un posicionamiento ante el progreso

III.Inteligencia artificial generativa en la administración pública

III.1. ¿Qué es la inteligencia artificial?

III.2. ¿Qué es la inteligencia artificial creativa?

III.3. La inteligencia artificial generativa: ¿puede ser realmente creativa?

III.4. Posibles usos de la inteligencia artificial creativa en la Administración Pública

Algunos problemas jurídicos derivados del empleo de la inteligencia artificial creativa en la administración pública

IV.1. Servicio objetivo a los intereses generales y derecho fundamental a una buena

administración. Marco ético

IV.2. Gestión de la información. Privacidad y protección de datos personales

IV.3. Discriminación algorítmica

A modo de conclusión: la necesaria transparencia y explicabilidad de las herramientas de inteligencia artificial creativa en la administración pública

Bibliografía



TERCERA PARTE. INTELIGENCIA ARTIFICIAL Y VISIONES COMPARADAS RETOS Y AVANCES EN LA REGULACIÓN DE LA INTELIGENCIA ARTIFICIAL Y LAS NUEVAS

TECNOLOGÍAS EN EL SECTOR PÚBLICO COLOMBIANO

I.Introducción

II.Del mensaje de datos a las nuevas tecnologías en la administración pública colombiana

II.1. El mensaje de datos como herramienta y soporte digital

II.2. Los códigos de procedimiento y las tecnologías emergentes

II.3. Otras normas que soportan la aplicación de tecnologías a la administración pública colombiana

II.4. El avance en materia de derechos digitales ante la introducción de nuevas tecnologías en la administración pública colombiana

La disrupción de la IA en la administración pública colombiana

III.1. Marco internacional de la IA

III.2. Avances en materia de administración inteligente en Colombia

III.3. Las políticas públicas en Colombia en materia tecnológica y de IA

Retos y desafíos en la administración pública colombiana frente a las nuevas tecnologías

IV.1. Principios y preocupaciones que se debe tener en cuenta al regular la IA aplicada a la Administración pública

IV.2. Proyectos recientes de Ley sobre IA en Colombia

Conclusiones

Bibliografía

CERTIFICACIÓN DE COMPETENCIAS EN INTELIGENCIA ARTIFICIAL PARA EMPLEADOS PÚBLICOS: PROPUESTAS ESTRATÉGICAS Y TECNOLOGÍA BLOCKCHAIN

I.Estrategias de inteligencia artificial y capacitación de empleados públicos: un análisis comparativo entre España y Colombia

I.1. España: Formación integral en IA: Impulsando la eficiencia y transparencia Pública

I.2. Colombia: Apuesta progresiva en la capacitación en IA para una administración pública moderna

Diseño de programas de competencias en IA para empleados públicos: propuesta estratégica para Colombia

II.1. Estrategias de formación en IA: España

II.2. Estrategias de formación en IA: Lecciones de países pioneros

II.3. Propuesta del CLAD para la formación en IA en la administración pública

II.4. Oportunidades para los gobiernos al capacitar a los empleados públicos en IA

II.5. Plan de estudios propuesto para desarrollar competencias digitales en IA en empleados públicos en Colombia

II.6. Ejes centrales para la implementación del plan de estudios

II.7. Estrategia para expandir el plan de estudios a toda Colombia: Redes Territoriales de Especialización Tecnológica (RTET)

Innovación en la certificación de competencias en IA: microcredenciales y certificados interoperables con tecnología blockchain

III.1. Certificaciones profesionales: Estableciendo estándares de competencia

III.2. Plataformas de gestión de Aprendizaje (LMS) y evaluaciones: Herramientas para el desarrollo continuo

III.3. Sistema de Incentivos: Promoviendo el desarrollo profesional

III.4. Blockchain como tecnología clave para emitir los certificados en competencias en IA para empleados públicos

Conclusiones generales

Lista de referencias

ADMINISTRACIÓN DE JUSTICIA Y SU RELACIÓN CON EL RESTO DE ADMINISTRACIONES: ALGUNAS REFLEXIONES SOBRE LA INTEROPERABILIDAD

I.Planteamiento general

II.La interoperatibilidad en el ordenamiento jurídico español

II.1. Regulación jurídica

II.2. Regulación jurídica en el ámbito de la Administración de Justicia

II.3. La realidad práctica de la interoperabilidad de la Administración de Justicia y sus relaciones con el resto de Administraciones públicas

La jurisprudencia como límite al desarrollo e implantación de la administración de justicia digital: el principio pro actione
A modo de reflexión final

Bibliografía

RETOS DE LA INTELIGENCIA ARTIFICIAL EN LA TOMA DE DECISIONES ADMINISTRATIVAS EN LATINOAMÉRICA, FRENTE A LA GARANTÍA DE LOS DERECHOS HUMANOS

I. INTRODUCCIÓN

II. LA TRANSFORMACIÓN DIGITAL DE LA ADMINISTRACIÓN PÚBLICA LATINOAMERICANA

III. IA, LOS DERECHOS HUMANOS Y SESGOS ALGORÍTMICOS

IV. ¿CÓMO MITIGAR EL RIESGO PRODUCTO DEL USO DE IA EN EL SECTOR PÚBLICO?

V. CONCLUSIONES

BIBLIOGRAFÍA