Estudios y comentarios sobre gestión pública y mejora de nuestra Administración. Porque conseguir procesos más eficientes y ofrecer servicios más eficaces a los ciudadanos es posible… si se quiere.
El Gobierno quiere modernizar la Administración. El pasado 7 de octubre la Vicepresidenta primera del Gobierno, Carmen Calvo, anunciaba la creación de un «Plan de Recuperación, Transformación y Resiliencia de la Economía». Su objetivo es modernizar la Administración Pública y en particular la AGE, aligerar sus procedimientos y lograr mayores niveles de cogobernanza. También se pretende con ello mejorar la gestión de los fondos europeos.
Para llevar a cabo dicho plan el Gobierno quiere crear una nueva «Ley de la Administración Pública». Y quiere hacerlo mediante un Real Decreto-Ley para, a continuación, comenzar el trámite parlamentario de aprobación de una ley (en condiciones, diría yo).
Todos sabemos que la modernización de nuestras Administraciones Públicas es urgente. Hace falta dar nuevo aire a una Administración que en muchos aspectos es obsoleta y que cuenta con unos procedimientos mejorables. La gestión de sus recursos humanos debe alcanzar otra dimensión con el desarrollo y total aplicación del TREBEP (evaluación del desempeño, motivación, dirección pública, retención del talento…). Las relaciones entre Administraciones han de contar con mejores mecanismos de coordinación y cooperación, y así con otros muchos aspectos.
Los profesionales de lo público no nos cansamos de insistir en ello (bueno, algunos ya empezamos a notar cierto hastío) pues se lleva recordando desde hace años. Actualmente modernizar la Administración va a paso lento. Recordemos, por ejemplo, la Ley 39/2015 del procedimiento administrativo y la implantación de sus previsiones más tecnológicas (registro electrónico, de apoderamientos…) prorrogada ya varias veces.
Una modernización urgente pero bien hecha
Esta reforma administrativa que no acaba de llegar hace que la necesidad de adopción de medidas sea urgente. Además, la actual crisis y la organización de nuestro Estado autonómico están recordándonos los fallos de comunicación y coordinación entre los distintos niveles de Administración.
Esta necesidad de mejora de procesos y relaciones entre Administraciones plantea varias cuestiones. En primer lugar ¿se justifica la aplicación del Real Decreto-Ley? ¿No se debería aplicar antes la legislación existente? ¿Solo la AGE necesita modernizarse?
La urgencia en regular la distribución de los fondos europeos puede justificar ciertas medidas, pero no una pretendida reforma administrativa de más calado mediante RD-Ley. Los problemas procedimentales y de coordinación en la AGE (como en el resto de Administraciones) requieren de mayor consenso con vistas al largo plazo. Si de verdad queremos actualizarnos habrá que hacerlo bien y con decisión; no sea que al cabo de un tiempo se desvanezca el ánimo inicial o aparezcan errores que paralicen lo logrado.
En materia de procedimientos y gestión interna ya disponemos de normas como la Ley 39/2015, la 40/2015 o el TREBEP, que no se están aplicando totalmente. Habrá que aprovechar lo que tenemos, que son buenas herramientas para modernizarse, antes que correr a crear otra norma más.
Y por lo que respecta a la última pregunta, la modernización no solo debe aplicarse a la AGE sino al conjunto de Administraciones públicas. Todas ellas están implicadas en la mejora de los servicios públicos y necesitan reformas. Es cierto que los fondos europeos, que considero la verdadera causa de este Plan, se enviarían al Gobierno central para su distribución. Pero si se quiere modernizar las Administraciones, en plural, y que sus efectos permanezcan, habrá que contar con todas ellas y crear normas con rigor, debate, contando con los profesionales implicados, y que duren más que el Gobierno que las crea.
Las oportunidades que ofrece la Inteligencia Artificial en las Administraciones Públicas son casi infinitas, tantas como ámbitos en los que actúa y ciudadanos a quienes sirve. Tecnologías comomachine learning, big datao incluso deep learning no deben asustarnos a la hora de implantarla, pues podemos comenzar por sus aplicaciones más sencillas, o utilizar herramientas gratuitas y muy potentes de relativamente fácil manejo.
Inteligencia artificial en la Administración Pública
La Inteligencia Artificial (IA) está teniendo un impacto significativo en los últimos años gracias a la mejora en la capacidad de cómputo de los ordenadores. Es innegable el potencial estratégico que tiene la IA en todos los aspectos, incluyendo las implicaciones en las relaciones humanas con las máquinas y en la creación de nuevos empleos. Si queremos mejorar la calidad de vida de los ciudadanos, ser más eficientes y ahorrar tiempo y costes, resulta esencial que la IA ocupe un lugar destacado en las organizaciones, públicas y privadas.
Sin embargo, en España, la Administración pública todavía sufre un retraso significativo en la modernización y transformación tecnológicas. Muchas instituciones todavía mantienen una pugna en ese eterno recorrido para ponerse a la altura de la sociedad a la que sirven. Por lo tanto, es importante considerar si la implementación de la IA en la Administración Pública no resultará en una mayor brecha con la sociedad.
Es fundamental adoptar los algoritmos de la IA en los procesos administrativos para alcanzar una mayor eficiencia y eficacia. Además, la IA puede ser útil en tareas repetitivas y monótonas, liberando tiempo para que los trabajadores públicos se enfoquen en tareas más críticas y creativas. Por poner solo dos casos, la IA puede transcribir el audio de los órganos colegiados (Pleno, Comisiones…) en cuestión de minutos, o repartir los asuntos del registro de entrada a cada departamento automáticamente.
Por lo tanto, es vital que la Administración Pública adopte la IA para mejorar los servicios a los ciudadanos y mejorar la calidad de vida en general.
Qué es la inteligencia artificial
Antes de continuar conviene realizar una aproximación al concepto de inteligencia artificial, pues sus contornos no están claros, ni siquiera para los expertos, y pueden plantearse dudas sobre si realmente se está utilizando en determinados procesos.
La inteligencia artificial es la capacidad de los ordenadores de emular las capacidades humanas, como el aprendizaje, el razonamiento o la creatividad.
La definición más aproximada que tenemos desde un punto de vista oficial es la que ofrece la Comisión europea:
Sistemas que manifiestan un comportamiento inteligente, pues son capaces de analizar su entorno y pasar a la acción –con cierto grado de autonomía– con el fin de alcanzar objetivos específicos
Desde 2021 se está estudiando un borrador de Ley de Inteligencia artificial de la UE, que trata de regular sus usos y proteger los derechos de los ciudadanos europeos. Puede ver mi comentario sobre esta ley en el enlace anterior.
Aplicaciones de la inteligencia artificial en la Administración pública
Los usos de la inteligencia artificial en la Administración pública son inmensos, aunque estamos aún en una fase muy incipiente en la introducción de modelos de inteligencia artificial, no solo en las Administraciones sino en general. Se está explorando hasta dónde pueden alcanzar sus algoritmos, así como sus ventajas y peligros. Si bien ya se utilizan sistemas de IA en algunos ámbitos su implantación no es total y ha planteado dudas, sobre todo en materia de protección de datos y en relación a sesgos por raza o sexo; sin contar con los propios problemas éticos de la inteligencia artificial. Además, cabe mencionar que el propio concepto de inteligencia artificial no es pacífico, existiendo diversidad de opiniones al respecto. Para tratar de aclararlo les ofrezco en este enlace una definición de inteligencia artificial y de otros términos relacionados.
Administraciones Públicas e inteligencia artificial
Son diversos los casos en los que podemos encontrar ejemplos de IA en la administración pública; desde las Agencias tributarias hasta la Sanidad y la Justicia. A continuación quiero señalar algunas de esas aplicaciones prácticas y ejemplos que ofrece la inteligencia artificial en el sector público. Primeramente haré referencia a supuestos generales que nos pueden sonar a muchos para, seguidamente centrarme en un sencillo caso real que hemos utilizado en el Departamento de Gestión tributaria de mi Ayuntamiento.
En el siguiente enlace dispone de un artículo específico en el que hablo de los usos de la inteligencia artificial en los ayuntamientos, organizaciones que por su cercanía a los ciudadanos y por el tipo de servicios que prestan puede ofrecer unas ventajas que no permite su aplicación en otras administraciones.
Asistentes virtuales o chatbots
Vamos a comenzar con uno de los usos de la IA quizás más extendidos y útiles en el ámbito de la atención al público. Nos referimos a los asistentes virtuales o chatbots (también denominados asistentes conversacionales). Todos conocemos Siri, Cortana, Echo, Alexa, etc. Una variante de estos aparatos son las aplicaciones web con las que podemos «hablar» mediante texto, y que incluso nos contestan por voz. Los asistentes virtuales sirven para resolver dudas generales sobre los servicios que ofrecen empresas y Administraciones.
El uso de estos programas se ha generalizado en los últimos años y ya cuentan con la posibilidad de entender mucho mejor lo que desea el interlocutor aunque no utilice la frase exacta que el programa tiene grabada. En este punto la IA y sus programadores han realizado un gran esfuerzo para extrapolar, de la expresión que escribe el ciudadano, lo que realmente quiere decir. El procesamiento del lenguaje natural (NLP) ha tenido mucho que ver, pues se trata de una de las aplicaciones de machine learning que más empuje está teniendo.
Aplicación de chatbots en la Administración
En el ámbito de la Administración Pública los chatbots juegan un papel muy importante, por cuanto la atención al ciudadano supone -al mismo tiempo- un apartado esencial. El ahorro de costes de personal, la rapidez en la respuesta, el número de personas atendidas y la calidad y mayor control de las respuestas son algunos de los aspectos más destacados de estos asistentes. Puede leer más acerca de los chatbots en la Administración en el artículo que escribí, así como experimentar con el asistente de prueba que incluye (abajo a la derecha).
Inteligencia artificial en la Administración de justicia
Otro ejemplo de uso de la IA es en la Administración de Justicia en EE.UU. Servía para predecir la posibilidad de reincidencia y otorgar libertad condicional. La aplicación de la NLP ha sido de gran utilidad, la cantidad ingente (Big Data) de documentación legal en cualquier Juzgado o Tribunal permite a los algoritmos encontrar patrones y realizar predicciones sobre lo que se le pida. Desgraciadamente se detectó que discriminaba a las personas de color debido a los ya mencionados sesgos.
Inteligencia artificial y transparencia. El caso del bono social
Un problema importante a la hora de utilizar procesos de IA es la falta de transparencia administrativa a la hora de publicar los criterios con los que se programa un algoritmo. Esto supone que los ciudadanos se encuentran indefensos ante las decisiones adoptadas por la Administración y basadas en una de estas inteligencias. Recordemos el caso de la IA utilizada para otorgar el bono social en el recibo de la luz. Se denunció su denegación en un caso en que procedía, solicitando el código, y la Administración esgrimió que estaba sujeto a propiedad intelectual.
Inteligencia artificial y recursos humanos
Otro caso en que puede ayudar la IA en la gestión de recursos humanos. Desde la selección hasta en la predicción de vacantes o bajas. Su utilización en selección de personal es bastante utilizada en la empresa privada. Ya hay algoritmos que realizan entrevistas y llevan a cabo un primer filtro que ayuda a los humanos en el proceso. La ventaja de estos sistemas es la rapidez y el ahorro de horas de trabajo a los humanos. Gracias a los sistemas de reconocimiento de voz y de las expresiones faciales es posible para una IA realizar preguntas y reconocer las respuestas, así como las microexpresiones faciales que puedan delatar falsedades.
Con la gran cantidad de datos que un departamento de recursos humanos genera es fácil pensar que la IA puede generar modelos predictivos sobre épocas en las que puede haber más bajas laborales, o más carga de trabajo, etc.
Big data en la Administración pública
Una ventaja estratégica con la que cuenta los gobiernos y administraciones es la gran cantidad de datos que manejan diariamente. Esto conforma lo que en materia de IA se denomina Big Data, un ingente volumen de información (del orden de terabytes e incluso petabytes) recopilada y creada para la gestión de sus fines.
Sin embargo, a ese big data se le puede extraer mucha más información de la que inicial y aparentemente tiene. En efecto, desde no hace demasiado tiempo se está aprendiendo a aprovecharlo más allá de su uso habitual. Se ha comprobado que el estudio algorítmico de los mismos permite extraer conclusiones, patrones, hacer predicciones y dar respuestas a muchas cuestiones antes impensables. Aquí entra en juego la inteligencia artificial y los algoritmos de machine learning e incluso de deep learning. Una IA bien entrenada puede recibir esa ingente cantidad de información y tras los oportunos procesos internos ofrecer conclusiones o predicciones muy útiles en el ejercicio de las actividades administrativas.
La Policía Nacional está desarrollando y aplicando en algunas comisarías desde 2015 un algoritmo que permite detectar las denuncias falsas. Lo que comenzó como un experimento de inteligencia artificial y procesamiento del lenguaje natural se ha convertido en un sistema que promete reducir la comisión de delitos de denuncia falsa. De hecho, alcanza un 96% de acierto. El sistema se centra sobre todo en hurtos, robos o rotura de cristales, y estudia las expresiones y palabras utilizadas al redactar las denuncias para inferir cuándo el denunciante miente.
Inteligencia artificial en la sanidad
Un entorno en el que está teniendo un gran éxito la aplicación de modelos de inteligencia artificial es en la sanidad. Los avances científicos y las nuevas terapias deben mucho a la misma. Por ejemplo, ha habido una explosión de oportunidades en su aplicación para estudiar y predecir comportamientos del COVID-19. El estudio de este y otros virus, así como de proteinas y cómo se configuran, comportan y relacionan se está beneficiando del big data y de los modelos predictivos del machine learning. Lo que hasta hace poco era un proceso de meses o años para conocer la forma 3D de las proteinas ahora se logra en semanas o días.
La detección y pronóstico de enfermedades es un área que también está logrando importantes avances. Ya es posible descargarse aplicaciones en el móvil que nos ayudan a detectar si un lunar o mancha en la piel puede ser maligno o no. Lo mismo ocurre con otras muchas enfermedades. La IA ayuda a los médicos a detectar dolencias a través de las imágenes obtenidas por rayos X, tomografías, etc. Una persona puede no detectar pequeños cambios en las mismas, pero una inteligencia entrenada mediante machine learning con cientos de miles de imagenes realiza los diagnósticos con muchas más fiabilidad que el ojo humano.
Los sesgos de la Inteligencia artificial
Además de la falta de transparencia a la hora de dar a conocer los criterios y la programación de los algoritmos hemos de recordar que una IA ha sido -precisamente- programada por humanos y que nuestros propios sesgos se pueden trasladar a aquella. Este concepto es uno de los mayores problemas a los que se enfrenta todo modelo de inteligencia artificial, como expresión de cualquier actividad valorativa humana. También se dan a menudo, por ejemplo, en materia de evaluación del desempeño.
Qué es un sesgo
De acuerdo con el diccionario de la Real Academia Española de la Lengua (RAE) un sesgo es «error sistemático en el que se puede incurrir cuando al hacer muestreos o ensayos se seleccionan o favorecen unas respuestas frente a otras». Hay muchos tipos de sesgos (bias en inglés) y es una labor compleja pero imprescindible tratar de limitarlos al máximo cuando se programan algoritmos.
Querámoslo o no siempre corremos el riesgo de transmitir al algoritmo ciertas pautas inconscientes que le avoquen a cometer errores o desviarse de lo justo. Esta cuestión está provocando importantes problemas éticos en la aplicación de la IA. Por eso resulta esencial planificar en profundidad cómo se va a programar uno de estos algoritmos para reducirla lo máximo posible. Los de mayor calado son los que discriminan por género y por raza, pero puede haber muchos otros. Todo dependerá de los fines y los destinatarios de la inteligencia que se esté creando.
Las Administraciones deben liderar el cambio
Más allá de esa necesidad de transformación pública, el Estado y las Administraciones públicas deben liderar el avance de la sociedad y de los ciudadanos. Deben ser facilitadores del progreso económico y humano, y para ello han de disponer de las herramientas adecuadas y lo más punteras posibles. Se han apuntado solo algunos de los ámbitos en los que tecnologías inteligentes para la administración pública pueden mejorar los servicios públicos e incluso salvar la vida de las personas: sanidad, seguridad, transporte y comunicaciones, etc. En todos estos entornos las Administraciones y los gobiernos tienen mucho que decir, sea por el ejercicio de competencias en la gestión de servicios públicos o como creadores de normas que regulen la actividad humana.
Es cierto que la incorporación de la inteligencia artificial en los procesos administrativos se nos antoja algo complicada. Esto se debe a la aparente dificultad de estas tecnologías y los antecedentes que ya conocemos a la hora de implementar conceptos tan disruptivos. Pero también es verdad que no debe comenzarse la casa por el tejado sino poco a poco, con pruebas piloto, por fases, y sobre todo con la implicación de todos, contando con los empleados públicos, que son quienes a la postre utilizarán esos modelos de IA. Y sin olvidar a los directivos públicos y a los políticos, que deben ser conscientes de los beneficios que conlleva y habrán de impulsar su implantación.
Un sistema modular relativamente fácil de implantar
La implementación de algoritmos inteligentes es modular y escalar, permitiendo diseñar desde los más básicos, para resolver o automatizar (más o menos autónomamente) sencillos procedimientos, hasta los más avanzados. Esto permite ir avanzando todo lo rápido que se quiera. Además, existen multitud de entornos de desarrollo y aplicaciones gratuitas que, con conocimientos medios o incluso sin saber programar, permiten crear desde asistentes virtuales hasta la realización de estudios predictivos con machine learning en cualquier ámbito1. En fin, la implantación de la inteligencia artificial en las administraciones públicas no es tanto una cuestión de poder sino de ponerse a ello.
Un caso práctico. Devolución del IVTM mediante un modelo básico de inteligencia artificial
La devolución de la parte proporcional del Impuesto sobre vehículos de tracción mecánica (IVTM) en casos de baja definitiva o temporal por sustracción o robo de un vehículo (art. 96.3 Ley de Haciendas Locales) es un procedimiento que permite perfectamente la aplicación de un modelo muy básico de IA mediante automatización y asesoramiento en la toma de la decisión final, al contar con unos requisitos tasados para su resolución.
En el caso del Ayuntamiento de Manzanares se decidió automatizar este tipo de expedientes porque las solicitudes se acumulan al comienzo del período de pago del impuesto, en marzo, y hasta julio no se pueden resolver porque no disponemos de los datos definitivos de pagos. Por ello se produce una cierta carga de trabajo por esa acumulación que justifica la aplicación de un modelo –sencillo pero eficiente- de IA.
Los datos de entrada
En este caso los datos necesarios para resolver son tasados y fácilmente comprobables: el pago de la liquidación y la cuota, la baja del vehículo, el tipo de baja y su fecha. Esta información se encuentra en distintas bases de datos. La tramitación tradicional supondría comprobar el pago de la liquidación en una base de datos, la baja del vehículo y su fecha en otra, y calcular manualmente la parte de cuota que hay que devolver en función de los trimestres naturales afectados, así como la posterior creación del Decreto.
Algoritmo ad hoc
Antes de proseguir conviene apuntar que el Departamento de Gestión Tributaria del Ayuntamiento de Manzanares cuenta con una aplicación web ad hoc (mediante php y mysql) para la gestión de parte de sus procesos, diseñada y gestionada por quien suscribe. Esta aplicación se creó ante la necesidad de solucionar algunas carencias de la aplicación comercial que se viene utilizando en el Ayuntamiento, con el objetivo de mejorar la eficacia y eficiencia en la tramitación de los expedientes y la atención al ciudadano.
Si bien esta circunstancia es una ventaja que nos permite diseñar los algoritmos que necesitamos para solucionar infinidad de tareas y lograr mayor eficiencia sin depender de actualizaciones de las aplicaciones comerciales, ello no debe ser óbice para que otras organizaciones puedan crear algoritmos, scripts o pequeñas aplicaciones en distintos lenguajes de programación, pues todas ellas disponen de informáticos (otra cosa es su predisposición…).
El proceso de toma de decisión
Pues bien, el algoritmo que hemos creado utiliza como input el número de liquidación, comprueba los datos y resuelve si debe concederse la devolución y, en su caso el importe a devolver. La automatización no es integral en el sentido del artículo 41 Ley 40/2015 (sobre las actuaciones administrativas automatizadas), pues requiere de una posterior comprobación de que todo es correcto y la tramitación del acto administrativo. Esto evita la necesidad de cumplir los requisitos de dicho artículo al tiempo que ahorra un trabajo enorme.
El proceso que se aplica es, en resumen, el siguiente:
La aplicación despliega un formulario web donde se le introduce el número de liquidación.
El algoritmo comprueba si se ha pagado, la cuota, y si el vehículo causó en Tráfico una baja que dé lugar a la devolución. Si no se dio de baja o no cumplen los requisitos se informa al funcionario. También puede ocurrir que no se disponga de la información actualizada sobre la baja, por lo que se informa al funcionario que la compruebe manualmente.
La IA obtiene la fecha de la baja y calcula los trimestres naturales que han de devolverse, así como el importe de la devolución.
El funcionario inserta el número de cuenta y confirma la grabación de los datos.
Una vez tramitadas todas las consultas se pulsa un botón para generar una hoja excel que se acompaña al Decreto de resolución del procedimiento acumulado.
Así pues, nos encontramos con un procedimiento de requisitos objetivos, fácilmente comprobables en bases de datos, y que se hace tedioso de tramitar para una persona por la cantidad de información a comprobar.
Se puede plantear -con razón- la duda de si este modelo está utilizando realmente una IA dados los difíciles contornos en los que se mueve el concepto, como ya indicamos. Todos hemos oído que los algoritmos de IA obtienen un aprendizaje previo y lo aplican al caso concreto. Este es el caso más común. Pero también hemos visto que, de acuerdo con la definición de la Comisión europea es la capacidad de las máquinas de recopilar datos del entorno (ej. bases de datos, información de Internet, sensores), procesarlos y ofrecer resultados o aportar propuestas. Desde este punto de vista podríamos enmarcar este modelo del IVTM dentro del uso de la IA, eso sí, muy básica, pues se podría decir que es un mero proceso automatizado. Pero ¿no es lo que hacen los ordenadores en cualquier de sus facetas: procesar y automatizar?
En fin, este modelo permite comprobar los datos e incluso proponer la decisión a adoptar. De hecho, podría permitírsele tomar la decisión al estar preparada para ello, pero de momento se prefiere mantener la intervención humana en la validación de los datos.
Posibilidades y aplicación de modelos básicos de IA en el procedimiento administrativo
Libros sobre inteligencia artificial y Administración
También puede interesar esta lectura de Inteligencia artificial y Administración pública: Robots y humanos compartiendo el servicio público. Escrito por el profesor Carles Ramió Matas.
Un algoritmo oculto resuelve las solicitudes del bono social. Según denuncia la Fundación Civio, aquel deja fuera del bono a personas con derecho a obtenerlo. Los algoritmos también deben respetar la transparencia administrativa, cuestión que estudio a continuación.
El algoritmo que decide sobre el bono social
Si algo caracteriza a cualquier Estado de Derecho son, entre otros, el principio de seguridad jurídica y el de transparencia de la actuación administrativa. Los actos de las Administraciones Públicas deben ser motivados y totalmente transparentes para que los ciudadanos sepan claramente cómo se han emitido, por quién y con base en qué criterios.
La aplicación de la inteligencia artificial (IA) y los algoritmos en la Administración es algo que a muchos nos fascina por las grandes ventajas que conlleva al lograrse una mayor eficacia, rapidez y ahorro de costes. Al mismo tiempo logrará una Administración más proactiva. Será, o está siendo ya, una verdadera revolución.
Los requisitos del bono social se regulan en el Real Decreto 897/2017, por el que aplica una tarifa eléctrica reducida a consumidores vulnerables. Este se desarrolla por la Orden ETU/943/2017, y la fórmula para el cálculo de los beneficiarios viene establecida en el Real Decreto 216/2014, por el que se establece la metodología de cálculo de los precios voluntarios para el pequeño consumidor de energía eléctrica y su régimen jurídico de contratación.
Toma de decisiones automática y semi-delegada
La peculiaridad del sistema es que son las eléctricas, como titulares de los contratos con los consumidores finales, quienes tramitan la concesión del bono. Lo hacen consultando un algoritmo informático llamado BOSCO, pero que nadie conoce. Las solicitudes se presentan a las eléctricas, que acceden a la sede electrónica del Ministerio de Industria para introducir los datos y consultar si se cumplen los requisitos. La aplicación informática responde con un «CUMPLE/NO CUMPLE LOS REQUISITOS PARA SER CONSIDERADO CONSUMIDOR VULNERABLE/VULNERABLE SEVERO».
Así pues, nos encontramos con un procedimiento automático tramitado por una empresa privada que hace de intermediario, trasladando al consumidor un sí o un no decidido por una «inteligencia artificial».
Ante las quejas de ciudadanos a quienes se les denegó el bono, la Fundación Civio solicitó el código al Gobierno y a través del Consejo de Transparencia y Buen Gobierno, pero le ha sido denegado alegando que está sujeto a propiedad intelectual (¿?).
Dejando al margen lo peculiar del caso, con intervención al inicio y al final de una entidad privada, el uso de la IA y los algoritmos plantea varias cuestiones: cómo funcionan, qué datos tienen en cuenta, deciden solos, cómo lo hacen, etc.
La cuestión tiene gran trascendencia por lo que ya hemos apuntado, los derechos de los ciudadanos dependen del buen funcionamiento de estas piezas de código. Se supeditan a que apliquen correctamente las normas y se sepa cómo actúan. Recordemos que la Ley 40/2015 ya regula la actuación administrativa automatizada, sin intervención humana, como parece ser el caso, pues la actuación puramente administrativa se limita a aplicar el programa y dar una decisión. Su artículo 41 exige que para que los algoritmos puedan actuar de manera automática debe:
«establecerse previamente el órgano u órganos competentes, según los casos, para la definición de las especificaciones, programación, mantenimiento, supervisión y control de calidad y, en su caso, auditoría del sistema de información y de su código fuente. Asimismo, se indicará el órgano que debe ser considerado responsable a efectos de impugnación»
¿Es suficiente la motivación de la resolución administrativa cuando decide una IA?
En términos generales, además de estos requisitos, obvios para garantizar los derechos de los ciudadanos a una buena Administración, resulta evidente que las resoluciones que emitan los algoritmos deberán estar motivadas, sobre todo las denegatorias. Hasta aquí normal si tenemos en cuenta que son garantías básicas del procedimiento administrativo, equivalentes a las que se dan cuando decide un funcionario.
Recordemos que cuando dejamos a las máquinas trabajar por nosotros nos encontramos, igualmente, ante procesos regulados por la misma normativa procesal administrativa que los que pueden ejecutar los humanos, con la particularidad de que es un ordenador el que tramita parte o todo el expediente. De hecho, llevamos décadas confiando en los ordenadores también parte de nuestro trabajo, si bien bajo nuestro control.
¿Sustituye la IA nuestros procesos mentales?
Por tanto, un acto administrativo ha de estar debidamente motivado y ofrecer al ciudadano los recursos legales pertinentes contra el mismo. El tema que se plantea es si el algoritmo cumple dichos requisitos y lo que está haciendo realmente es sustituir el proceso mental del funcionario a la hora de tomar la decisión. ¿No bastaría con ello para entender tal decisión como válida?
Se trata de una cuestión muy interesante que podría justificar la no revelación del algoritmo con el proceso informático (equivalente al proceso mental del funcionario) que se ha utilizado, teniendo en cuenta que la resolución cumpla los requisitos legales.
Claro está que nos encontramos aquí con el supuesto que motiva este comentario, que se han denegado sin más solicitudes que, a priori, cumplen con los requisitos.
Obviamente, debemos preguntarnos qué criterio ha seguido y qué proceso ha realizado el algoritmo para llegar a esa conclusión. Aquí entra en juego claramente el principio de transparencia y el derecho a conocer al protagonista de la resolución. ¿Sería equivalente el derecho a conocer al funcionario que resuelve con el derecho a conocer el código fuente del programa informático?
Propiedad intelectual de los algoritmos públicos
Junto a la aplicación de la inteligencia artificial o los algoritmos en la toma de decisiones administrativas nos encontramos en este caso particular con otra cuestión conexa. Se trata de la razón ofrecida por el Ejecutivo y el Consejo de Transparencia para denegar el código fuente: que está sometido a propiedad intelectual.
De acuerdo con el artículo 14.1.j) de la Ley 19/2013, de transparencia, acceso a la información pública y buen gobierno, el derecho de acceso está limitado cuando concurra, entre otras, esta causa.
Pero ¿están sometidos a propiedad intelectual los algoritmos públicos? Primeramente hay que decir que de la información aportada por la Fundación y ofrecida por los medios de comunicación no queda claro si el algoritmo lo ha creado la Administración o se ha comprado a una empresa. Supongo que lo primero porque su creación no plantea dificultades y la AGE cuenta con muy buenos informáticos.
No se debería limitar el derecho de acceso
En cualquier caso esto no debería ser un límite al derecho de acceso, por cuanto la aplicación informática, al traducir a lenguaje del ordenador una norma jurídica para aplicarla, está ejerciendo «funciones públicas». Está sustituyendo a un empleado público y se ha creado o adquirido con dinero público.
Si ese programa falla y además no se motiva la resolución no queda más que responder que los ciudadanos tenemos derecho a conocer el código fuente del algoritmo para defender nuestros derechos. La seguridad jurídica y las garantías del ciudadano están en juego, sin contar en este caso concreto, con los costes económicos que se pueden derivar a consumidores vulnerables.