La robótica, la automatización de procesos y, más recientemente, la inteligencia artificial, son una realidad cada vez más cotidiana en las Administraciones públicas. Ya utilizamos la automatización de procesos administrativos casi sin darnos cuenta. Sin embargo, aún queda mucho para aprovechar al máximo su potencial, sobre todo el de los sistemas automatizados más avanzados.
Actuaciones administrativas automatizadas y automatización robótica de procesos
Las actuaciones administrativas automatizadas (AAA) constituyen, quizás, el paradigma de sistemas informáticos que permiten automatizar los procesos administrativos. digo esto no por ser los más avanzados, sino por ser los únicos que vienen regulados expresa y legalmente en los artículos 41 y 42 de la Ley 40/2015. Por su parte, los procesos robóticos automatizados o robotización automatizada de procesos (RPA) no quedan regulados, aunque son sistemas similares y también se vienen utilizando en la Administración.
Unos y otros ayudan enormemente a los empleados públicos en la ejecución de sus funciones, eliminando tareas repetitivas, tediosas y, como suele decirse, que no aportan valor. Por contra, esta liberación de tareas deja la ejecución de las más creativas y donde la capacidad e inteligencia humana tienen más que decir, a los humanos, si bien es cierto que la evolución de la IA está llevándola a ser más parecida a la humana, creando, decidiendo, etc.
Tanto las AAA como los RPA realizan tareas similares y aportan resultados muy parecidos. Si las utilizamos para hacer más eficaz y eficiente el procedimiento administrativo y este tiene unas reglas y una finalidad claras, es fácil colegir que los resultados que ambos modelos ofrecen son del mismo tipo: llevar a cabo las tareas de los expedientes, rellenar formularios, emitir documentos e incluso actos administrativos, etc. Así pues, su aplicación la podemos encontrar en casi cualquier tipo de procedimiento y área de la Administración.
Ventajas de los RPA y de las AAA
Además, tienen unas ventajas comunes que las hacen una opción muy interesante para una Administración con carencias de personal y material, sin olvidar la próxima jubilación masiva que va a hacer, no sólo perder millones de empleos públicos, sino también perder un talento y experiencia de difícil reemplazo. Entre las ventajas se encuentran su bajo coste, que trabajan 24/7, que son fácilmente programables y actualizables y que ahorran miles de horas de trabajo, y por tanto de dinero a la Administración.
Se ha calculado que las RPA aumentan la eficiencia entre el 50 y el 90%, aunque en determinados casos puede ser mayor. Además, las RPA son multipropósito, pudiendo actuar sobre casi cualquier aplicación sin interferir en su código. Por lo que respecta a las desventajas podemos destacar que son una tecnología aún bastante desconocida y no muy utilizada; requieren de un entrenamiento, si bien no suele ser excesivamente complejo; y estas tecnologías no pueden aplicarse siempre.
Automatización de procesos e inteligencia artificial
La inteligencia artificial es, actualmente, la punta de lanza de la automatización y de aplicación de la informática en los procesos, no sólo administrativos sino también decisorios, por poner solo un par de ejemplos del uso de la IA. Si bien ni las AAA ni, sobre todo los RPA utilizan algoritmos de IA, aquellas sí podrían implementarlos. Las actuaciones automatizadas no solo leerían datos de bases de datos para rellenar actos administrativos, también podrían conectarse a algoritmos IA para tomar decisiones basadas en patrones. Las RPA, por contra, y debido a sus peculiaridades, no las considero tan plausibles para integrar sistemas inteligentes.
Las AAA son aplicaciones informáticas de escritorio, web o en la nube, que realizan las tareas propias de un procedimiento administrativo y generan los documentos resultantes. Son un concepto propio del ámbito administrativo, que automatizan un procedimiento casi completamente. Se encuentran reguladas en los artículos 41 y 42 de la Ley 40/2015, de Régimen Jurídico del Sector Público, y desarrollados por el Real Decreto 203/2021.
El artículo 41 las define como “cualquier acto o actuación realizada íntegramente a través de medios electrónicos por una Administración Pública en el marco de un procedimiento administrativo y en la que no haya intervenido de forma directa un empleado público”.
Sin entrar en detalles, un punto importante de la definición es la intervención humana, un tema delicado por las consecuencias que tiene en el procedimiento administrativo. No olvidemos que la responsabilidad del mismo sigue siendo del funcionario a cargo, de acuerdo con lo dispuesto en la Ley 40/2015. Lo que no quiere la norma es dejar totalmente en manos de la máquina la creación de la actuación, aunque bien podría hacerlo (ej, certificados de empadronamiento solicitados vía web). Relacionado con esto se encuentra la cuestión de la firma de los actos administrativos generados con las AAA, para lo que la Ley permite utilizar el sello de entidad, órgano, además de otros métodos.
Automatización de procesos RPA
Procesos robóticos automatizados
La automatización robótica de procesos (RPA, por sus siglas en inglés) es una solución quizás más sencilla que las AAA, a modo de subespecie, que no se encuentra regulada en la Ley 40/2015, pero que por su facilidad de implementación, potencial y sencillez de uso, supone una opción verdaderamente interesante. Las soluciones RPA suponen la instalación de una aplicación o software informático que, mediante un entrenamiento previo, permiten realizar sobre la pantalla del ordenador y en casi cualquier aplicación que utilicemos, los mismos movimientos que la persona haría con el ratón y teclado.
Los sistemas RPA se entrenan igual que con los brazos robóticos, realizando los mismo movimientos y tareas que haríamos frente al ordenador. La automatización de procesos RPA se utiliza para crear informes, copiar datos, comunicar datos a otras administraciones, enviar emails, realizar el control financiero, gestionar expedientes de licencias, etc.
Conclusiones
Los sistemas AAA y RPA suponen, en definitiva, una opción asequible y flexible que ayuda en el trabajo diario de los empleados públicos, ahorrando miles de horas de trabajo tedioso, repetitivo, y que permite ofrecer un mejor servicio a los ciudadanos. No se ponen enfermos, trabajan las 24 horas de día y ofrecen servicios más rápidos.
Sin embargo, su implantación no ha sido lo amplia que debiera a causa, quizás, del desconocimiento de dichas tecnologías, de la falta de visión de los políticos y gestores públicos o de las rutinas ya implantadas y la mentalidad que muchos empleados públicos tienen, contraria al cambio; sobre todo de los que están cerca de la jubilación.
Y precisamente por sus ventajas y la pérdida de personal que se va a producir, es buen momento para pensar en la exploración e implantación de dichas tecnologías. No resulta tan difícil como pudiera parecer, los beneficios superan con creces a las dificultades.
SI TE HA INTERESADO ESTE TEMA PUEDES LEER MÁS EN MI COMPLETO ESTUDIO TITULADO
La inteligencia artificial está suponiendo una verdadera revolución en todos los ámbitos en los últimos años. La irrupción de modelos cada vez más avanzados como ChatGPT ha provocado la preocupación sobre sus posibles riesgos. Por ello, la Unión europea aprobó en abril de 2021 su propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (ley de inteligencia artificial) y se modifican determinados actos legislativos de la Unión.
Ley de Inteligencia artificial
Este artículo forma parte de la formación que ofrezco sobre:
El auge y expansión de la IA en todos los sectores supone una verdadera preocupación sobre sus efectos en los derechos de los ciudadanos de la UE. Por eso, el principal objetivo de esta novedosa Ley de Inteligencia Artificial es garantizar que el desarrollo y uso de la misma se realice de una manera segura, transparente, trazable, no discriminatoria y respetuosa con el medio ambiente. En tal sentido, el borrador pretende asegurar el respeto de los derechos fundamentales y valores de la UE, garantizar la seguridad jurídica para facilitar la inversión e innovación en IA, mejorar la gobernanza y aplicación efectiva de la legislación vigente, facilitando el desarrollo de un mercado único para el uso legal, seguro y confiable de aplicaciones de IA.
Los temores que está planteando el uso de la IA han llevado a la Comisión Europea a querer limitar la autonomía de los sistemas de IA y que su desarrollo y supervisión sea realizado por humanos, sobre todo en las etapas más delicadas. Es normal que, dado su constante desarrollo y lo que podrán llegar a lograr los sistemas basados en estos algoritmos, se quieran poner ciertos límites, si bien habrá que estar muy atentos a las prohibiciones y restricciones que se impongan, pues en unos casos quizás sea «ponerle puertas al campo» y en otros se pierda la oportunidad de avanzar en el desarrollo de aplicaciones y mejora del servicios a los ciudadanos y perdamos, también, competitividad con respecto a EE.UU y China.
Las 3 leyes de la inteligencia artificial
Traigo a colación las famosas 3 leyes de la robótica que «dictó» el famoso profesor y divulgador científico Isaac Asimov en 1942. En aquel entonces no se había acuñado aún el término inteligencia artificial (apareció en 1956), pero los robots que él visualizaba disponían de lo que hoy llamaríamos IA fuerte, la más avanzada. Estas leyes de la robótica son:
Primera Ley.- Un robot no hará daño a un ser humano, ni por inacción permitirá que un ser humano sufra daño.
Segunda Ley.- Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la primera ley.
Tercera Ley.- Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.1
(1 Asimov, Isaac (1989). «Círculo vicioso». Los robots. trad. Domingo Santos. Barcelona)
Asimov ya vislumbró los peligros que una IA fuerte, con conciencia de sí misma, podría suponer para los humanos. De manera similar, aunque aún no hemos llegado a tal nivel de desarrollo, los gobiernos y la propia UE se encuentran muy influenciadas por esa previsión. No sabemos si llegará a ocurrir, aunque algunos ejemplos hemos tenido de inteligencias artificiales que han adquirido comportamientos propios y preocupantes o, al menos, que sobrepasaban las previsiones de sus creadores.
Así ocurrió con la IA Galáctica, de Facebook, que interactuaba en redes sociales y que llegó a convertirse en racista y a difundir noticias falsas hasta que tuvo que ser apagada. También Facebook tuvo que apagar una IA diseñada para realizar negociaciones porque llegó a crear un lenguaje propio y más eficiente que el inglés, y que sus creadores desconocían.
Qué es la Inteligencia artificial
Definir la IA ha sido complicado, si bien el borrador de la Ley, en su versión inicial, la definía como:
El software que se desarrolla empleando una o varias de las técnicas y estrategias que figuran en el anexo I y que puede, para un conjunto determinado de objetivos definidos por seres humanos, generar información de salida como contenidos, predicciones, recomendaciones o decisiones que influyan en los entornos con los que interactúa.
Como se puede apreciar, la definición prevé que la IA trabaje según los objetivos marcados. Estos pueden establecerse mediante la programación de los algoritmos y la oportuna alimentación con datos, o bien, como se ha logrado con ChatGPT y similares, a través de los denominados prompts o entradas de lenguaje natural para pedirle que nos dé una respuesta en formas diversas (contenidos, decisiones…). Finalmente, los resultados que generará la IA debe influir en los entornos con los que se relaciona, lo cual supone, en cierta manera, limitar sus posibilidades, pues ciertamente, dichos resultados pueden ir más allá del simple entorno de la IA.
Técnicas y estrategias de inteligencia artificial
El Anexo I del borrador completa la definición de inteligencia artificial con hasta tres técnicas y estrategias que puede utilizar para cumplir sus objetivos:
Estrategias de aprendizaje automático, incluidos el aprendizaje supervisado, el no supervisado y el realizado por refuerzo, que emplean una amplia variedad de métodos, entre ellos el aprendizaje profundo (deep learning).
Estrategias basadas en la lógica y el conocimiento, especialmente la representación del conocimiento, la programación (lógica) inductiva, las bases de conocimiento, los motores de inferencia y deducción, los sistemas expertos y de razonamiento (simbólico).
Estrategias estadísticas, estimación bayesiana, métodos de búsqueda y optimización.
Como se ve, el anexo establece las técnicas más habituales y conocidas para desarrollar los modelos inteligentes. El problema que surge es que el desarrollo de esta tecnología puede hacer surgir otros sistemas y se ha preferido, no solo cambiar la definición sino eliminar el Anexo I con la propuesta de definición de IA que aparece en las enmiendas publicadas en mayo de 2023.
Última propuesta de definición de inteligencia artificial
En efecto, entre las enmiendas a la Ley de inteligencia artificial presentadas el 16 de mayo de 2023 se encuentra una nueva definición de lo que se entiende por inteligencia artificial:
Un sistema basado en una máquina diseñada para funcionar con distintos niveles de autonomía y que puede, para objetivos explícitos o implícitos, generar resultados tales como predicciones, recomendaciones o decisiones que influyan en entornos físicos o virtuales.
La nueva propuesta es más abierta y ha tenido en cuenta las características propias de los modelos inteligentes. Se ve, por ejemplo, que una IA puede operar con mayor o menor grado de autonomía; lo que nos lleva a que se reconoce que no todas son peligrosas. Por otro lado, sus fines pueden venir determinados expresamente, de manera específica, como es el caso de los modelos de propósito particular (detectar enfermedades en radiografías, prever incendios…). O bien, como viene siendo la tendencia actualmente, mediante modelos de propósito general, que permiten incluso que una IA sin demasiados datos de entrada (objetivos implícitos) pueda dar resultados óptimos.
Niveles de riesgo de la inteligencia artificial
Por otro lado, la propuesta sigue un enfoque basado en riesgos y establece requisitos obligatorios para sistemas de IA considerados de alto riesgo, así como obligaciones para proveedores y usuarios de dichos sistemas. También prohíbe ciertas prácticas perjudiciales y propone restricciones y salvaguardias específicas en relación con ciertos usos de sistemas de identificación biométrica remota con fines de aplicación de la ley. La propuesta es coherente con otras políticas y legislación de la UE, incluyendo protección de datos, protección del consumidor, no discriminación e igualdad de género, por ejemplo.
El proyecto de ley de IA busca establecer, por tanto, unas reglas básicas basadas en niveles de riesgo para regular su uso en diferentes sectores y aplicaciones.
Riesgo inaceptable
Quedarán prohibidos los sistemas de IA que se consideren una amenaza evidente para la seguridad, los medios de subsistencia y los derechos de las personas.
Se incluyen los sistemas o las aplicaciones de inteligencia artificial que:
Manipulan el comportamiento humano para eludir la libre voluntad de los usuarios (por ejemplo, los juguetes que usan asistencia por voz que fomenta que los menores tengan comportamientos peligrosos) y
Los sistemas de vigilancia indiscriminada o los que permiten a los gobiernos establecer una “puntuación social”.
Riesgo alto
Los sistemas de IA considerados de alto riesgo son los utilizados en:
Infraestructuras críticas: transporte (coche autónomo) o la salud (sistemas de triaje).
La formación educativa o profesional: límites al acceso a la educación o la carrera profesional (puntuación de exámenes, selección de alumnos en centros…).
Los componentes de seguridad de los productos (uso de la inteligencia artificial en la cirugía asistida por robots).
La gestión de RRHH o el acceso al trabajo (selección de CV o entrevistas en procesos de contratación. Acceso a la Admón.).
Los servicios públicos y privados esenciales (como una calificación crediticia que impida a la ciudadanía obtener un préstamo).
La aplicación de la ley que pueda afectar a los derechos fundamentales de las personas (por ejemplo, la evaluación de la fiabilidad de las pruebas presentadas).
La gestión migratoria, de asilo y de controles fronterizos (como la verificación de la autenticidad de documentos de viaje).
La administración de justicia y procesos democráticos (por ejemplo, la aplicación de la ley a un conjunto concreto de hechos).
Búsqueda de posibles víctimas de un delito, incluidos menores desaparecidos
Determinadas amenazas para la vida o la seguridad física de las personas físicas o amenazas de atentado terrorista
Detección, la localización, la identificación o el enjuiciamiento de los autores o sospechosos de los delitos mencionados en la Decisión Marco 2002/584/JAI del Consejo
Riesgo limitado
Sistemas de IA con requisitos específicos de transparencia. En estos casos, cuando se usan sistemas de inteligencia artificial como los bots de conversación o chatbots, los usuarios deberán ser conscientes de que están interactuando con una máquina para poder tomar una decisión fundamentada sobre si desean continuar o no. Por tal motivo, la propuesta supone que se deberá informar al usuario de que se encuentra ante una máquina.
Este es el caso de peligro mínimo o nulo en el uso de la IA. La propuesta jurídica permite que se usen gratuitamente aplicaciones como videojuegos basados en inteligencia artificial o filtros de correo basura. La inmensa mayoría de los sistemas de IA se incluyen en esta categoría. La propuesta de reglamento no profundiza en este apartado, ya que este tipo de sistemas de inteligencia artificial representa un riesgo insignificante o nulo para los derechos o la seguridad de la ciudadanía.
Usos prohibidos de la IA
Las enmiendas introducidas en mayo 2023 en la ley de inteligencia artificial ya se hacen eco de hasta dónde llegan los modelos de inteligencia artificial actuales, como por ejemplo ChaGPT. Esto se debe, en parte, a los problemas que ha tenido OpenAI con la privacidad, que llevó a Italia a prohibir su uso y a que varios países europeos se lo están planteando. El artículo 5 del borrador establece los usos prohibidos, que han sido enmendados en mayo para adecuarlos a los nuevos avances en la materia. Puede ver aquí un informe resumen con las enmiendas:
– Sistemas que usen técnicas subliminares para modificar el comportamiento humano. Al igual que ocurre con la publicidad engañosa, se pretende evitar que la IA sea utilizada con técnicas que, de manera imperceptible lleven a tomar decisiones que de otra manera no tomaríamos.
– Sistemas que aprovechen alguna de las vulnerabilidades de una persona o un grupo específico de personas para modificar su comportamiento. Prohibición similar a la anterior, pero con un grado mayor de relevancia, pues se trata de aquellos modelos que se aprovechan de personas o grupos de personas expuestas o más susceptibles a ser manejadas.
– Modelos que categorización biométrica que clasifiquen a personas físicas con arreglo a atributos o características sensibles o protegidos, o sobre la base de una inferencia de dichos atributos o características.
– Sistemas de calificación social. Esto nos recuerda mucho el famoso sistema chino.
– Sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público.
– Modelos inteligentes para predecir el riesgo de comisión de un delito o su reincidencia.
– Sistemas que creen o amplíen bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales a partir de internet o de imágenes de circuito cerrado de televisión.
– IA de detección de las emociones.
– Sistemas de IA para el análisis de imágenes de vídeo grabadas de espacios de acceso público que empleen sistemas de identificación biométrica remota «en diferido», salvo con autorización judicial.
Ley de inteligencia artificial y Administración pública
Como vemos, las prohibiciones en el uso de la IA son muchas, y las enmiendas han ampliado enormemente el listado. Por lo que afecta al uso de la inteligencia artificial en la Administración pública podemos destacar, sobre todo, la prohibición de sistemas que podrían ayudar a las Fuerzas y Cuerpos de Seguridad del Estado en el ejercicio de sus funciones. En particular, los sistemas de identificación biométrica remota en tiempo real, los sistemas predictivos o los modelos de detección de emociones. Los primeros se quieren prohibir de plano, pues se han eliminado las excepciones que se establecían en el borrado de 2021.
Nos encontramos con el eterno dilema entre seguridad y privacidad. Y en esto hay gustos para todos. En un mundo cada vez más peligroso y repleto de amenazas, la policía y los jueces necesitan mejores herramientas para luchar contra el crimen, y la IA puede ayudar enormemente en esta tarea a través de la identificación de delincuentes en tiempo real, detectar en los gestos las denuncias falsas o quién miente en un interrogatorio, etc. Por otro lado, parece que nos adentremos en un mundo orwelliano, o ya estamos casi inmersos en él con tantas cámaras vigilando.
La privacidad y la presunción de inocencia podrían quedar en entredicho con estos sistemas. El equilibrio es difícil de lograr; no podemos pasar por alto la gran ayuda que estos avances en el uso de la IA pueden reportar a la sociedad y al servicio público, pero tampoco podemos olvidar los riesgos inherentes, que es lo que está estudiando la UE.
IA y gestión de personas
También puede verse afectada por las prohibiciones la aplicación de la inteligencia artificial en la gestión de recursos humanos. En la empresa privada ya se está experimentando la realización de entrevistas mediante una IA que puede utilizar una cámara para ver al entrevistado y captar sus expresiones. Los microgestos y la forma de expresarse el aspirante pueden dar pistas al entrevistador sobre su personalidad, con los peligros que ello conlleva, aunque con ventajas para la organización.
Estos sistemas de reconocimiento facial estarían prohibidos con la nueva Ley al inmiscuirse en la intimidad de las personas y poder extraer sus rasgos de personalidad, aunque nada impide que en una entrevista con un entrevistador psicólogo se realice la misma tarea.
Los asistentes virtuales
Por contra, y como se indicó, el uso de asistentes virtuales en la Administración pública y en las organizaciones en general, no parece que se vaya a limitar, salvo la previsión de avisar al usuario de que está tratando con un chatbot, lo que ya hacen la mayoría de servicios virtuales.
Conclusiones
Son muchas las posibilidades que está ofreciendo la IA, pero traen de la mano una gran cantidad de interrogantes sobre sus peligros y cómo afecta a los derechos de los ciudadanos. La Unión Europea es consciente de este dilema y trata de crear una regulación pionera que perfile cómo usaremos los sistemas inteligentes. Esperemos que la regulación sea congruente con esos beneficios y con todo lo que puede aportar.
Este artículo forma parte de la formación que ofrezco sobre:
Las oportunidades que ofrece la Inteligencia Artificial en las Administraciones Públicas son casi infinitas, tantas como ámbitos en los que actúa y ciudadanos a quienes sirve. Tecnologías comomachine learning, big datao incluso deep learning no deben asustarnos a la hora de implantarla, pues podemos comenzar por sus aplicaciones más sencillas, o utilizar herramientas gratuitas y muy potentes de relativamente fácil manejo.
Inteligencia artificial en la Administración Pública
La Inteligencia Artificial (IA) está teniendo un impacto significativo en los últimos años gracias a la mejora en la capacidad de cómputo de los ordenadores. Es innegable el potencial estratégico que tiene la IA en todos los aspectos, incluyendo las implicaciones en las relaciones humanas con las máquinas y en la creación de nuevos empleos. Si queremos mejorar la calidad de vida de los ciudadanos, ser más eficientes y ahorrar tiempo y costes, resulta esencial que la IA ocupe un lugar destacado en las organizaciones, públicas y privadas.
Creación de la IA de Stable Diffusion: IA en la Administración
Sin embargo, en España, la Administración pública todavía sufre un retraso significativo en la modernización y transformación tecnológicas. Muchas instituciones todavía mantienen una pugna en ese eterno recorrido para ponerse a la altura de la sociedad a la que sirven. Por lo tanto, es importante considerar si la implementación de la IA en la Administración Pública no resultará en una mayor brecha con la sociedad.
Es fundamental adoptar los algoritmos de la IA en los procesos administrativos para alcanzar una mayor eficiencia y eficacia. Además, la IA puede ser útil en tareas repetitivas y monótonas, liberando tiempo para que los trabajadores públicos se enfoquen en tareas más críticas y creativas. Por poner solo dos casos, la IA puede transcribir el audio de los órganos colegiados (Pleno, Comisiones…) en cuestión de minutos, o repartir los asuntos del registro de entrada a cada departamento automáticamente.
Por lo tanto, es vital que la Administración Pública adopte la IA para mejorar los servicios a los ciudadanos y mejorar la calidad de vida en general.
Qué es la inteligencia artificial
Antes de continuar conviene realizar una aproximación al concepto de inteligencia artificial, pues sus contornos no están claros, ni siquiera para los expertos, y pueden plantearse dudas sobre si realmente se está utilizando en determinados procesos.
La inteligencia artificial es la capacidad de los ordenadores de emular las capacidades humanas, como el aprendizaje, el razonamiento o la creatividad.
La definición más aproximada que tenemos desde un punto de vista oficial es la que ofrece la Comisión europea:
Sistemas que manifiestan un comportamiento inteligente, pues son capaces de analizar su entorno y pasar a la acción –con cierto grado de autonomía– con el fin de alcanzar objetivos específicos
Desde 2021 se está estudiando un borrador de Ley de Inteligencia artificial de la UE, que trata de regular sus usos y proteger los derechos de los ciudadanos europeos. Puede ver mi comentario sobre esta ley en el enlace anterior.
Aplicaciones de la inteligencia artificial en la Administración pública
Los usos de la inteligencia artificial en la Administración pública son inmensos, aunque estamos aún en una fase muy incipiente en la introducción de modelos de inteligencia artificial, no solo en las Administraciones sino en general. Se está explorando hasta dónde pueden alcanzar sus algoritmos, así como sus ventajas y peligros. Si bien ya se utilizan sistemas de IA en algunos ámbitos su implantación no es total y ha planteado dudas, sobre todo en materia de protección de datos y en relación a sesgos por raza o sexo; sin contar con los propios problemas éticos de la inteligencia artificial. Además, cabe mencionar que el propio concepto de inteligencia artificial no es pacífico, existiendo diversidad de opiniones al respecto. Para tratar de aclararlo les ofrezco en este enlace una definición de inteligencia artificial y de otros términos relacionados.
Administraciones Públicas e inteligencia artificial
Son diversos los casos en los que podemos encontrar ejemplos de IA en la administración pública; desde las Agencias tributarias hasta la Sanidad y la Justicia. A continuación quiero señalar algunas de esas aplicaciones prácticas y ejemplos que ofrece la inteligencia artificial en el sector público. Primeramente haré referencia a supuestos generales que nos pueden sonar a muchos para, seguidamente centrarme en un sencillo caso real que hemos utilizado en el Departamento de Gestión tributaria de mi Ayuntamiento.
En el siguiente enlace dispone de un artículo específico en el que hablo de los usos de la inteligencia artificial en los ayuntamientos, organizaciones que por su cercanía a los ciudadanos y por el tipo de servicios que prestan puede ofrecer unas ventajas que no permite su aplicación en otras administraciones.
Asistentes virtuales o chatbots
Vamos a comenzar con uno de los usos de la IA quizás más extendidos y útiles en el ámbito de la atención al público. Nos referimos a los asistentes virtuales o chatbots (también denominados asistentes conversacionales). Todos conocemos Siri, Cortana, Echo, Alexa, etc. Una variante de estos aparatos son las aplicaciones web con las que podemos «hablar» mediante texto, y que incluso nos contestan por voz. Los asistentes virtuales sirven para resolver dudas generales sobre los servicios que ofrecen empresas y Administraciones.
El uso de estos programas se ha generalizado en los últimos años y ya cuentan con la posibilidad de entender mucho mejor lo que desea el interlocutor aunque no utilice la frase exacta que el programa tiene grabada. En este punto la IA y sus programadores han realizado un gran esfuerzo para extrapolar, de la expresión que escribe el ciudadano, lo que realmente quiere decir. El procesamiento del lenguaje natural (NLP) ha tenido mucho que ver, pues se trata de una de las aplicaciones de machine learning que más empuje está teniendo.
Aplicación de chatbots en la Administración
En el ámbito de la Administración Pública los chatbots juegan un papel muy importante, por cuanto la atención al ciudadano supone -al mismo tiempo- un apartado esencial. El ahorro de costes de personal, la rapidez en la respuesta, el número de personas atendidas y la calidad y mayor control de las respuestas son algunos de los aspectos más destacados de estos asistentes. Puede leer más acerca de los chatbots en la Administración en el artículo que escribí, así como experimentar con el asistente de prueba que incluye (abajo a la derecha).
Inteligencia artificial en la Administración de justicia
Administración e inteligencia artificial
Otro ejemplo de uso de la IA es en la Administración de Justicia en EE.UU. Servía para predecir la posibilidad de reincidencia y otorgar libertad condicional. La aplicación de la NLP ha sido de gran utilidad, la cantidad ingente (Big Data) de documentación legal en cualquier Juzgado o Tribunal permite a los algoritmos encontrar patrones y realizar predicciones sobre lo que se le pida. Desgraciadamente se detectó que discriminaba a las personas de color debido a los ya mencionados sesgos.
Inteligencia artificial y transparencia. El caso del bono social
Un problema importante a la hora de utilizar procesos de IA es la falta de transparencia administrativa a la hora de publicar los criterios con los que se programa un algoritmo. Esto supone que los ciudadanos se encuentran indefensos ante las decisiones adoptadas por la Administración y basadas en una de estas inteligencias. Recordemos el caso de la IA utilizada para otorgar el bono social en el recibo de la luz. Se denunció su denegación en un caso en que procedía, solicitando el código, y la Administración esgrimió que estaba sujeto a propiedad intelectual.
Inteligencia artificial y recursos humanos
Otro caso en que puede ayudar la IA en la gestión de recursos humanos. Desde la selección hasta en la predicción de vacantes o bajas. Su utilización en selección de personal es bastante utilizada en la empresa privada. Ya hay algoritmos que realizan entrevistas y llevan a cabo un primer filtro que ayuda a los humanos en el proceso. La ventaja de estos sistemas es la rapidez y el ahorro de horas de trabajo a los humanos. Gracias a los sistemas de reconocimiento de voz y de las expresiones faciales es posible para una IA realizar preguntas y reconocer las respuestas, así como las microexpresiones faciales que puedan delatar falsedades.
Con la gran cantidad de datos que un departamento de recursos humanos genera es fácil pensar que la IA puede generar modelos predictivos sobre épocas en las que puede haber más bajas laborales, o más carga de trabajo, etc.
Big data en la Administración pública
Una ventaja estratégica con la que cuenta los gobiernos y administraciones es la gran cantidad de datos que manejan diariamente. Esto conforma lo que en materia de IA se denomina Big Data, un ingente volumen de información (del orden de terabytes e incluso petabytes) recopilada y creada para la gestión de sus fines.
Sin embargo, a ese big data se le puede extraer mucha más información de la que inicial y aparentemente tiene. En efecto, desde no hace demasiado tiempo se está aprendiendo a aprovecharlo más allá de su uso habitual. Se ha comprobado que el estudio algorítmico de los mismos permite extraer conclusiones, patrones, hacer predicciones y dar respuestas a muchas cuestiones antes impensables. Aquí entra en juego la inteligencia artificial y los algoritmos de machine learning e incluso de deep learning. Una IA bien entrenada puede recibir esa ingente cantidad de información y tras los oportunos procesos internos ofrecer conclusiones o predicciones muy útiles en el ejercicio de las actividades administrativas.
La Policía Nacional está desarrollando y aplicando en algunas comisarías desde 2015 un algoritmo que permite detectar las denuncias falsas. Lo que comenzó como un experimento de inteligencia artificial y procesamiento del lenguaje natural se ha convertido en un sistema que promete reducir la comisión de delitos de denuncia falsa. De hecho, alcanza un 96% de acierto. El sistema se centra sobre todo en hurtos, robos o rotura de cristales, y estudia las expresiones y palabras utilizadas al redactar las denuncias para inferir cuándo el denunciante miente.
Inteligencia artificial en la sanidad
Un entorno en el que está teniendo un gran éxito la aplicación de modelos de inteligencia artificial es en la sanidad. Los avances científicos y las nuevas terapias deben mucho a la misma. Por ejemplo, ha habido una explosión de oportunidades en su aplicación para estudiar y predecir comportamientos del COVID-19. El estudio de este y otros virus, así como de proteinas y cómo se configuran, comportan y relacionan se está beneficiando del big data y de los modelos predictivos del machine learning. Lo que hasta hace poco era un proceso de meses o años para conocer la forma 3D de las proteinas ahora se logra en semanas o días.
La detección y pronóstico de enfermedades es un área que también está logrando importantes avances. Ya es posible descargarse aplicaciones en el móvil que nos ayudan a detectar si un lunar o mancha en la piel puede ser maligno o no. Lo mismo ocurre con otras muchas enfermedades. La IA ayuda a los médicos a detectar dolencias a través de las imágenes obtenidas por rayos X, tomografías, etc. Una persona puede no detectar pequeños cambios en las mismas, pero una inteligencia entrenada mediante machine learning con cientos de miles de imagenes realiza los diagnósticos con muchas más fiabilidad que el ojo humano.
Los sesgos de la Inteligencia artificial
Además de la falta de transparencia a la hora de dar a conocer los criterios y la programación de los algoritmos hemos de recordar que una IA ha sido -precisamente- programada por humanos y que nuestros propios sesgos se pueden trasladar a aquella. Este concepto es uno de los mayores problemas a los que se enfrenta todo modelo de inteligencia artificial, como expresión de cualquier actividad valorativa humana. También se dan a menudo, por ejemplo, en materia de evaluación del desempeño.
Qué es un sesgo
De acuerdo con el diccionario de la Real Academia Española de la Lengua (RAE) un sesgo es «error sistemático en el que se puede incurrir cuando al hacer muestreos o ensayos se seleccionan o favorecen unas respuestas frente a otras». Hay muchos tipos de sesgos (bias en inglés) y es una labor compleja pero imprescindible tratar de limitarlos al máximo cuando se programan algoritmos.
Querámoslo o no siempre corremos el riesgo de transmitir al algoritmo ciertas pautas inconscientes que le avoquen a cometer errores o desviarse de lo justo. Esta cuestión está provocando importantes problemas éticos en la aplicación de la IA. Por eso resulta esencial planificar en profundidad cómo se va a programar uno de estos algoritmos para reducirla lo máximo posible. Los de mayor calado son los que discriminan por género y por raza, pero puede haber muchos otros. Todo dependerá de los fines y los destinatarios de la inteligencia que se esté creando.
Más allá de esa necesidad de transformación pública, el Estado y las Administraciones públicas deben liderar el avance de la sociedad y de los ciudadanos. Deben ser facilitadores del progreso económico y humano, y para ello han de disponer de las herramientas adecuadas y lo más punteras posibles. Se han apuntado solo algunos de los ámbitos en los que tecnologías inteligentes para la administración pública pueden mejorar los servicios públicos e incluso salvar la vida de las personas: sanidad, seguridad, transporte y comunicaciones, etc. En todos estos entornos las Administraciones y los gobiernos tienen mucho que decir, sea por el ejercicio de competencias en la gestión de servicios públicos o como creadores de normas que regulen la actividad humana.
Es cierto que la incorporación de la inteligencia artificial en los procesos administrativos se nos antoja algo complicada. Esto se debe a la aparente dificultad de estas tecnologías y los antecedentes que ya conocemos a la hora de implementar conceptos tan disruptivos. Pero también es verdad que no debe comenzarse la casa por el tejado sino poco a poco, con pruebas piloto, por fases, y sobre todo con la implicación de todos, contando con los empleados públicos, que son quienes a la postre utilizarán esos modelos de IA. Y sin olvidar a los directivos públicos y a los políticos, que deben ser conscientes de los beneficios que conlleva y habrán de impulsar su implantación.
Un sistema modular relativamente fácil de implantar
La implementación de algoritmos inteligentes es modular y escalar, permitiendo diseñar desde los más básicos, para resolver o automatizar (más o menos autónomamente) sencillos procedimientos, hasta los más avanzados. Esto permite ir avanzando todo lo rápido que se quiera. Además, existen multitud de entornos de desarrollo y aplicaciones gratuitas que, con conocimientos medios o incluso sin saber programar, permiten crear desde asistentes virtuales hasta la realización de estudios predictivos con machine learning en cualquier ámbito1. En fin, la implantación de la inteligencia artificial en las administraciones públicas no es tanto una cuestión de poder sino de ponerse a ello.
Un caso práctico. Devolución del IVTM mediante un modelo básico de inteligencia artificial
La devolución de la parte proporcional del Impuesto sobre vehículos de tracción mecánica (IVTM) en casos de baja definitiva o temporal por sustracción o robo de un vehículo (art. 96.3 Ley de Haciendas Locales) es un procedimiento que permite perfectamente la aplicación de un modelo muy básico de IA mediante automatización y asesoramiento en la toma de la decisión final, al contar con unos requisitos tasados para su resolución.
En el caso del Ayuntamiento de Manzanares se decidió automatizar este tipo de expedientes porque las solicitudes se acumulan al comienzo del período de pago del impuesto, en marzo, y hasta julio no se pueden resolver porque no disponemos de los datos definitivos de pagos. Por ello se produce una cierta carga de trabajo por esa acumulación que justifica la aplicación de un modelo –sencillo pero eficiente- de IA.
Los datos de entrada
En este caso los datos necesarios para resolver son tasados y fácilmente comprobables: el pago de la liquidación y la cuota, la baja del vehículo, el tipo de baja y su fecha. Esta información se encuentra en distintas bases de datos. La tramitación tradicional supondría comprobar el pago de la liquidación en una base de datos, la baja del vehículo y su fecha en otra, y calcular manualmente la parte de cuota que hay que devolver en función de los trimestres naturales afectados, así como la posterior creación del Decreto.
Algoritmo ad hoc
Antes de proseguir conviene apuntar que el Departamento de Gestión Tributaria del Ayuntamiento de Manzanares cuenta con una aplicación web ad hoc (mediante php y mysql) para la gestión de parte de sus procesos, diseñada y gestionada por quien suscribe. Esta aplicación se creó ante la necesidad de solucionar algunas carencias de la aplicación comercial que se viene utilizando en el Ayuntamiento, con el objetivo de mejorar la eficacia y eficiencia en la tramitación de los expedientes y la atención al ciudadano.
Si bien esta circunstancia es una ventaja que nos permite diseñar los algoritmos que necesitamos para solucionar infinidad de tareas y lograr mayor eficiencia sin depender de actualizaciones de las aplicaciones comerciales, ello no debe ser óbice para que otras organizaciones puedan crear algoritmos, scripts o pequeñas aplicaciones en distintos lenguajes de programación, pues todas ellas disponen de informáticos (otra cosa es su predisposición…).
El proceso de toma de decisión
Pues bien, el algoritmo que hemos creado utiliza como input el número de liquidación, comprueba los datos y resuelve si debe concederse la devolución y, en su caso el importe a devolver. La automatización no es integral en el sentido del artículo 41 Ley 40/2015 (sobre las actuaciones administrativas automatizadas), pues requiere de una posterior comprobación de que todo es correcto y la tramitación del acto administrativo. Esto evita la necesidad de cumplir los requisitos de dicho artículo al tiempo que ahorra un trabajo enorme.
El proceso que se aplica es, en resumen, el siguiente:
La aplicación despliega un formulario web donde se le introduce el número de liquidación.
El algoritmo comprueba si se ha pagado, la cuota, y si el vehículo causó en Tráfico una baja que dé lugar a la devolución. Si no se dio de baja o no cumplen los requisitos se informa al funcionario. También puede ocurrir que no se disponga de la información actualizada sobre la baja, por lo que se informa al funcionario que la compruebe manualmente.
La IA obtiene la fecha de la baja y calcula los trimestres naturales que han de devolverse, así como el importe de la devolución.
El funcionario inserta el número de cuenta y confirma la grabación de los datos.
Una vez tramitadas todas las consultas se pulsa un botón para generar una hoja excel que se acompaña al Decreto de resolución del procedimiento acumulado.
Así pues, nos encontramos con un procedimiento de requisitos objetivos, fácilmente comprobables en bases de datos, y que se hace tedioso de tramitar para una persona por la cantidad de información a comprobar.
Se puede plantear -con razón- la duda de si este modelo está utilizando realmente una IA dados los difíciles contornos en los que se mueve el concepto, como ya indicamos. Todos hemos oído que los algoritmos de IA obtienen un aprendizaje previo y lo aplican al caso concreto. Este es el caso más común. Pero también hemos visto que, de acuerdo con la definición de la Comisión europea es la capacidad de las máquinas de recopilar datos del entorno (ej. bases de datos, información de Internet, sensores), procesarlos y ofrecer resultados o aportar propuestas. Desde este punto de vista podríamos enmarcar este modelo del IVTM dentro del uso de la IA, eso sí, muy básica, pues se podría decir que es un mero proceso automatizado. Pero ¿no es lo que hacen los ordenadores en cualquier de sus facetas: procesar y automatizar?
En fin, este modelo permite comprobar los datos e incluso proponer la decisión a adoptar. De hecho, podría permitírsele tomar la decisión al estar preparada para ello, pero de momento se prefiere mantener la intervención humana en la validación de los datos.
Posibilidades y aplicación de modelos básicos de IA en el procedimiento administrativo
También puede interesar esta lectura de Inteligencia artificial y Administración pública: Robots y humanos compartiendo el servicio público. Escrito por el profesor Carles Ramió Matas.
