Archivo de la etiqueta: inteligencia artificial

Inteligencia artificial y Administración Pública.

Posibilidades y aplicación de modelos básicos en el procedimiento administrativo

Las oportunidades que ofrece la Inteligencia Artificial (IA) en la Administración Pública son casi infinitas, tanto como ámbitos en los que actúa y ciudadanos a quienes sirve. Tecnologías como machine learningbig data o incluso blockchain no deben asustarnos a la hora de implantarla, pues podemos comenzar por sus aplicaciones más sencillas, o utilizar herramientas gratuitas y muy potentes de relativamente fácil manejo.

En este artículo señalamos las posibilidades de la IA en nuestras organizaciones y algunas de sus aplicaciones. En particular, proponemos abordar esta innovación con la aplicación de sistemas básicos de IA para la resolución de expedientes con requisitos fácilmente objetivables o tasados (ej. devoluciones tributarias, beneficios fiscales, subvenciones, licencias…) y se expone un modelo real, sencillo pero efectivo, en materia tributaria.

Seguir leyendo Inteligencia artificial y Administración Pública.

Inteligencia artificial y gestión de recursos humanos

La inteligencia artificial aplicada a la gestión de recursos humanos ofrece grandes oportunidades para mejorar la eficacia y la eficiencia de nuestras organizaciones y hacernos mejores en nuestro trabajo. Pero también podría llegar a convertirnos en meros autómatas, casi en un objeto más a mejorar dentro de la cadena de producción. Sería como una vuelta siniestra a la teoría taylorista del trabajo, sin contar con los problemas de dejar a la IA decidir sobre nuestro trabajo.

Ayudan en nuestro desempeño o nos convertimos en el producto a mejorar

Hace unos días leía la noticia sobre un sistema de inteligencia artificial (IA) llamado Cogito, aplicado a los centros de atención al cliente o call center, que asesoraba en tiempo real al empleado a lo largo de cada llamada telefónica con un cliente. El sistema escucha la conversación y va dando consejos al trabajador. Así, si habla muy rápido o muy despacio se lo indica diciéndole que cambie el ritmo. Si lo nota algo somnoliento o cansado le muestra la imagen de una taza de café para que espabile.

Inteligencia artificial y productividad

Al tiempo que se produce cada llamada en el servicio de atención al cliente los datos se muestran en la pantalla del supervisor, que incluso sabe si el empleado ha minimizado la aplicación. Cogito se ha convertido, pues, en un asesor personal a la vez que en un supervisor/chivato sobre el desempeño profesional.

Al final de la conversación el sistema guarda toda esta información en una base de datos y ofrece estadísticas sobre el desempeño de cada trabajador, lo que servirá para evaluarle y mejorar su eficiencia.

Recursos humanos con inteligencia artificial

La idea de hacer trabajar juntos inteligencia artificial y gestión de recursos humanos no es cuestión baladí. Es un ámbito realmente complicado en toda organización pues supone tratar con la subjetividad, las motivaciones y los sentimientos humanos. Y no perdamos de vista que la gestión de personas es un área central en el éxito de una organización: las personas son su verdadero cerebro y músculo.

Los sesgos en el reclutamiento y la selección, así como en los procesos de evaluación del desempeño, son un gran límite para el éxito de esas áreas de los recursos humanos. Los algoritmos, el machine learning y el big data podrían ayudar enormemente en esta titánica labor.

Respecto a la selección de candidatos y, por tanto, a la hora de conocer su desempeño futuro (predicción del desempeño) la inteligencia artificial ya está ofreciendo unos resultados asombrosos. Por ejemplo, IBM Watson se está utilizando no solo en esta tarea sino de forma más general para atraer, retener y evaluar el talento.

Por otro lado, el sistema Cogito ofrece una retroalimentación fabulosa al trabajador sobre su desempeño. Le da información útil en tiempo real, con lo que puede ir mejorando a cada instante, centrando sus esfuerzos en las áreas de mejora que le va indicando el algoritmo. Los resultados de su evaluación serán -así- mucho mejores gracias a ese feedback constante..

Efectos de la inteligencia artificial en la gestión de personas

Estos sistemas, bien utilizados, son una herramienta estupenda para motivar y mejorar la conducta profesional. Si se hacen amigables y la interacción con el humano se convierte en cercana -algo así como los robots asesores o de compañía, pero a nivel laboral- la relación se tornará mucho más óptima. El trabajador se mostrará más dispuesto a interactuar con la IA y a aceptar sus consejos y seguimiento, con lo que esta se convertirá en un verdadero compañero y asesor en tiempo real.

El trabajador se mostrará más dispuesto a interactuar con la IA y a aceptar sus consejos y seguimiento, con lo que esta se convertirá en un verdadero compañero y asesor en tiempo real.

Sin embargo, si el sistema se percibe como un algoritmo exclusivamente de control, como un jefe que está constantemente tras nosotros, los resultados pueden ser contraproducentes. A las personas nos gusta la autonomía en el trabajo, y es esencial que las organizaciones se la ofrezcan a sus trabajadores. Tanto control por una inteligencia artificial puede suponer que la motivación caiga drásticamente y podríamos volver al sistema de cadena de montaje y control del empleado propugnado por Frederick Taylor. Deshumanizar a la persona, controlar hasta el último minuto de su desempeño, puede tener consecuencias no deseadas, contraproducentes.

Mayor autonomía para el empleado público

Se podría alegar que el tiempo que se pasa en la oficina es tiempo a disposición del empresario, y por ello nos paga. Es cierto, el control es normal, desde el sistema de fichaje horario hasta la supervisión de la conducta profesional ante el usuario o la mejora de la eficiencia en los resultados. Las empresas y las Administraciones quieren resultados por el salario que pagan.

No obstante, habrá que tener mucho cuidado con el nivel de control que se le da a la inteligencia artificial en la gestión de personas. No es lo mismo que los algoritmos intervengan en mejorar procesos o realizar tareas aburridas, que aplicarlos sobre el trabajo de las personas, susceptibles a los cambios y al control excesivo. La motivación laboral y hasta la felicidad en el trabajo son importantes dentro de la cultura organizacional, y podrían verse perjudicadas. Un ambiente agradable dentro del rigor de servir al ciudadano/cliente es importante y la IA puede ser un arma de doble filo.

Entradas relacionadas:

También te puede interesar:

También puede interesar esta lectura:
Inteligencia artificial y Administración pública: Robots y humanos compartiendo el servicio público.
De Carles Ramió

Algoritmos y transparencia administrativa

Un algoritmo oculto resuelve las solicitudes del bono social. Según denuncia la Fundación Civio, aquel deja fuera del bono a personas con derecho a obtenerlo. Los algoritmos también deben respetar la transparencia administrativa, cuestión que estudio a continuación.

El algoritmo que decide sobre el bono social

Si algo caracteriza a cualquier Estado de Derecho son, entre otros, el principio de seguridad jurídica y el de transparencia de la actuación administrativa. Los actos de las Administraciones Públicas deben ser motivados y totalmente transparentes para que los ciudadanos sepan claramente cómo se han emitido, por quién y con base en qué criterios.

La aplicación de la inteligencia artificial (IA) y los algoritmos en la Administración es algo que a muchos nos fascina por las grandes ventajas que conlleva al lograrse una mayor eficacia, rapidez y ahorro de costes. Al mismo tiempo logrará una Administración más proactiva. Será, o está siendo ya, una verdadera revolución.

Los requisitos del bono social se regulan en el Real Decreto 897/2017, por el que aplica una tarifa eléctrica reducida a consumidores vulnerables. Este se desarrolla por la Orden ETU/943/2017, y la fórmula para el cálculo de los beneficiarios viene establecida en el Real Decreto 216/2014, por el que se establece la metodología de cálculo de los precios voluntarios para el pequeño consumidor de energía eléctrica y su régimen jurídico de contratación.

El bono social lo decide un algoritmo
El bono social lo decide un algoritmo

Toma de decisiones automática y semi-delegada

La peculiaridad del sistema es que son las eléctricas, como titulares de los contratos con los consumidores finales, quienes tramitan la concesión del bono. Lo hacen consultando un algoritmo informático llamado BOSCO, pero que nadie conoce. Las solicitudes se presentan a las eléctricas, que acceden a la sede electrónica del Ministerio de Industria para introducir los datos y consultar si se cumplen los requisitos. La aplicación informática responde con un “CUMPLE/NO CUMPLE LOS REQUISITOS PARA SER CONSIDERADO CONSUMIDOR VULNERABLE/VULNERABLE SEVERO”.

Así pues, nos encontramos con un procedimiento automático tramitado por una empresa privada que hace de intermediario, trasladando al consumidor un sí o un no decidido por una “inteligencia artificial”.

Ante las quejas de ciudadanos a quienes se les denegó el bono, la Fundación Civio solicitó el código al Gobierno y a través del Consejo de Transparencia y Buen Gobierno, pero le ha sido denegado alegando que está sujeto a propiedad intelectual (¿?).

Dejando al margen lo peculiar del caso, con intervención al inicio y al final de una entidad privada, el uso de la IA y los algoritmos plantea varias cuestiones: cómo funcionan, qué datos tienen en cuenta, deciden solos, cómo lo hacen, etc.

La cuestión tiene gran trascendencia por lo que ya hemos apuntado, los derechos de los ciudadanos dependen del buen funcionamiento de estas piezas de código. Se supeditan a que apliquen correctamente las normas y se sepa cómo actúan. Recordemos que la Ley 40/2015 ya regula la actuación administrativa automatizada, sin intervención humana, como parece ser el caso, pues la actuación puramente administrativa se limita a aplicar el programa y dar una decisión. Su artículo 41 exige que para que los algoritmos puedan actuar de manera automática debe:

“establecerse previamente el órgano u órganos competentes, según los casos, para la definición de las especificaciones, programación, mantenimiento, supervisión y control de calidad y, en su caso, auditoría del sistema de información y de su código fuente. Asimismo, se indicará el órgano que debe ser considerado responsable a efectos de impugnación”

¿Es suficiente la motivación de la resolución administrativa cuando decide una IA?

En términos generales, además de estos requisitos, obvios para garantizar los derechos de los ciudadanos a una buena Administración, resulta evidente que las resoluciones que emitan los algoritmos deberán estar motivadas, sobre todo las denegatorias. Hasta aquí normal si tenemos en cuenta que son garantías básicas del procedimiento administrativo, equivalentes a las que se dan cuando decide un funcionario.

Recordemos que cuando dejamos a las máquinas trabajar por nosotros nos encontramos, igualmente, ante procesos regulados por la misma normativa procesal administrativa que los que pueden ejecutar los humanos, con la particularidad de que es un ordenador el que tramita parte o todo el expediente. De hecho, llevamos décadas confiando en los ordenadores también parte de nuestro trabajo, si bien bajo nuestro control.

¿Sustituye la IA nuestros procesos mentales?

Algoritmos y Administración Pública
Algoritmos y Administración Pública

Por tanto, un acto administrativo ha de estar debidamente motivado y ofrecer al ciudadano los recursos legales pertinentes contra el mismo. El tema que se plantea es si el algoritmo cumple dichos requisitos y lo que está haciendo realmente es sustituir el proceso mental del funcionario a la hora de tomar la decisión. ¿No bastaría con ello para entender tal decisión como válida?

Se trata de una cuestión muy interesante que podría justificar la no revelación del algoritmo con el proceso informático (equivalente al proceso mental del funcionario) que se ha utilizado, teniendo en cuenta que la resolución cumpla los requisitos legales.

Claro está que nos encontramos aquí con el supuesto que motiva este comentario, que se han denegado sin más solicitudes que, a priori, cumplen con los requisitos.

Obviamente, debemos preguntarnos qué criterio ha seguido y qué proceso ha realizado el algoritmo para llegar a esa conclusión. Aquí entra en juego claramente el principio de transparencia y el derecho a conocer al protagonista de la resolución. ¿Sería equivalente el derecho a conocer al funcionario que resuelve con el derecho a conocer el código fuente del programa informático?

Propiedad intelectual de los algoritmos públicos

Junto a la aplicación de la inteligencia artificial o los algoritmos en la toma de decisiones administrativas nos encontramos en este caso particular con otra cuestión conexa. Se trata de la razón ofrecida por el Ejecutivo y el Consejo de Transparencia para denegar el código fuente: que está sometido a propiedad intelectual.

De acuerdo con el artículo 14.1.j) de la Ley 19/2013, de transparencia, acceso a la información pública y buen gobierno, el derecho de acceso está limitado cuando concurra, entre otras, esta causa.

Pero ¿están sometidos a propiedad intelectual los algoritmos públicos? Primeramente hay que decir que de la información aportada por la Fundación y ofrecida por los medios de comunicación no queda claro si el algoritmo lo ha creado la Administración o se ha comprado a una empresa. Supongo que lo primero porque su creación no plantea dificultades y la AGE cuenta con muy buenos informáticos.

No se debería limitar el derecho de acceso

En cualquier caso esto no debería ser un límite al derecho de acceso, por cuanto la aplicación informática, al traducir a lenguaje del ordenador una norma jurídica para aplicarla, está ejerciendo “funciones públicas”. Está sustituyendo a un empleado público y se ha creado o adquirido con dinero público.

Si ese programa falla y además no se motiva la resolución no queda más que responder que los ciudadanos tenemos derecho a conocer el código fuente del algoritmo para defender nuestros derechos. La seguridad jurídica y las garantías del ciudadano están en juego, sin contar en este caso concreto, con los costes económicos que se pueden derivar a consumidores vulnerables.

Entradas relacionadas:

También puede interesar esta lectura:
Inteligencia artificial y Administración pública: Robots y humanos compartiendo el servicio público.
De Carles Ramió