La inteligencia artificial (IA) está transformando rápidamente la gestión de recursos humanos en las empresas y Administraciones Públicas. Esta tecnología ha demostrado ser eficiente y económica para mejorar la productividad, agilizar los procesos de selección y optimizar la toma de decisiones en la gestión del personal. Sin embargo, junto con sus ventajas, también se plantean indudables desafíos, entre los que se encuentra la ética de la IA.
En este artículo, expondré algunos de los retos éticos que la IA presenta en este campo y cómo las organizaciones pueden enfrentarlos de manera responsable.
Este es solo un resumen de la formación que imparto sobre:
La revolución de la IA en la gestión de personas
La IA ha revolucionado la gestión de los recursos humanos en varios aspectos. Una de las funciones en las que más se ha notado su impacto ha sido la selección. Esto es así porque se trata de procedimientos muy estandarizados, pero a la vez tediosos, mecánicos y que no aportan valor a las personas. En definitiva, se pierde mucho tiempo y la IA puede ahorrarlo.
Los algoritmos de IA pueden analizar grandes volúmenes de currículums y perfiles en línea para identificar a los candidatos más adecuados para un puesto, ahorrando tiempo y recursos. También se está aplicando para realizar entrevistas de trabajo, gracias a las habilidades, cada vez mayores, de los modelos de lenguaje automatizado. Los candidatos son entrevistados y mantienen una conversación casi totalmente natural con una IA, que extrae las conclusiones y puntuaciones, según los parámetros previamente indicados para el puesto de que se trate.
Por otro lado, la IA también se utiliza para evaluar el desempeño de los empleados, proporcionando ayuda a los departamentos de personal a la hora de crear los cuestionarios, las propias entrevistas, examinando todos los datos y brindando recomendaciones para el desarrollo profesional y la promoción.
La automatización de tareas administrativas rutinarias en la gestión de personas permite, en suma, que los profesionales de recursos humanos se centren en actividades más estratégicas y orientadas hacia el talento. Sin embargo, el uso creciente de la IA en este campo también plantea preocupaciones éticas que deben ser abordadas de manera proactiva.
APLICACIONES DE LA IA EN LAS ADMINISTRACIONES PÚBLICAS
¿Quieres más información? rellena el formulario de contacto y hablamos
El desafío de la transparencia
Uno de los principales retos éticos de la IA en la gestión de personas (y en general) es la falta de transparencia en los algoritmos utilizados.
A grandes rasgos, estos no son más que líneas de código (programados generalmente en Python, R, etc.) que programan -valga la expresión- la IA para que realice las tareas y ofrezca los resultados que se esperan de ella. Esta programación, en sí, es entendible por los humanos, pero dentro de la ejecución de la IA, sobre todo durante su entrenamiento, siempre hay una «capa oculta», en la que realiza sus cálculos para encontrar patrones, que suelen escapar a la comprensión humana.
Por ello, a menudo las decisiones tomadas por la IA son difíciles de comprender y explicar, lo que puede resultar en falta de confianza por parte de los empleados y candidatos. La opacidad en los procesos de selección y evaluación puede llevar a percepciones de discriminación o sesgo, incluso si no están presentes.
Para abordar este desafío, las organizaciones deben esforzarse por garantizar la transparencia en sus sistemas de IA. Esto implica documentar y explicar claramente cómo se utilizan los algoritmos en la gestión de personas y cómo se toman las decisiones. Además, se debe proporcionar a los empleados y candidatos la oportunidad de cuestionar y apelar las decisiones tomadas por la IA.
Para regular este importante aspecto de la toma de decisiones apoyada por la IA se aprobó la Ley 15/2022, integral para la igualdad de trato y la no discriminación. dicha ley establece en su artículo 23 que:
las administraciones públicas favorecerán la puesta en marcha de mecanismos para que los algoritmos involucrados en la toma de decisiones que se utilicen en las administraciones públicas tengan en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas, siempre que sea factible técnicamente.
Sesgo y discriminación
Otro reto ético importante es el sesgo inherente en los datos utilizados para entrenar los sistemas de IA. Si los datos de entrenamiento contienen sesgos de género, raza u otras características, los algoritmos pueden perpetuar estos sesgos en las decisiones de selección y evaluación. Esto puede resultar en discriminación injusta y perjudicial.
Ya se han dado casos tan graves (por afectar a derechos fundamentales) como en el ámbito penitenciario, en EE.UU. donde se denegaban la mayoría de solicitudes de libertad condicional de personas de color por un sesgo de los datos de entrenamiento.
En RR.HH esto se puede dar, por ejemplo, en las entrevistas de trabajo. En la empresa privada ya se están realizando entrevistas mediante una IA que puede utilizar una cámara para ver al entrevistado y captar sus expresiones. Los microgestos y la forma de expresarse el aspirante pueden dar pistas al entrevistador sobre su personalidad, con los peligros que ello conlleva, aunque con ventajas para la organización.
Estos sistemas de reconocimiento facial estarían prohibidos con la nueva Ley de IA de la UE al inmiscuirse en la intimidad de las personas y poder extraer sus rasgos de personalidad, aunque nada impide que en una entrevista con un entrevistador psicólogo se realice la misma tarea.
Para abordar este problema, las organizaciones deben implementar estrategias sólidas para eliminar sesgos de datos y algoritmos. Esto implica revisar y limpiar regularmente los conjuntos de datos utilizados, así como supervisar continuamente las decisiones de la IA en busca de posibles sesgos.
Aquí entran en escena nuevas profesiones relacionadas con la inteligencia artificial, como los ingenieros de datos y los analistas de Big Data. Los equipos de desarrollo de IA deberían ser multidisciplinares para ayudar a identificar y abordar sesgos de manera más efectiva.
Privacidad y protección de datos
El uso de la IA en la gestión de personas también plantea cuestiones de privacidad y protección de datos. La recopilación y el análisis de datos personales pueden invadir la privacidad de los empleados y candidatos si no se manejan adecuadamente. Además, existe el riesgo de que los datos sean utilizados de manera inapropiada o se filtren, lo que podría tener graves consecuencias para la reputación de la organización y la confianza de los empleados. Estos problemas serían más graves, si cabe, en el ámbito de las AAPP.
Para abordar estos desafíos de la ética de la IA las organizaciones deben cumplir estrictamente con las leyes y regulaciones de privacidad de datos, como el Reglamento General de Protección de Datos (GDPR) en Europa. Además, deben implementar políticas claras de privacidad y protección de datos y asegurarse de que los empleados estén informados sobre cómo se utilizan sus datos personales en los procesos de gestión de personas.
La formación e información resultan esenciales, incluyendo la materia de seguridad de los datos y cómo evitar filtraciones y el robo de información.
Responsabilidad y supervisión humana
Un aspecto crucial en la gestión ética de la IA en recursos humanos es la supervisión humana. A pesar de la automatización impulsada por aquella, los profesionales de rrhh deben mantener un papel activo en la toma de decisiones clave. La IA puede proporcionar recomendaciones valiosas, pero la decisión final debe recaer en manos humanas. Dejar las decisiones SÓLO en manos de la IA es, todavía, peligroso.
Las organizaciones deben establecer procesos de supervisión claros que incluyan la revisión y validación de las decisiones tomadas por los algoritmos. Esto garantiza que se mantenga la responsabilidad humana y se evita la delegación completa de decisiones importantes a los algoritmos. De hecho, la Ley 40/2015, al regular las actuaciones administrativas automatizadas, así lo prevé en su artículo 41. Se echa en falta, no obstante, que se hubiese regulado también en la Ley 15/2022.
Conclusiones
La inteligencia artificial ofrece enormes ventajas en la gestión de personas, mejorando la productividad y la eficiencia. Sin embargo, para aprovechar plenamente estos beneficios y evitar discriminaciones, las organizaciones deberán abordar la ética de la IA y los retos que plantea esta tecnología.
La transparencia, la eliminación de sesgos, la protección de la privacidad y la supervisión humana, son elementos clave para garantizar que la IA se utilice de manera ética y responsable en la gestión de personas. Al hacerlo, las empresas pueden cosechar los beneficios de la IA sin comprometer los valores éticos y la confianza de los empleados y candidatos.
Este es solo un resumen de la formación que imparto sobre:
APLICACIONES DE LA IA EN LAS ADMINISTRACIONES PÚBLICAS
¿Quieres más información? rellena el formulario de contacto y hablamos
Más contenidos en mi blog
Inteligencia artificial y gestión del talento
La ética de la IA en la gestión de recursos humanos
Ley de inteligencia artificial de la UE
Asistentes virtuales en la Administración pública
Inteligencia artificial y Administración Pública
Inteligencia artificial en la gestión de recursos humanos
Algoritmos y transparencia administrativa
¿Podría la inteligencia artificial gobernar mejor que los políticos?
Un comentario sobre “La ética de la IA en la gestión de recursos humanos”