Raquel Vela Díaz.
Profesora Ayudante Doctora de Derecho del Trabajo y de la Seguridad Social.
Universidad de Jaén.
1.El protagonismo de las decisiones algorítmicas en la gestión de las relaciones laborales: el ojo que todo lo ve
El uso de algoritmos y programas informáticos basados en inteligencia artificial se está consolidando cada vez más, tanto en procesos de selección de personal de grandes y medianas empresas, como para medir la productividad de los/as empleados/as, la determinación de promociones y ascensos o de retribuciones variables.
Sin embargo, su utilización está dando un paso más y cruzando ciertas líneas rojas en otro tiempo impensables, comenzando a emplearse también para tomar decisiones sobre despidos, convirtiéndose en los responsables de muchas de las iniciativas más importantes que se están adoptando en la gestión de los recursos humanos en las empresas a nivel internacional. Esto significa que se están implementando algoritmos a lo largo de toda la vida laboral de las personas, desde su entrada hasta su salida de una empresa.
Y aunque no se puede negar que las empresas requieren llevar a cabo el tratamiento informatizado de diferentes datos de las personas empleadas para cumplir con sus responsabilidades laborales y ser lo más competitivas posibles, es necesario establecer una serie de límites al alcance que puede llegar a tener el uso de estos algoritmos basados en inteligencia artificial en el ámbito laboral. Así, junto a la normativa ya vigente desde hace algún tiempo (Reglamento general de protección de datos y Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales), se ha publicado la Guía sobre “La protección de datos en las relaciones laborales”[1] por la Agencia Española de Protección de Datos. Dicha Guía admite, con ciertas cautelas y garantías, las decisiones automatizadas y el uso de algoritmos por las empresas, tanto en los procesos de selección de personal, como durante la relación laboral (ascensos, renovación o extinción de contratos).
De igual modo, desde la entrada en vigor en España, con efectos de 12 de agosto de 2021, de la conocida como “Ley Rider”, todas las empresas están obligadas a proporcionar información sobre el uso de cualquier inteligencia artificial que afecte a las relaciones laborales, tras añadir un nuevo párrafo d) al art. 64.4 de la Ley del Estatuto de los Trabajadores, en el que se reconoce el derecho del comité de empresa a ser informado por la empresa de los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, el acceso y mantenimiento del empleo, incluida la elaboración de perfiles.
Todas estas cuestiones y muchas más serán minuciosamente analizadas y debatidas en el CONGRESO INTERNACIONAL: “De la economía digital a la sociedad del e-work decente: condiciones para una revolución 4.0 justa e inclusiva”, que celebraremos durante los días 29 y 30 de septiembre y al que animamos a asistir a nuestros lectores.
2.La inteligencia artificial puede gobernar tu destino… incluso decidir tu despido
Hay muchos más algoritmos de los que imaginamos controlando y manejando las carreras laborales de miles de personas trabajadoras en todo el mundo. Nos encontramos con un número creciente de empresas que en los últimos meses han despedido a cientos de personas empleadas seleccionadas a partir del resultado obtenido a través de una fórmula matemática.
Es el caso de la aerolínea TAP en Portugal, que a causa de los graves problemas de gestión unidos a la crisis sanitaria del coronavirus inició un proceso de despidos (al que la empresa ha denominado “plan de reestructuración) tomando como base las indicaciones de un algoritmo con el fin de reducir el número de personas trabajadoras y la masa salarial. El algoritmo señala qué empleados deben finalizar su relación laboral teniendo en cuenta un listado en el que figuran quiénes han protagonizado más momentos de absentismo, aunque el sistema no distingue de manera fehaciente entre faltas justificadas e injustificadas.
La empresa de software rusa Xsolla ha despedido al 30% de su plantilla porque la inteligencia artificial ha concluido que es improductiva. La tecnología de la empresa ha monitorizado a sus empleados/as para recoger su actividad en diversas herramientas como «Jira, Confluence, Gmail, chats, documentos y dashboards» y según los datos obtenidos los ha categorizado como empleados/as poco comprometidos/as o improductivos/as, al considerar que no siempre estaban presentes en el lugar de trabajo cuando lo desempeñaban de forma remota, despidiendo a 150 personas de un total de 500.
En el departamento de recursos humanos de Amazon los algoritmos son una parte fundamental desde hace unos años, de forma que muchos de los despidos por motivos de productividad se deben a los informes automáticos de baja productividad, protagonizando despidos masivos como el de 300 personas que fueron despedidas al mismo tiempo en su centro logístico de Baltimore.
3.El necesario impulso de una regulación europea sobre Inteligencia Artificial
Algunas de las comunicaciones, dictámenes y resoluciones europeas recogen que la inteligencia artificial, la robótica y las tecnologías conexas deben ser socialmente responsables y deben salvaguardar y promover los valores fundamentales de nuestra sociedad.
El pasado mes de abril la Comisión Europea presentó una propuesta para regular la inteligencia artificial, con el objetivo de establecer normas armonizadas en materia de inteligencia artificial con un enfoque europeo coordinado sobre las implicaciones éticas y humanas de la IA. Entre las finalidades, se pretende acotar y regular el uso de las herramientas informáticas que puedan atentar contra los derechos fundamentales de las personas trabajadoras, y que las empresas deberán respetar a la hora de poner en marcha algoritmos laborales. Desde las organizaciones sindicales se considera imprescindible promulgar esta regulación a la mayor brevedad ante la proliferación de despidos realizados por algoritmos.
Respecto a la temática que estamos abordando en esta entrada del Blog, la “Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión [COM(2021) 206 final – 2021/106 (COD)]” recoge la consideración en el punto 36 del alto riesgo de los sistemas de IA que se utilizan en la gestión de los trabajadores, haciendo una mención específica a la “rescisión de contratos”, dado que pueden afectar de un modo considerable a las futuras perspectivas laborales y los medios de subsistencia de dichas personas.
En esta línea, el art. 6 de dicha propuesta de Reglamento que regula las reglas de clasificación para los sistemas de IA de alto riesgo, remite en su apartado 2º a los sistemas de alto riesgo que figuran en el Anexo III. El punto 4 del citado anexo considera de alto riesgo expresamente en el ámbito del empleo, gestión de trabajadores y acceso al autoempleo, los siguientes:
- sistemas de IA destinados a utilizarse para la contratación o selección de personas físicas, especialmente para anunciar puestos vacantes, clasificar y filtrar solicitudes o evaluar a candidatos en el transcurso de entrevistas o pruebas;
- IA destinada a utilizarse para tomar decisiones relativas a la promoción y resolución de relaciones contractuales de índole laboral, a la asignación de tareas y al seguimiento y evaluación del rendimiento y la conducta de las personas en el marco de dichas relaciones.
En definitiva, todo aquello que afecta a una relación laboral con anterioridad al momento de acceso al empleo y hasta la finalización de la relación contractual. Cuestiones que abordarán con mayor detenimiento los ponentes del Panel de ponencias II: “La metamorfosis de la organización del trabajo en la era digital y gestión analítica de personas (ARH). Visión europea” de nuestro Congreso Internacional.
De especial interés resulta la posición del Comité Económico y Social Europeo (CESE) al considerar que se debe ser más incisivo en determinados usos de la IA, pues además de manifestarse claramente el CESE a favor del derecho de información (en línea con el art. 64.4 d) del Estatuto delos Trabajadores), solicita que se garantice “la plena participación e información de los trabajadores y los interlocutores sociales en el proceso de toma de decisiones sobre el uso de la IA en el lugar de trabajo, así como sobre su desarrollo, adquisición y despliegue”. Recoge dicha petición ante la constancia de que el uso de sistemas de IA para el control, el seguimiento y la evaluación de trabajadores “plantea graves preocupaciones con respecto a sus derechos fundamentales a unas condiciones de trabajo equitativas y justas, así como a la información y consulta y a no ser despedidos sin causa justificada”[2].
Por ello, el CESE pide que la futura Ley de Inteligencia Artificial contemple que determinadas decisiones sigan correspondiendo a las personas, especialmente en ámbitos donde estas decisiones tengan un elemento moral e implicaciones jurídicas o repercusión social, entre ellos, en el ámbito de las relaciones laborales.
4.A modo de reflexión
El tratamiento masivo de datos a través de los big data y la inteligencia artificial como modo de automatizar decisiones de recursos humanos de las que antes se hacían responsables los propios directivos de las empresas es una realidad cada vez más consolidada.
La utilización de algoritmos para adoptar las decisiones más rentables para la empresa en una determinada materia, como es el caso de los despidos, conlleva una increíble automatización en las decisiones empresariales donde cada vez pierde más protagonismo la humanización en la gestión de los recursos humanos.
Pero no olvidemos que estas herramientas de inteligencia artificial deben preservar en todo momento, en línea con lo que se viene señalando desde instancias Europeas[3], los derechos de las personas. Se insiste así en que el algoritmo debe respetar la seguridad, la transparencia, y, especialmente, garantizar el conocimiento por parte de estas personas de lo que rige esa herramienta, permitiendo en todo momento la supervisión humana.
Y si bien no hay que poner en duda los numerosos beneficios económicos y sociales que pueden derivar de un uso adecuado de estas innovaciones tecnológicas al servicio empresarial, no se pueden obviar los riesgos que incorpora este abrumador desarrollo de mecanismos algorítmicos y digitales, pues no olvidemos que la gestión de las personas trabajadoras, como seres humanos, es algo más que big data y algoritmos. Y los métodos de cálculo matemáticos no incluyen en sus operaciones conceptos de integridad, ni empatía, ni son capaces de procesar realidades humanas tales como la enfermedad de una persona trabajadora o la necesidad de conciliar la vida laboral y familiar.
En
definitiva, la articulación práctica de estas posibilidades automatizadas
requiere, sin duda, la adopción de las debidas precauciones, estableciendo para
ello las condiciones de transparencia y los criterios de proporcionalidad
necesarios y libres de sesgos discriminatorios para no infringir el deber de
respeto de ciertos derechos fundamentales que debieran ser intrínsecos a los
protagonistas de las relaciones laborales.
[1] Véase un análisis de dicha Guía en una entrada anterior del Blog del profesor Cristóbal Molina Navarrete.
[2] Véase el análisis del profesor Eduardo Rojo Torrecilla de los Proyectos de Dictamen del Comité Económico y Social Europeo sobre la inteligencia artificial, en especial sobre su impacto en las relaciones de trabajo, así como su intervención en el Acto de Clausura del Congreso Internacional “De la sociedad digital a la sociedad del e-work decente”.
[3] De especial interés: COMITÉ ECONÓMICO Y SOCIAL EUROPEO: «Inteligencia artificial: anticipar su impacto en el trabajo para garantizar una transición justa», Dictamen de iniciativa (2018/C 440/01). DOUE de 6 de diciembre de 2018. https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52018IE1473&from=ES