Inteligencia artificial aplicada a la selección de personal

Trabajo de investigación presentado por el alumno Facundo Martínez en el contexto de la asignatura "Inteligencia Artificial y Derecho", dictada por la Dra. Cecilia Celeste Danesi en la Facultad de Derecho y Ciencias Sociales de la Universidad de Buenos Aires.


· Introducción

La tecnología poco a poco va introduciéndose en todos los aspectos de la vida cotidiana, y parecieran ser cada vez menos los lugares los cuales aún no logra alcanzar. Las empresas encontraron en la Inteligencia Artificial una alternativa interesante a la hora de buscar candidatos para ocupar sus puestos de trabajo. Sistemas que emulan las tareas que antes estaban a cargo de humanos, y que toman decisiones en tiempo récord. En este trabajo vamos a analizar cuáles son los aspectos positivos y negativos de estos sistemas, cómo confrontan con el escalón más alto del ordenamiento jurídico argentino, y cuales serían interesantes herramientas para encontrar un rendimiento aún más eficiente y adecuado.


· IA en la selección de personal – Descripción de su funcionamiento

Una de las tantas facetas en las cuales se ha entrometido la Inteligencia Artificial es la del proceso de selección de personal en las empresas o en los negocios. Se trata de sistemas que vienen a desarrollar una actividad que originariamente le correspondía a personas estudiosas de los Recursos Humanos.

Las principales finalidades que este sistema pretende alcanzar son: Seleccionar al mejor candidato dentro de los disponibles y hacerlo de forma rápida y eficiente.

El sistema en sí, funciona a partir de lo que se denomina reclutamiento predictivo, donde a partir de los algoritmos utilizados, se busca dar con el candidato “ideal” para la empresa o compañía utilizadora del sistema.

El sistema, a partir de la posición que el empleador busca cubrir, lleva adelante automáticamente un análisis que busca satisfacer los atributos requeridos. También realiza otras funciones, cómo analizar el historial de contrataciones de la compañía, y comparar el Curriculum Vitae en análisis con los anteriormente aceptados.

Una vez finalizado este análisis, el sistema se ocupa por sí mismo de seleccionar a los candidatos que considera adecuados, y posteriormente los pone en contacto con los reclutadores para que ellos determinen como continúa el proceso.[1] Cabe aclarar que estos sistemas, aún no contratan por sí mismos, sino que sirven como un primer filtro.


· Beneficios del sistema

Todas las compañías a la hora de tomar decisiones deben tener en cuenta un factor fundamental respecto de ellas: el beneficio que puedan generar. Sin dudas que la utilización de sistemas de este tipo presenta diversos beneficios que serán analizados a continuación: [2]

a) Reducción de tiempos de selección: A través de los algoritmos utilizados, estos sistemas pueden agilizar la selección y permitir a la empresa contar con el empleado adecuado de forma temprana.

b) Identificación de candidatos pasivos: Estos sistemas interactúan con una gran cantidad de datos, y pueden relacionarse con todas las bases de empleo, cómo por ejemplo, portales de universidades. Esto abre la posibilidad de identificar a “candidatos pasivos”, es decir, todos aquellos que no se encuentran activamente buscando empleo.

c) Elaboración de perfiles a gusto de la empresa: La empresa poseedora de este sistema, tiene la posibilidad de establecer diversos parámetros a los cuales los candidatos deben adaptarse para poder traspasar el primer filtro de selección.

d) Recomendación de otros empleados de la empresa: Nuevamente, la cantidad de información que trabaja este sistema, permite que se analicen los perfiles ya existentes y trabajando dentro de la compañía, y se pueda localizar a aquellos que se adecuan a la búsqueda.

e) Publicidad enfocada: Es la capacidad para poder seducir a los potenciales postulantes a partir de publicidad en sitios a los cuales generalmente recurren.

f) Gamificación: Analiza las habilidades cognitivas y emocionales de los candidatos, como la resolución de problemas, el trabajo en equipo, la perseverancia, la retroalimentación, y demás. Esto se realiza a partir de funciones adicionales que estos sistemas poseen, como por ejemplo, programas de resolución de conflictos online.

g) Evaluación electrónica: Permite enviar pruebas de personalidad a los candidatos para identificar sus habilidades sociales y establecer perfiles precisos.

h) Verificación de diplomas: Algunos de los sistemas de este carácter, tienen la capacidad para verificar la validez de los títulos o diplomas que los postulantes dicen tener.


· Perjuicios y complicaciones del sistema

El gran problema que presentan estos sistemas son los denominados “sesgos”. Los sesgos son por definición, aquellas elecciones desproporcionadas a favor o en contra de una cosa, persona o grupo en comparación con otra, generalmente de una manera que se considera injusta. Estos están totalmente relacionados con los datos que el sistema recibió como información inicial, y con los que va recopilando con el paso del tiempo. Como mencionaremos en el próximo título, en el caso Amazon, el sistema prefiere a los candidatos de género masculino por sobre los de género femenino. A partir del Machine Learning (aprendizaje de las máquinas), el sistema considera que como la mayoría de los empleados cuyos datos fueron cargados son hombres, el género masculino es un factor elemental a la hora de contratar, es decir, se adecua en mayor medida a los requerimientos de la compañía.

Misma complicación podría presentarse con otros criterios, así como los de raza, color, religión y demás.

Existen muchos tipos de sesgos, pero podemos concluir en que todos ellos pueden ser comprendidos dentro de 3 categorías: El estadístico, el cultural y el cognitivo. [3]

El estadístico corresponde a la forma en la que se obtienen los datos. Las dificultades se presentan a partir de errores de medida. El sesgo cultural es aquel que deriva de la sociedad, del lenguaje o de todo lo que hemos aprendido a lo largo de la vida. Por último, el sesgo cognitivo es aquel que nos identifica y que depende de nuestra personalidad, gustos y miedos.

Esto hace concluir que los datos proporcionados y recopilados por los sistemas de Inteligencia Artificial ocupan un lugar de vital importancia. Es decir, frente a datos que presenten características sesgadas, probablemente obtengamos resultados como los de Amazon, mientras que frente a datos de mayor calidad y sin estas características, los resultados serán distintos y seguramente más aprovechables.


· El caso Amazon

El equipo de la compañía Amazon, trabajó desde el año 2014 en el desarrollo de un sistema de Inteligencia Artificial con las características mencionadas en el presente trabajo. El objetivo de la compañía era poder mecanizar el proceso de selección de los candidatos.

Uno de los motivos por los cuales Amazon es una de las empresas más exitosas del mundo, es seguramente la capacidad de resolver cuestiones de forma automática y eficiente. Lo mismo pretendía realizar con el proyecto en cuestión, teniendo en cuenta su gran cantidad de empleados (que alcanzaban los 575.700 para el año 2015) y el gran costo (temporal y dinerario) que implica el proceso de selección.

Según sus desarrolladores[4], este consistía en un sistema de puntuación donde Amazon puntuaba (así como los consumidores puntúan los productos que navegan por su sitio) a todos aquellos aplicantes, variando la puntuación de 1 a 5 estrellas, donde 5 significaba que el aplicante coincidía en gran medida con el perfil buscado y la posición a ocupar.

Sin embargo, para el año 2015 Amazon decidió abandonar dicho proyecto. El problema consistía en que se visualizaban sesgos que no permitían al sistema ser neutral en la selección del personal. Específicamente, el sistema tendía a querer contratar a personas de género masculino. El sistema y la compañía sufrieron grandes criticas respecto de su compromiso y responsabilidad para con la sociedad.

Para el año 2017, Amazon decidió disolver el equipo que desarrolló el proyecto, declarando que se encontraba comprometida con los valores de igualdad y diversidad en el lugar de trabajo.


· Confrontación con la Constitución Nacional Argentina

Desde un enfoque jurídico, podemos pensar en que todas las decisiones que tomen los sistemas de Inteligencia Artificial pueden proporcionar consecuencias en el mundo real, y algunas de ellas pueden resultar dañosas para determinadas personas. No sólo una persona puede ver afectada su moral o psiquis a partir de la utilización de estos sistemas, sino que también, puede perder o no acceder al trabajo que desea a partir de lo que estos sistemas sesgados injustamente resuelvan.

En este título, vamos a analizar a la Inteligencia Artificial en los procesos de selección de personal, y cómo confronta con el articulado de la Constitución Nacional Argentina.

El artículo 16 recepta “La Nación Argentina no admite prerrogativas de sangre, ni de nacimiento: no hay en ella fueros personales ni títulos de nobleza. Todos sus habitantes son iguales ante la ley, y admisibles en los empleos sin otra condición que la idoneidad. La igualdad es la base del impuesto y de las cargas públicas.”

Este artículo es el que más aplicable resulta al funcionamiento de los sistemas de Inteligencia Artificial en la selección de personal. Hemos mencionado ejemplos en los cuales la idoneidad no fue la única condición por la cual se aceptó o rechazó a un candidato, sino que se tomaron en cuenta otras características que a la luz de la literalidad de la norma, resultan de interpretación inconstitucional.

Por su lado, el artículo 75 en su inciso 23 recepta “Corresponde al Congreso: Legislar y promover medidas de acción positiva que garanticen la igualdad real de oportunidades y de trato, y el pleno goce y ejercicio de los derechos reconocidos por esta Constitución y por los tratados internacionales vigentes sobre derechos humanos, en particular respecto de los niños, las mujeres, los ancianos y las personas con discapacidad.”

Estas disposiciones corresponden a un grupo llamado “acciones afirmativas” o de “discriminación inversa” que tienen por finalidad llevar a un grupo afectado a un plano de igualdad.[5] Este artículo también nos hace pensar, que es el Poder Legislativo quien debería comenzar a legislar con el fin de evitar que cuando los sistemas de Inteligencia Artificial se introduzcan de lleno en las empresas del país, realicen conductas ilegales.

Por último, agregamos un fragmento del Convenio sobre la Discriminación (Empleo y Ocupación) de la Organización Internacional del Trabajo, del cual el estado argentino es parte, en el cual se hace una descripción sobre que se entiende por discriminación en el marco del Convenio: “Cualquier distinción, exclusión o preferencia basada en motivos de raza, color, sexo, religión, opinión política, ascendencia nacional u origen social que tenga por efecto anular o alterar la igualdad de oportunidades o de trato en el empleo y la ocupación.”

También, menciona que “las distinciones, exclusiones o preferencias basadas en las calificaciones exigidas para un empleo determinado no serán consideradas como discriminación.”. Es concordante con el artículo 16 de nuestra Carta Magna, ratificando que la idoneidad debe ser el único factor condicionante.


· Propuestas para mejorar su funcionamiento

A la hora de introducir propuestas para mejorar el funcionamiento de los sistemas que estamos analizando, sin dudas tenemos que enfocarnos en las mejores alternativas para lidiar con los sesgos.

Una cuestión importante, es prestar vital atención a la información que los sistemas recopilan. Los sesgos pueden generarse porque la información recopilada no es representativa de la realidad, o porque reflejan prejuicios existentes en la sociedad. Una buena solución sería recolectar una muestra, analizarla, y determinar que datos se deben recoger en una mayor medida, y que datos deben rechazarse.[6] Sería positivo que en dicho análisis participe una comisión interdisciplinaria, para que las decisiones que se tomen sean respaldadas por visiones heterogéneas.

Otra alternativa es programar al sistema para que tenga prioridad por determinados atributos. En el caso de los sistemas que estamos analizando, entendemos que los estudios, conocimientos y experiencias del candidato, sin dudas tienen un rol primordial, mientras que otros atributos como el género, raza, o religión, no lo tienen.

Por último, entendemos que la utilización del “filtrado colaborativo[7] podría mejorar notablemente la calidad de estos sistemas. Este corresponde a agregar a la base de datos del sistema, información correspondiente a personas con diferentes visiones, ideologías, gustos e intereses. Esto permitiría que el sistema se nutra de otras alternativas con las cuales tal vez, la información previamente cargada no contaba.


· Conclusión

Todas las propuestas mencionadas en el título anterior parecen ser dirigidas a la etapa en la cual dichos sistemas se crean o desarrollan. A modo de conclusión, entiendo que sería interesante comenzar a reflexionar sobre el rol que podría cumplir el estado con relación a la Inteligencia Artificial, es decir, si deberá o no intervenir preventiva o punitivamente para evitar que dichos sistemas provoquen daños, o sancionar (y a qué sujeto) en caso de que los produzcan. También se deberá analizar que exigencias deberán (o no) cumplir los desarrolladores o a quienes los utilicen.

La Unión Europea, ya publicó en Febrero de 2020, el “Libro Blanco sobre la Inteligencia Artificial - un enfoque europeo orientado a la excelencia y la confianza”. Un capítulo del presente hace mención especial al marco regulador de la Inteligencia Artificial, donde se abordan temas cómo datos, sesgos, supervisión humana, solidez y previsibilidad, entre otros.

Cabe destacar que -aún- es solo un documento no vinculante, pero se espera la redacción de legislación en concordancia con éste para finales de 2020.

Por lo tanto, entiendo que esta tendencia se va a expandir mundialmente, y los legisladores argentinos van a tener que estar preparados para poder debatir sobre esta cuestión en el futuro cercano. Personalmente, considero que sería muy importante la colaboración público – privada, teniendo en cuenta que en nuestro país funcionan empresas lideres mundiales en materia tecnológica, y podrían ser grandes actores a la hora de discutir sobre esta temática.


· Bibliografía


[1]Cuarental, Enrique. 24/10/2019. La inteligencia Artificial, una oportunidad única para los profesionales de selección de personal. RRHH Digital. Recuperado de: http://www.rrhhdigital.com/editorial/138829/La-Inteligencia-Artificial-una-oportunidad-unica-para-los-profesionales-de-seleccion-de-personal-1/4


2 Jeffrey Dastin. 14/10/2018. Amazon abandona un proyecto de IA para la contratación por su sesgo sexista. Thompson Reuters. Recuperado de: https://es.reuters.com/article/technology/idESKCN1MO0M4


3 Carrasco, Luisa. 11/10/2019. Cómo se utiliza la Inteligencia Artificial en los procesos de selección. HRTrends. Recuperado de: empresas.infoempleo.com/hrtrends/como-se-utiliza-la-inteligencia-artificial-en-los-procesos-de-selección


4 Ricardo Baeza-Yates y Karma Peiró. 15/07/2019. ¿Es posible acabar con los sesgos de los algoritmos? Baeza. Recuperado de: www.baeza.cl/bias/sesgos-algoritmos.html


5 Gelli María Angélica, 2004. Constitución de la Nación Argentina, Comentada y Concordada. Buenos Aires, Argentina. Editorial La Ley




[1]Cuarental, Enrique. 24/10/2019. La inteligencia Artificial, una oportunidad única para los profesionales de selección de personal. RRHH Digital. Recuperado de: http://www.rrhhdigital.com/editorial/138829/La-Inteligencia-Artificial-una-oportunidad-unica-para-los-profesionales-de-seleccion-de-personal-1/4 [2] Carrasco, Luisa. 11/10/2019. Cómo se utiliza la Inteligencia Artificial en los procesos de selección. HRTrends. Recuperado de: empresas.infoempleo.com/hrtrends/como-se-utiliza-la-inteligencia-artificial-en-los-procesos-de-seleccion [3] Ricardo Baeza-Yates y Karma Peiró. 15/07/2019. ¿Es posible acabar con los sesgos de los algoritmos? Baeza. Recuperado de: www.baeza.cl/bias/sesgos-algoritmos.html [4] Jeffrey Dastin. 14/10/2018. Amazon abandona un proyecto de IA para la contratación por su sesgo sexista. Thompson Reuters. Recuperado de: https://es.reuters.com/article/technology/idESKCN1MO0M4 [5] Gelli María Angélica, 2004. Constitución de la Nación Argentina, Comentada y Concordada. Buenos Aires, Argentina. Editorial La Ley [6] Ricardo Baeza-Yates y Karma Peiró. 15/07/2019. ¿Es posible acabar con los sesgos de los algoritmos? Baeza. Recuperado de: www.baeza.cl/bias/sesgos-algoritmos.html [7] Ricardo Baeza-Yates y Karma Peiró. 15/07/2019. ¿Es posible acabar con los sesgos de los algoritmos? Baeza. Recuperado de: www.baeza.cl/bias/sesgos-algoritmos.html

ENTED

Exploratorio de Nuevas Tecnologías, Educación y Derecho

Contáctanos
  • Facebook Basic Black
  • Twitter Basic Black
  • Instagram Basic Black

© 2019 por ENTED.