Sesgos algorítmicos en selección de personal

La llegada de la inteligencia artificial ha transformado los procesos de reclutamiento en un método eficiente, sencillo y objetivo; sin embargo, la existencia de algunos sesgos algorítmicos en la selección de personal puede perpetuar algunas discriminaciones en la atracción de talento.

A continuación, te explicaremos qué son los sesgos algorítmicos, cómo funciona la IA en reclutamiento y algunos proyectos y leyes sobre tratamiento de datos. ¡Empecemos!

¿Qué son los sesgos algorítmicos en procesos de selección?

Los sesgos algorítmicos en procesos de selección ocurren cuando la inteligencia artificial produce resultados injustos o discriminatorios sobre ciertos grupos de candidatos; esto es una consecuencia de patrones aprendidos de datos históricos o diseños defectuosos.

Además, estos sesgos pueden generar una discriminación injusta, ya sea que se discrimine por género, edad, discapacidad u origen.

¿Cómo funciona la IA en reclutamiento?

La respuesta es simple, pues la inteligencia artificial se encarga de analizar perfiles, filtrar hojas de vida, predecir el desempeño a través de pruebas psicométricas y brindar respuestas a candidatos, mediante procesos de machine learning.

Lo que ayuda a optimizar tiempos y tareas administrativas al procesar grandes volúmenes de datos y permite que la toma de decisiones por parte de los reclutadores sea estratégica y se ajuste a lo que realmente necesita la organización.

¿Qué es un sesgo algorítmico?

Ahora bien, un sesgo algorítmico es un error sistemático que genera resultados injustos, favoreciendo o perjudicando a ciertos perfiles de candidatos, ya sea por sesgos en los datos o por el diseño del modelo.

Sin embargo, estos sesgos no son intencionales, pero replican prejuicios humanos o amplifican desigualdades estructurales, lo que puede incluir preferencias por algún tipo de perfil demográfico debido a datos históricos. A continuación te mostraremos algunos ejemplos de dichos sesgos algorítmicos.

Ejemplos de discriminación automatizada

Recordemos que la discriminación automatizada sucede cuando los algoritmos de inteligencia artificial toman decisiones que perjudican a ciertos grupos de personas. A continuación, te mostraremos algunos ejemplos de esta:

• El caso de Amazon: durante el 2014, la herramienta de selección de personal penalizaba las hojas de vida que tuvieran términos relacionados con mujeres, esto debido a que el modelo fue entrenado con datos de contrataciones históricas predominantemente masculinas.
• El caso de Optum y el sesgo racial: en el año 2019 se descubrió que un algoritmo utilizado en hospitales de Estados Unidos priorizaba a los pacientes blancos sobre los pacientes negros que estaban más enfermos.

Este sistema utilizaba el gasto sanitario previo para indicar la gravedad de la enfermedad; pero debido a las barreras socioeconómicas, los pacientes negros históricamente gastaban menos en salud, lo que hizo que el software determinara que no estaban tan enfermos como los otros pacientes.

¿Cómo puede la IA discriminar candidatos en Colombia?

En Colombia, si la inteligencia artificial aprende sesgos con datos históricos en procesos de contratación, algunos algoritmos pueden discriminar a los candidatos por género, edad o por ubicación. A continuación te explicaremos cada uno de ellos.

Sesgos por género

Algunos modelos entrenados pueden subvalorar los perfiles femeninos asociados a posiciones en el sector de tecnología, alta gerencia o ingeniería.

Pues al analizar las hojas de vida, el algoritmo puede penalizar las palabras clave que estén relacionadas con un perfil de mujer o restar puntuación si la empresa muestra una preferencia por contratar hombres.

Sesgos por edad

Algunos algoritmos de filtrado automático pueden descartar a candidatos que superen ciertos rangos de edad, ya sea porque tengan demasiada experiencia o no cuenten con la suficiente.

Además, este sistema asume de manera automática que las aspiraciones salariales serán altas o que no se podrán adaptar a la cultura digital.

Exclusión por ubicación o universidad

En Colombia, la profunda segregación socioeconómica y el prestigio por parte de las instituciones de educación superior se ven reflejados en los procesos de selección, pues los estratos socioeconómicos y el nombre de la universidad actúan como señales que el algoritmo puede aprender y replicar.

Lo que significa que, si un sistema se entrena con datos históricos donde predominan egresados de ciertas universidades, es muy probable que la inteligencia artificial favorezca este tipo de perfiles y descarte algunos candidatos talentosos.

Problemas en modelos entrenados con datos históricos

Los modelos de IA entrenados con datos históricos pueden reflejar sesgos, prejuicios y sufrir degradación cuando el mundo evoluciona. Es por esto que, cuando el algoritmo aprende sobre quién fue contratado y quién tuvo éxito en la empresa, absorbe de manera automática algunas decisiones discriminatorias que se tomaron en dicho periodo.

¿Qué dice la Ley 1581 sobre IA y tratamiento automatizado de datos?

La Ley 1581 de 2012 es el marco principal que regula la protección de datos personales en Colombia, regulando la recolección, almacenamiento y supervisión de datos personales por parte de entidades públicas y privadas, pues su objetivo principal es proteger la privacidad frente al tratamiento de datos autorizado.

Protección de datos personales

Así mismo, esta ley establece que el tratamiento de datos debe guiarse por la veracidad y la calidad, lo que determina que los datos analizados por una IA deben ser exactos y actualizados, pues si un algoritmo se basa en información errónea o fragmentada, la empresa estará violando el principio de calidad y el candidato se verá afectado.

Consentimiento y finalidad

El principio de libertad y tratamiento de datos solo se puede ejercer con autorización previa y expresa por parte del titular. Si una empresa utiliza herramientas de IA para evaluar a los candidatos, estos deben estar al tanto de que sus datos pasarán por un proceso de automatización.

Datos sensibles en selección

La Ley 1581 prohíbe el tratamiento de datos sensibles (que afectan la intimidad del titular o cuyo uso indebido puede generar discriminación), pues esto permite que los algoritmos descarten personas basándose en rasgos físicos o emocionales.

Riesgos de perfiles automatizados

La SIC hace énfasis en que la creación de perfiles mediante algoritmos automatizados sin supervisión humana es un riesgo alto en términos de vulneración de derechos, ya que se pueden crear sesgos invisibles.

Es por esto que las directrices regulatorias le exigen a las empresas mitigar los riesgos de discriminación en el diseño de sus herramientas tecnológicas, para evitar que la automatización anule las garantías de los postulantes.

Proyecto de Ley 91/23 y regulación de IA en reclutamiento

El proyecto de Ley 091 de 2023, mediante la cual se establece el deber de información para el uso responsable de la inteligencia artificial en Colombia, es una de las iniciativas más importantes a la hora de regular el uso de la IA en el país, centrándose en la transparencia y en el uso ético.

Objetivos del proyecto

• Promover el uso ético y responsable en todos los sectores, incluyendo el laboral.
• Garantizar la protección de los derechos frente a sistemas automatizados.
• Fomentar la innovación tecnológica sin sacrificar la equidad.
• Fortalecer la confianza de los ciudadanos en las nuevas tecnologías.

Restricciones al uso de IA en selección

Este proyecto de ley impone límites al uso de la inteligencia artificial en procesos de selección, prohibiendo prácticas que generen discriminación, exigiendo evaluación de riesgos y obligando a las empresas a implementar medidas que mitiguen los sesgos algorítmicos.

Transparencia y explicabilidad

De igual modo, uno de los pilares centrales de este proyecto es el deber de información; es por esto que las empresas deben informarles a los candidatos cuándo se utiliza IA en cada etapa de selección y explicar cómo funciona el sistema y los criterios para evaluar.

Derechos de los candidatos

A continuación te mostraremos los derechos de los candidatos frente a las decisiones automatizadas:

• Derecho a la información: el candidato tiene derecho a saber desde el primer momento que su perfil será evaluado por un sistema automatizado.
• Consentimiento explícito: el candidato tiene derecho a autorizar el procesamiento de su información mediante inteligencia artificial.
• Información humana: el candidato tiene derecho a que las decisiones laborales no se queden en manos de la inteligencia artificial, por lo que debe existir una revisión y validación humana, que permita corregir ciertos sesgos por parte del software.

Riesgos legales y reputacionales para empresas

Demandas por discriminación laboral

La IA sesgada expone a las empresas a demandas laborales por vulnerar el derecho constitucional a la igualdad y al trabajo. Esto puede pasar si un candidato logra demostrar que fue descartado por un criterio discriminatorio automatizado, como género, edad, lugar de residencia, etc.

Sanciones por protección de datos

La SIC puede imponer multas millonarias y ordenar el cierre temporal de las bases de datos si se demuestra un tratamiento ilegal de la información, como por ejemplo usar datos sensibles de forma indebida.

Riesgos reputacionales y employer branding

Un mal manejo de la IA puede acabar con la reputación de una organización, pues si una empresa utiliza algoritmos que discriminan a ciertos grupos, la reputación de la marca se destruirá y, además, alejará buenos talentos del mercado.

Auditorías regulatorias

Con el proyecto de ley 91/23, los ministerios pertinentes, como el MINTIC o el Ministerio de Trabajo, podrán realizar auditorías regulatorias a las herramientas de inteligencia artificial que se utilizan en el proceso de selección de personal para verificar el cumplimiento de la no discriminación, protección de datos, equidad y transparencia.

Supervisión humana de decisiones

Es crucial mantener la supervisión humana en todas las etapas del proceso de selección, pues esto permitirá que el reclutador revise las recomendaciones del software y revise los descartes automáticos, pues las decisiones siempre deben contar con un criterio humano ético.

Auditorías de algoritmos

Las organizaciones tienen la responsabilidad de realizar auditorías técnicas periódicas a sus modelos de inteligencia artificial; esto les permitirá evaluar si hay sesgos por edad, género, estrato socioeconómico, etc., hacer análisis de calidad y corregir fallos técnicos antes de que se conviertan en un problema legal.

Diversidad en datasets

La diversidad en datasets o conjuntos de datos hace referencia a la variedad de características o elementos presentes en un conjunto de datos; es por esto que, para que una IA tome decisiones justas, esta debe estar entrenada con datos equilibrados y representativos.

Transparencia frente a candidatos

La transparencia frente a candidatos es la manera en la que una organización informa el uso de tecnologías automatizadas en cada uno de sus procesos de selección. Esto permitirá garantizar un proceso justo y explicar de forma sencilla y detallada los criterios que evalúa el sistema.

Sin lugar a dudas, para evitar riesgos laborales y éticos, no hay nada mejor que contar con un software de reclutamiento y personal como el de Buk, que permita gestionar todos los procesos en un solo lugar, definiendo el perfil y automatizando cada etapa de selección según las necesidades de la empresa, garantizando que el criterio humano siempre sea el que tome la decisión final.

¿Y tú, qué estás esperando para seleccionar al mejor talento con respaldo de la inteligencia artificial? Comunícate con uno de nuestros asesores y agiliza la toma de decisiones. ¡Hazlo ahora!