Los sesgos del algoritmo

En la actualidad todas las personas nos vemos inmersas en el uso de internet e inteligencia artificial en nuestra vida cotidiana. La extensión y uso intensivo de estas tecnologías tiene un fuerte impacto social, haciendo necesaria una revisión crítica de su funcionamiento.

El sesgo algorítmico

Para hacer un análisis crítico desde la perspectiva de género es necesario conocer los siguientes conceptos:

Sesgo: podemos entender el sesgo como una inclinación o preferencia desproporcionada, ya sea a favor o en contra de una cosa, persona o grupo en comparación con otra, generalmente de una manera que se considera injusta, sistemática o no objetiva.

Algoritmo: los algoritmos se pueden definir como una lista de instrucciones detalladas que se han diseñado para realizar una tarea específica. Esta lista se desarrolla a través de un conjunto de operaciones de secuencias lógicas.

Machine learning: es una rama de la inteligencia artificial cuyo objetivo es el aprendizaje autónomo de las máquinas. A través del mismo se desarrollan algoritmos y modelos capaces de analizar un gran volumen de datos y aprender de sus patrones. Posteriormente, a través de este aprendizaje, realizan inferencias precisas sobre nuevos datos.

De esta forma, el sesgo algorítmico se produce cuando existen errores sistemáticos en el proceso de aprendizaje autónomo que producen resultados injustos o discriminatorios. Es decir, los sesgos ya existentes en la sociedad se reproducen o incluso refuerzan en este proceso.

¿Quién contagia los sesgos al algoritmo?

Codificar algoritmos es una tarea que no está exenta de una parte subjetiva. A pesar de que tengamos la impresión de que su contenido es en principio neutro, las personas transmiten de forma inconsciente prejuicios y estereotipos al lenguaje tecnológico. Aude Bernheim y Flora Vincent reflejan en su libro “Inteligencia artificial, ¡no sin ellas!” el origen de un algoritmo con prejuicios es multicausal. Se trata de una combinación de causas que ocurren en las diferentes etapas del diseño, y es lo que denominan “contagio sexista”.

Los equipos científicos suelen ser poco diversos. Esta composición afecta, por ejemplo, a los temas de investigación que se eligen o la manera en que se llevan a cabo las investigaciones.  La elección de unos datos y no otros, el estudio de determinados temas, la perspectiva aplicada, etc., “contagian” los sesgos a los algoritmos y los lenguajes digitales.

¿Qué efectos tienen estos sesgos en la vida de las mujeres?

Podemos ver ejemplos concretos de los efectos que tienen los sesgos de los algoritmos en la vida de las mujeres:

• Procesamiento del lenguaje natural y traducción. El lenguaje natural se refiere a la traslación de los datos al lenguaje que utilizamos las personas para comunicarnos. En la dirección opuesta, se trata también de la traducción del lenguaje humano para que las máquinas puedan procesarlo, interpretarlo y ser también capaces de generarlo. En este sentido podemos ver ejemplos en la traducción del género o en la asociación de profesiones. Herramientas como traductores o Chat GPT tienen a asociar el género masculino a profesiones como “el médico” o “el juez”, mientras que asocian el femenino con roles como “la enfermera” o “la secretaria”. Por su parte, cuando se traducen idiomas que utilizan el género neutro, también se identifica este error, asociando palabras como “inteligente o ejecutivo” a los hombres o rasgos como “emocional o sensible” a las mujeres.
• Asociación de imágenes. Los algoritmos alimentados de imágenes tienen a reproducir a las mujeres en entornos del hogar realizando tareas domésticas y a los hombres en ámbitos laborales y ejecutivos.
• Selección de personal. Estos estereotipos afectan en diferentes partes del proceso de selección. En la difusión de las vacantes, por ejemplo, la publicidad realizada en Facebook mostraba ofertas de trabajos con mayor retribución más frecuentemente a hombres. El en cribado de candidaturas podemos observar el ejemplo de Amazon, que penalizaba los currículums que incluían palabras clave como “mujeres”, favoreciendo mayoritariamente a los hombres. Este sesgo se debía a que esta IA fue “entrenada” con currículos de un sector masculinizado.

Vías de lucha contra los sesgos

Equipos diversos

Los equipos que desarrollen estos sistemas deben ser diversos, formados por personas de distintos géneros, razas y orígenes culturales y de clase. Así se garantizarán la inclusión de mayor número de puntos de vista, evitando “puntos ciegos” que produzcan sesgos.

Datos diversos

Igualmente, las fuentes de información de las que se “nutren” estos sistemas también deben ser diversas. Es necesario revisar que los datos a los que acceden representen la diversidad existente en la sociedad para eliminar sesgos históricos como son los debidos al género.

Este pequeño acercamiento a la comprensión de cómo funcionan los algoritmos y la IA es esencial para reconocer y prevenir sistemas sesgados.

Puedes acceder a la fuente original de la noticia en los siguientes enlaces:

“Hay que educar a los algoritmos”

Cómo la inteligencia artificial refuerza los sesgos de género y qué podemos hacer al respecto

¿Qué es el sesgo algorítmico?

¿Qué es el machine learning?

La campaña #InternetSinEstereotipos se enmarca en el proyecto Empoderamiento e Igualdad para el Empleo, financiado por el Ministerio de Derechos Sociales, Consumo y Agenda 2030.