Los sesgos del algoritmo
15 mayo, 2026
Essity y Fundación Mujeres celebran 6 años de colaboración con un encuentro de mujeres
20 mayo, 2026
Los grandes modelos de lenguaje (LLM en sus siglas en inglés) sonsistemas de Inteligencia Artificial de aprendizaje profundo (Deep learning) entrenados con grandes cantidades de datos para analizar, resumir, generar y predecir texto con un lenguaje similar al humano.
¿Dónde los encontramos?
Los modelos de lenguaje son un pilar fundamental de la IA generativa. Su principal objetivo es facilitar la comunicación entre las personas y las máquinas a través de:
- Generación de contenido. Escritura de artículos, correos, guiones, etc.
- Resumen de información. Extracción de los puntos clave de documentos largos para facilitar su lectura.
- Programación. Generación y depuración de código de sofware, eliminando errores y creando líneas más eficientes.
- Traducción. Conversión de texto entre multiples idiomas.
¿Son infalibles?
La respuesta es clara: no. Aunque se les puede atribuir lo que en el lenguaje humano sería cierta «coherencia», no razonan como las personas y, por tanto, pueden cometer errores o inventar información.
Estos son algunos de los principales fallos que pueden presentar:
- Alucinaciones y falsedades. Se denomina así cuando los LLM generan información incorrecta o, incluso, falsa o inventada.
- Falta de comprensión. A pesar de que estos modelos de lenguaje están diseñados para facilitar la comunicación con las máquinas, funcionan basándose en modelos probabilísticos y patrones, no tienen un razonamiento lógico real que les proporcione un conocimiento del mundo.
- Conocimiento limitado en el tiempo. Están alimentados por multitud de datos, pero es casi imposible que estén siempre al tanto de los eventos más recientes.
- Sesgos y estereotipos. Estos modelos amplifican prejuicios existentes en la información que les sirve como «alimento». Así, sus respuestas pueden ser en ocasiones sesgadas y discriminatorias.
¿Cuál es el papel de las mujeres en este campo?
Como se puede observar, los LLM necesitan no solamente de una vigilancia por sus posibles errores, sino de diversidad de personas en su creación y desarrollo para poder focalizar en los origenes de estos errores.
En este sentido es imprescindible reconocer el papel de las mujeres referentes en este ámbito:
Anima Anandkumar. Directora de ML en NVIDIA, ha sido fundamental en el desarrollo de IA escalable y aprendizaje profundo.
Yejin Choi. Investigadora del Allen Institute for AI, es un referente mundial en cuanto a la dotación de los modelos de lenguaje de «sentido común». El razonamiento moral y la comprensión lógica más alla de la simple imitación de textos.
Margaret Mitchel. Científica jefe de ética en Hugging Face. Pionera en el desarrollo de IA responsable, transparencia y mitigación de prejuicios algorítmicos.
El papel de las mujeres escrucial para conseguir una sociedad más justa y avanzar hacia un #InternetSinEstereotipos.
Puedes acceder a la fuente original de la noticia en los siguientes enlaces:
Top 10 Women in Machine Learning
La campaña #InternetSinEstereotipos se enmarca en el proyecto Empoderamiento e Igualdad para el Empleo, financiado por el Ministerio de Derechos Sociales, Consumo y Agenda 2030.