Un avance condicionado: alerta la ONU por sesgo de género provocado por IA

La inteligencia artificial no es neutral. De acuerdo a un estudio reciente de la ONU, los sesgos de género que existen en la sociedad pueden replicarse y amplificarse a través de la IA, ampliando una brecha cada vez mayor entre hombres y mujeres.

Zinnya del Villar, especialista en IA responsable, explicó que cuando los algoritmos se entrenan con datos que reflejan desigualdades históricas —como asociar a los hombres con liderazgo o ciencia y a las mujeres con tareas de cuidado—, las decisiones de la IA favorecen a los hombres y limitan oportunidades para las mujeres. Esto puede afectar desde procesos de contratación hasta diagnósticos médicos o el acceso a créditos.

El uso del internet por parte de las mujeres ha incrementado año con año de forma gradual, al menos en países de altos ingresos, contando con la actividad entre hombres y mujeres es equilibrado, a diferencia de países de bajos recursos, ya que el acceso a internet está directamente restringido para ellas, provocando un déficit de datos, lo cual contribuye al sesgo de género en la IA.

Del Villar explicó que los sistemas de IA cuentan con la capacidad de albergar grandes volúmenes de datos. Sin embargo, cuando esos datos contienen estereotipos —por ejemplo, asociar a los hombres con profesiones científicas y a las mujeres con labores domésticas o de crianza—, los algoritmos pueden tomar decisiones discriminatorias, reflejando críticamente los prejuicios que existen socialmente. Esto puede afectar procesos de contratación, otorgamiento de créditos e incluso diagnósticos médicos, condicionando sus derechos y restringiendo su desarrollo personal y profesional.

¿Los sesgos de la IA pueden desencadenar consecuencias en la vida real?

Lejos de ser solo teóricos, estos sesgos algorítmicos perpetúan, amplifican e incluso automatizan desigualdades y discriminaciones preexistentes en la sociedad. En el sector de salud y bienestar, las herramientas de diagnóstico médico pueden estar sesgadas, lo cual deriva en diagnósticos incorrectos o planes de tratamiento subóptimos para ciertos grupos, lo que exacerba las disparidades en la salud.

“En áreas fundamentales como la salud, la IA puede enfocarse en los síntomas de los hombres, lo que puede causar diagnósticos erróneos o tratamientos inadecuados para las mujeres”, revela Del Villar. “Al emplear voces femeninas, los asistentes de voz refuerzan el estereotipo de que las mujeres están más capacitadas para llevar a cabo funciones de servicio; y los modelos lingüísticos de GPT y BERT a menudo asocian los empleos en ‘enfermería’ con mujeres y ‘ciencia’ con hombres”.

Trabajo, sistema y conflicto profesional

Un informe del Foro Económico Mundial, las mujeres constituyen sólo el 29 por ciento de la fuerza laboral en el mundo de la ciencia, la tecnología, la ingeniería y las matemáticas. Sin embargo, se estima que las mujeres constituyen aproximadamente el 40% del empleo total a nivel global, lo cual se refleja en la posibilidad de alcanzar una titulación y acceso a trabajos a pesar de este desarrollo persiste la brecha laboral al no lograr la ocupación de puestos directivos.

Entre los casos documentados, del Villar destacó que en 2018 la empresa multinacional Amazon dejó de usar una herramienta de reclutamiento basada en IA porque favorecía currículums de hombres. Asimismo, algunos sistemas de reconocimiento facial presentan mayores fallas al identificar a mujeres, especialmente mujeres racializadas. Esto contribuye a la “doble discriminación” por motivo de género y racial.

Cabe destacar que con el “Panorama de género 2025”, se destacó que ante el desarrollo de la tecnología podría continuar la brecha de género, advirtiendo que si las tendencias continúan, llegaremos a 2030 con 351 millones de mujeres y niñas en condiciones de pobreza extrema, y los Objetivos de Desarrollo Sostenible (ODS) —incluido el ODS 5, sobre igualdad de género y empoderamiento de las mujeres y niñas— podrían no alcanzarse.

¿La IA podría ayudar a la identificación de sesgos de género?

Aunque la IA puede producir sesgos de género, también cuenta con un gran potencial para identificar y atender las desigualdades de género en muchos sectores. Además de auditar conjuntos de datos de entrenamiento y modelos existentes para la detección de un sistema de contratación capaz de utilizar el Procesamiento del Lenguaje Natural (NLP), permitiendo el análisis de textos (ofertas de empleo, documentos, correos) para detectar lenguaje de género codificado, estereotipos tradicionales o asociaciones sexistas.

Del Villar remarcó que la IA también puede convertirse en una aliada para la igualdad, ya que permite mejorar el acceso al crédito para mujeres emprendedoras y desarrollar herramientas para combatir la violencia digital.

“La IA puede usarse para reducir o perpetuar desigualdades”, afirmó Del Villar.

Por último, insistió en que el desarrollo tecnológico debe ir acompañado de principios éticos y perspectiva de género.