En la era de la inteligencia artificial (IA), existe una falsa creencia que se ha arraigado en la sociedad: la idea de que los algoritmos son objetivos y neutrales. Sin embargo, como explica Lorena Fernández, en nuestro video Expert@ Directora de Comunicación Digital de la Universidad de Deusto, esta tecnología no es ni buena ni mala, pero jamás es neutra.
La IA se alimenta de grandes volúmenes de datos para establecer patrones y tomar decisiones, pero si estos datos están sesgados desde el origen, la IA no hará más que reproducir esos mismos sesgos. Este fenómeno se ha evidenciado con ejemplos tan contundentes como el caso de Amazon, donde un algoritmo de selección de personal penalizaba los parones en la carrera profesional, afectando principalmente a mujeres. El sistema también favorecía ciertos términos utilizados más por hombres que por mujeres en los currículos, replicando así las prácticas discriminatorias previas.
El problema no se limita a los datos. Los propios modelos de IA también pueden amplificar los sesgos. En el ámbito del reconocimiento facial, se ha demostrado que los sistemas tienen mayor precisión para reconocer rostros de hombres blancos, mientras que fallan con mujeres racializadas. Esto se debe a que las bases de datos utilizadas para entrenar a la IA están desproporcionadamente formadas por imágenes de hombres blancos. Investigadoras como Joy Buolamwini del MIT han evidenciado este problema, mostrando cómo la IA no reconocía su rostro hasta que se colocó una máscara blanca. La selección de los parámetros en los modelos de IA también incide en estos errores, ya que a menudo no se contemplan aspectos clave como la evolución de las facciones en personas en proceso de transición de género.
Corregir los sesgos de la IA requiere una intervención en múltiples niveles. La solución no pasa solo por diversificar los datos, sino también por replantear los modelos y, sobre todo, por incluir la perspectiva ética desde la fase de diseño. Como apunta Lorena Fernández, el control humano es esencial para evitar el «sesgo de automatización», es decir, la tendencia a delegar por completo la decisión a la máquina
Los efectos de la pandemia han cambiado el presente y el futuro de la sociedad. El comportamiento, la forma en Leer más
No tengo claro que mi marca necesite vender online, mi producto no se puede vender por internet, ¿una tienda online? Leer más
La pandemia ha hecho que la formación online, también llamada e-learning, haya sufrido un “boom” considerable en los últimos meses. Leer más
Parece lejano el tiempo en el que nos reuníamos en las empresas presencialmente todas las semanas, o visitabamos algún cliente, Leer más
