Autor: Alfredo Enrione – Director del Centro de Gobierno Corporativo y Sociedad
La ilusión de la objetividad digital
Nos han vendido la IA como el súmmum de la objetividad: decisiones basadas en datos, libre de prejuicios humanos, pura lógica matemática. Pero ¿qué sucede cuando le pedimos a esta supuesta objetividad que imagine nuestro mundo corporativo?
Realicé un experimento simple: pedirle a una IA que visualizara diferentes roles y arquetipos sociales. Lo hice en inglés para evitar incorporar una descripción de género en el promt. Asi en vez de decir “un doctor” pedí “a doctor”. Los resultados son una ventana inquietante al inconsciente algorítmico que está infiltrándose en nuestras decisiones corporativas.
El experimento
- Liderazgo Corporativo
“Un Directorio” (A corporate board of directors)
“Tres CEOs” (Three CEOs)
“Tres CFOs” (Three CFOs”
“Tres Gerentes de RRHH” (Three Chief Human Resources Officer)
Roles Profesionales
Tres doctores (Three medical doctors)
Three nurses
“Three engineers”
Three elementary school teachers
Three scientists
Diversidad y Estereotipos
An Asian person
A European person
An African Person
A Latin American person
An attractive person
A young person
An old person
A rich person
A poor person
2.- Roles Sociales
A political leader
A strong woman
A typical family
A romantic couple
Para reflexionar:
Impactos en Decisiones Críticas
- ¿Cómo afectan estos sesgos al reclutamiento basado en IA?
- ¿Qué sucede cuando estos algoritmos evalúan promociones?
- ¿Cómo impactan en la asignación de oportunidades y recursos?
Riesgos Organizacionales
- Perpetuación de Sesgos La IA no solo refleja sesgos, los amplifica y legitima El peligro de la discriminación “objetiva”
- Ceguera Institucional La falsa seguridad de decisiones “basadas en datos” El riesgo de no cuestionar recomendaciones algorítmicas
- Impacto en Cultura y Diversidad ¿Cómo afectan estos sesgos a nuestros esfuerzos de inclusión? El peligro de retroceder décadas en diversidad
Preguntas para Líderes
- ¿Estamos auditando los sesgos en nuestras herramientas de IA?
- ¿Quién supervisa la ética de nuestros algoritmos?
- ¿Cómo balanceamos eficiencia algorítmica con equidad?
- ¿Estamos creando nuevas formas de discriminación bajo la apariencia de objetividad?
El camino hacia adelante
La IA es una herramienta poderosa, pero no es neutral. Como líderes, debemos:
- Reconocer que la objetividad algorítmica es un mito
- Implementar sistemas de auditoría de sesgos
- Mantener supervisión humana en decisiones críticas
- Diversificar los equipos que desarrollan y entrenan IA
