Los sistemas inteligentes representan un riesgo para la igualdad racial y de género. Para evitarlos, las empresas deben resolver problemas internos enfocados a lograr una mayor igualdad.
El sector de la inteligencia artificial (IA) enfrenta una crisis en el tema de género y raza, así lo sugiere el reporte “Discriminating Systems: Gender, Race, and Power in AI” publicado por el AI Now Institute de la Universidad de Nueva York.
De acuerdo a los hallazgos, sólo el 18% de los autores que participan en las conferencias de IA son mujeres y más del 80% de los profesores son hombres. En empresas tecnológicas, en relación a los investigadores que las conforman, las féminas sólo representan el 15% en Facebook y el 10% en Google. Sin embargo, la problemática se acentúa en las minorías de color, donde el 2.5% de la fuerza laboral en la compañía de Mountain View es de tez oscura, mientras que en Facebook y Microsoft sólo representan el 4%. Sobre otros grupos minoritarios, como los transexuales, ni siquiera hay estadísticas.
“Hay una intersección entre fuerzas laborales discriminatorias y tecnología discriminatoria”, comentó Sarah Myers West, investigadora posdoctoral en AI Now y una de las autoras del informe, de acuerdo con The Mercury News. Además, agregó que se requiere de un mayor nivel de transparencia en torno a la inteligencia artificial, pues se encuentra oscurecida por secretos comerciales.
Los realizadores del estudio recomiendan cambios que desde hace tiempo se les han sugerido a las compañías tecnológicas: mejorar los salarios y combatir la desigualdad por raza y género, además de proveer mayor transparencia en las prácticas de contratación, así como integrar a más miembros de grupos con baja representación en posiciones de liderazgo.
“Los métodos existentes han fallado en combatir la distribución inequitativa del poder”, precisó Kate Crawford, cofundadora y codirectora de AI Now. La también investigadora en Microsoft Research, añadió que solucionar la estructura interna (en empresas tech), no resuelve el problema de la diversidad en inteligencia artificial porque se ignoran asuntos más profundos.
Entre los aspectos de raíz en los que se tiene que trabajar se encuentran la cultural laboral, acoso, prácticas de contratación excluyentes y la ‘tokenization’ (proceso de sustituir datos sensibles con símbolos de identificación únicos), la cual puede ocasionar que los colaboradores se vayan de la empresa o eviten la interacción con la inteligencia artificial.
El uso de los sistemas de IA para clasificar, detectar y predecir tanto raza como género, requiere de una reevaluación, pues en la actualidad se prestan para el abuso. Hay herramientas que se basan en la apariencia física para determinar el carácter o estado interior de una persona; que pueden determinar la orientación sexual mediante el análisis de rostro; o incluso predecir el nivel de ‘criminalidad’ de un individuo según su aspecto facial.
Lo anterior provoca que se repliquen los patrones tendenciosos que profundicen la problemática y justifiquen la inequidad.
“La crisis de diversidad en la IA está bien documentada y tiene amplio alcance. Se puede ver en lugares de trabajo donde hay desigualdad tanto en la industria como en la academia, en la disparidad y promoción. De igual manera, en las tecnologías que reflejan y amplifican el sesgo en estereotipos, y el resurgimiento del determinismo biológico en los sistemas automatizados”, concluye el estudio.
Te puede interesar también:
