La inteligencia artificial tiene el poder de contribuir fuertemente a una sociedad con mayor sesgo racial y exclusión a menos que se trabaje en evitarlo.
24/07/18 | Por Noticias TNE
Cada nueva tecnología trae consigo una enorme esperanza de transformar al mundo; sin embargo, también termina de una u otra manera afectando negativamente un aspecto de la sociedad. Por ejemplo, la llegada de los smartphones brindó una mayor conectividad, pero también incrementó la adicción a los dispositivos. En el caso de la inteligencia artificial (IA), a investigadores detrás de la tecnología les preocupa que pueda representar una amenaza para la sociedad al impactar negativamente a los pobres, los marginados y las personas de color.
“Cada vez que la humanidad atraviesa una nueva ola de innovación y transformación tecnológica, hay personas que salen afectadas, así como problemas tan grandes que generan conflictos geopolíticos”, dijo Fei Fei Li, director del Laboratorio de Inteligencia Artificial de Stanford, a CNN. “La IA no es la excepción”.
Gran parte de la IA se basa en el aprendizaje automático, en el que un sistema analiza cantidades masivas de datos a fin de tomar decisiones y reconocer patrones por sí mismo. Dicha información debe ser examinada con sumo cuidado para que no refleje o no contribuya a los sesgos existentes.
Sin embargo, ya hemos visto ejemplos de esto. Un estudio reciente realizado por el MIT Media Lab descubrió que los softwares de reconocimiento facial desarrollados por empresas como IBM y Microsoft tienen problemas para identificar a personas de color, sobre todo mujeres.
En otro caso, The Washington Post descubrió que hablar en un acento a menudo hace batallar a los dispositivos inteligentes como Alexa. Investigadores de la Universidad de Washington demostraron que un sistema de identificación de imágenes asociaba la cocina sólo con temas femeninos, incluso clasificando a un hombre parado frente a una estufa como mujer. Finalmente, una investigación de ProPublica reveló que programas automatizados usados para enjuiciar criminales daba mayores sentencias a los estadounidenses de color.
“Los sesgos que se heredan en nuestro propio lenguaje y en nuestra sociedad se están reflejando en estos algoritmos”, declaró Tess Posner, CEO de la firma AI4ALL que busca generar una inteligencia artificial libre de pensamientos preconcebidos.
Abordar este tema es de suma importancia, al momento en que el reconocimiento facial cobra más relevancia y ahora es adoptado para una gran variedad de situaciones, como dentro de fuerzas policiales para detectar criminales caminando por las calles, en la seguridad dentro de aeropuertos e incluso en los procesos de reclutamiento y selección de varias empresas.
Te puede interesar también:
“Reconocimiento facial es efectivo…sólo si eres hombre blanco”
“La inteligencia artificial podría comenzar una guerra: Elon Musk”
