El impacto del racismo en los algoritmos y su influencia en la toma de decisiones cotidianas es un tema de creciente relevancia. La percepción de la ciencia y la tecnología como entidades objetivas a menudo oculta la presencia de sesgos raciales arraigados en estas herramientas.
En un artículo publicado por el portal Coolhunter “Tecnología y discriminación, racismo en los algoritmos” habla de este problema que lleva varios años siendo parte de los sistemas de información, destacando casos documentados de discriminación racista en algoritmos utilizados por compañías grandes. Algunos casos de ejemplo por mencionar que Países Bajos ha estado usando algoritmos con sesgos racistas en la evaluación de solicitantes de visados, lo que pone de manifiesto la magnitud del problema grave a nivel global [Ir al articulo].
La inteligencia artificial, cada vez más utilizada en decisiones trascendentales, desde sistemas de identificación facial hasta la aprobación de préstamos, refleja y perpetúa los sesgos raciales que han sido parte de la historia. La historia del algoritmo y su relación con la inteligencia artificial revela que, si bien la Inteligencia Artificial no es intrínsecamente racista, puede producir resultados que reflejan prejuicios presentes en los datos que procesa y esto se debe a las fuentes de información que los alimentan [Ir al articulo].
Además, algoritmos utilizados en el sistema de salud de EE. UU. han sido objeto de críticas por generar y amplificar todos estos prejuicios raciales que se han perpetuado. Se ha demostrado que algunos de éstos predicen incorrectamente un mayor riesgo de reincidencia para los acusados negros, quiere decir que esto pone de manifiesto consecuencias con impacto real en la vida de las personas [Ir al articulo].
Los algoritmos pueden estar sesgados de manera inconsciente, lo que al mismo tiempo es un comportamiento reflejo de discriminación, prejuicio de las personas en los resultados y toma de decisiones. Un ejemplo de esto es el citado caso para visado en los Países Bajos como mostró esos resultados. De compañías grandes por mencionar, se han documentado casos de discriminación racista en algoritmos utilizados por Twitter, Google, YouTube y otras [Ir al articulo]
La conciencia sobre esta realidad es importante porque los algoritmos influyen de manera directa en la toma de decisiones que afecta a individuos y comunidades. Generar un diálogo significativo en torno a los sesgos raciales en las nuevas herramientas es esencial para generar conciencia, reflexión y tomar acción. ¿Cómo abordarlos? ¿Qué se puede hacer para mitigar el impacto del racismo en tecnología? Este es el tipo de pregunta que queda sobre la mesa y merece un más de atención para ser discutidas en diferentes escenarios que la vida en medio de esta revolución industrial 4.0 está demandando.
📨Si querés invitarme a algún espacio para conversar sobre éste y otros temas, podés escribir pa organizar ese espacio.
Víctor
