El impacto del racismo en los algoritmos y su influencia en la toma de decisiones cotidianas es un tema de creciente relevancia. La percepción de la ciencia y la tecnología como entidades objetivas a menudo oculta la presencia de sesgos raciales arraigados en estas herramientas.
En un artículo publicado por el portal Coolhunter “Tecnología y discriminación, racismo en los algoritmos” habla de este problema que lleva años siendo parte de los sistemas de información desde hace años, destacando casos documentados de discriminación racista en algoritmos utilizados por compañías grandes. Entre algunos casos de ejemplo se puede mencionar que Países Bajos ha estado usando algoritmos con sesgos racistas en la evaluación de solicitantes de visados, lo que pone de manifiesto la magnitud del problema grave a nivel global [Ir al articulo].
La inteligencia artificial, cada vez más utilizada en decisiones trascendentales, desde sistemas de identificación facial hasta la aprobación de préstamos, refleja y perpetúa los sesgos raciales que han sido parte de nuestra historia. La historia del algoritmo y su relación con la inteligencia artificial revela que, si bien la IA no es intrínsecamente racista, puede producir resultados que reflejan los prejuicios presentes en los datos que procesa y esto se debe a las fuentes de información que los alimentan [Ir al articulo].
Además, los algoritmos utilizados en el sistema de salud de EE. UU. han sido objeto de críticas por generar y amplificar todos estos prejuicios raciales que se han perpetuado. Se ha demostrado que algunos de éstos predicen incorrectamente un mayor riesgo de reincidencia para los acusados negros, quiere decir que esto pone de manifiesto unas consecuencias con un impacto real en la vida de las personas [Ir al articulo].
Los algoritmos pueden estar sesgados de manera inconsciente, lo que puede al mismo comportamiento de discriminación y prejuicios en las personas reflejado en los resultados y toma de decisiones. Un ejemplo claro de ésto es el citado anteriormente para visado en los Países Bajos como mostró esos resultados. Entre compañías grandes por mencionar, se han documentado casos de discriminación racista en algoritmos utilizados por compañías como Twitter, Google, YouTube y otras [Ir al articulo]
La conciencia sobre esta realidad es importante ya que los algoritmos influyen de manera directa en la toma de decisiones que afectan a individuos y comunidades. Generar un diálogo significativo en torno a los sesgos raciales en las nuevas herramientas es esencial para generar conciencia, reflexión y tomar acción. ¿Cómo abordarlos? ¿Qué se puede hacer para mitigar el impacto del racismo en tecnología? Este es el tipo de pregunta que queda sobre la mesa y merecen un poco más de atención para ser discutidas en diferentes escenarios que la vida y el escenario en medio de ésta revolución industrial 4.0 está demandando.
📨Si querés invitarme a algún espacio para conversar sobre éste y otros temas me podés escribir para organizar.
Víctor
