Gran documental dirigido por Shalini Kantaayya cuya tesis es cómo la llamada “inteligencia artificial” no es automática o imparcial sino es creada por un grupo homogéneo de hombres blancos con ideología que discrimina, replicando lo qué pasa en el mundo “físico” incluyendo las desigualdades existentes, de una forma muy interesante al combinar geografías como Estados Unidos, China, Reino Unido, Rusia. Indicando cómo nuestra visión del mundo está siendo influenciada por esta “inteligencia artificial” y habría que cuestionarla.
Lo aterriza en casos concretos, mostrando como los algoritmos replican misoginia y racismo. Este es el caso del reconocimiento facial, sino otros temas cómo la esfera laboral, de vivienda y el sistema de justicia. Sobre reconocimiento facial, una organización británica reportó 2400 personas fueron detenidas por un falso reconocimiento. También afecta el sistema de justicia pues las decisiones de los jueces y la evaluación de riesgo que se asigna a una persona en libertad condicional en algunos estados de Estados Unidos depende de estos algoritmos llenos de sesgos discriminatorios. Exponen cómo Amazon trabajó con el FBI para compartir los datos del reconocimiento facial.
En la esfera laboral. Presentan el ejemplo de cómo el algoritmo de Amazon cuando recibe curriculums elimina los que tienen la palabra mujer, esto incluye universidades para mujeres, grupos y clubs. En este sentido, comentan que la siguiente lucha es ¿qué pasa con los algoritmos sobre trabajos como LinkedIn? ¿A quien estamos dejando fuera de la esfera laboral?
También llama la atención cuando arman el plan de incidencia cómo argumentan sobre la importancia de las narrativas de casos concretos ejemplificando el daño de estas prácticas, para contrarrestar “beneficios” que se ofrecen.
Me dejo muchas preguntas que me encantará platicar con mis expertas del tema Neris y Karla Prudencio o cómo ¿qué ha pasado con el reconocimiento facial con la pandemia y cubrebocas? ¿qué papel está tomando los QR para recolectar información?
Pero cierra con una gran frase:inteligencia sin ética no es tal.
Entradas
