LOS ALGORITMOS PREJUZGAN Cuando la inteligencia artificial asocia rostros con estereotipos

Durante mucho tiempo hemos pensado que una máquina, por utilizar números, datos y fórmulas matemáticas, debe ser necesariamente más objetiva que un ser humano. Pero ¿qué ocurre cuando esa máquina aprende observando millones de fotografías humanas? ¿Puede aprender también nuestros prejuicios, estereotipos y asociaciones culturales? Los algoritmos ya son capaces de reconocer rostros, comparar imágenes, identificar personas y encontrar patrones que resultarían imposibles de detectar para un observador humano. El problema comienza cuando pasamos de reconocer una cara a atribuirle características, comportamientos, emociones, intenciones o probabilidades. Una fotografía puede convertirse en miles de datos. Esos datos pueden alimentar sistemas de inteligencia artificial capaces de clasificar personas según su edad aparente, género, características físicas o semejanza con otros individuos. Pero una clasificación matemática no significa necesariamente que la conclusión sea verdadera. Los algoritmos prejuzgan explora el punto de encuentro entre la inteligencia artificial, el reconocimiento facial y la psicología humana. El libro analiza cómo una máquina aprende a "ver", cómo transforma los rostros en información numérica y cómo los conjuntos de datos pueden transmitir patrones y asociaciones existentes en la sociedad. ¿Qué sucede cuando los prejuicios humanos entran en los datos de entrenamiento? ¿Puede un algoritmo aprender que determinado rostro parece más peligroso que otro? ¿Puede confundir apariencia con personalidad, probabilidad con certeza o correlación con identidad? ¿Qué ocurre cuando una clasificación automática comienza a influir en decisiones relacionadas con seguridad, empleo, educación, banca, publicidad, fronteras o acceso a determinados servicios? El problema…