El libro recomendado hoy es “Armas de destrucción matemática” de Cathy O’Neil. El título es bastante tremendista pero el contenido lo es aún mas. Trata acera de los algoritmos de Big Data y el perverso efecto que pueden producir.
Básicamente, la forma de diseñar un algoritmo influye poderosamente en las personas, si valoramos características A, B y C la gente u organizaciones serán seleccionadas por ellas y tendrán que mejorar en ellas si no quieren ser excluidas del mercado. Hace hincapié en el la falta de retroalimentación de muchos de estos sistemas que se emplean para seleccionar trabajadores, universidades, seguros, calidades crediticias, y otros muchos, que impiden que se ajusten y corrijan errores, de esta manera se mantienen los prejuicios de diseño. Su opacidad no ayuda a detectar dichas incorrecciones o errores.
Otro ejemplo que pone es la selección de los buscadores, no sabemos como funcionan y en unas elecciones puede favorecer las noticias de cierto candidato, y basta con hacerlo solo con las búsquedas de los distritos o estados en disputa, pudiendo hacer esto premeditadamente durante el periodo electoral, para Google y Facebook es sencillo influir en los electores.
El libro hace pensar pero tiene el defecto de estar muy centrado en Estados Unidos, no por ello deja de ser recomendable.
No hay comentarios:
Publicar un comentario