Algorithms rule us all

Prólogo

Ya sea que consigas un trabajo o una hipoteca, que salga pronto de prisión: los algoritmos determinan cada vez más las grandes decisiones en nuestras vidas. Los algoritmos nos gobiernan a todos, los algoritmos lo gobiernan todo. Porque los algoritmos son más rápidos y más eficientes que las personas. ¿Pero siempre toman mejores decisiones? ¿Y cómo se ve una sociedad en la que nos envían los big data y el código de la computadora?Las empresas, y cada vez más los gobiernos, utilizan algoritmos para automatizar los procesos burocráticos. Estos algoritmos, conjuntos de instrucciones y reglas alimentadas por big data determinan nuestras vidas cada vez más. Por ejemplo, el algoritmo de Facebook determina qué publicidades (políticas) vemos y vemos grandes grupos de empleados en la economía bajo demanda que nunca tienen jefe. Desde un procedimiento de solicitud hasta una solicitud de destitución, están controlados por un algoritmo. ¿Dónde deberían quejarse si algo no funciona como debería ser?Los legisladores también están emergiendo en la judicatura. Por ejemplo, un prisionero estadounidense tuvo que sentarse más tiempo que los prisioneros comparables porque el algoritmo, que establece un puntaje de riesgo, le dio un resultado inexplicablemente alto. Y a diferencia de las decisiones tomadas por un juez, resulta virtualmente imposible desafiar la evaluación de un algoritmo. Recientemente, la compañía británica Cambridge Analytica parece haber desarrollado modelos basados ​​en grandes cantidades de datos de Facebook, lo que podría influir en el comportamiento electoral de los votantes. Estas psicografías muestran que los algoritmos no solo pueden guiar vidas individuales sino también la democracia.Los matemáticos y programadores comienzan a darse cuenta de que los algoritmos que se encuentran entre todos estos sistemas de decisión automatizados no son neutrales y pueden contener errores. Debido a que el código inteligente puede decidir más rápidamente que las personas, los resultados no solo son a veces defectuosos, sino que a veces son francamente peligrosos. ¿Deberíamos ser guiados ciegamente por las decisiones del algoritmo?