Como el estadístico de plomo en el Grupo de análisis de datos de derechos humanossin fines de lucro, Kristian Lum, 33, está tratando de asegurarse de que los algoritmos cada vez más control de nuestras vidas son tan justos como sea posible. Ella se centra especialmente en el uso controvertido de control predictivo y programas de sentencia en el sistema de Justicia Penal. En cuanto al sesgo, Lum no refiere sólo a algoritmos. En un muy leído diciembre blog post, describió el acoso que había experimentado en congresos académicos cuando ella era estudiante de doctorado en la Universidad de Duke y un profesor adjunto de investigación en el Virginia Tech. Ya no en la academia, ella utiliza las estadísticas para examinar pulsando problemas de derechos humanos.
¿Cuál es la relación entre estadística y AI y el aprender de máquina?
AI parece ser una especie de general que engloba todos para modelado predictivo y modelado de la computadora. Hubo este gran tweet que decía algo como, “es AI cuando usted está tratando de recaudar dinero, ML cuando está tratando de contratar a los programadores y estadísticas cuando en realidad lo estás haciendo”. Pensé que era bastante precisa.
Estás estudiando cómo el aprender de máquina se utiliza en el sistema de Justicia Penal. ¿Qué te atrajo a la?
Hace unos años leí este artículo muy interesante publicado por una compañía policial predictiva. Reproduce el modelo que habían construido y aplicado a algunos datos reales para mirar cuáles serían las consecuencias. Aplicamos nuestro modelo a los registros de la policía de narcotráfico en Oakland [California] y Comparado con una estimación del perfil demográfico de personas susceptibles de utilizar fármacos basados en registros de salud pública. Que comparación encontró que la aplicación de la policía y el registro de delitos de drogas desproporcionadamente llevaba a cabo en las comunidades de color. Entonces aplicamos el algoritmo predictivo policial para ese conjunto de datos y encontrado sería perpetuar o tal vez amplificar el sesgo histórico ya en los datos.
El movimiento hacia el uso de AI, o métodos cuantitativos, en la justicia penal es por lo menos en parte una respuesta a un creciente reconocimiento que hay sesgo racial en el ámbito policial. Un punto de venta para muchas personas es que piensan que un ordenador no puede ser racista, que un algoritmo no puede ser racista. Yo quería desafiar la idea de que sólo porque es un equipo que hace las predicciones, eso lo solucionaría esos problemas.
¿Es que un duro de vender, la idea que una computadora puede ser parcial?
Siento que no puedo abrir Twitter sin ver otro artículo sobre el racista AI. Lo que es difícil esto es no hay acuerdo universal sobre qué justicia significa. Personas no están de acuerdo acerca de qué justicia se parece. Eso es cierto en general, y también es cierto cuando se intenta escribir una ecuación matemática y decir, “esta es la definición de justicia.”
En su blog, escribió acerca de un congreso académico de 2010 asistió donde a tientas un prominente académico. Otro comentó que fueron vestidas muy sexy, luego de enviarle mensajes de insinuaciones los cordones. No nombre los hombres, pero las personas averiguados quiénes eran y uno perdió su trabajo. ¿Por qué trajiste estos incidentes a la luz ahora?
He tenido un montón de lo que escribi firmemente en mi cabeza durante años. Hasta hace poco, no tengo un plan para poner la pluma al papel. Pero yo había estado creciendo cada vez más frustrado con el hecho de que el comportamiento inadecuado se hablaba abiertamente y nada sucedía, incluso con el cambio climático. Pensé que era importante para las personas a darse cuenta de que incluso cosas que parecen relativamente inocuas, como chistes, importan. Y me pareció un momento cultural cuando la gente me puede escuchar más.
Lo que experimentado tenía un impacto enorme en mi carrera, aunque completamente no realizarlo en el momento. No es como el día después de esa Conferencia dejé de academia. Es un factor entre muchos. Dejé de ir a algunas conferencias, que afecta su capacidad para contribuir. Para ser claro, estoy muy contento con cómo se ha convertido mi carrera. Pero las cosas habrían diferente si hubiera tenido experiencias diferentes.
¿Cómo te sentiste cuando el artículo salió en vivo?
Yo estaba aterrorizado. Todavía publicar trabajos académicos, y estas personas serán los revisores para mí. Yo estaba como, “Oh Dios, ¿qué estoy haciendo?” Pero pensé que era importante. En general, la gente ha sido realmente apoya. Toneladas de gente llegó a mí, algunos con historias similares, algunas veces sobre las mismas personas. En las conferencias ahora, personas suben a mí y decir, “Gracias” y me dan un abrazo.
¿Qué es acerca de las estadísticas que apeló primero a usted cuando usted decidió perseguirlo?
Es realmente genial. Llegar a aprender cosas de datos. ¿Es realmente el quid de la misma, derecho? Llegar a o bien probar tu hipótesis sobre el mundo o, si usted está tomando más de un enfoque del ML, te intentar predecir algo en el futuro. Aprecio realmente repensar la estructura alrededor de los datos, no pensando en los datos como algo fijo. Honestamente, yo soy sólo un gran nerd.