Vigilancia epistémica contra el nuevo empirismo de Big Data
22 de abril de 2019
La moda de Big Data representa el surgimiento de un nuevo empirismo. Se promueve como el medio computacional para conocer todo de cualquier cosa, libre de sesgos, y con un alto grado de certeza. Se cree que tener suficientes datos hace innecesarias las interpretaciones o teorías previas. Big Data se piensa como una emergencia directa del conocimiento, libre de incertidumbre, que hace obsoletas las formas tradicionales de indagación científica. Cambia el enfoque de explicaciones causales a análisis correlacional, y disminuye la relevancia del contexto. Además, se espera que el conocimiento no mediado sea objetivo e imparcial.
Rieder y Simon (2017) afirman que este nuevo empirismo está creando un entorno algorítmico cada vez más opaco, al que denominan sociedad de caja negra. Las colecciones de big data son siempre pequeñas o parciales, los algoritmos pueden perpetuar prejuicios de sus creadores, y las previsiones nunca son ciertas (excepto en entornos estrechos y controlados). Escriben que este aura de objetividad de la verdad contribuye a una cultura algorítmica que representa lo normal y lo socialmente aceptable. "El secreto gubernamental y empresarial combinado con la inescrutabilidad técnica; salvaguardias legales obsoletas que no son rival para nuevas formas de feudalismo digital; chivos expiatorios algorítmicos para evitar responsabilidades y reducir la agencia – éstos son los principales ingredientes de una economía de datos completamente en caja negra, en la que las tecnologías opacas se propagan, sin monitoreo y sin regulación" (p. 95, traducción propia). En una sociedad de caja negra, los sistemas funcionan de manera misteriosa, la distinción entre estado y mercado se desvanece, y las personas se someten a la regla de los datos medibles, dicen estos autores.
Para hacer frente a los efectos negativos de la transformación de Big Data, Rieder y Simon hacen un llamado a la vigilancia epistémica. Es necesario ser conscientes de los peligros potenciales y las trampas de una sociedad cada vez más impulsada por datos. Sugieren que las personas tengan acceso tanto a los datos utilizados como a los algoritmos aplicados en los sistemas de Big Data, y desarrollen competencias para comprender los procesos analíticos de Big Data como una forma específica de producir conocimiento que "no es inherentemente objetivo ni incuestionablemente justo" (p. 96). Todo esto implica reformas legales, medidas educativas, e intervenciones tecnológicas. Sobre la última, la tecnología debería hacer visible lo que está en caja negra e implementar soluciones éticas como forma de gobierno por diseño.
Referencia:
Rieder, G. & Simon, J. (2017). Big Data: Un nuevo empirismo y sus consecuencias epistémicas y socio-políticas. En W. Pietsch, J. Wernecke, & M. Ott (Eds.), ¿Calculabilidad del mundo? Filosofía y ciencia en la era de Big Data (pp. 85–105). Springer VS. https://doi.org/10.1007/978-3-658-12153-2_4