“La caja negra de los algoritmos es la caja de herramientas del Big Data. Con el microscopio se abrió una nueva ventana de conocimiento sobre la naturaleza. Con los algoritmos digitales aplicados al flujo de datos de la red Internet, las acciones humanas son medibles y predecibles”.

La sociedad actual está caracterizada, entre otros aspectos, por la aparición de las nuevas tecnologías de la información, las comunicaciones y el conocimiento (las TIC), accesibles por medio de smartphones, tablets, computadoras y todo dispositivo que se conecte a internet. En este contexto, asistimos a una serie de relevantes transformaciones en el ámbito psicosocial, afectando a todos los colectivos sociales en medio de un ambiente de euforia electrónica, cuando no en un modo de "murmullo" o "parloteo" ⁱ.

Como señala Huici, la primer gran expansión de Facebook coincidió con la primera crisis económica del año 2007, que potenció el desarrollo digital de servicios de plataformas digitales orientados a la individualización, orientación u guía de cada navegante de la red de redes. En el 2015 Facebook tenía 1.350 millones de usuarios, miembros (registrados), que se comunicaban en 70 idiomas y utilizaban 50.000 servidores (computadoras de alta capacidades de procesamiento y almacenamiento). Facebook se ha constituido así en uno de los “dueños de Internet” controlando Instagram desde el 2012 y Whatsapp desde el 2014; un enorme negocio que representa más de 25.000 millones de dólares anuales y un volumen de datos muchísimo mayores a los millones de dólares estimados.

El valor político del flujo de datos permanente de esta plataforma digital, fue visible en el 2013 cuando la Agencia de Seguridad Nacional de USA reconoció la utilización de Facebook para el seguimiento de ciudadanos que aportaban sus datos “inocentemente”, información que durante años había sido un objetivo de los trabajos de inteligencia. Algo similar sucede con los buscadores del tipo Google que llevan invisibles cookies (pequeños softwares) que permite identificar al usuario y trazar un mapa de su navegación por las webs y profundidad de penetración en cada una, estos datos configuran nuevos productos del negocio digital.

Comprender los alcances de los algoritmos y sus contextos de aplicación, nos ayudará a comprender cómo la digitalización de la vida cotidiana y nuestra relación con las plataformas y servicios digitales está orientada por una infraestructura de cómputos que conforman el proceso de los algoritmos. Por ello, se hace necesario comprender, discutir y criticar la manera como los algoritmos, que no conocemos, marcan nuestros días.

El famoso cantautor Peter Gabriel, anticipa: “Parece inevitable que el decreciente costo del escaneo de la mente, junto al creciente poder de la computación, nos lleve pronto al punto en que nuestro propio pensamiento será visible, descargable y abierto al mundo en nuevos modos. Los pasados años hemos presenciado robots que construyen puentes y casas, directamente de impresoras 3D. Pero pronto seremos capaces de conectarnos con el pensamiento del arquitecto e imprimirlo y ensamblarlo en un edificio inmediatamente. Lo mismo ocurrirá con el cine, la música y todo proceso creativo”.

Se define algoritmo como "un conjunto ordenado y finito de operaciones que permite hallar la solución de un problema. Basta pensar en una receta de cocina o como enseñamos a nuestros pequeños a dar sus primeros pasos y caminar. Estas acciones operan sobre datos para obtener conclusiones y conocimientos. En la sociedad contemporánea, los algoritmos han adquirido un rol cada vez más central, haciendo que algunos los definan como una suerte de mano invisible que toma decisiones por nosotros.

La expansión de los métodos de cálculos expresados como algoritmos, algunos disponibles desde 1950, se debe en gran parte al encuentro de estas herramientas y la informática, particularmente con al binomio software (aplicaciones APP) y las capacidades crecientes de velocidades en los procesadores de las computadoras, que posibilita procesamiento a gran escala hoy determinados por el Big Data.

Los cálculos penetran tan íntimamente nuestra vida, que no logramos percibir con claridad cómo se conducen nuestros datos a infraestructuras estadísticas ubicadas en lejanos servidores ⁱⁱ. Así, un número creciente de dominios de conocimientos como la cultura, el conocer y la información, pero también la salud, la ciudad, el trasporte, el trabajo, las finanzas e incluso el amor y el sexo son modelados y mediados por algoritmos.

Dos dinámicas avanzan para hacernos entrar en una “sociedad del algoritmo”. La primera es la digitalización de la sociedad; la segunda el desarrollo de los procesos. Estos últimos entregan a las computadoras las instrucciones matemáticas para clasificar, ordenar, agrupar, predecir, tratar agregar y representar la información. Por medio de datos cada vez más desapercibidos (desplazamientos de personas, tickets de compras, clics en Internet, consumo online, tiempo de lectura de un libro digital, tiempo de escucha de música y permanencia en video por demanda), los algoritmos cifran el mundo, lo clasifican y predicen nuestro consumo presente y futuro. Pueden medir cada una de las acciones que realizamos en la red internet.

Omnipresentes en nuestras vidas, los algoritmos son presentados como misteriosos a nuestros conocimientos por no saber de su existencia y funcionalidad. Una nueva religión con nuevos actos de fe. Raramente nos cuestionamos cómo estos procesos de lógica y cálculo se producen y la visión de mundo que conllevan. Por ejemplo, que los algoritmos usados por los gigantes tecnológicos, conocidos como GAFAM (Google, Amazon, Facebook, Apple y Microsoft), no sean siempre justos en las decisiones que toman. Los algoritmos operan dentro de lo que se conoce como "cajas negras", lo que significa que no sabemos cómo están tomando esas decisiones. Es decir, no conocemos sus funcionalidades. Los errores en los sistemas de reconocimiento facial son una muestra.

La dependencia en aprendizaje automático, un conjunto de técnicas de aplicación computacional para entrenar algoritmos con datos, ha hecho que el problema de los sesgos sea cada vez más importante para la comunidad vinculada a iniciativas de Inteligencia Artificial. Parte del problema es que las bases de datos empleadas para entrenar a los algoritmos no siempre es lo suficientemente diversa en el criterio de selección en la representación social de los datos.

Esos sesgos también pueden afectar a decisiones como el seguro médico u obra social o prepaga, la escolaridad o el registro criminal, la aceptación a una candidatura laboral.

En el sector público a medida que las decisiones gubernamentales se vuelven más automatizadas estos riegos son ciertos. Por lo tanto, el sector público y de gobierno no debería utilizar algoritmos de caja negra. La Estadística Estatal debe ser publicada y conocida por los ciudadanos. Además, es necesario políticas públicas que regulen al sector privado. Los ciudadanos deben conocer las implicancias funcionalidades de los algoritmos que son utilizados en Internet, es una responsabilidad de cada estado. Una radiografía crítica de los algoritmos es una necesidad democrática tan esencial como desapercibida.

El contexto cultural definido por “los dueños de internet”ⁱⁱⁱ y los líderes de la digitalización del mundo (las GAFAM) y el valor que mueve el cálculo algorítmico no es otro que el de la personalización, el del individualismo. Poder medir cada acción personal en los recorridos de la red internet, sus gustos y consumos. Este sesgo en la confección del software que implementa el algoritmo (programación del algoritmo) responde a modelos políticos y culturales de relaciones sociales y distribución del conocimiento y la riqueza.

En el caso de la web su valor es el de la “popularidad”. Su forma de medición es similar a aquella de las audiencias offline. Primero indexaron los contenidos de las webs y nos entregaron el buscador Google. Ahora el valor de la medición (Google Analytics) dispone de la infraestructura de contenidos globales que permite medir los recorridos y consumos de los datos en las webs.

La caja de herramienta para medición Google Analytics construye el principio rector de sus herramientas: la autoridad.

Explicitada en su forma de medición la del ranking. Para ello, se capacitan ejércitos de analistas de Marketing y estrategas de modelos de consumo. Google analiza los datos del tráfico en Internet que generan las propias marcas. La reputación de estas mediciones dar el valor de credibilidad que permite que el resultado del análisis de los datos sea un producto de mejor venta, las instituciones más confiables y los servicios de mejor garantía. Así Google Analytics se ha convertido en el “regulador” del “estado internet”.

Los métodos de predicción completan este tablero Estadístico, estos resultados orientan la conducta sobre el consumo de los navegantes que surfean las webs. ¡De la Estadística cuantitativa a la cualitativa logran predecir las emociones!

En este sentido, el Big Data se centra más en la ciencia de datos y los modelos de análisis que en la acumulación de datos. Las medidas se han vuelto más fácilmente calculables; las categorías persiguen singularizar a las personas y las correlaciones estadísticas no van de la causa hacia las consecuencias, sino de las consecuencias hacia un número probable de causas.

Las políticas neoliberales de los años 1980, indica Dominique Cardon, hicieron perder autoridad a las categorías tradicionales (profesión / clase social) y les han entregado un nuevo uso a los instrumentos estadísticos. Estos sirven menos para representar lo real que para actuar sobre ello. De este modo, una medida particular se ha convertido en la realidad misma que se pretende medir; los buenos resultados de un colegio en una prueba estandarizada es manifestación de la calidad de ese colegio; los científicos más citados se han convertido en los mejores científicos, los músicos más producidos y escuchados son los que hacen mejor música. Es el mundo el que se vuelve directamente medible y calculable.

Otra transformación importante del cálculo algorítmico es el desbordamiento de las categorías. Allí donde la existencia de la sociedad era supuesta, hoy es puesta en suspenso para purificar relaciones entre variables. Ya no es relevante saber por qué la gente hace lo que hace, lo importante es que lo hace y ahora es posible regístralo como nunca antes.

Los datos permiten cuantificar cosas que antes resultaban desconocidas.

Si nuestro mundo es imperfecto señala Dominique Cardon, era porque faltaban datos para corregirlo. Si la investigación científica quiere ser parte de las gigantescas infraestructuras de cálculos, ella debe tomar distancia de ciertas mitologías que encubren al Big Data. Se debe tener presente que toda cuantificación es una construcción que implica un dispositivo de medida y registro la cual establece convenciones para interpretarlos.

Los datos no hablan más que en función de los cuestionamientos e intereses de quienes los interrogan.

Nos inducen a pensar que las máquinas/computadoras como inteligentes y poseedoras de un espíritu. En la actualidad, los realizadores de computadoras han abandonado esta pretensión y han optado por hacer a las máquinas estadísticas en vez de inteligentes. Si las máquinas se vuelven estadísticas, los individuos se volverían lo que Gilles Deleuze denominó un “dividuo” en la sociedad de control. Un ciudadano fragmentado en un capitalismo de producto. De ciudadano a consumidor, de masa a mercado.

En una época de cultura neoliberal, donde las personas por medio de sus representaciones, ambiciones y proyectos, se piensan como sujetos autónomos, por fuera de modelos políticos incluyentes o excluyentes. Los cálculos algorítmicos atrapan sus deseos a la regularidad de sus prácticas personales. El rol de las políticas públicas es transferido a las políticas del mercado donde la concentración tecno científica en las GAFAM define el nuevo estado.

Otras políticas públicas son necesarias para la sociedad de los algoritmos. Los procesos y sesgos deben estar explicitada para los ciudadanos, como alertas en el mundo de internet y en la Estadística Estatal.

Es necesario conocer la visión política y cultural que se implementa en los procesos algorítmicos y el sesgo de los datos que arrojan resultados como verdades. Hay que instalar una mirada crítica al funcionamiento de los cálculos. Es necesario saber ¿Qué sentido y objetivo implementan los algoritmos? Estos sentidos configuran un posible mundo donde el reconocimiento de los méritos no encuentra trabas; donde la autoridad se obtiene únicamente en torno a la calidad.

Las mediciones de autoridad (ranking) a las primeras posiciones aumentaría las desigualdades. La ley de Pareto de reparto de desigualdades -que señala que el 20% de la población obtiene el 80% de los bienes a distribuir- se incrementa en la web, donde menos del 1% de los actores se llevan el 90% de la visibilidad.

Los algoritmos hacen soñar a las personas entregando herramientas para que éstas reconozcan sus afinidades y se autoorganicen. Las posibilidades de aplicaciones/herramientas que entrega las redes sociales para que los individuos se relacionen y organicen de acuerdo a sus gustos, intereses, valores e ideas compartidas, es un vector de socialización que rompe con la crisis de confianza imperante.

La recomposición de la sociedad a partir del involucramiento expresivo de los individuos, es sin duda la parte más positiva de las nuevas formas de vida digital. Las políticas públicas que logren canalizar estas representaciones permitirán contener y construir una democracia más representativa basada en la economía solidaria.

Las GAFAM persiguen instalar un ambiente tecnológico invisible que permita a las personas orientarse, sin contrariarlos. Gran parte de nuestras elecciones diarias, son efectuadas por una infraestructura socio-técnica; comprar un billete de avión, traducir automática de lenguajes, encontrar el mejor restaurante, conseguir una cita personal, llenar la heladera o cargar la SUBE (tarjeta digital para utilizar transporte público en Argentina). De este modo, la sensación de elegir se encuentra socialmente distribuida.

Uno de los riesgos del ceder las elecciones cotidianas a infraestructuras tecnológicas, son los procesos digitales irreversibles. Otro riesgo que comportan estos nuevos procesos socio-técnicos sería el traspaso de habilidades complejas (manejar un avión, realizar diseños, leer una radiografía digital), desde los humanos hacia los instrumentos o dispositivos. De esta manera, es más necesario que nunca aprender a no desaprender.

Sin embargo, no hay que olvidar, señala Dominique Cardon, que los sueños no son más que sueños y que el uso que hacen los utilizadores son siempre más fluidos, vagabundos y complejos de lo que los realizadores de estos cálculos imaginaron. Así, más que dramatizar el conflicto entre los humanos y las máquinas, sería juicioso considerarlos como una pareja que no deja de retroalimentarse e influenciarse mutuamente.

En la breve conclusión de su texto: “La ruta y el paisaje”, Cardon señala que, como el GPS, los algoritmos no nos dicen dónde ir (no definen nuestros objetivos), sólo nos muestran la ruta (su ruta) más conveniente a nuestros intereses. Estos serían el producto del deseo de libertad y de autonomía del individuo.

A pesar de ello, los algoritmos obligan al internauta, como al conductor, a una ruta calculada, eficaz y automática que se adapta a nuestros deseos y se rige en función del tráfico de otros. Así, es difícil reconocer que implica nuestro trayecto en relación a otros posibles (rutas alternativas, periféricas), o como éstas representan un conjunto más amplio. Con el mapa hemos perdido el paisaje, afirma el autor. Es por ello que se hace más necesario que nunca ser vigilantes y pedirles a los algoritmos que nos muestren tanto la ruta como el paisaje.

Los algoritmos guían nuestras preferencias y atan nuestras elecciones a nuestras conductas pasadas. Vuelven realidad el sueño liberal de la elección sin ataduras, pero este sueño esconde también su contracara. Una libertad tecnológicamente pautada y guiada.

Alfredo Moreno

Profesor TIC en Universidad Nacional de Moreno

Ingeniero TIC en ARSAT