Rendidos al algoritmo: los códigos que modelan las redes, las finanzas, el consumo, la política y hasta el amor

MIGUEL MÁIQUEZ

  • El uso generalizado de sistemas analíticos y predictivos puede hacer la vida más fácil, pero el precio es alto.
  • Están presentes en nuestros teléfonos móviles y en nuestras tarjetas de crédito.

Código, internet, datos

La palabra “algoritmo” vivía recluida hasta hace no tanto en el entorno especializado de la ciencia en general, y de las matemáticas y la informática en particular. Hoy en día, sin embargo, y aunque aún nos cueste comprender exactamente de qué se trata, la mayoría de las personas mínimamente familiarizadas con Internet saben al menos, si no cómo funciona, sí para qué sirve: nos dicen que Facebook “ha cambiado su algoritmo” y que ahora veremos más publicaciones de nuestros ‘amigos’ y menos de páginas de empresas, y entendemos que detrás de esa decisión no hay miles de operarios humanos que nos conocen personalmente, dedicados a reordenar el contenido de nuestro muro. Lo que entendemos es que Facebook ha introducido una fórmula capaz de gestionar todos nuestros datos y ofrecer, de forma más o menos automática, un resultado.

De hecho, un algoritmo no es más que eso: una fórmula; un conjunto ordenado de operaciones sistemáticas que permite hacer un cálculo y hallar la solución a un problema; un código que procesa información para llegar a un resultado, cuyos componentes esenciales son los datos de los que se nutre, y que, para bien o para mal, está cambiando nuestras vidas.

Los algoritmos condicionan nuestras búsquedas en Internet, en función de dónde estamos, qué hemos buscado antes, qué se busca más, qué tiene más ‘calidad’ o ‘interés’, qué es más novedoso, qué está censurado o no, patrocinado no, y muchos otros factores, no siempre asépticos, que probablemente nunca conoceremos.

También determinan lo que vemos (y lo que no) en las redes sociales, los anuncios que nos persiguen de una página a otra y se cuelan en las aplicaciones del móvil, y la serie con la que nos tentará esta noche nuestra plataforma de streaming favorita.

Están presentes en nuestros teléfonos móviles y en nuestras tarjetas de crédito, gestionan transacciones financieras y han transformado el comercio. Los algoritmos nos pueden ayudar a ubicarnos en un mapa, a encontrar un empleo, a reconocer una cara y hasta a encontrar pareja o un ligue de una noche.

Son, en definitiva, la clave del éxito de empresas como Facebook, Google, YouTube, Amazon, Spotify, Tinder, Netflix

(Puedes activar subtítulos en castellano en el vídeo)

¿Convertidos en datos?

El creciente empleo de algoritmos en todos los sectores es criticado a menudo por el alto grado de despersonalización que pueden conllevar, o por las posibilidades que abren a la hora de convertir, aún más, a los seres humanos en mercancías o en simples números y datos en el engranaje del mercado, el consumo y la publicidad.

Con respecto a lo primero, baste recordar el caso de los 200 profesores despedidos en 2010 en Washington DC (EE UU), después de que un algoritmo evaluase su rendimiento. O el desarrollo de algoritmos capaces de predecir cuál será el sentido de una resolución judicial con un 79% de acierto, identificando patrones, leyes y jurisprudencia, pero abriendo también la puerta a incorporar factores como el entorno, la familia o los amigos. O desnudos que son arte —o noticia—, tratados como pornografía por los algoritmos de las redes sociales. O máquinas que seleccionan y descartan currículums buscando exclusivamente palabras clave.

Eso por no hablar de decisiones financieras en las que, de nuevo a través de algoritmos, un banco puede conceder o no un crédito dependiendo de las predicciones de riesgo que la fórmula aplique a quien lo solicita, o de estrategias políticas en las que un algoritmo es capaz de determinar qué esperar de, y qué prometer a, una base concreta de votantes potenciales. Los algoritmos pueden resultar insustituibles si lo que queremos es ‘leer’, o incluso perpetuar, la realidad, pero tal vez no tanto si lo que queremos es cambiarla.

(Puedes activar subtítulos en castellano en el vídeo)

Un ejemplo: en octubre de 2016 la moneda británica cayó hasta un 6,1% frente al dólar en los mercados asiáticos, en lo que supuso el mayor descenso de la libra desde el referéndum que dio la vitoria al brexit. Según señalaron especialistas del Pew Research Center citados por la BBC, el desplome se debió, en parte, a operaciones computarizadas con algoritmos. No sería la última vez que la velocidad con la que operan los mercados automatizados hiciese adelantar decisiones que, probablemente, no habrían sido tomadas por seres humanos.

Y uno más, tal vez el más conocido: según la mayoría de los expertos, los algoritmos, y su dificultad para distinguir hechos inciertos que se presentan como reales, fueron uno de los principales factores por los que plataformas como Facebook contribuyeron a difundir y sobredimensionar las famosas noticias falsas durante la campaña presidencial de 2016 en EE UU. Desde entonces nos dicen que se han mejorado y reforzado los códigos, en paralelo al avance imparable de la inteligencia artificial. Nos recuerdan, también, que un algoritmo puede evitar, por ejemplo, un suicidio o un asesinato, detectando no solo el lenguaje del posible suicida o del posible agresor, sino incluso señales de alarma en sus publicaciones. La pregunta es: ¿llegaremos al extremo de aplicar consecuencias penales en base a las predicciones de una fórmula matemática? La respuesta ya la daba en 2002 la película Minority Report, basada, a su vez, en un relato corto de Philip K. Dick… de 1956.

Y, sin embargo, sería absurdo obviar que los algoritmos, al tener la capacidad de llevar a cabo operaciones informáticas muy complejas que sería prácticamente imposible realizar de otro modo, también salvan vidas y nos hacen avanzar como sociedad. Acotan, por ejemplo, la zona de búsqueda en un rescate, organizan una situación caótica, facilitan la logística tras un desastre, sirven para ahorrar energía y usar recursos de forma más inteligente, ayudan en la lucha contra el crimen, pueden determinar cómo distribuir mejor una ayuda humanitaria, aceleran las investigaciones médicas y nos permiten detectar estrellas y planetas a millones de años luz.

(Puedes activar subtítulos en castellano en el vídeo)

La percepción limitada del mundo

El pasado día 13, el Centro del Carmen de Valencia inauguró una ambiciosa exposición que, bajo el sugerente nombre de Los algoritmos suaves, combina videoarte y esculturas para invitar a reflexionar sobre la influencia de los códigos de la inteligencia artificial en la vida cotidiana. Tal vez no por casualidad, la muestra coincide con un momento especialmente caliente en la polémica sobre el uso comercial o político de datos personales en redes sociales como Facebook (lejos aún de recuperarse tras el escándalo de Cambridge Analytica), cuyos algoritmos “limitan la percepción de la realidad y el mundo y suponen una metacensura, ya que se establecen a partir de los gustos de los internautas”, según señalaba a la agencia Efe el director del Consorcio de Museos de la Comunitat Valenciana, José Luis Pérez Pont.

Los algoritmos, continúa Pérez Font, implican “una forma suave de intervenir en nuestras decisiones” y “están trascendiendo mundialmente”, ya que los gestionan “empresas con intereses económicos y geopolíticos”.

El comisario de la muestra, Rafael Barber, destacaba por su parte, también a Efe, que el auge de estos códigos coincide con un “momento de crisis”, en el que “se impulsa el fascismo y se acentúa el cambio climático”, entre otros problemas. Según Barber, Los algoritmos suaves plantea el hecho de que “una inteligencia artificial no puede hacer arte”, pero no busca “posicionarse a favor o en contra de los algoritmos, sino representar qué podemos hacer dentro de ese discurso”.

Coviene no olvidar, en cualquier caso, las palabras de la científica de datos Cathy O’Neil, autora del libro Weapons of Math Destruction, cuando advertía, como recuerda el portal Xataca, que “los algoritmos no son justos de forma inherente porque la persona que construye ese modelo es la que define el concepto del éxito”.

Source: 20′ Tecnologia

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *