"Tenemos que impulsar mecanismos que nos permitan democratizar las tecnologías en favor de la ciudadanía". Entrevista a Sara Suárez

Repasamos con la investigadora Sara Suárez-Gonzalo, experta en tecnología de datos, los efectos de la tecnología en los derechos fundamentales, las libertades básicas y, en definitiva, los sistemas democráticos. En los últimos años, tanto académicos, políticos, ONG o la ciudadanía en general se han interesado cada vez más al analizar desde una perspectiva más crítica qué son los riesgos de la tecnología, pero también como aprovechar su potencial. Hablamos con la doctora en Comunicación Sara Suárez-Gonzalo, premiada con la Beca Postdoctoral Irla 2021-2022, para reflexionar sobre las implicaciones sociales y políticas de la Inteligencia Artificial (IA) y, en particular, sobre cómo afecta a la democracia el uso cada vez más generalizado de estas tecnologías de procesamiento de datos por parte de actores públicos y también privados.

Aprovechando el potencial del Big Data, que no es otra cosa que la recopilación y análisis de grandes cantidades de datos, ¿la tecnología podría llegar a ser un sustituto de nosotros mismos como ciudadanos?

Desde una perspectiva democrática, el objetivo no tiene que ser sustituir o reducir la participación de la ciudadanía en la toma de decisiones políticas, sino más bien lo contrario. Es cierto que vivimos en sistemas políticos de democracia representativa y, también, es cierto que hay cuestiones especialmente complejas como por ejemplo la gestión de una pandemia, en los cuales necesitemos un conocimiento experto que quizás tú o yo no tenemos y que es esencial para tomar buenas decisiones. Pero no estamos hablando de que la ciudadanía tenga que tomar en primera persona todas y cada una de las decisiones políticas que les afecten. Para mí, lo importante es analizar si estas decisiones que no tomamos en primera persona son políticamente legítimas y democráticas, es decir, si tenemos la capacidad o no de ejercer un control sobre estas decisiones, de informarnos, de entenderlas o, incluso, de ejercer una influencia significativa en el proceso si no nos parecen adecuadas o justas. Lo que está pasando y me parece bastante preocupante es quien defiende que analizando nuestros datos se podría obtener un conocimiento más preciso sobre lo que queremos o necesitamos y cómo dar respuesta a estas problemáticas que pueden surgir.

¿En qué sentido?

Tenemos que ser muy prudentes con estos discursos tecno-solucionistas, que plantean que las tecnologías pueden resolver cualquier tipo de problema, incluyendo la toma de decisiones políticas. Pero es que en este caso tenemos que ir más allá, se trata de pensar qué tipo de sistema político queremos. Creo que no tiene sentido y no nos beneficia en ningún sentido abrir una brecha todavía más grande entre la ciudadanía y la clase política, que es lo que defienden estas propuestas basadas en ideales elitistas de la democracia. Al contrario, tenemos que avanzar hacia sociedades donde la ciudadanía tenga más capacidad de ejercer control, debatir y tomar decisiones políticas, y no menos. Por eso, estoy a favor de usar los datos y los sistemas de procesamiento necesarios si corroboramos previamente que estas tecnologías pueden ayudarnos a tomar decisiones más justas y cuidadosas, de forma transparente y bajo el control ciudadano.

¿De qué manera esta tecnología puede ser precisamente una aliada para contribuir a la participación ciudadana y fortalecer así nuestros sistemas democráticos?

Lo primero sería desarrollar o fortalecer plataformas cívicas digitales, como el proyecto Decidim.Barcelona, que tienen como objetivo fomentar la participación ciudadana directa y a gran escala en la toma de decisiones políticas. Este tipo de plataformas u otras de participación más informal como las redes sociales nos permiten intercambiar ideas y, en el mejor de los casos, debatirlas de formas razonadas con otras personas para llegar a consensos. Aparte, hay propuestas más enfocadas al aprovechar el potencial de aquello que se denomina la inteligencia colectiva, es decir, ayudar a identificar cuáles son los problemas y necesidades sociales y cuáles son las propuestas para dar soluciones conjuntas; u otros que buscan sacar partido del análisis de datos para mejorar servicios que usamos en nuestro día a día, como puede ser el transporte público o la elección de tratamientos médicos para curar una enfermedad, esto por poner simplemente algunos ejemplos.

Hay quien también defiende que el Big Data puede ser un refuerzo o, incluso, una herramienta de manipulación política…

Hay estudios recientes que demuestran que todos estos datos que compartimos, especialmente en el entorno digital, pueden revelar características muy sensibles de nuestra personalidad como puede ser la orientación política, sexual, religiosa, o bien, si tenemos una intención clara de ejercer nuestro voto hacia una determinada dirección o si nos encontramos indecisas. Yo digo que soy bastante escéptica y que nos tenemos que tomar con prudencias las conclusiones que podemos extraer de este análisis de datos por la simple razón de que el comportamiento humano no es una ciencia exacta. Lo digo porque estas técnicas, que pueden ser muy útiles cuando se trata de predecir o analizar conductas sociales genéricas en masa, ya han demostrado que son bastante imprecisas y problemáticas cuando se trata de utilizarlas para predecir comportamientos individuales, como si nuestras actitudes o intereses estuvieran regidos por un tipo de leyes de la física.

Además, no me gustan demasiado los discursos que van más allá y afirman que el conocimiento extraído de estos datos puede servir para manipular la ciudadanía. Esta es una idea que se popularizó mucho a raíz del escándalo de corrupción de datos de Facebook y Cambridge Analytica durante la campaña electoral de Donald Trump en 2016 y en este caso lo que pasó es que muchos dieron por buena la teoría de que la victoria del partido conservador fue fruto de un tipo de superpoder de los analistas de datos y de una gran debilidad por parte del electorado. Está claro que las campañas de microtarget político en favor de un determinado candidato pueden tener una influencia sobre las personas al crear mensajes más persuasivos, pero otorgarle un éxito electoral, es demasiado decir. Creo que además de ser una explicación simplista y que idealiza las posibilidades de esta tecnología, no ayuda a combatir el auge de los movimientos de extrema derecha, si este es el objetivo

Otro sector que también hace uso de nuestros datos son las grandes empresas privadas. ¿Lo hacen para fines solo económicos, o también políticos?

Es cierto que estas empresas tienen en muchos casos muchos más datos sobre nosotros y sacan mucho más provecho que las instituciones públicas. De hecho, parte de mi investigación se centra en analizar cómo nos afecta el modelo de negocio de las grandes corporaciones tecnológicas que todos conocemos como Google o Meta (FB), que básicamente consiste en extraer valor económico de los datos. Más que en la compra y venta de datos, su enriquecimiento, de hecho, se basa en usar los datos que nosotros compartimos mientras utilizamos sus productos y servicios para mejorar estos servicios que nos ofrecen, o bien para generar nuevos productos o servicios personalizados, como por ejemplo la publicidad personalizada. La cuestión es que según la regulación actual, si el usuario da su consentimiento a lo que estas empresas llaman “políticas de privacidad”, entonces aquello que la empresa quiera hacer con nuestros datos queda, en gran medida, legitimado. Y esto, en una relación desigual, es muy problemático, puesto que si para usar un producto o servicio tienes que aceptar las condiciones que estas empresas te imponen unilateralmente, entonces que una persona dé su consentimiento no significa que esté de acuerdo ni que lo haga libremente, quizás solo significa que lo tiene que hacer para poder usar el producto o servicio. Por lo tanto, creo que la idea es bastante sencilla: hay que regular mejor esta relación para que la parte más fuerte, las empresas, no puedan imponer sus normas del juego a la parte más débil, los ciudadanos, bajo la supuesta legitimidad que les da tener nuestro consentimiento.

Además, estaremos de acuerdo en que estas empresas no responden solo a fines estrictamente económicos, en muchos casos sus acciones tienen una intención claramente política, como por ejemplo imponer sus normas e intereses en la hora de establecer unas políticas públicas concretas. Su poder, de hecho, está muchas veces por encima de las instituciones públicas y democráticas, que no lo tienen fácil para ponerles freno. Por eso, hacen falta las respuestas más ambiciosas y más globales que podamos imaginar, atendiendo a las necesidades locales por supuesto, pero respuestas que se traduzcan en soluciones para todas las personas afectadas, que a pesar de que pueden ser de países diferentes, se enfrentan al mismo tipo de problemas: la afectación de sus derechos fundamentales, la pérdida de libertades básicas, la incapacidad para actuar contra estas grandes empresas…

Con la normativa actual, ¿estas prácticas empresariales no nos acaban desposeyendo de nuestros datos y, por lo tanto, perdemos el control sobre ellas?

Lo que está pasando hoy supone para la ciudadanía, pero también para las instituciones públicas, una clara pérdida del control sobre nuestros datos y las tecnologías de procesamiento de datos y desarrollo tecnológico asociado que usan estas empresas. Por lo tanto, quizás no usaría el verbo “desposeer” porque esto implica entender los datos como una posesión, cuando en realidad no son de nadie, ni nuestros, ni de quien recopila los datos, ni de quienes los analizan. Tampoco creo que sea una buena perspectiva entender los datos como objeto de contraprestaciones, me parece que esto puede llevar a derivas muy peligrosas para la protección de nuestros derechos fundamentales. Entender esta relación nos ayudará precisamente a hacer mejores regulaciones y políticas públicas.

Para asegurar un buen uso de esta tecnología, apuntabas que nos hace falta una regulación más global. De hecho, la UE va en este sentido y propone una regulación conjunta a sus miembros. Pero, ¿es viable cuando entran en juego tantos intereses públicos y privados diferentes?

Esto es una pregunta bastante complicada, pero creo que es una buena noticia que tengamos una UE que se esté preocupando por estas cuestiones y esté intentando regularlas para que no se produzcan esas desigualdades tan fuertes. Creo que la regulación que tenemos ahora mismo es insuficiente en varios sentidos y se tendría que centrar mucho más en minimizar esta desigualdad de poder entre esas empresas que, además, operan de forma transfronteriza y que minimizan mucho el poder de nuestras instituciones públicas y de nuestras capacidades como ciudadanas para carearlas.

Y si lo miramos desde el otro punto de vista, ¿es posible democratizar las tecnologías digitales en favor de la ciudadanía?

Sí, y creo que es lo que debemos hacer. Tenemos que impulsar mecanismos que nos permitan democratizar las tecnologías en favor de la ciudadanía, y a las instituciones les toca apoyar en este sentido, garantizando los recursos y los medios para poder hacerlo. Y esto implica también fomentar la participación ciudadana tanto en el desarrollo tecnológico como en el desarrollo de la regulación y de las políticas públicas. Por ejemplo, si ponemos por caso un algoritmo que está implementado en una institución pública para distribuir mejor los recursos, habría que involucrar las comunidades afectadas y preguntar a las personas qué piensan del tema, como creen que se puede hacer este cambio de introducir una tecnología en un determinado proceso. Para que funcione, hace falta que su desarrollo y su introducción social se haga de manera transparente, dando a la gente la capacidad de influir en los procesos si así lo quieren. Debemos tener, en general, herramientas y recursos para ejercer nuestros derechos y poder participar en el diseño de una tecnología que ya forma parte indispensable de nuestra sociedad actual y futura.