"¿Cómo deliberar sobre algo que nadie entiende?": el riesgo de dejar el poder en manos de los algoritmos frente a la democracia

Hace una semana se viralizó un tuit de Alex Karp CEO de Palantir, una empresa de ciberseguridad estadounidense, en el que difundía ideas contra la democracia y apostaba por las tecnológicas de cara al futuro gobierno de los países. Ahora, de lo que se habla es del manifiesto que esta empresa ha publicado llamado 'La República Tecnológica', que tiene un tono "casi profético, como si los ingenieros de Silicon Valley hubieran escrito su propio evangelio", ha explicado Jorge Freire en Por Fin.

Palantir nació en Silicon Valley justo después del 11S. Su fundador es Peter Thiel, uno de los "grandes magnates tecnológicos de la órbita trumpista", en palabras de Freire, y lo que hace esta empresa es cruzar millones de datos en tiempo real. Si bien, con la publicación de este manifiesto han surgido muchas preguntas debido al tono doctrinal del texto.

'La República Tecnológica' lo que viene a decir es que el futuro está en manos de estas élites tecnológicas, que "las democracias deliberativas son demasiado lentas y que la tecnología debe dirigir el mundo con criterios de eficiencia, menos discusión y más algoritmo", ha explicado Freire. Pero esto lleva inmediatamente a hacerse preguntas "inquietantes", porque "una cosa es usar máquinas y otra, obedecerlas".

El peligro de dejar el poder en manos de algoritmos

"¿Estamos ante una tecnológica o ante otra cosa?", se preguntaba el presentador del programa, Jaime Cantizano, mientras leía párrafos de ese manifiesto sobre "disciplina social, autoridad, patriotismo, con un tono mesiánico". Según Freire, el manifiesto "destila una inquina manifiesta" contra la deliberación democrática, a la que define como "una pérdida de tiempo".

Esto es una contradicción en sí misma, porque esta empresa se ha alimentado durante años de "contratos multimillonarios del propio Estado". "Silicon Valley lleva décadas vendiéndose como territorio libertario, rebelde, indómito, adverso a las burocracias. Pero resulta que muchos de estos gigantes tecnológicos han prosperado precisamente gracias al poder público", ha señalado Freire.

Además, ha advertido del peligro de dejar el poder en manos de las tecnológicas y de los algoritmos. La democracia se asienta sobre una premisa muy sencilla, que es la de que los ciudadanos puedan comprender y evaluar cómo se toman las decisiones. Sin embargo, si el poder empieza a apoyarse en "sistemas técnicos cuyo funcionamiento escapa a la comprensión pública...", ha dejado caer Freire.

La democracia permite a los ciudadanos deliberar, pero "¿cómo van a deliberar de algo que nadie entiende? Es como cuando te dice un experto técnico que no comprendes algo, pero confía en nosotros".

La idea del filósofo rey

Lo cierto es que estas empresas ya están participando en tareas policiales o de vigilancia social, como el ICE, que basándose en el algoritmo, que cruza historias, historiales policiales, movimientos bancarios, geolocalización, relaciones personales, matrículas, llamadas... y genera perfiles de riesgo. "No se persigue solo lo que alguien ha hecho, sino lo que estadísticamente podría llegar a hacer".

El manifiesto de Palantir es, en definitiva, una respuesta a la idea del filófoso rey. Al igual que Platón se imaginaba una ciudad gobernada por filósofos, que eran superiores a la ciudadanía ateniense que veía manipulable y emocional. Plantón desconfiaba de la democracia ateniense y no confiaba en dejar que la multitud pudiera tomar decisiones. "Cuando alguien está convencido de poseer una visión superior de la realidad, la deliberación democrática le molesta", esto es lo que viene a decir Palantir, según Freire.

En este sentido, "no estamos ante un retorno del fascismo clásico, sino de otra cosa, una concentración inaudita de poder técnico, económico y cognitivo en manos de muy pocas empresas capaces de influir simultáneamente en mercados, gobiernos y comportamientos sociales", ha sentenciado Freire.