Marta García Aller señala "a los tres jinetes del apocalipsis" de la IA: "Dicen que podrían matarnos a todos, pero echan la culpa a los demás de no frenarles"

Déjame que te cuente que si Viktor Frankenstein entrara en una oficina de Silicon Valley seguro que le contrataban. Un tipo muy listo convencido de tener una noble misión que cambiará la historia de la humanidad, cegado por la soberbia y el poder, que cuando ve que su creación se le va de las manos se desentiende de ella.

Darío Amodei, uno de los hombres más poderosos de la IA, reconocía que se les está yendo de las manos la tecnología que crean y piden ayuda para ralentizarla. Paralelamente, los gobiernos miran para otro lado.

Los jefazos de las grandes tecnológicas llevan tiempo prometiendo, con aires mesiánicos, que están a punto de crear la tecnología más poderosa de todos los tiempos. Cuanto más poderosa prometen que va a ser la IA, más inversiones consiguen. Y, de repente, aparecen arrepentidos diciendo que lo que tienen entre manos es demasiado poderoso, que les da miedo lo rápido que va. Es curioso, justo cuando los inversores empezaban a impacientarse con que fuera demasiado lento y costoso este invento.

¿Pero como de realistas son estas amenazas de la IA? ¿Es un truco de marketing antes de su salida a bolsa o una amenaza real? Lamentablemente, ambas opciones no son incompatibles.

¿Es un truco de marketing antes de su salida a bolsa o una amenaza real?

Los tres jinetes del apocalipsis de la IA

Sam Altman dice ahora que no tiene prisa por sacar a bolsa Open AI, la empresa de ChatGPT. Y junto con Elon Musk respalda el llamamiento que hacía este fin de semana Dario Amodei, de Anthropic; los tres jinetes del apocalipsis de la IA. Dicen que hay que ralentizar el desarrollo de la IA, después de una semana de dramáticas advertencias de que la IA nos puede matar a todos. Y retrasan salida a bolsa. Y por el camino aumentan la atención en un sector que vive de una promesa de futuro.

Es curioso que quienes dicen que esto va demasiado rápido sean los que llevan la locomotora, pero hablan de la velocidad de su criatura como si fuera algo ajeno. Quienes desarrollan la IA dicen que podría matarnos a todos, pero echan la culpa a los demás de no frenarles por lo que ellos mismos están desarrollando. Es como si advirtieran de los riesgos que corremos para lavarse las manos si algo sale mal con un "te lo dije". Mira que es humano un ‘ya te lo dije’.

Quienes desarrollan la IA dicen que podría matarnos a todos, pero echan la culpa a los demás de no frenarles por lo que ellos mismos están desarrollando

Y qué podría salir mal si en el momento de la historia en que se está desarrollando esta tecnología, en la Casa Blanca está precisamente alguien como Trump. Trump no quiere moratorias y las tacha los riesgos de conspiraciones.

Lo último que ha dicho Trump es que lo de poner controles a la IA es una "conspiración enfermiza" que beneficia a China. Y China por su parte denuncia una "agenda oculta" para "estrangular" su tecnología. O sea, que la idea de Trump, es que quien gane en la IA, gana. Y Pekín acusa a EEUU de usar el manual de la Guerra Fría para frenar su desarrollo de la IA. Para ser una tecnología del futuro suena a lo de toda la vida.

Para ser una tecnología del futuro suena a lo de toda la vida

Tiempo tenemos esta tarde en La Brújula para hablar de mucho más que de los riesgos de la inteligencia artificial, aunque para aclarar muchas dudas en seguida tendremos a uno de los mayores expertos en IA de España para que nos aclare cómo de preocupados tenemos que estar.

Para entender los riesgos de la IA, no hace falta adentrarse en hipótesis futuras de una tecnología capaz de desarrollar una superinteligencia que nos supere a todos. Ya hemos inventado más veces tecnologías que podrían matarnos a todos. En el siglo XX se buscaron (y encontraron) formas de reducir el riesgo de un intercambio nuclear, creando nuevas instituciones como la Comisión de Energía Atómica y tratados de control de armas para gobernar cómo se manejaría la tecnología más peligrosa del mundo por entonces. Lo malo es que, a diferencia del control de armas nucleares, con la IA el cumplimiento de un acuerdo de no proliferación sería prácticamente inverificable.

EL cumplimiento de un acuerdo de no proliferación sería prácticamente inverificable

Se da la paradoja de que son las empresas de IA las que están pidiendo regulación y los reguladores negándose a regularles. Mientras, hay muchos científicos e informáticos, por supuesto, que creen que estas advertencias están infladas.

Agitar el apocalipsis puede ser útil

¿Por qué piden regulación los grandes de la IA? Pues agitar el apocalipsis puede serles útil de dos maneras: primero, para inflar el valor de sus empresas y atraer financiación (si tan peligroso es esto, no te puedes quedar fuera, como dijo Trump, el que gane la IA, gana); y por otra, porque más regulación permite cerrar un mercado a los que ya están en él y, además, si aparecen de impulsores de la regulación, la pueden controlar mejor. Si se mete ahora alguna barrera regulatoria, lo tendrán mucho más dificil nuevas empresas para entrar en un mercado que se copia muy rápido.

No le faltan razones a los escépticos que en los mercados sobrevuela la sospecha de que puede haber una burbuja en la promesa de la superinteligencia que no termina de llegar. Cada vez que hay una amenaza apocalíptica de que el final está cerca, azuza las inversiones porque alimenta la idea de que la industria está muy cerca de lograrlo.

Tampoco le falta razón a algunos políticos que le dicen a los magnates de la IA que, si quieren ponerse cortapisas, que se las pongan. Que son ellos los que juegan con fuego (aunque si se les va la mano nos quemamos todos).

Y, por supuesto, no descartemos que tengan razón los magnates de la IA cuando temen el poder de lo que tienen entre manos, porque solo ellos saben realmente lo que tienen entre manos. La mayor preocupación es que la IA se vuelva tan lista que se mejore a sí misma y dejemos de controlarla; también que le dé a terroristas, o a gobiernos imprudentes, la posibilidad de crear ataques bioquímicos, control nuclear o desaten ciberataques imparables que amenazan una gran pérdida de vidas o colapso social.

Que pedir regulación sea oportunista no quiere decir que no haga falta. La IA puede ser una amenaza real. Cómo no va a serlo. Tampoco es tan descabellado pensar que los humanos estemos desarrollando una tecnología capaz de acabar con la humanidad. En el siglo XX ya lo hicimos. Ya existe una regulación que pone freno a las nucleares, a la manipulación genética… Y convivimos con la amenaza de que esa tecnología caiga en las manos equivocadas. Lo malo, a diferencia de aquellas otras tecnologías potencialmente destructivas del siglo XX, es que esta ya sabemos de antemano que los que la están desarrollando no son de fiar. No hace falta esperar al final de la película.

Cuando los gerifaltes de la IA dicen que la IA nos podría matar a todos, lo que realmente están diciendo es que son ellos los que tienen nuestra vida en sus manos. La IA no es un monstruo con vida propia y, si algún día llegara a serlo, sus responsables serían los doctor Frankenstein que la crearon.