Marta García Aller: "Que los gobiernos usen asesores de inteligencia artificial es todo un experimento social"

No pasa un día sin que conozcamos nuevas aplicaciones para ChatGPT. Esta semana, uno de los mayores editores del mundo ha contado que ya trabaja para que este chat de inteligencia artificial generativa escriba los artículos online. Se están testando los límites de esta tecnología en el aula, en las empresas y en el arte, pero hay una última aplicación que puede ser más inquietante todavía. En la política.

Ya se ha presentado el primer asesor gubernamental de inteligencia artificial del mundo. Lo acaba de anunciar Rumanía, que ha creado uno de estos chatbots para que sintetice de forma rápida las opiniones y preocupaciones de los ciudadanos en informes generados automáticamente. Esta especie de asesor artificial honorario se llama Ion.

Están claras las ventajas de tener un sistema automático que sintetice todos los mensajes que los ciudadanos envían a su gobierno. Igual que los estudiantes están seducidos por el potencial de esta máquina capaz de generar chuletas gigantes, entiendo que los gobiernos quieran su propio Rincón del Vago de inteligencia artificial.

Lo que está menos claro es cómo un sistema automático va a establecer las prioridades de los mensajes que recibe para luego hacer los informes. Si la política es en buena medida una cuestión de prioridades, dejar que la máquina procese las preocupaciones de los ciudadanos sin saber bien cómo las prioriza es más delicado de lo que parece. Y eso por hablar solo de las preocupaciones de verdad. Porque luego está la capacidad de la IA para generar información falsa. Un reportero del New York Times le pidió a un chatbot que escribiera un ensayo sobre el ficticio "Químico y filósofo político belga Antoine De Machelet", y respondió con una biografía convincente de hechos totalmente imaginarios.

En el fondo, esto de anunciar el primer asesor gubernamental de inteligencia artificial puede no ser más que una estrategia de marketing que luego no sirva para mucho porque el Gobierno rumano lo podrá utilizar de comodín cuando le convenga, sin tener que hacerle mucho caso a lo que le diga. En el fondo, también pasa eso con asesores de los que se rodean los políticos. Los asesores humanos, digo.

¿Moraleja?

Que los gobiernos usen asesores de inteligencia artificial es todo un experimento social.