Fiscalía llama a frenar la "deriva peligrosa" de la utilización de aplicaciones de IA por menores de edad

La Fiscalía General del Estado (FGE) ha llamado a frenar la "deriva peligrosa" de la utilización de aplicaciones de Inteligencia Artificial (IA) por los menores de edad, según se desprende de su Memoria Anual correspondiente al 2023, a la que ha tenido acceso Europa Press.

"Es necesario que los poderes públicos busquen la manera de intervenir y frenar una deriva peligrosa, pero es importante que lo hagan con las familias y los sectores implicados, dado que las consecuencias para su desarrollo pueden ser muy graves", señala la Fiscalía en el informe sobre el uso de aplicaciones de IA por menores de edad.

En este sentido, explica que la IA proporciona un "elenco de oportunidades", pero destacando la necesidad de establecer un marco regulatorio. Además, dice que es un "riesgo" que actualmente no exista ninguna legislación que impida lo que sucedió el año pasado en Almendralejo con el caso de las fotos de los falsos desnudos generadas por esta herramienta digital.

Precisamente, la Fiscalía denuncia que las aplicaciones que se utilizan para estos fines "son muy fácilmente accesibles y descargables en la red". "Es verdaderamente sorprendente esta situación y la total ausencia de control", critica.

Además, expone que el caso de Almendralejo "ha destapado la punta del iceberg de un fenómeno en pleno ascenso; el de una nueva generación de adolescentes expuestos y desprotegidos ante nuevas herramientas tecnológicas más peligrosas que nunca, con su intimidad a un clic de hacerse viral y una preocupación omnipresente: la popularidad".

En todo caso, evidencia que el caso del municipio extremeño pone de relieve la "falta de madurez y concienciación" de algunos grupos de jóvenes que "no se plantearon antes de crear esas imágenes el daño que causarían a las chicas".

Igualmente, la Fiscalía alerta de que las conductas de elaboración o distribución de material ilícito en el entorno tecnológico no son habitualmente objeto de denuncia por parte de los perjudicados. Así, asegura que se trata de "conductas clandestinas" en las que las víctimas, habitualmente menores de muy corta edad, "ni tan siquiera son conscientes de la agresión sufrida".

"En una edad en la que los menores construyen su identidad, moldean su autoestima y afianzan los valores que regirán su vida adulta, hay que preguntarse si es deseable que dispongan sin límites de una herramienta que los expone a contenidos destructivos y a unos valores machistas y de banalización de la violencia", recoge el documento.

En este sentido, la Fiscalía considera necesario que los poderes públicos busquen la manera de intervenir y frenar una "deriva peligrosa". Así, añade que es importante que lo hagan con las familias y los sectores implicados, "dado que las consecuencias para su desarrollo pueden ser muy graves".

Educación afectivo-sexual para niños

El documento recoge la importancia de la educación afectivo sexual en los niños, alegando que "tienen derecho a ser educados, a ser formados, a transitar a la vida adulta". A nivel sanitario esta educación también es importante, ya que, según se muestra en el documento, enfermedades de transmisión sexual que prácticamente estaban erradicadas, como la gonorrea, empiezan a ser algo "muy general" en los centros de salud. "Seguramente esto tiene mucho que ver con la educación sexual de nuestros jóvenes".

Aunque expone que no todos los niños reaccionan igual, la Fiscalía señala que la sociedad ha de garantizar su protección, especialmente la de los más vulnerables. "Algo a lo que deben contribuir también las familias vigilando tanto el consumo como la sobreexposición de menores. Como medidas propias del ámbito educativo y que necesitan la colaboración del entorno familiar se encuentra la prohibición de uso y tenencia de dispositivos móviles en el interior de los centros de enseñanza", afirma.

También alerta de que la IA es una tecnología que "está aquí para quedarse y que está transformando completamente la vida diaria, pero que conlleva tantas posibilidades como riesgos, muchos de ellos ni siquiera aún imaginables".

Por otro lado, advierte sobre el creciente abuso o mal uso de las tecnologías de la información y las comunicaciones (TIC) y su influencia en el acoso escolar. De forma general, la FGE avisa sobre el "importante déficit" en la prevención e intervención de estos casos en el entorno educativo.

Aumento de delitos

En líneas generales, el organismo apunta a que se ha registrado un incremento de todos los delitos que usualmente se cometen haciendo uso de medios telemáticos e Internet, especialmente redes sociales o aplicaciones de mensajería como WhatsApp o Telegram. Entre ellas, las conductas incardinarles como violencia o acoso escolar, si bien la Fiscalía ha reconocido que las aplicaciones informáticas vigentes impiden reflejar los datos exactos de incidencia de este tipo de infracciones, dado su encaje penal y su carácter multidelictivo.

Así, el organismo incide en que una buena parte de los delitos de acoso escolar se perpetran mediante 'ciberbullying', lo que se traduce en un aumento de los delitos contra la integridad moral. Por ejemplo, la memoria refleja que los registros por delitos de amenazas han subido un 12% hasta 1.136; que los de coacciones se han incrementado un 34% hasta 130; y que los delitos contra la intimidad y en concreto los de descubrimiento y revelación de secretos se han incrementado un 61% hasta 153.

En esta misma línea ascendente se mueven las restantes secciones de menores, como han destacado, entre otras, Sevilla, Tenerife, Baleares y Zaragoza, que han mostrado su preocupación por su auge y por las influencias negativas que el abuso de las TIC puede generar en los menores.

La memoria de la FGE remarca que este tipo de conductas se reconducen en la mayoría de los casos mediante soluciones extrajudiciales y, sólo con carácter excepcionalmente grave, con la aplicación de los tipos penales contra la integridad moral.