Concha Tejerina | València (EFE).— La inteligencia artificial (IA) ha irrumpido en la vida cotidiana a una velocidad muy superior a la capacidad para comprender sus riesgos y, según Elena del Val, experta en esta tecnología, no es «por falta de interés» sino porque «la adopción ha ido mucho más rápido que la alfabetización».
En una entrevista con EFE, esta profesora titular de la Escuela Técnica Superior de Ingeniería Informática de la Universitat Politècnica de València (UPV) indica que «por primera vez» los adolescentes no van por delante de los adultos: «Los padres y madres conocen la IA generativa en la misma medida que sus hijos, así que es difícil acompañar en algo que uno mismo está descubriendo».
«Necesitamos actualizar la educación, el diseño de las herramientas y la regulación al mismo tiempo», afirma Del Val, quien señala que en este campo tecnológico, «más que un vacío legal, hay un desfase».
La mejor y peor cara de la IA
Según Del Val, la «mejor cara» de la IA es su «capacidad de ayudar a explicar, resumir, traducir, acompañar en el aprendizaje y facilitar tareas» pero su «peor cara» es que «de una forma muy natural, a través de conversaciones, y sin darnos cuenta, podemos proporcionar datos o información personal que no es necesaria para llevar a cabo la tarea que estemos realizando».
«En las redes sociales el riesgo estaba en lo que publicábamos; con la IA generativa está en lo que conversamos. Un chatbot de IA generativa repregunta, muestra empatía y deduce datos que nunca le hemos dado de forma explícita», alerta.
Según Elena del Val, la IA generativa «ha abaratado enormemente la creación de contenido falso verosímil» y ahora «se pueden generar en minutos imágenes, voces y vídeos que antes requerían medios profesionales».
Pero advierte de que hay «otro riesgo más silencioso y menos visible: lo que cada uno de nosotros cuenta a un chatbot en una conversación privada, y dónde acaban esos datos. Ese riesgo no deja huella».
«Es un riesgo que no percibimos de la misma manera que cuando publicamos en una red social, donde somos más conscientes de que estamos proporcionando información», explica.
El «riesgo fantasma» y la «persuasión empática»
Uno de los riesgos que más le preocupa es lo que define como el «riesgo fantasma» y explica que en una investigación en curso realizada con adolescentes de entre 10 y 16 años de España, Alemania y Reino Unido, se observó que cuanto más compartían los jóvenes con un chatbot, menos preocupados estaban por su privacidad, «no porque estén más seguros, sino porque el riesgo no se ve».
Otro de los riesgos de la IA es la «persuasión empática», según Del Val, que indica que en un experimento publicado en USENIX Security, un formulario conseguía que el 24 % de las personas diera datos personales y un chatbot diseñado para obtenerlos, más del 90 %. El chatbot, con una estrategia empática, obtenía datos verdaderos sin levantar sospechas.
No basta con «ver para creer»
También advierte de que la privacidad «no es solo nuestra. Cuando en una conversación contamos algo de un familiar, un compañero de trabajo o subimos la foto de un grupo de amigos, exponemos a personas que no han dado su consentimiento».
Considera que estamos llegando a un punto en el que no basta con “ver para creer” y señala que la confianza debe basarse en comprobar el origen de los contenidos, contrastarlos con otras fuentes y analizar si tienen sentido en su contexto.
Afirma que hay herramientas técnicas que ayudan, como las marcas de agua, los sistemas de procedencia del contenido o la obligación europea de etiquetar el contenido generado por IA, pero «ninguna es infalible».
Responsabilidad compartida
También reclama una responsabilidad compartida entre las empresas tecnológicas que desarrollan la IA y deciden qué permiten generar sus modelos y si marcan el contenido sintético; las plataformas digitales, que deciden qué se difunde, a qué velocidad y con qué etiquetas; y las administraciones públicas, que fijan las reglas, supervisan que se cumplan y sancionan cuando no se hace. Añade a la comunidad educativa y a la investigación.
Además, explica que en Europa tenemos un marco sólido: el Reglamento General de Protección de Datos, la ley orgánica española de protección de datos y, desde 2024, el Reglamento de Inteligencia Artificial.
«El problema es que esos marcos se pensaron para un escenario donde los datos se introducían en campos de un formulario y se podía pedir consentimiento para cada uno. Hoy lo que viaja es un relato entero en lenguaje natural, y el modelo deduce edad, salud o estado de ánimo, aunque no se los hayas dado», advierte.
La IA generativa «actúa como amplificador»
Preguntada por casos como el de ‘Blocus’, que usa IA generativa para crear mensajes que alentaban discursos, o el de algunos partidos políticos que usan imágenes o voces que no son reales en contra del adversario político, la profesora titular de la UPV señala que esta IA «actúa como amplificador».
«Abarata y facilita la producción de mensajes manipulados, y los hace más personalizados y verosímiles. Las redes sociales, cuyo diseño premia lo que genera reacción, son el terreno donde ese contenido se multiplica», explica para añadir que no cree que «estemos condenados a convivir con ello sin más»
Según Del Val, «sabemos que el diseño importa. Un aviso en el momento justo y una alternativa clara influyen en lo que las personas hacen, mientras que informar sin más no cambia nada. Lo mismo podría valer para la desinformación», subraya.
A su juicio, «etiquetar contenido sintético, introducir una pequeña pausa o un aviso antes de reenviar un contenido dudoso y exigir responsabilidad a quien lo difunde sí podría tener efecto. Probablemente este tipo de mensajes no desaparezca, pero podemos reducir su alcance y aumentar nuestra capacidad colectiva para detectarlos».
La IA «juega en contra si la usamos para dejar de pensar»
Preguntada por si cree que estamos perdiendo capacidad de pensamiento crítico al delegar cada vez más tareas y decisiones en las máquinas, afirma que el «riesgo existe si delegamos sin revisar: la IA es una buena herramienta para pensar si la usamos para contrastar, pedir otra perspectiva o entender algo, pero juega en contra si la usamos para dejar de pensar».
Considera que su uso como confidente o “psicólogo” merece una «atención especial», y tras indicar que los datos confirman que muchos adolescentes hablan con un chatbot de cómo se sienten antes que con su familia o sus amistades, subraya que el problema es doble: un chatbot no es un profesional y puede fallar en momentos críticos, y esa intimidad hace que se cuenten cosas muy sensibles a una empresa que está detrás del chatbot, no a una persona sujeta a secreto profesional.
Para Del Val, los beneficios de la IA «son reales y por eso la respuesta no puede ser prohibir. El equilibrio está en que la decisión vuelva a la persona que la está utilizando, con información comprensible y en el momento justo»
© AGENCIA EFE
