Las preguntas que formulamos al utilizar herramientas de Inteligencia Artificial como ChatGPT, BING, BARD y otras, permiten obtener muchos datos sobre nuestros intereses y preocupaciones, pero además permiten deducir también aspectos como la localización, el género, la edad, la raza de una persona, o las enfermedades que padece, por ejemplo. Y estos datos se pueden deducir aunque el usuario no los escriba directamente en la consulta que realiza.
Un estudio desarrollado por la Escuela Politécnica Federal de Zúrich en Suiza -ETH Zürich- y dirigida por el profesor Martin Vechev, señala que los modelos de lenguaje pueden descubrir información privada, como también sucede con otros modelos de aprendizaje automático. La precisión que pueden alcanzar es muy alta. Además, es posible utilizar grandes modelos de lenguaje para revisar publicaciones en las redes sociales y obtener información personal sensible.
Los datos e informaciones recogidas pueden ser utilizados después con distintas finalidades, y permiten ir creando un perfil bastante ajustado sobre cada usuario en particular.
No solo es urgente legislar todo lo relativo al uso de la Inteligencia Artificial, sino que es urgente también formar a los usuarios. Y en especial a los adolescentes que comienzan a utilizar estas herramientas para todo, realizando consultas incluso sobre problemas personales. Y del mismo modo es necesario formar a sus progenitores y al profesorado que trabaja con ellos a diario. Toda la comunidad escolar necesita formarse sobre el uso de herramientas que ya está utilizando el alumnado a edades cada vez más tempranas.