Las herramientas de Inteligencia Artificial resultan sumamente interesantes para los profesionales de numerosos campos, entre ellos el campo de la educación. Y no solo pueden facilitar y enriquecer la labor docente, sino que también pueden ayudar a padres y madres a mejorar los resultados académicos de sus hijos (sin caer en el plagio académico).
Pero existen importantes razones por las que no debemos facilitar a niños y adolescentes el acceso a este tipo de herramientas de IA. Y no solo por razones relacionadas con sus estudios, sino también por seguridad y privacidad, así como por cuestiones relacionadas con su bienestar emocional.
Enumero y desarrollo 10 razones que aconsejan no permitir el uso de la IA por parte del alumnado de ESO y BACHILLERATO:
1º. Información falsa o engañosa. Los programas como ChatGPT ofrecen en ocasiones información falsa, creada por la propia herramienta. Puede llegar a inventarse desde artículos del Código Penal hasta bibliografías enteras. La información debe ser siempre verificada antes de ser utilizada.
2º. Información limitada. Las herramientas de IA facilitan información muy resumida, y omiten partes importantes de la información a la que tienen acceso, por razones que desconocemos. Es necesario ampliar siempre la información con otras herramientas como los buscadores y repositorios de información.
3º. Información sesgada. Existe el riesgo de que la IA pueda llevar a tomar decisiones injustas o discriminatorias basadas en datos e informaciones sesgadas. Pueden producirse sesgos raciales, por ejemplo, debido a la información con la que han sido entrenadas las herramientas.
4º. Privacidad y datos personales del alumnado. Nos preocupa mucho dónde se alojan y cómo se conservan o manejan los datos personales derivados de las preguntas y consultas que puede realizar el alumnado. Preocupa también el acceso no autorizado a información sensible y la posibilidad de que los datos de los estudiantes sean utilizados con fines comerciales o inapropiados. Por otro lado, el uso de la IA en el ámbito educativo podría conllevar la recopilación y el análisis de grandes cantidades de datos del alumnado. Esto podría comprometer su privacidad, especialmente si no se manejan adecuadamente.
5º. Fraude académico. Si utilizan programas de IA para realizar tareas de clase o trabajos, deberían especificarlo. Si presentan como suyo algo que no han escrito, nos encontramos ante un claro fraude académico, en el que el alumno se muestra como autor de algo que ha copiado.
6º. Merma de habilidades esenciales para el estudiante. Cuando un alumno/a utiliza herramientas de IA para realizar trabajos de clase, resúmenes, deducción de las ideas principales de un texto, análisis del contenido, asociaciones de ideas, creación de propuestas o conclusiones, redacción, etc, etc, no está trabajando esas habilidades en sí mismo. La infancia y la adolescencia es el momento en el que se entrenan estas capacidades. La IA ahorra mucho trabajo y esfuerzo en los profesionales adultos que basan su trabajo en obtener una serie de resultados, pero que necesitan haber desarrollado previamente dichas potencialidades, y ser capaces de verificar, mejorar y personalizar la información facilitada por la IA.
7º. Dependencia de la IA para la toma de decisiones. Muchos alumnos/as están utilizando la IA para realizar consultas relativas a aspectos muy personales de sus vidas. Piden consejo o indicaciones para resolver conflictos que se producen entre ellos o con sus padres, cómo reaccionar ante situaciones cotidianas de las que se derivan responsabilidades y que pueden tener consecuencias emocionales en los demás.
8º. Problemas relativos a la salud física y mental; Responsabilidades. Cada día es más frecuente la utilización de estas herramientas por parte de adolescentes para obtener diagnósticos sobre dolencias o afecciones que les aquejan, tanto en el ámbito de la salud física como mental. Cuando estas herramientas son utilizadas por profesionales pueden facilitar enormemente el trabajo y el cribado de información, pero las opciones o propuestas obtenidas pasan después por el prisma, supervisión y experiencia del profesional antes de ser validadas. No deben aplicarse sin más, ya que las propias herramientas de IA reconocen sus limitaciones en estos campos y se exoneran de responsabilidad sobre los consejos que facilitan.
9º. Creación de vínculos emocionales con programas de IA. Este es uno de los problemas que más me preocupan. Al imitar la comunicación y el lenguaje humano, muchas herramientas de IA utilizan frases que denotan empatía y comprensión. Una herramienta puede contestarle a un niño o a un adolescente frases como: “te entiendo”, “lamento la situación en la que te encuentras”, “estoy para ayudarte”… y otras similares. Estas afirmaciones son absolutamente FALSAS, ya que las herramientas de IA no entienden absolutamente nada. Carecen de inteligencia, aunque las denominemos así, y por supuesto de la menor empatía. Lo que haga el niño o el adolescente después de recibir la información, a la máquina le da exactamente igual. No debería ser legal que estas herramientas utilizaran frases y expresiones que pueden engañar al usuario trasladándole la idea de que está siendo comprendido y apreciado.
10. Adicción. Una herramienta de IA puede estar disponible las 24 horas del día, los 365 días del año, manteniendo conversaciones con una persona de forma ininterrumpida. No se cansa y nunca tiene un mal día. Es posible hablarle de cualquier tema y recibir respuestas coherentes sobre los estudios, el ocio, las relaciones que establecemos, etc. Del mismo modo que el uso de algunas herramientas digitales por parte de los adolescentes, como las redes sociales, los videojuegos o el propio smartphone, pueden derivar en el desarrollo de trastornos adictivos, lo mismo puede suceder con aplicaciones de Inteligencia Artificial.
En definitiva, son muchas las razones que desaconsejan el uso de herramientas de IA entre los menores de edad, al menos hasta que hayan superado la etapa en la que deben desarrollar sus propias habilidades y aprendido a resolver sus propios conflictos.
Guillermo Cánovas