La IA (en Educación), ¿el nuevo Aceite de Serpiente?
Este artículo pertenece a una serie donde [casi] cada semana comparto una selección curada de lecturas sobre Inteligencia Artificial y Educación. Espero que te resulte interesante. Si quieres estar al tanto de cada nueva publicación te recomiendo que o bien te suscribas al feed del blog con una herramienta como feedly, o bien te suscribas vía e-mail. Encontrarás ambas opciones en la columna lateral 👉
Empecemos con la imagen de cabecera y el título de este artículo.
Aunque en la medicina tradicional china se usaba el aceite de serpiente, un linimento elaborado a partir de grasa de serpiente, para tratar el dolor articular, esta expresión se popularizó en Estados Unidos en el siglo XIX cuando empezó a utilizarse para referirse a productos fraudulentos o de dudosa eficacia. La expresión «vender aceite de serpiente» se usa hasta hoy día como término peyorativo para describir la práctica de vender remedios de dudosa [o aún por demostrar] efectividad.
AI Snake Oil [el aceite de serpiente de la IA] es un proyecto de Arvind Narayanan [director del Princeton Center for Information Technology Policy] y Sayash Kapoor [doctorando en Princeton] que comenzó como una newsletter en Substack y que próximamente será un libro, y al que llego por recomendación de Jordi Adell.
Según los autores, su objetivo es disipar la exageración en torno a la IA, eliminar conceptos erróneos y aclarar los límites de la IA y para ello ofrecen una newsletter dirigida a personas que quieran evitar ser engañadas por el «aceite de serpiente». Puedes leer un adelanto del libro. Una parte importante de la producción de estos autores está en torno a la seguridad de los grandes modelos de lenguaje, y especialmente a los modelos abiertos y sus riesgos.
El punto de partida de este proyecto es una charla de Nayaram ,«Cómo reconocer el aceite de serpiente de la IA», cuya presentación se viraliza en Twitter alcanzando más de dos millones de visualizaciones y miles de likes y RT. En esta charla apunta algunas de las cuestiones en las que él y su colega profundizarán en la newsletter:
- La Inteligencia Artificial, más allá de un conjunto amplio de tecnologías, se ha convertido en un término genérico que se está usando por parte de empresas para vender cosas que realmente no tienen IA o simplemente la simulan [un buen ejemplo serían muchos chatbots de soporte o atención al cliente].
- Las IAs predictivas, que haciendo uso del aprendizaje automático identifican patrones para hacer predicciones sobre acontecimientos futuros, atentan según los autores contra el sentido común: no se puede predecir el futuro, «pero parece que hemos decidido suspender el sentido común cuando se trata de IA».
- Según Nayaram, delegar en la IA la toma de decisiones [como suspender el permiso de conducción de infractores de las normas de tráfico] es una distopía. Frente a la falta de explicabilidad de las herramientas de IA propone usar reglas de puntuación transparentes y manuales para la predicción de riesgos. El artículo Desnudos frente al algoritmo [atribuido a Carlos Fernández Liria pero realmente escrito por mi amigo Miguel Ángel Ojeda] es un buen ejemplo de cómo la inteligencia artificial puede volverse en nuestra contra tomando decisiones erróneas basadas en los sesgos de su entrenamiento. Por cierto, si te interesa la filosofía debes seguir el canal de Youtube «LA Filosofía en Canal» de Carlos Fernández Liria y Miguel Ángel Ojeda.
¿Y tú qué opinas? ¿Cuánto de ‘aceite de serpiente’ hay en torno a la IA y especialmente en torno a la IA para la enseñanza y el aprendizaje?
El compañero Ramón Besonías se pregunta en su último artículo sobre la creatividad en tiempo de la IA, tanto en el ámbito educativo como en el profesional. En el artículo se destaca la importancia de mantener una hibridación entre la capacidad humana y el uso de la IA, al tiempo que advierte sobre el peligro de relegar la creatividad y las habilidades manuales ante la omnipresencia de la tecnología. Besonías también muestra su preocupación sobre una escuela que deje de lado el desarrollo de competencias creativas en favor de un enfoque más centrado en la cuantificación de resultados y la adaptación a las demandas del mercado laboral. Por cierto, muy interesante el uso de la IA en el aula que hace Ramón con sus alumnos de Psicología de 2º de Bachillerato. Puedes ver la experiencia en su blog IA en las Aulas.
Desde Aula Desigual nos llega la Rueda del DUA para la Inteligencia Artificial, que incluye herramientas y funciones disponibles a fecha 8 de marzo, todas ellas bajo un modelo Freemium. En esta actualización han participado buenos amigos como Manuel Jiménez, Alfonso Gómez, Lydia Nacimiento y María Coca, además de Antonio Márquez, director de Aula Desigual, que presentó este recurso en las #JIPAtq24, la última edición de las prestigiosas Jornadas de Innovación Pedagógica organizadas por el CEP de Antequera.
Por cierto, mención especial a las últimas JIPA, centradas en la Inteligencia Artificial, y como siempre gamificadas, cortesía del director del CEP de Antequera, Pepe Arjona, y su fantástico equipo de asesoras y asesores. En esta ocasión la narrativa giró en torno a la magia y la brujería, donde los prompts se convirtieron en hechizos mágicos [como muestra un botón: el libro de hechizos de Ana de la Cruz].
En anteriores entradas del blog enlazaba guías, instrucciones o simplemente documentos con carácter divulgativo de diferentes universidades. La Inteligencia Artificial Generativa en la Docencia Universitaria es un breve documento de la CRUE que plantea oportunidades, desafíos y recomendaciones para las universidades. No hace una aportación significativa sobre lo que ya teníamos pero bueno, ahí está. Más interesantes , sin embargo, me parecen los consejos no pedidos para las universidades ante la IA que hace María del Mar Sánchez.
El ámbito de la investigación tampoco se salva de la influencia de la IA generativa, y si hace unos meses en Nature avisaban del uso deshonesto de ChatGPT en trabajos académicos, hace tan sólo un par de semanas se preguntaban si está haciendo ChatGPT que los científicos sean hieperproductivos. Los LLMs pueden ayudar a los científicos a redactar solicitudes para convocatorias subvencionadas, generar ideas de investigación y realizar revisiones bibliográficas, entre otras cuestiones. Incluso aquellos investigadores con las habilidades adecuadas pueden desarrollar sus propios LLMs personalizados que se ajusten a su estilo de escritura y campo científico.
En cuanto a las desventajas, acelerar el proceso de escritura de documentos podría aumentar la producción en revistas, sobrecargando aún más a editores y revisores. Aparte de aquellos investigadores que están usando LLMs sin confesarlo para producir investigaciones de bajo valor. Un buen momento para revisar el modelo académico actual de «publicar o perecer» [llevado al extremo de la picaresca por algunos (1)(2)], el cual recompensa a los investigadores por publicar constantemente, y orientarnos hacia un sistema que priorice la calidad sobre la cantidad.
Un documento con un carácter más práctico es la Guía para Docentes: Cómo usar ChatGPT para potenciar el aprendizaje activo, publicado por el Centro de Innovación del Ministerio de Educación de Chile.
También muy interesante el documento ¿Cómo abordar la Inteligencia Artificial en el aula? desarrollado por Marian Ferrarelli dentro del proyecto Las Preguntas Educativas, disponible para descarga en formato pdf.
Carlos Magro hizo un hilo recopilando ocho publicaciones sobre IA y Educación de diferentes instituciones [desde el Consejo de Europa a la UNED o al Gobierno Australiano]. Por cierto, si aún no estás suscrito a la newsletter semanal de Carlos, puedes hacerlo aquí.
Y acabamos, como en otras ocasiones, con algo de ‘cacharreo’. Google lleva tiempo incorporando IA a muchos de sus servicios y herramientas. Si eres usuario/a de Google Maps ya habrás podido experimentar las mejoras de esta herramienta gracias a la IA. Si no, aquí tienes un resumen:
- Nueva vista inmersiva.
- La posibilidad de usar Lens en GMaps.
- Nueva API de vista aérea en 3D.
- Interacción más ‘humana’ con la herramienta gracias a la integración del procesamiento del lenguaje natural [PLN].
He comentado en varias ocasiones la mejora sustancial en cuanto a la capacidad de razonamiento de GPT-4 frente a modelos previos. El estudio Tree of Thoughts: Deliberate Problem Solving with Large Language Models revela cómo esta técnica [TOT] mejora la capacidad de ChatGPT frente a otras técnicas como el Input Output Prompting [I.O.] o el Chain of Thought Prompting [COT], en pruebas como el reto matemático del juego de 24, la escritura creativa o minicrucigramas.
Un buen artículo para comprender mejor qué hay tras la inteligencia artificial, en concreto qué es el aprendizaje automático, es este de Marta Arroyo: ¿Qué es el aprendizaje automático [Machine Learning]?. Además puedes suscribirte a su podcast ninja Big Data e Inteligencia Artificial, disponible en Spotify, Apple Podcasts e Ivoox, que cuenta ya con 74 episodios.
Para terminar, te dejo la entrevista que Noelia García me hizo para Cuadernos de Pedagogía, centrada muy específicamente en el ámbito de la Inteligencia Artificial en Educación. Me quedo, frente al titular elegido por la revista, con este otro:
Con el aumento de las experiencias de enseñanza asistida por IA, mantener la interacción humana y la conexión personal con los estudiantes va a ser un desafío cada vez mayor. Como aprendimos durante la pandemia y los confinamientos, es esencial que los docentes sigan desempeñando un papel central en el apoyo emocional y cognitivo de los estudiantes.
Imagen de cabecera generada con GPT4.
Prompt: A brightly colored, exaggerated advertisement featuring a magical «AI elixir» bottle. The ad promises to solve all problems and bring futuristic benefits, showcasing phrases like «Unlock the future now!» and «Solutions to all your problems with a single sip!». The background is filled with futuristic cityscapes, robots, and digital networks, emphasizing the transformative power of the elixir. The design is vibrant and eye-catching, designed to allure viewers into believing in the miracle solution provided by this AI technology.
(No se ha editado la imagen por lo que muestra los habituales errores en la generación de textos de este tipo de IA generativas).
