Licencia de Creative Commons
blog profesor 3.0 by Alfredo Prieto Martín is licensed under a Creative Commons Reconocimiento-NoComercial-CompartirIgual 4.0 Internacional License.

Sígueme en twitter

domingo, 7 de mayo de 2017

Versión open letter course ware del taller de evaluación en grados sanitarios¿Qué tiene que decir la investigación sobre la evaluación de las competencias?


El pasado lunes 23 de junio impartí en la Escuela de Enfermería y Fisioterapia de la Universidad de Casilla-La Mancha, la primera sesión presencial de un curso titulado: “Evaluación en grados sanitarios: cómo evaluar competencias con sentido común y los pies en el suelo”. Este curso usa una metodología de blended learning que combina envío de materiales por medios electrónicos para el estudio previo a las dos sesiones presenciales.

Fase de estudio previo
El curso empezó con un primer e-mail de bienvenida dirigido a los participantes, en el cual les sugeríamos que contestasen a un cuestionario de expectativas previas localizado en el link.
Se pidió a los participantes como tarea de preparación para el curso que reflexionasen seriamente sobre una serie de preguntas relacionadas con los sistemas de evaluación que utilizan en sus asignaturas.
En un segundo e-mail os propuse estudiar una presentación sobre evaluación de competencias.
y ver un vídeo sobre el enfoque de enseñanza funcional en medicina.
En un tercer mail os propuse leer una presentación en la que se iba a centrar el curso ¿Qué tiene que decir la investigación acerca de la evaluación de competencias?

En un cuarto mensaje os envié otros dos documentos. Una presentación sobre cómo hacer que nuestra evaluación continua sea más formativa y eficiente.

Y otra sobre evaluación de competencias genéricas (que me había sido solicitada por varios participantes en sus cuestionarios de expectativas).
También os propuse ver una serie de videos que ilustraban el concepto del alineamiento constructivo y resaltan la importancia del sistema de evaluación para conseguir los resultados de aprendizaje que deseamos..

Resumen de la primera sesión presencial

En la  primera sesión presencial del curso en Evaluación en grados sanitarios: cómo evaluar competencias con sentido común y los pies en el suelo empezamos puntualmente a las 9,30 poniendo como premio para los más puntuales, el famoso vídeo de la Universidad en Cinco Minutos.

Nos reímos bastante con esta parodia de la enseñanza universitaria llevada al extremo del absurdo. En ella el monologista, que se propone fundar un nuevo tipo de Universidad propone que su institución otorgue títulos universitarios en cinco minutos en los que sólo se enseñará a los alumnos, precisamente  aquello que el graduado medio recuerda cinco años después de terminar sus estudios de grado.
Después discutimos sobre el aspecto serio de este monólogo de humor. La corta duración de muchos de los aprendizajes que nuestros alumnos adquieren para superar los innumerables exámenes que les sirven para ir aprobando las sucesivas asignaturas.
 Si en estos exámenes evaluamos cosas que pueden haberse aprendido la noche anterior, es casi seguro que ese aprendizaje será de muy corta duración. En países como Holanda las facultades de Medicina realizan 4 progress tests anuales durante todos los años del currículo en los que evalúan de manera interdisciplinar el progreso en el dominio completo de los conocimientos que deben tener los graduados en medicina y que cubre  las áreas más importantes de las ciencias básicas, clínicas, del comportamiento y de la salud pública.
Los progress tests son como un examen MIR, tienen formato MCQ y la prueba esta diseñada  de manera que, por su profundidad, amplitud y exhaustividad, los alumnos no puedan prepararse mediante una rápida memorización de contenidos y de este modo no tienen más remedio que ir adquiriendo conocimientos continuamente y de forma que puedan movilizarlos en el momento en el que se les pida.
 Los resultados de cada alumno se acumulan en un registro electrónico de manera que se puede seguir su progresión en la adquisición de conocimientos. Cada alumno recibe información detallada sobre sus propios resultados, lo cual le hace consciente del estado de sus conocimientos con respecto al nivel que deberá adquirir para su graduación.
Este vídeo subtitulado al español cuenta que son los progress test que hacen en las facultades de medicina holandesas

El análisis de la información proporciona información muy valiosa para los profesores y tutores sobre el progreso de los alumnos a su cargo. Este procedimiento permite detectar precozmente a los estudiantes con problemas de aprendizaje graves. Dijimos que esto era un ejemplo de cómo abordar la evaluación del aprendizaje de los alumnos con una perspectiva de facultad o escuela con un enfoque (comprehensive) que abarcaba el currículo formativo en toda su amplitud y longitud.
Pusimos los progress tests y los ECOES como ejemplos de una evaluación programática global planteada por la institución docente y la contrastamos  con la evaluación que puede plantearse desde la perspectiva de las asignaturas individuales. Escocidos por el 5-1  que nos metieron los holandeses en el pasado mundial nos parecia recochineo el que encima evaluen mucho mejor a sus alumnos de medicina. Comentamos que la dificultad de organizar sistemas de evaluación con óptica de facultad en España era una muestra de lo lejos que estamos de Holanda (no en futbol sino en la educación de las profesiones sanitarias).
Empezamos con una presentación de la agenda del curso e introduciendo los distintos temas que íbamos a tratar. Indiqué  que el curso se iniciaba con estudio previo a las sesiones presenciales, estudio entre las sesiones presenciales y finalmente continuaría tras las sesiones presenciales con envíos de información a mis exalumnos de formación de profesorado. Los participantes en este curso pasarán a formar parte de la comunidad de casi 2.500 profesores españoles que han sido alumnos de mis cursos de formación de profesorado y reciben noticia de los recursos que voy desarrollando siguiendo mi blog profesor 3.0 y mis twitts como @alfredoprietoma.
Dijimos que en la primera sesión trataríamos tres puntos principales:
1 Comentarios del profesor a vuestras respuestas a los cuestionarios de expectativas.
2 ¿Qué tiene que decir la investigación sobre la evaluación de las competencias?
3 Experimentación de metodologías para evaluación formativa que usan tarjetas de respuesta y preguntas de elección de respuesta entre múltiples opciones.


Comentarios del profesor a vuestras respuestas a los cuestionarios de expectativas

Empezamos comentando los cuestionarios de expectativas recogidos por medio de la aplicación Survey monkey. Empezamos por el de Carmen Torres Valdivieso que fue la primera en contestar. Su cuestionario fue además muy representativo de comentarios compartidos por otros compañeros participantes en el curso. En relación a las cosas que logramos que los alumnos aprendan gracias al sistema de evaluación que empleamos, Carmen señalaba (como también lo hacían otros compañeros) los conocimientos básicos de su asignatura e incluso las relaciones entre ellos. Sin embargo, señalaba como pendiente de lograr un uso más fluido y sofisticado del lenguaje  y un mayor desarrollo de la competencia para el razonamiento crítico.
Carmen señalaba que sus alumnos, no dedicaban el tiempo de trabajo suficiente en las partes iniciales de los cuatrimestres y tendían a esforzarse principalmente al final. Comenté que este era un problema muy frecuente que estaban intentando resolver las metodologías de clase inversa o flipped clasroom. En estas metodologías se pide a los alumnos que estudien por si mismos los materiales antes de tratarlos en clase.
Comentamos el hecho de que los alumnos tienden a esforzarse más al final cuando la evaluación se acerca y cómo podríamos usar ese impulso a estudiar justo antes del examen para hacer que nuestros alumno estudien antes del principio de cada tema poniéndoles una examen formativo o tareas de comprobación en cada tema.
 Este principio es explotado por la pedagogía inversa o flipped classroom en la que pedimos a los alumnos que estudien el siguiente tema antes de que se lo expliquemos. Para aumentar su motivación para hacer este estudio previo se bonifica  a los alumnos que estudian antes de cada tema y realizan una tarea o prueba de comprobación.
En el just in time teaching la tarea del alumno es responder a un cuestionario de preguntas abiertas por ejemplo:
•1. Apellidos y nombre (primero apellidos para ordenaros alfabéticamente)
•  2. Indica cuál te parece la idea más importante o interesante que has aprendido en este tema y justifica por qué.
• 3. ¿Qué parte del tema te parece más necesario profundizar en clase?       ¿Por qué?
•  4. ¿Qué es lo que te ha quedado menos claro del tema?     ¿por qué?
• 5. ¿Qué pregunta te gustaría que te respondiéramos el primer día?    ¿por qué?
•  6. ¿Que parte no necesitas que te expliquen?     ¿por qué?
•  7. Resume lo más importante del tema en menos de 200 palabras.
• 8. Comenta algo acerca de lo que has comprendido al ver cada uno de los vídeos recomendados en el tema
•  9.  ¿Cuánto tiempo has tardado en leer las diapositivas intentando entenderlas, ver los vídeos y contestar a este cuestionario (indícalo en minutos)?
• 10. Pon un tu e-mail de contacto por si te tenemos que pedir que lo vuelvas a reestudiar y volver a contestar mejor a las preguntas del cuestionario

Comenté que para que la supervisión de estos cuestionarios no se convirtiese  en algo que esclavizase al profesor era conveniente semiautomatizar el proceso de control y calificación, renunciar a la pretensión de proporcionar un feedback personalizado salvo en aquelllos casos especiales que lo necesiten especialmente un correctivo urgente (los que te responden de una manera tan chapuza que demuestran que no se han mirado casi el tema). A la inmensa mayoría les podemos proporcionar feedback colectivamente, por ejemplo respondiendo a la lista de  preguntas urgentes de nuestros alumnos.
Comente que en la segunda sesión presencial del curso veríamos otras metodologías de fomento del estudio previo que utilizan preguntas MCQ para comprobar el estudio previo de nuestros alumnos.
Demostré que el fomento del estudio previo a las clases es una metodología con tradición en las mejores universidades del mundo. Pusimos primero un vídeo para que se viese como los profesores más huesos de Harvard comprobaban el estudio previo por medio del método de la “llamada sin aviso” o “llamada en frio” (cold call). Estos profesores enviaban a sus alumnos el mensaje de que para aprender más y aprobar en su asignatura había que estudiar antes de las clases y prepararse para discutir los casos en público.  Comprobación del estudio previo a la vieja usanza  de Harvard
Después comentamos que afortunadamente las metodologías habían evolucionado mucho y ahora podía conseguirse que nuestros alumnos se preparasen para las clases  usando las metodologías de enseñanza inversa flipped learning  e incluso enviarles explicaciones en vídeo y podcast. Vimos el vídeo en el que Aaron Sams nos cuenta en qué consiste la metodología de flipped classroom.

En cuanto a la pregunta urgente de Carmen  sobre si profesores y alumnos llegaremos algún día a encontrarnos en una situación de encuentro más que de desencuentro y lleguemos actuar como un equipo con objetivos comunes. Se comentó que esto requiere mucho dialogo y comprensión del punto de vista del otro. En fin, el establecimiento de una relación de ayuda y un sentimiento de empatía mutua.  A este dialogo ayudan mucho las metodologías de enseñanza inversa con su flujo de comunicación bidireccional entre el profesor y sus alumnos. Con esto nos llego la hora del recreo a mitad de la mañana.
Tras el recreo pusimos como premio a los que regresaron con más puntualidad, un vídeo en el que el profesor Kingsfield explicaba a sus alumnos cual era la esencia del método socrático.

¿Qué tiene que decir la investigación sobre la evaluación de las competencias?

Empezamos la segunda parte de la sesión  con la presentación ¿Que tiene que decir la investigación sobre la evaluación de competencias? basada en la conferencia impartida por Cees van der Vleuten en el Karolinska Institutet con motivo de la concesión del premio de este instituto en la modalidad de Educación Médica.
Empecé comentando las características de los instrumentos de    
evaluación: Validez, Fiabilidad, Impacto educativo, Aceptabilidad
y Coste. A continuación expliqué el concepto de compromiso en evaluación del aprendizaje de competencias. El compromiso es comprender que no podemos tenerlo todo en nuestro sistema de evaluación. Tenemos que escoger qué características reforzaremos y cuales son menos esenciales y por tanto podemos comprometer sin perder lo que más queremos lograr.
Dependiendo de del tipo y la utilidad de la evaluación deberemos comprometer aquellas  características de las que podamos prescindir en cada caso. En la evaluación formativa  la utilidad principal es el impacto educativo: Esto incluye estimular el esfuerzo de los alumnos, con situaciones lo más auténticas posibles que proporcionen ocasiones para el ejercicio de competencias  y la generación de feedback a partir de ellas. Esta evaluación formativa debe tener una cierta valoración para que tanto los profesores como los alumnos se la tomen en serio. Sin embargo, no se tomarán a partir de ella decisiones de alta repercusión y por tanto no debemos preocuparnos excesivamente de la fiabilidad en la calificación. La evaluación continua no tiene repercusiones drásticas e irreparables. Un examen de sólo 10 preguntas MCQ nos puede valer para hacer la evaluación formativa de un tema para estimular el estudio de los alumnos y para dar pie a la discusión y el feedback. Desde luego la nota obtenida por cada alumno no será muy fiable (y si es on line nada fiable) pero no debemos preocuparnos por ello si el peso de este examen en la calificación es escaso (un 1% de la calificación final).
Sin embargo, en una prueba de evaluación acreditativa, en la que cada alumno se juega una parte importante de la nota (por ejemplo un 35% de la calificación) y que pesará decisivamente en la calificación de nuestros alumnos, no podemos comprometer su seguridad, fiabilidad y validez. Deberemos esforzarnos por que sean lo más altas posible.
 La investigación en fiabilidad de pruebas de evaluación demuestra que ningún instrumento de evaluación puede evaluar con una fiabilidad superior a 0,80 en menos de 2 horas de prueba. Por tanto la evaluación formativa y la acreditativa son distintas en sus utilidades y en los compromisos que debemos adoptar en ellas.
Despues tratamos el problema que supone realizar una evaluación acreditativa en condiciones de autenticidad (que la prueba se parezca a la práctica profesional real). Si el objetivo es evaluar competencias clínicas al nivel de “demuestra como” de manera acreditativa por ejemplo por medio de un ECOE  no bastan los recursos de una asignatura se necesitan los recursos de una escuela o facultad. Sin embargo para  hacer evaluación formativa a este nivel  en el que no se pretende medir de un modo fiable sino tener un impacto formativo positivo, podemos usar ECOEs en las que algunos alumnos harán de pacientes y otros de tribunal. Desde luego que su resultado no será una medida fiable, pero servirá para que los alumnos aprendan y se entrenen para mejorar su desempeño en las ECOEs realmente acreditativas.
Otro ejemplo de diferencia de enfoque entre evaluación formativa y acreditativa es pretender usar pruebas de test de las que se usan para evaluación acreditativa  para comprobar el estudio previo de los alumnos. Se comentó que los alumnos suelen hacer trampas en este tipo de evaluación on line que no es nada segura. Comente que es un grave error aplicar esquemas de evaluación acreditativa cuando queremos realizar evaluación formativa y queremos que el alumnos reflexione sobre lo que ha estudiado y de esa manera nos demuestre que ha estudiado. Pero para que nuestra evaluación continua y formativa sea más eficiente debemos aprender a usar herramientas que nos la faciliten ahorrando parte del tiempo que el profesor deberá dedicar a su revisión. A este fin nos ayudarán los cuestionarios on line y las herramientas de evaluación por compañeros (Taller de Moodle) y rúbricas. Si queremos usar exámenes MCQ para la evaluación formativa on line (tal vez no sea la mejor estrategia) deberemos automatizar su proceso de corrección y estar preparados para que si ofrecemos la oportunidad (por ejemplo ofreciendo feedback automático e inmediato) los alumnos nos hagan trampas soplando en face book las respuestas correctas a sus compañeros.
Por otro lado, debemos aumentar la fiabilidad de la evaluación acreditativa por ejemplo realizando exámenes que combinen distintos instrumentos: por ejemplo un 50% de la calificación por MCQ y otro 50% por preguntas de respuesta escrita que incluyan preguntas de respuesta corta y la resolución problemas y casos, así como alguna pregunta que permita evaluar la estructura de comprensión de relaciones entre distintos conceptos. Este tipo de exámenes tendrá alta fiabilidad y tendrá un impacto favorable en el tipo de estudio que inducirá pero nos dará mucho trabajo de diseño y de corrección. Se comentó que sería mucho más cómodo para el profesor evaluar todo con MCQ pero que eso tendría un impacto muy negativo en el aprendizaje al inducir una preparación exclusiva para test que se queda en un estudio memorístico y superficial así como de estudio de  preguntas de exámenes pasados.
Se comentó que si les pedimos a nuestros alumnos que nos hagan preguntas sobre las dudas que no comprenden podemos respondérselas colectivamente pero indicándoles que las respuestas a esas preguntas pueden ser materia de examen.
A continuación presentamos la pirámide de Miller que define los distintos niveles de autenticidad profesional a los que se pueden evaluar las competencias.


También comentamos que los instrumentos de evaluación tienen un formato del estímulo y un formato de recogida de la respuesta y los relacionamos con los niveles de evaluación en la pirámide de Miller. Presentamos que formatos de estímulos y de recogida de respuesta son adecuados para  evaluar competencias a distintos niveles de la pirámide de Miller.


También dijimos que para los tres niveles inferiores tenemos métodos de evaluación estandarizada mientras que para el nivel superior solo podemos evaluarlo de una manera no estandarizada.


A continuación expuse y comenté los seis principios de evaluación estandarizada del aprendizaje
1.    La competencia es específica (de ciertos contextos), no genérica.
2.   La objetividad no es lo mismo que la fiabilidad.
3.   El formato del estímulo determina más lo que se mide que  el formato de la respuesta que se recoge.
4.   La validez puede ser construida e incorporada a nuestro sistema.
5.   La evaluación conduce a los logros de aprendizaje de nuestros alumnos.
6.   Ningún método único puede hacerlo todo.

Empezamos nuestra discusión de los principios destacando la importancia de los contextos de evaluación en la evaluación de competencias. Evaluar competencias implica evaluar su aplicación en contextos reales o verosímiles. Si como la investigación demuestra la medición de una competencia en un contexto no predice absolutamente el desempeño en otro contexto distinto, entonces es claro que si queremos evaluar las competencias de manera fiable deberemos combinar el muestreo en contextos diversos. Debemos por tanto examinar una misma competencia en distintos casos, momentos, por distintos profesores, incluso en distintas asignaturas.
Vimos que la investigación demuestra que la fiabilidad no depende tanto del método de evaluación como de la amplitud del muestreo.  Hay métodos más factibles que otros pero para ser fiables todos necesitan un amplio muestreo que requiere al menos 2 horas por alumno.



 Como ejemplo de aplicación del primer principio planeamos la cuestión: ¿Son fiables los exámenes realizados en una hora de clase con los alumnos como piojos en costura? Estábamos todos de acuerdo en que esta práctica tan común hoy en día no es fiable y por tanto los exámenes “parcialitos” deberían ser realizados de otra manera que aumentase su fiabilidad.
Para que nuestra evaluación fuese más fiable sería necesario reservar un aula más grande y durante más tiempo 2-3 horas. También nos ayudaría el usar una prueba elaborada con items altamente discriminativos. Explique una manera sencilla y al alcance de cualquiera, para estudiar el poder discriminativo de las preguntas de sus exámenes. Para ello solo hay que usar una matriz  de resultados de las distintas preguntas del  examen con sus filas (alumnos) ordenadas por el ranking de calificación global y en cada columna las puntuaciones obtenidas en cada pregunta (Excel te lo ordena como se lo pidas).
A partir de de esta matriz podemos comparar las calificaciones de cada pregunta en grupos de alumnos con distinto nivel de conocimientos por ejemplo del cuartil de alumnos con mejor calificación global respecto a aquellos del cuartil con peores calificaciones. El cociente entre ambos valores es el índice de discriminación de esa pregunta y nos permite comparar la capacidad de distintas preguntas para discriminar entre los alumnos con distintos niveles de conocimientos. De esta manera podemos escoger preguntas con mayor poder discriminativo para elaborar nuestras pruebas que de esta manera tendrían una mayor capacidad para discriminar entre alumnos con distintos niveles de conocimientos.

Experimentación de metodologías para evaluación formativa que usan tarjetas de respuesta y preguntas de elección de respuesta entre múltiples opciones.

Después de esta disquisición matemática con la que concluía mi exposición del primer principio os vi un poco cansados de teoría. Por ello cambiamos de tercio y dedicamos los últimos cuarenta minutos a experimentar la metodología Peer instruction con preguntas conceptuales sobre física de bachillerato. Respondimos a las preguntas con las flash cards y discutimos la justificación de las respuestas al modo del peer instruction: unos alumnos discuten con otros que han escogido otras opciones sobre las razones que justifican las respuestas que han escogido. 

También comentamos la posibilidad de utilizar este método de evaluación formativa con la aplicación socrative que permite a los alumnos responder con sus smartphones a preguntas MCQ. Llego la hora de despedirnos y a las 3:25 cogí el AVE que me llevaría a Atocha y de allí a Alcalá de Henares.

En la segunda sesión de este curso acabaremos de ver los principios para mejorar la evaluación estandarizada de competencias. También nos asomaremos a la evaluación no estandarizada y a los sistemas de evaluación programática. Dedicaremos especial atención al uso que podemos hacer de las rúbricas, a los concept tests para la evaluación de la comprensión, a cómo construir preguntas MCQ con contexto que permitan evaluar comprensión y capacidad de transferencia y también a la elaboración de pruebas de evaluación acreditativa de mayor calidad.


A continuación el resumen de la segunda sesión:
En la segunda sesión del curso empezamos utilizando la metodología Just in time teaching comentando los cuestionarios de expectativas que los participantes habían contestado después de leer los materiales instructivos del curso mostrando así sus reacciones a los mismos.

 Empezamos por el de Ana Isabel Cobo que planteaba la pregunta  ¿Cómo mejorar la evaluación sin sobrecargar a los estudiantes y al profesor? ¿Cómo mejorar la evaluación y no morir en el intento? Respondí que la mejor evaluación es la que hace trabajar al alumno las horas no presenciales que le corresponden por cada crédito ECTS (unas 15 por crédito) sin que ello se traduzca en que su profesor se ahogue en una montaña de trabajos por revisar. Se planteó un debate acerca  del problema de la coordinación y contesté que si un alumno con dedicación plena a sus estudios universitarios en el EEES debe trabajar en sus asignaturas 40 horas semanales (sumando las presenciales y no presenciales). Lo normal es que  este alumno este matriculado en 5 asignaturas por cuatrimestre simultáneamente, entonces la carga de trabajo total (presencial+ no presencial) media semanal de cada una de las cinco asignaturas debe ser de 40/5= 8 horas semanales de trabajo en cada asignatura (sumando horas presenciales y no presenciales).

Después comentamos las respuestas De Teresa Martín Vecino a la que en primer lugar agradecí haberme propuesto como ponente de este curso. Teresa comunicó el reciente fallecimiento (14-6-2014) de Carmen Vizcarro Guarch, profesora de Psicología de la universidad autónoma de Madrid autora de múltiples trabajos sobre la evaluación de competencias. Todos los que trabajamos en evaluación de competencias hemos aprendido mucho de Carmen y sus publicaciones. 

Después de este emocionado recuerdo respondí a la pregunta urgente del cuestionario de Teresa: ¿Cómo se puede mantener una evaluación continua con menos inversión de tiempo que el que ahora dedico? usé una presentación sobre  gestión de la carga de trabajo que genera la evaluación continua al profesor (gestión de la carga y más cosas). Este documento incluye un modelo de análisis y digestión de la carga de seguimiento de las tareas de evaluación continua, una explicación sobre los tests conceptuales y su aplicación a la medida de ganancias de aprendizaje y ejemplos de cómo usar La taxonomía de Bloom y la taxonomía SOLO (Structure of Observed Learning Outcomes) para crear preguntas de evaluación.

 Finalmente, comentamos el cuestionario de Jose Antonio de la Torre Brasas que  quería conocer metodologías para que las competencias específicas  de su asignatura se adquiriesen  con una mayor profundidad y de forma más progresiva. Contesté explicando el modelo de pedagogía inversa y las distintas metodologías para el fomento del estudio previo. Os recomendé empezar por el just in time teaching por ser la más sencilla y eficiente en términos de economía en términos de trabajo extra para el profesor. Este método usa para comprobar el estudio un cuestionario de preguntas abiertas que podemos reutilizar en los sucesivos temas por lo que no es necesario tanto trabajo adicional como en los métodos en los que el profesor debe generar preguntas MCQ nuevas y originales para cada tema o incluso para cada clase. Por ello os recomendé como estrategia de innovación empezar experimentando con el just in time teaching y después experimentar con las metodologías que usan preguntas de elección entre múltiples opciones: team based learning, PEPEOLA (preparación y estudio previo por evaluación on line automática) y peer instruction.

Después acabamos de ver la presentación que nos habíamos dejado a medias en la primera sesión sobre los principios para mejorar la evaluación estandarizada de competencias. También comentamos los 6 principios de la evaluación no estandarizada.

Tras el descanso vimos un ejemplo de un sistema de evaluación programática, el del grado en Medicina e Investigación Clínica de la Universidad de Maastricht.  
Después realizamos una actividad en la que respondimos a preguntas MCQ utilizando nuestros smartphones. Después respondistéis en equipo a una serie de preguntas sobre las metodologías de fomento del estudio previo y realizamos una competición entre los equipos al estilo del Team based learning. Discutimos la justificación de las respuestas a las preguntas. De esta manera experimentasteis la metodología TBL desde el punto de vista del alumno.

Finalizamos el curso con una presentación sobre cómo construir preguntas MCQ de más calidad con contexto que permitan evaluar comprensión y capacidad de transferencia y también a la elaboración de pruebas de evaluación acreditativa de mayor calidad. Tal vez si aprendemos a hacer mejores pruebas de evaluación podamos evitar lo que ocurre en la actualidad, que los alumnos en lugar de estudiar temarios estudian exámenes de otros años.
Algo que puede observarse en la siguiente entrada Mafia en los exámenes de Medicina del blog el Linternista

jueves, 23 de marzo de 2017

Lo que hacen mis mejores alumnos universitarios y cómo puedo aprovecharlo para motivarles más

What the best college students do Ken Bain 
Ya van 13.000 visitas, luego me toca escribir otra entrada. Hace unos meses me leí otro libro de Ken Bain titulado "What the best college students do". Este libro es un digno sucesor de su antecesor "What the best college teachers do" (que es más famoso porque fue traducido al castellano, al catalán y al gallego y por ello entró en algunas bibliotecas universitarias españolas). La lectura del nuevo libro de Bain  me llevó a reflexionar sobre que es lo que hacen mis mejores alumnos y sobre lo que yo he hecho para animarles a cambiar sus hábitos y motivarles para que se esfuercen y aprendan más.
El propósito de mi asignatura de inmunología es que los alumnos desarrollen un interés por los mecanismos de la respuesta inmune que les lleve a estudiarlos y comprenderlos en profundidad y a poder transferir su comprensión de la materia, al diseño, análisis e interpretación de situaciones experimentales propias de la disciplina. Quiero lograr que una mayor parte de mis alumnos deseen aprender sobre inmunología porque mi experiencia me demuestra que los alumnos que no desean aprender realmente aprenden muy poco, sólo aprenderán lo que les  sea imprescindible para aprobar.

El deseo por aprender es la fuerza más poderosa para producir aprendizaje. Debemos hacer todo lo humanamente posible por estimularla. Debemos estudiar  esa fuerza en aquellos alumnos que la tienen en mayor cantidad e intentar trasferirla al resto de sus compañeros.  Hace 15 años con el fin de motivar a mis alumnos más estudiosos y animarles a realizar un esfuerzo todavía mayor (épico) por aprender mi asignatura, empecé a conceder el Premio Billy Elliot (en honor a aquel chaval que quería aprender a bailar y convertirse en un bailarín pese a que todo su entorno familiar y social estuviese en su contra).

Concedía este premio cada año a mis alumnos más destacados, a aquellos que demostraban en cantidad superlativa un afán desmesurado por aprender mi asignatura y a consecuencia de ello obtenían un aprendizaje profundo que sus profesores intentábamos premiar con las mejores calificaciones. A fin de curso escogía a los que mas se habían esforzado y habían obtenido los resultados de aprendizaje  más destacados y les enviaba una carta de concesión del premio como esta.

Carta de concesión del premio
International Award Billy Elliot 



Pese a que el premio no llevaba asociada ninguna bolsa monetaria (motivación a coste cero) llenaba de alegría y orgullo a los que lo recibían.

Carta de agradecimiento de un alumno premiado con el
International Award Billy Elliot 


Al empezar la asignatura cada año, mostrábamos el Hall of Fame de los alumnos que habían recibido este premio en las promociones anteriores. Para ponerles los dientes largos les demostrábamos que gracias a nuestro sistema de bonificaciones a cambio de pequeñas tareas si un alumno se esforzaba podía sacar más de un diez de calificación de nuestra asignatura. Ademas les demostrábamos en las calificaciones de las promociones anteriores que nosotros siempre poníamos el cupo máximo de matrículas de honor del cinco por ciento de los alumnos, siempre que sacases una calificación final por encima de 9 y que estas serían para los que sacasen las máximas puntuaciones de nuestro sistema de evaluación que valoraba hasta en un treinta por cien las actividades académicas dirigidas y la participación de los alumnos en discusiones y diversos ejercicios.
 El resto de la calificación se obtenía en exámenes que eran legendarios en la facultad por su complejidad y dificultad. Por ello, para sacar buenas calificaciones en la asignatura era necesario seguirnos el juego a los profesores y participar y realizar los proyectos "voluntarios" de aprendizaje basado en problemas (nuestra tasa de voluntarios superaba el 90% de los alumnos). Algo inusitado en las antiguas licenciaturas españolas. Con todo ello pretendíamos que nuestros alumnos se esforzasen y aprendiesen más.  El premio Billy Elliot era una apelación al esfuerzo épico por aprender nuestra asignatura.

Hall of Fame 

Ganadores del Premio galardonados entre 2003 y 2010


Con esto quería animarles al esfuerzo supremo por aprender el máximo de la asignatura y vaya si lo logramos. Recuerdo una discusión amigable con el profesor del grupo de tarde Jorge Monserrat sobre si un alumno extranjero, John Zamplella, era del grupo de mañana (al cuál daba clase yo), o del grupo de tarde (al cuál daba clase él). Cuando se lo preguntamos al alumno (que era estadounidense y quería entrar en la escuela de Medicina a la vuelta a su país) nos respondió que venia a todas las clases de inmunología de la mañana pero también a todas las de la tarde porque quería enterarse mejor y así poder obtener la máxima calificación en la asignatura. Este alumno tenía tal afán por aprovechar todas las oportunidades disponibles para aprender que fue capaz de asistir dos veces a cada una de las cuarenta clases de cada turno de la asignatura y por ello y el consecuente excelente rendimiento académico recibió el premio Billy Elliot en el año 2006.

 Este año también fue cuando los profesores de inmunología sentimos (como Billy Elliot) que nuestro entorno no favorecía nuestros esfuerzos por lograr aprendizaje que queríamos en nuestros alumnos.  En un acta de su reunión celebrada el 6-6-2006 la comisión académica de nuestra facultad ante las quejas esporádicas de dos o tres alumnos que decían que les hacíamos trabajar mucho y que tenían que entender por si mismos textos en inglés sin que antes sus profesores se los explicásemos recomendó a nuestra área "utilizar metodologías más clásicas" en la enseñanza de nuestras asignaturas.

Afortunadamente fuimos invitados a la siguiente reunión de la comisión en la que pudimos defendernos. Nuestra contundente respuesta fue un informe resultante del análisis de cuestionarios de opinión (doy las gracias a Martín Villarroel que realizó el análisis) respondidos por 60 de nuestros alumnos que demostraban que una mayoría abrumadora de nuestros alumnos valoraban en mucho lo que aprendían en nuestra asignatura y especialmente en nuestras denostadas actividades de aprendizaje basado en problemas.  Este informe de defensa de nuestra metodología, se convirtió posteriormente en un artículo en el que mostramos la metodología ABP 4 x 4 a la comunidad educativa (al menos a los profesores que leen sobre nuevas metodologías educativas) y que se publicó en la revista aula abierta con el título. Un nuevo modelo de aprendizaje basado en problemas, el ABP4x4 es eficaz para desarrollar competencias profesionales valiosas en asignaturas con más de 100 alumnos.Aula abierta 87 (2006) 171-194 


Por tanto, debo agradecer a la Comisión académica el haber proporcionado el estímulo necesario para que procesáramos la información de nuestros alumnos sobre su aprendizaje en nuestra asignatura y así pudiéramos publicar sobre nuestras innovaciones metodológicas con el aprendizaje basado en problemas. Si se lee con atención la sección de agradecimiento del artículo se verá que los autores no son unos desagradecidos. Gracias a esta experiencia pude experimentar sensaciones como las que debió sentir el valenciano Ludovicus Vives (Luis Vives) en su tiempo. Ludovicus Vives que podría haber sido profesor de nuestra universidad si no hubiera sentido tanto fervoroso temor de las comisiones académicas de entonces, tan proclives a la producción de energía calorífica por combustión de biomasa judaica o herética.

  Estudios posteriores de la opinión de nuestros alumnos en promociones posteriores nos permitieron confirmar la valoración extremadamente  positiva de la inmensa mayoría de nuestros alumnos sobre el aprendizaje que les producían nuestras heterodoxas innovaciones metodológicas. 


Valoración (mediana) por los alumnos de los resultados de aprendizaje
obtenidos por medio  de las actividades de aprendizaje basado en problemas
(basado en cuestionarios respondidos por 60 alumnos)


Esta tabla  refleja la mediana de la valoración por los alumnos de los resultados de aprendizaje obtenidos por medio de las actividades de aprendizaje basado en problemas. Esta experiencia me sirvió para descubrir que en algunas cuestiones relativas a  lo que se aprende  y como se aprende en una asignatura, el tribunal supremo lo son los alumnos que participan en ella y no el experto en la materia (su profesor)  ni la comisión académica o el decano (pues carecen de información para juzgar las experiencias de aprendizaje de los alumnos).

Al año siguiente (en 2007) confirmé que yo no era el mayor experto en el aprendizaje de mi asignatura. Lo descubrí gracias a un alumno que no pudo presentarse en junio pero saco un 10 en septiembre (Joaquín Herrero).  De pronto caí en que los mayores expertos en cómo alcanzar el éxito en mi asignatura eran aquellos alumnos que habían obtenido los mejores resultados de aprendizaje en ella. Me propuse aprovecharme de su experiencia pues ellos habían descubierto la fórmula que les había proporcionado el éxito en mi asignatura y esa información podía ser muy útil para sus compañeros de las siguientes promociones. Le pedí a Joaquín que me escribiese una carta sobre como se había preparado la asignatura para sacar un resultado tan excelente. Quería usar su carta para dar esperanza a los que suspendían en junio y debían prepararse para el examen de septiembre.

 Empecé a poner el siguiente ejercicio, al 5% de mis alumnos con mejores calificaciones, como condición para poder optar a la Matrícula de Honor. "Escribe una carta a tus compañeros del próximo curso contándoles que es lo que hiciste para sacar tan buenos resultados en esta asignatura". En la presentación de la asignatura del siguiente año incluía las recomendaciones  y comentarios de los alumnos destacados del año anterior. Mi objetivo era demostrar a mis alumnos que los alumnos que tenían más éxito en mi asignatura se lo curraban, hacían los ejercicios que les proponíamos, se leían los apuntes antes de clase, tomaban notas en ella, luego las repasaban y ampliaban estudiando libros de texto sobre inmunología y finalmente se preparaban para las sesiones de consolidación y evaluación formativa al final de cada módulo. Sin embargo, este mensaje tenía mucha mas credibilidad si eran los compañeros de promociones anteriores quienes lo transmitían.

Relación entre comportamientos del alumno y su rendimiento en la asignatura


Otra cosa que hice para que el trabajo de los mejores alumnos beneficiará sus compañeros, fue pedir a mis alumnos más exitosos que me enseñarán sus apuntes y documentos que hubieran escrito para estudiar la asignatura. seleccionaba los materiales del alumno que me parecían mejores y le pedía permiso para escanearlos y hacérselos llegar a los alumnos suspensos que debían presentarse al examen extraordinario de septiembre por haber suspendido o no haberse presentado al examen ordinario de junio.  Seleccione los de Carolina Garcia Torrijos (Premio Billy Elliot 2009). Los resultados de la convocatoria de septiembre de los años en los que puse en práctica esta iniciativa  fueron excepcionalmente buenos.

 En 2010 ocurrió algo insólito que demostraba que el éxito en la asignatura de inmunología se debía al trabajo del alumno, no a su superdotación intelectual. Dos alumnos que obtuvieron la máxima calificación este año  eran repetidores que habían suspendido la misma asignatura en el año anterior 2009 (Hadaly y Enrique), hecho que me encargue de publicitar a bombo y platillo para que mis alumnos se dieran cuenta de que el resultado en la asignatura dependería de sobre todo de la calidad de su esfuerzo no de su superior inteligencia innata, su superdotación genética o su privilegiada memoria.

Es mucho lo que podemos aprender de nuestros mejores alumnos sobre las mejores estrategias para tener éxito en nuestra asignatura  pero solo lo aprenderemos si nos comunicamos con ellos y les pedimos que nos informen por escrito de su experiencia de aprendizaje en nuestra asignatura. La concesión de una matrícula es un buen cebo para que los más exitosos hagan el esfuerzo adicional de contarnos sus estrategias para obtener el éxito. De esta manera podemos obtener feedback de nuestros alumnos que puede ser útil para que sus alumnos conozcan las estrategias que han servido a sus compañeros más exitosos  a obtener resultados de aprendizaje excelentes. Estoy planeando hacer algo similar por medio del vídeo, pidiéndoles a los alumnos que optan a matrícula, que cuenten en un vídeo  su experiencia a sus compañeros de futuras promociones. Pienso que puede ser un gran estímulo para las clases iniciales de futuras promociones.

En 2011 capitalizamos ese conocimiento sobre lo que los alumnos con mejoras resultados hacen y cambiamos nuestro sistema para  incentivar todavía más el estudio previo a las clases (algo que espontáneamente sólo hacen los mejores alumnos). Les pedimos que después de interaccionar con los materiales respondiesen a unos cuestionarios on line para la comprobación del estudio previo y la recepción de sus reacciones a los materiales antes del inicio de cada tema. El primer año (2011) los resultados fueron buenos pero al segundo año (2012) cuando aumento el porcentaje de alumnos que estudiaban antes de cada tema los resultados fueron mucho mejores. En la tercera promoción (2013) de alumnos de la asignatura inmunología clínica con los que utilizamos la metodología de fomento del estudio previo (Just in time teaching) fueron excelentes. En el examen del primer módulo 34 de 40 alumnos (85%) han realizado todos los cuestionarios de todos los temas y obtenido buenas calificaciones 6,1± 1,8 . Los seis alumnos que no han realizado el estudio previo de todos los temas  muestran una correlación casi perfecta entre el estudio previo y el rendimiento académico en el examen de la asignatura. Así los dos que no estudiaron ningún tema antes de la clase o sólo estudiaron uno (n=2) obtuvieron calificaciones pauperrimas de 2,3 ± 1,7; los que estudiaron sólo 2 ó 3 temas (n=2) obtuvieron calificaciones ligeramente mejores de 3,1 ± 1,5; los que estudiaron sólo 4 temas obtuvieron calificaciones 5,7 ± 1,1 inferiores a las del grupo que habían realizado el estudio previo de los cinco temas evaluados en el examen que fueron el grupo que obtuvo las mejores calificaciones.



En cursos posteriores hemos seguido optimizando y ajustando nuestro sistema de fomento del estudio previo incorporando vídeos instructivos y  respondiendo a las dudas urgentes de nuestros alumnos. Esto ha resultado en que los resultados de nuestros alumnos han seguido mejorando progresivamente al ir aumentando los porcentajes de alumnos que realizan el estudio previo de los temas. Este aumento progresivo y correlativo en las sucesivas promociones de los porcentajes de alumnos que realizan el estudio previo de mas de la mitad de los temas (fila superior de gráficos) y las calificaciones medias obtenidas en los exámenes de evaluación del aprendizaje (fila inferior) muestra la estrecha relación entre el estudio previo y la mejora en la consecución de los resultados de aprendizaje.





En los dos últimos cursos mostrados en las gráficas (señalados con flechas negras verticales) hemos utilizado metodologías mejoradas para proporcionar más y mejor feedback a nuestros alumnos sobre sus dudas urgentes (fliped learning forte y flip in colours). En el flipped learnniing forte el profesor contesta en una lista de distribución a las dudas urgentes de sus alumnos. Todos los alumnos reciben la respuesta del profesor a sus propias dudas urgentes y a las de todos sus compañeros. En el flip in colours el profesor clasifica las dudas urgentes de sus alumnos y  decide cual es el mejor uso de cada duda. Unas deberá responderlas el profesor  en clase, otras podrán resolverlas los alumnos con nivel de comprensión más avanzada y explicárselas a sus compañeros, otras servirán de inspiración para dar pie a proyectos de indagación, debates en clase, e incluso preguntas de examen. Así en la metodología flip in colours el profesor clasifica las dudas en función de su posible uso y las usa en clase para generar preguntas para que sean respondidas o por los propios alumnos o debatidas en clase.  

El empleo de estas metodologías flipped learning forte  y flip in colours también nos ha permitido mejorar sensiblememente la percepción de los alumnos sobre la labor de los profesores. Cuando se usa el modelo de aprendizaje inverso es frecuente que parte de los alumnos sientan que se les esta haciendo trabajar más y que por ello castiguen a sus profesores en las encuestas de evaluación de la opinión de los alumnos sobre la docencia. El uso del método  del flipped Learning forte con su envío semanal de respuestas a las dudas urgentes de sus alumnos hace que estos perciban de una manera muy cercana e intensa los esfuerzos del profesor por ayudarles a comprender la materia y superar sus dudas . Este cambio de percepción se manifiesta en una mejora en las puntuaciones obtenidas por los profesores en las encuestas de opinión de los alumnos sobre la docencia. en el caso del flip in colours también deja claro a los alumnos que el profesor se preocupa de resolver sus dudas trabajándolas en clase.

En los últimos ocho años además de mis alumnos de Biología, Biología Sanitaria y Farmacia he tenido otro tipo de alumnos que se suelen portar algo mejor en clase, que los alumnos de grado. Mis alumnos han sido 2.800 profesores universitarios de 32 universidades que han participado en los casi 125 cursos de formación de profesorado que he impartido y de mi interacción con ellos he aprendido mucho. En otra entrada escribiré sobre lo que hacen mis mejores alumnos de los cursos de formación del profesorado.

lunes, 13 de marzo de 2017

Cómo subtitular vídeos instructivos con audio en inglés con YouTube ¿Tienes tres minutos? Always look the bright side of life


Gracias a metodologías como el aula inversa o flipped classroom los vídeos se están convirtiendo en herramientas para transmitir la información a una generación de alumnos que prefieren acceder a ella por medio de distintos tipos de dispositivos con pantallas (móviles tablets y portátiles).

La creación de nuestros propios videos requiere de una inversión de tiempo de planificación, grabación y edición. Existen sin embargo colgados en YouTube videos que son mucho mejores que los que podemos crear los profesores principiantes en el flipped classroom. El problema es que casi siempre estos vídeos están en inglés y buena parte ni siguiera tienen subtítulos automáticos.

Si descargamos estos videos a nuestro canal de youtube y los volvemos a subir como unlisted podremos activar en nuestra versión del vídeo los subtítulos automáticos y si estos contienen errores garrafales podremos corregirlos e incluso si nuestro nivel de inglés y atrevimiento nos lo permite podremos crear unos subtítulos en la lengua materna de nuestros alumnos.  

Demostración de los errores que suelen contener los subtítulos automáticos de YouTube 

El que ya lo sepa o no le haga falta comprobarlo de nuevo, puede saltárselo y pasar directamente al punto de cómo subtitular con YouTube, pero si dispones de tres minutos podéis ver este vídeo. Es el famoso final de la película "Vida de Brian" de Monty Phyton. Esta genial escena muestra que hay que ver el lado bueno de la vida hasta en las crucifixiones. Contemplar este vídeo además de para reír y nos servirá para darnos cuenta de lo malos que pueden ser los subtítulos automáticos de YouTube. Final de la película vida de Brian Activa los subtítulos automáticos picando en CC y empieza a reproducirlo a partir del minuto 6 y 38 segundos Los subtítulos que se reproducirán demuestran que con el desarrollo actual de la tecnología a día de hoy, todavía es necesario que los seres humanos pongamos subtítulos a los vídeos con audio en inglés para ayudar a nuestros sufridos alumnos a entenderlos. El ejercicio es contar el número de errores garrafales que detectamos en los subtítulos si la comparamos con la letra de la canción.
Dedicando otros tres minutos verás la diferencia con los subtítulos que pone un ser humano (no hay color).
Con otros tres minutos comprenderás mejor lo que dicen en el vídeo y comprenderás la utilidad de poner subtítulos traducidos a la lengua materna de tus alumnos en los vídeos educativos que les proporcionas.
Versión con Subtítulos en versión bilingüe inglés castellano (seguro que con esta captas mejor el mensaje)

A partir de aquí empieza la parte seria. Después de mostrar la diferencia entre unos subtítulos automáticos y otros que realmente transcriben lo que se dice en el vídeo e incluso otros traducidos a la lengua materna del que lo tiene que entender vamos al asunto de como podemos subtitular vídeos instructivos de una manera sencilla.



Cómo subtitular vídeos y publicar vídeos subtitulados para que tus alumnos los puedan ver sin infringir copyrigths 

Queda pues demostrado que los subtítulos automáticos de Youtube son malos y a veces muy malos, pero  incluso de lo peor se puede sacar algo bueno. Podemos  usar los subtítulos automáticos para facilitarnos la tarea de subtitular vídeos manualmente. Explico como hacerlo:
1. Si el vídeo que queremos subtitular tiene subtítulos automáticos (aunque sean muy malos) podemos descargarnos su transcripción. Para copiarlo pica en More y después en transcript


y te aparece la transcripción del audio

Te vas al final de la transcripción picas arrastras hacia el principio (marcha atrás) cuando lo has marcado todo, das CTRL copy y lo puedes pegar en word. 

Con esta transcripción delante nos será mucho más fácil traducir el  audio y corregir los errores garrafales que contendrán seguramente los subtítulos automáticos (nos reiremos un rato). Si el vídeo no tiene subtitulos (al picar en CC no salen)  podemos descargar el vídeo (por ejemplo con  Free Youtubevideo Downloader o con el complemento Flashgot del navegador MozillaFirefox).

2 Después de descargarnos ese vídeo  lo subimos a nuestro canal de Youtube (en modo unlisted para evitar tener problemas con los propietarios del copyright del vídeo original) y activar la opción de subtítulos automáticos.   En estas opciones de publicación no pública  sólo nuestros alumnos podrán acceder al vídeo picando en un link que les enviaremos (por lo que no tendremos problemas de copyright). Así tendremos nuestro vídeo y los subtítulos automáticos al alcance de nuestros alumnos. Si los subtítulos están bien con esto ya podemos asignarlo como tarea a nuestros alumnos. Y si tienen algún gazapo les podemos pedir a los alumnos que busquen gazapos en los subtítulos del vídeo y los comenten en el foro de la asignatura

3. Si los subtítulos son un desastre o el nivel de nuestros alumnos en inglés es flojo o el que habla es un hijo de la Gran bretaña y no se le entiende bien podemos elaborar unos subtítulos en castellano o  mejor en español (que según como he aprendido de renombrados sociolinguistas es como hay que llamarlo). El español es la segunda lengua del mundo en número de hablantes nativos después del chino mandarín y por eso al subtitular un vídeo en español ampliamos mucho su posible audiencia YouTube dispone de herramientas para editar y subtitular el vídeo que son bastante fáciles de usar (incluso para un Dummie tecnológico como yo). En esta presentación explico como usar estas herramientas.



 Con ellas podremos subtitular el vídeo y después mandar el link de acceso a nuestros alumnos.  De esta manera podrán comprender la información que transmite el vídeo gracias a que podrán leer esos los subtítulos que les ha añadido su profesor.

Este es  un ejemplo de un vídeo instructivo subtitulado al español utilizando los métodos propuestos en esta entrada. Se titula Peer instruction for active learning  En este vídeo Eric Mazur profesor de Física de la Universidad de Harvard nos cuenta cómo descubrió lo poco que sus alumnos comprendían y aprendían con la metodología de enseñanza tradicional y cómo tuvo que cambiarla por una metodología de fomento del estudio previo y actividad en clase para que sus alumnos comprendiesen mejor y aprendiesen más.




domingo, 12 de marzo de 2017

Decálogo de innovación metodológica para que los alumnos aprendan más y mejor en las asignaturas universitarias

Esta entrada sirve para celebrar las 330.000 visitas al blog Profesor 3.0 y de regalo para los más de 2.800 profesores de 26 universidades que han sido mis alumnos en conferencias y talleres de formación del profesorado y en seminarios de desarrollo profesional docente. En estos talleres y seminarios de desarrollo profesional docente pretendemos que los profesores perciban la diferencia entre lo que quieren que sus alumnos aprendan en sus asignaturas y lo que realmente logran que aprendan. También pretendemos que aprendan a reducir esta diferencia diseñando e implementando mejor sus asignaturas.

Analogía del marshmallow challenge 
con el diseño de un sistema de evaluación del aprendizaje. 
Un grupo de profesores de la Facultad  de Psicología y Logopedia de la UCM
comprueban la diferencia existente entre lo que querían conseguir y lo que realmente logran

En esta entrada pretendo resumir en una serie de pasos un método para evolucionar desde una enseñanza tradicional centrada en el protagonismo del profesor que explica todo a sus alumnos, hacia otro tipo de enseñanza en la que el protagonismo se reparta más entre el profesor y sus alumnos y sean estos los que deben iniciar el estudio de los temas a partir de los materiales proporcionados por el profesor.


Proponemos un  cambio hacia un tipo de enseñanza en la que una buena parte del tiempo de clase se dedica a que los alumnos profundicen su comprensión de las ideas esenciales aplicando el conocimiento. Un cambio hacia unas clases más interactivas y participativas enfocadas en profundizar y practicar con lo más esencial, en detectar y aclarar conceptos erróneos de los alumnos y en resolver  aquellos aspectos que más les cuesta comprender.

La literatura demuestra que el desarrollo de competencias es  muy pobre en la enseñanza universitaria con metodologías tradicionales (Arum & Roksa 2011, Bok 2006, Blaich & Wise 2011) y también que los aprendizajes mejoran notablemente con la incorporación de más aprendizaje activo y el fomento del estudio previo, el aprendizaje activo en clase y la evaluación formativa (Mazur 1997, Karpicke 2011, Deslauriers 2011, Freeman 2014).


Bill Wood nos cuenta con mucha calma las mejoras que se obtienen en el aprendizaje cuando se incorpora aprendizaje activo (se le entiende muy bien) en el siguiente vídeo.



El trabajo de Bill Wood y Jenny Knight demuestra que la enseñanza activa produce mucho más aprendizaje que la tradicional y que por tanto los profesores decentes preocupados por el aprendizaje de nuestros alumnos deberíamos esforzarnos un poco más por abandonar la cómoda metodología de enseñanza tradicional, para así lograr que nuestros alumnos aprendiesen más y mejor. Eso haríamos como seres racionales que somos, si el aprendizaje de nuestros alumnos nos importase más que lo que nos importa nuestra propia comodidad. 

Aunque obligados por Europa hemos diseñado  sobre el papel nuevos  estudios de grado universitario orientados por competencias, la triste realidad es que seguimos enseñando a la antigua manera y no prestamos suficiente atención al fomento y a la evaluación de competencias en nuestros alumnos. La consecuencia de estas carencias en el fomento y la evaluación formativa y acreditativa de competencias, es que no podemos garantizar el desarrollo de estas competencias en los alumnos egresados a los que concedemos títulos de grado.

También hemos incorporado los créditos ECTS (al menos sobre el papel) en los nuevos grados, pero no nos hemos preocupado lo suficiente por lograr que los alumnos estudien el número de horas  que deberían. Por ello es muy frecuente que en las universidades españolas las 750 horas que un alumno debería trabajar en un cuatrimestre cuando se matricula en 30 créditos ECTS se queden  en la mayoría de los casos en menos de 500 horas de trabajo real. Las 150 horas que el alumno medio debería trabajar en una asignatura de seis créditos en realidad no suelen llegar a las 100 en la mayoría de los casos. Animo al que no se lo crea a que mida el tiempo de trabajo real de sus alumnos en su asignatura.

Esta gráfica muestra el tiempo de trabajo real del alumno medio en asignaturas de seis créditos de las antiguas licenciaturas (izquierda), en asignaturas de los nuevos grados en las que se sigue usando metodología tradicional (centro) y en asignaturas que usan un modelo de aprendizaje inverso y metodologías de aprendizaje inductivo como el aprendizaje basado en problemas o el aprendizaje basado en proyectos. Puede constatarse lo poco que ha cambiado el tiempo de trabajo real del alumno entre las antiguas licenciaturas y los nuevos grados y la gran diferencia entre el tiempo de trabajo real y el nominal (el que debería producirse si nuestros créditos ECTS cumpliesen lo que prometen). 



¿Deberíamos preocuparnos por el efecto de esta falta de trabajo sobre el aprendizaje de nuestros alumnos? ¿Podríamos conseguir que nuestros alumnos aprendiesen más y mejor si estudiasen más y mejor? Si asumimos que en los nuevos grados con créditos ECTS el aprendizaje del alumno se basa en su tiempo de trabajo ECTS hasta el más tonto puede darse cuenta de que reducciones de este calibre en el tiempo de trabajo se traducen en que los alumnos aprenderán mucho menos de lo que aprenderían si dedicasen a su aprendizaje el tiempo estipulado.  Conclusión si no hacemos nada por reconocer y resolver este problema o bien somos necios o bien somos perfectamente conscientes pero mal intencionados y realmente el aprendizaje de nuestros alumnos nos importa un pito. Me inclino a creer que lo que ocurre es más cercano a  lo segundo aunque también hay algo de lo primero (necedad). 

Si aceptamos este estado de cosas, esta farsa del crédito ECTS, deberemos también reconocer que el crédito ECTS de 25 h en las universidades españolas es mas una burda pretensión institucional que una expresión del tiempo real que los alumnos dedican a cada crédito (más cerca de 15-17 h. por crédito) y en consecuencia aprenden. Algún día, alguien pedirá responsabilidades a las universidades por esto y exigirá que las universidades se tomen más en serio el aprendizaje de los alumnos que la sociedad nos confía.  

 Este problema del crédito de pega es aun más serio en las universidades que optaron por el modelo de crédito 25 = 8/17 (8 h. presenciales + 17 no presenciales) que en las más sensatas que optaron por el modelo de crédito 25 = 10/15. Tal vez las primeras deberían corregir su error para minimizar los daños para el aprendizaje de sus alumnos, pero eso supondría aumentar en un más de un 25% la carga docente presencial de su profesorado (de 8 a 10 h por crédito). Mi experiencia me permite predecir que eso no ocurrirá de modo voluntario. La alternativa obvia es que si queremos mejorar el aprendizaje  de nuestros alumnos tendremos que hacerles trabajar más por su aprendizaje en actividades no presenciales. Es nuestra misión institucional hacer que nuestros alumnos estudien lo necesario para aprender y así merecer y obtener los títulos universitarios que les otorgamos.  

El problema no es sólo la falta de tiempo de trabajo presencial y no presencial. La calidad del trabajo realizado por los alumnos durante el tiempo presencial también debería preocuparnos y mucho. En la actualidad es muy frecuente que en las universidades españolas se siga abusando de las clases explicativas como medio casi exclusivo para transmitir a nuestros alumnos la información a aprender. En ocasiones, las clases explicativas o magistrales se complementan con el encargo de la realización de tareas para hacer fuera de clase que muchos alumnos no hacen y que  luego sus profesores corrigen en clase sin comprobar que alumnos los hicieron y cuales no. Mediante esta metodología tradicional muchos alumnos aprenden lo que ejercitan, aprenden a copiar apuntes y a copiar también como se hacen ejercicios tipo, pero no a entender textos y a resolver problemas reales por si mismos.

  Los alumnos empollan aquellos apuntes que copiaron en las clases  de modo intensivo en los últimos días y noches  antes de los exámenes de evaluación continua. Estos exámenes muchas veces son realizados sin ninguna seguridad en el mismo aula en la que se imparten las clases (por la comodidad de no molestarse en reservar otra aula más grande). Gracias a este procedimiento usual, los alumnos colocados como piojos en costura también aprenden muy bien a copiar respuestas del examen del compañero de al lado.  Lo así aprendido es  en su mayoría aprendizaje memorístico de baja calidad y que al haberse aprendido de manera memorística y no construida, será pronto olvidado. Si para empeorar las cosas nuestras formas de evaluar permiten que la picaresca sea una estrategia viable para aprobar, fomentaremos el desarrollo en nuestros alumnos universitarios de la competencia para la picardía. 

Hay muchas razones por las que deberíamos enseñar de nuevas maneras. Una importante es el conocimiento publicado sobre cómo los alumnos aprenden  mejor: haciendo, pensando, construyendo su propia comprensión y dándose cuenta de lo que pueden hacer con ella. Este conocimiento nos debería desanimar a seguir abusando de las clases magistrales en las que nuestros alumnos escuchan monólogos en los que toman buena nota de lo que dice el profe y después se lo empollan. Deberíamos animarnos a usar con mas frecuencia y eficacia el trabajo en grupo, pues estas actividades también ayudarían a esa construcción social de la comprensión y al ejercicio y desarrollo de competencias esenciales para el trabajo en equipo.

Es claro que para que los alumnos universitarios ejerciten y desarrollen competencias necesitamos pues cambiar a nuevas formas de enseñar (modelo de aprendizaje inverso) que obliguen a los alumnos a estudiar para prepararse para las clases, ,metodologías que hagan que los alumnos   razonen y practiquen en clase y de este modo aprendan más, y ejerciten y desarrollen competencias.

Los  estudios realizados en clases de alumnos universitarios demuestran que con este modelo que combina aprendizaje inverso y aprendizaje activo  los alumnos duplican y hasta triplican sus ganancias de aprendizaje con respecto a los métodos tradicionales de enseñanza (Mazur, Crouch, Allen  ). Eric Mazur profesor de la Universidad de Harvard  nos lo cuenta en este vídeo.


En nuestra experiencia de cinco años usando modelo inverso en tres asignaturas universitarias hemos medido mejoras muy importantes en el aprendizaje de nuestros alumnos. Con el uso del modelo inverso y del flipped learning forte las notas medias mejoran en más de una desviación estándar, los porcentajes de alumnos que fracasan en los exámenes de evaluación del aprendizaje se reducen mucho  y los porcentajes de alumnos que alcanzan niveles de maestría se cuadruplican.

El uso de estas metodologías también mejora la percepción y la valoración de la actividad docente por parte de sus alumnos.



Por tanto, parece fuera de toda duda que la mejora en resultados de aprendizaje y satisfacción de nuestros alumnos deberían justificar por si mismas la inversión de trabajo y energía por parte de los profesores universitarios. Para facilitar la comprensión y la realización de este proceso de cambio voy a descomponer el proceso en una serie de elementos necesarios para la innovación docente que serán objeto de una serie de entradas sucesivas en este blog que servirán de apoyo al seminario de desarrollo profesional docente que actualmente realizamos en la Universidad Complutense de Madrid.

Grupo de profesores de la Facultad de Psicología  y Logopedia de  la UCM
discutiendo sobre lo que no logran que sus alumnos aprendan 


Diez elementos que contribuyen con eficacia probada a la mejora del aprendizaje en las asignaturas universitarias

Mediante la incorporación de estos elementos el profesor universitario podrá evolucionar desde una metodología de enseñanza y aprendizaje tradicional hacia un modelo de aprendizaje inverso mucho más eficiente que producirá un mejor aprendizaje por medio del aumento del trabajo y del protagonismo de los alumnos. El efecto acumulativo y sinérgico sobre el aprendizaje de nuestros alumnos de la aplicación de estas diez propuestas es mucho más potente que el de cada una de ellas por separado por lo que se recomienda implementar varias de ellas a la vez. Son propuestas de mejora factibles y practicables a coste cero. Su único coste es dar algo más de trabajo para el profesor, pero ese trabajo extra se traducirá en mucho más trabajo y aprendizaje por parte de sus alumnos. Así serviremos mejor al aprendizaje de aquellos que en estos tiempos de crisis nos dan de comer: los alumnos que se matriculan en nuestras asignaturas.


1. Clarificación de competencias y resultados de aprendizaje que van a ser evaluados y fomentados de modo prioritario en la asignatura 

Profundizar nuestra reflexión sobre los resultados de aprendizaje prioritarios a los que pretende contribuir nuestra asignatura y programarla desde la perspectiva del tipo de evaluación que servirá para acreditar su consecución y de las actividades de enseñanza-aprendizaje y evaluación formativa  que servirán para fomentar el logro de esos resultados prioritarios. 

¿Qué es lo que los alumnos deben aprender en nuestras asignaturas? ¿Qué se deben llevar que pueda ser provechoso para su futuro? 

Debemos ser más conscientes de las competencias que nuestros alumnos necesitan desarrollar más para su futuro profesional y de lo que queremos que nuestros alumnos comprendan y sean capaces de transferir en nuestras asignaturas.

 Tal vez un buen primer paso sería responder a este cuestionario El sueño del profesor sobre tus resultados de aprendizaje más valorados. Si las condiciones fueran ideales ¿Qué te gustaría que aprendiesen tus alumnos? ¿Realmente logras que aprendan eso? Necesitamos pensar largo y tendido sobre los propósitos formativos de nuestras asignaturas. También es interesante que reflexionemos sobre la estructura conceptual y de habilidades de nuestras asignaturas e incluso que a partir de esta reflexión elaboremos cuestionarios con los que realizar una evaluación diagnóstica sobre el nivel de partida de nuestros alumnos. A nosotros nos informará sobre el punto de partida de nuestros alumnos y a ellos les indicará cuales son las ideas esenciales de nuestra asignatura en las que deben enfocar su aprendizaje. 

Es muy conveniente que realicemos una reflexión sobre los problemas de aprendizaje  de nuestros alumnos y que obtengamos información de ellos acerca de cuales son sus dificultades. Los cuestionarios on line a los que los alumnos deberán responder tras el estudio de los temas nos pueden dar esa información que nos ayudará a comprender que es lo que nuestros alumnos necesitan que les expliquemos.
Cuestionario para la comprobación del estudio previo que nos permite comprender su punto de vista sobre el aprendizaje de nuestros temas 


 También será muy provechosa una reflexión profunda sobre nuestro sistema de evaluación del aprendizaje que ponga en evidencia lo que conseguimos que aprendan nuestros alumnos gracias a nuestro sistema de actual de evaluación y lo que podríamos conseguir si mejorásemos nuestro sistema de evaluación del aprendizaje de nuestros alumnos y lo alineásemos mejor para que evaluase precisamente aquellos aprendizajes que pretendemos que nuestros alumnos alcancen.



2. Mejora continua mediante incorporación de mejores prácticas docentes 

 Buscar ideas sobre mejores prácticas y nuevas metodologías en la enseñanza de nuestra materia e invertir esfuerzo en su experimentación con nuestros alumnos. Investigar sus resultados y compartir las innovaciones exitosas con los compañeros para que las mejores prácticas docentes se extiendan en su institución. Debemos empezar leyendo más sobre la mejor literatura sobre docencia universitaria y es seguro que encontremos ideas muy inspiradoras al leer las 53 ideas poderosas que todos los profesores deberían conocer de Graham Gibbs.

Si leemos sobre enseñanza universitaria acabaremos replanteándonos ¿Qué hacemos en el tiempo de clase? y ¿Por qué hacemos precisamente eso? posiblemente decidamos que deberíamos dedicar más tiempo a otras cosas que actualmente no hacemos para así favorecer el ejercicio y desarrollo de competencias en nuestros alumnos. Si cambias la manera en la que piensas acerca de la educación cambiarás la manera en la que enseñas ¿Cómo crecer y evolucionar a niveles de eficacia docente superior?


3. Implementación de un modelo de aprendizaje inverso 

Incorporar un modelo de aprendizaje inverso mediante la transmisión on line de la información a aprender a través de canales y tiempos no presenciales y en formatos atractivos para los alumnos (vídeos, podcasts,  hipermedia e hipertextos) nos ayudará a transmitir eficazmente la información a aprender sin gastar en ello casi todo el preciosos tiempo de clase del que disponemos. Una vez que hemos transmitido la información a aprender sin gastar tiempo de clase y hemos recibido feedforward de nuestros alumnos sobre su intereses prioritarios y dificultades para comprender tendremos elementos de juicio para decidir que hacer con el tiempo de clase a que resultados de aprendizaje  concretos dedicarlo prioritariamente.

 Así podremos  aprovechar el tiempo de clase presencial para realizar clases más interactivas y participativas en las que los alumnos ejerciten las competencias que queremos fomentar en nuestra asignatura. Podremos de esta manera incorporar metodologías activas e inductivas en el tiempo de clase que hemos liberado para que nuestros alumnos hagan cosas y sean protagonistas.


4. Motivar el compromiso de los alumnos

Para lograr el éxito en las metodologías centradas en el esfuerzo y el protagonismo de los alumnos es fundamental lograr el compromiso  de los alumnos para que desempeñen un rol más activo y acepten una mayor cuota de protagonismo en su propio aprendizaje. Hay  que demostrarles que el cambio de role será muy beneficioso para mejorar su aprendizaje, el desarrollo de sus competencias transversales y su transformación en profesionales competentes con posibilidades de futuro. En la presentación de la asignatura en el día D, el día más largo del año, el día del desembarco en la corteza cerebral de nuestros alumnos debemos apelar a la motivación intrínseca de  nuestros alumnos y venderles los aprendizajes valiosos que podrán llevarse si afronta el estudio de nuestra asignatura tomándose en serio su aprendizaje. También debemos usar sus resortes de motivación extrínseca por medio de un sistema gamificado de pequeñas recompensas a cambio de acciones.





5. Incorporación de herramientas tecnológicas para la información y la comunicación

Incorporar el uso nuevas tecnologías para  el acceso a la información, la comunicación on line y de sistemas de respuesta personal para la evaluación formativa. Debemos aprender a ser curadores que recolectamos de Internet recursos que pueden tener potencial formativo y somos capaces combinarlos y presentarlos de manera que posibiliten el aprendizaje de nuestros alumnos. Debemos aprender a  usar herramientas como Edpuzzle con las que podemos buscar, editar y  enriquecer vídeos instructivos a los que añadiremos comentarios y preguntas que harán que nuestros alumnos reflexionen al verlos. 

Aquí dispones de tres vídeos de ejemplo enriquecidos de esta manera
Vídeo ideas de John Biggs primera parte   con preguntas en Edpuzzle 
vídeo ideas de  John Biggs segunda parte  con preguntas en Edpuzzle 
vídeo ideas de John Biggs tercera parte con preguntas en Edpuzzle 

Debemos aprender a aprovechar al máximo el potencial de las plataformas de e-learning institucionales (Moodle, Blackboard) para enriquecer nuestra comunicación con los alumnos, para hacer cuestionarios de comprobación del estudio y evaluación formativa para proponer foros de discusión, para usar herramientas de evaluación de compañeros y el trabajo de equipo on line. Debemos aprender a usar blogs y redes sociales  y herramientas de  gamificación y de concesión de insignias.


6. Gamificación o ludificación de nuestras asignaturas 

La gamificación es el arte de aprovechar elementos motivantes, divertidos y adictivos de los juegos e incorporarlos al diseño e implementación actividades del mundo real como el aprendizaje de una asignatura. Gamificar una asignatura es modificar su diseño pensando en el punto de vista del alumno en su experiencia como usuario de ella y en cómo podemos mejorarla para que motive a los alumnos a implicarse más en ella. Gamificar una asignatura es incorporar a ella elementos de los juegos que permitan que los alumnos tengan una visión de conjunto y un sentimiento claro de su misión en la misma, que puedan sentir su propio desarrollo, logro y progresión en la misma.

Podemos gamificar una asignatura incorporando a ella elementos de los juegos (G de game) que motiven a nuestros alumnos a realizar las acciones que les llevarán a aprender y a modificar para bien sus hábitos de estudio: G1 creación de una narrativa y un sentido de misión a lograr, G2 un sistema de pequeñas recompensas (puntos, insignias, tablas de resultados) para recompensar las acciones de los alumnos, G3 proximidad con el profesor y con los compañeros, G4 personalización en el trato al alumno, G5 feedback formativo, G6 entretenimiento y diversión en las actividades propuestas y G7 oportunidades para el trabajo en pequeño equipo.


7. Fomento y garantía del estudio previo a las clases

Para que nuestros alumnos cambien su comportamiento debemos incorporar mecanismos de comprobación y bonificación del estudio previo, diagnóstico de dificultades y replanteo de las clases en respuesta a las dificultades de los alumnos. La metodología más sencilla para lograrlo es el  Just In Time Teaching de Novak, aunque hay otras como el peer instruction de Eric Mazur, y el team based learning de Michaelsen. Todas estas metodologías son variantes del modelo de aprendizaje inverso  que tanto éxito tiene en la educación universitaria en las mejores universidades de los países  anglosajones.





8. Evaluación formativa 

Incorporar evaluación formativa que entrene y ejercite las competencias que se quieren desarrollar en la asignatura y que aporte feedback formativo a nuestros alumnos que les permita aprender de  sus errores. Una evaluación formativa que estimule a nuestros alumnos a estudiar durante todo el cuatrimestre y que proporcione información a sus profesores sobre sus dificultades de aprendizaje.  Una evaluación formativa que proporcione al profesor información útil que permita reajustar nuestra docencia y adaptarla a lo que nuestros alumnos necesitan recibir y hacer para aprender.


9. Evaluación acreditativa

Incorporar una evaluación acreditativa de calidad, una evaluación acreditativa valida para los resultados que pretende medir, fiable, de alto poder discriminativo y alta sensibilidad y especificidad. Una evaluación acreditativa que sea válida para valorar comprensión profunda, transferencia a nuevas situaciones y desarrollo de competencias. Una evaluación acreditativa para orientar los esfuerzos de los alumnos a la consecución prioritaria de los resultados de aprendizaje que más valoramos en la asignatura.
Aquí tenemos otro vídeo muy interesante de Mazur en el que destroza el modo tradicional de evaluar en las universidades 



10. Desarrollo de competencias docentes

Ir desarrollando las competencias docentes necesarias para los nuevos roles del profesor en la enseñanza centrada en el protagonismo del alumno. Este desarrollo debería ser facilitado desde nuestras instituciones con programas de formación continua y desarrollo profesional docente. Ante la falta de programas de desarrollo profesional docente institucionales en la mayoría de las universidades españolas nos toca al profesorado de a pie asumir la responsabilidad de protagonizar nuestra propia formación como docentes.


Podemos transformar la educación y lograremos que nuestros alumnos aprendan más y mejor si creemos firmemente en que podemos lograrlo, si invertimos en ello el esfuerzo y las energías necesarias y somos capaces de replantearnos nuestros propósitos formativos y de prestar más atención a las metodologías de enseñanza. Renovar metodologías e implementar modelos de aprendizaje inverso nos ayudará a mejorar mucho el aprendizaje de nuestros alumnos.