miércoles, 19 de junio de 2013

Resultados del MIR por facultades: conclusiones erróneas

Esta mañana estaba leyendo el Twitter, y me encontré con un post del blog GangasMIR (siempre el primero en poner todo), donde se enlaza a unos datos muy interesantes sobre los resultados del MIR por facultades que podéis encontrar aquí.

Parto de la base de que es de agradecer que datos como estos se publiquen, como se lleva años pidiendo desde distintos colectivos. El problema que nos encontramos con la publicación de estos datos, sin incorporar algún análisis/informe/explicación es que puede llevar a que personas o medios, de forma intencional o no, puedan utilizar esos datos para extraer conclusiones erróneas. La labor de difusión no consiste sólo en poner números en una web; aunque para empezar, se agradece.

Bien, yo no soy experto en el tema  (ni siquiera me gusta la palabra experto) pero  me he puesto a ver los datos con un poco de tranquilidad (aunque muy poco tiempo), con la perspectiva de ser datos de la convocatoria MIR a la que me he presentado, y que me resultan cercanos. Voy a intentar sacar las conclusiones que me parecen más interesantes de esta publicación a través de un breve análisis.

En el primer documento vemos los % de aspirantes matriculados en el MIR que terminaron pasando la nota de corte, con un máximo de un 99,0% en UCLM-Ab, y un mínimo de un 75,1% en Cádiz. Está claro que existen diferencias entre facultades, que es algo de Perogrullo, pero que a veces es necesario plasmar. Las facultades con el peso histórico de buenos resultados en el MIR son las que más % de sus estudiantes pasan la nota de corte (UB, UAB, UAM, UNAv…).

En este mismo documento vemos el número de aspirantes con plaza adjudicada, donde se ve también que existen diferencias entre las facultades con una distribución parecida, en las que los % más altos que superan la nota de corte, suelen colocar % más altos en alguna plaza

En las tablas 2 y 3 se ve el % de estudiantes que ha colocado tu Universidad en el grupo denominado débil (debajo del percentil 27), grupo fuerte (por encima del percentil 73), y el grupo medio (ni uno ni otro). En uno de los documentos están los resultados de todos los presentados, y en otro sólo de los aspirantes que superaron la nota de corte (el enlazado en el título).

De nuevo, existen claras diferencias entre las facultades, y las facultades que a nivel clásico se decía que tenían muy buenos resultados repiten en el ranking (UAM, UCLM, UAB, UB y UNAV) parece que están por encima del resto, mientras que UCa, la UEx y alguna más forman un poco “la cola”.

Hace unos años se elaboraba un ranking en el que se dividía a las facultades en 3 grupos según el % que metiesen en ese grupo fuerte, o el que metiera en el grupo débil. Como me parece una aproximación demasiado simplista, no me molesto en hacerlo esta vez. Si creo que merece la pena decir que mientras que las facultades que meten mucha gente en el grupo fuerte, tienden a tener menos gente en el grupo débil, no ocurre lo mismo al revés. La UZ, por ejemplo, se acerca al grupo que meten más estudiantes en el grupo débil; sin embargo, no está en el grupo que menos estudiantes han metido en el grupo fuerte.

LIMITACIONES DE ESTOS DATOS
Falta una serie temporal. Los datos de un solo año no pueden ser fiables para extraer conclusiones globales. La UAH se encontraba en el grupo de los “ways” hace unos años, cuando no se hacían públicos los datos, y sólo teníamos algún documento que se mandaba a los Decanatos, y ahora no está en ese grupo (por las razones que sea, que importan poco ahora).

No tener los datos por recién egresados vs egresados antiguos. Quizá las facultades con más tiempo se pueden ver perjudicadas por estos resultados, asumiendo que los egresados antiguos tienen un comportamiento diferente en el MIR que los recién egresados. Por poner un ejemplo que considero cercano, nos presentamos 244 Licenciados en Medicina por la Universidad de Alcalá (no de Alcalá de Henares, ni el MSSSI sabe el nombre), de los cuáles hemos terminado cogiendo plaza 133, y no llegamos a 140 egresados aproximados.

Faltan los datos del expediente académico. A pesar de la reducción del peso del expediente, sería muy interesante saber qué es lo que pasa, y si el peso puede explicar parte de estas diferencias entre facultades. Pero esto es otra película en la que hay otros peleándose.

Es el examen MIR. Concluir que una facultad es mejor que otra por los resultados del MIR es cuanto menos atrevido, por no decir estúpido. El MIR es una prueba objetiva, que hasta ahora es lo más válido que se ha encontrado, pero no significa que deba ser tomado como un dogma para valorar el conjunto de la educación médica.

CONCLUSIONES
Hay diferencias entre facultades. Está claro que existe un gradiente, y que hay diferencias significativas entre unas y otras.

NO SE PUEDE REALIZAR UN RANKING CON ESTOS DATOS. Es muy peligroso llegar a concluir que la UAM es mejor que la UAB, o que la UCa es peor que la UAH, a partir de esta muestra. Las limitaciones son muchas, y no se pueden concluir cosas que los datos y la realidad no son capaces de decirte. Si se trata con seriedad el asunto, no se llegan a esas conclusiones; si lo haces, es por amarillismo, véase esta noticia o las que pueden salir estos días.

Los datos con la nota de corte pasada son mejor indicador real de los egresados, aunque no elimina el sesgo completamente.

Se necesitan más datos y más experiencias para sacar más conclusiones, aunque es un buen primer paso. Me preocupa ver lo que se intenta concluir con estos datos, y las ganas que hay de producir rankings con lo primero que pasa. La  Educación Médica es un proceso demasiado complejo como para simplificarlo en un solo examen, del que encima van a depender muchos factores además de la Facultad en la que te hayas formado. Sin embargo, estos datos parecen dejar claro que existen diferencias en los resultados del MIR, que pueden significar que hay aspectos modificables y contextuales, que escapan al control del alumno a la hora de conseguir su resultado.

Acepto todas las críticas del mundo, que se trata de un tema en el que pueden haber muchas visiones

4 comentarios:

  1. Buenas Pedro,

    En primer lugar, yo también me congratulo de que se hayan decidido a publicar estos datos.

    Parto de la base de que el MIR no trata de clasificar dónde se enseña mejor la Medicina o no, sino de ordenar a unos aspirantes a una plaza. Como todo instrumento en ciencia, sólo vale para aquello para lo que fue diseñado, pero también puede arrojar nuevas hipótesis.

    Mi hipótesis es la siguiente:

    1. El MIR evalúa conocimientos teóricos de forma teórica (obvio) y habilidades clínicas (pocas) a través de preguntas teóricas (que lo logrará o no lo logrará).

    2. Todos sabemos que el MIR no se aprueba sólo con conocimientos, sino también, sabiendo hacer el MIR. Sin embargo, la mayoría hemos (estamos yendo) ido a una academia, con lo que, en cuanto a técnica, casi todos estamos igual de entrenados. Digamos que se diluye un poco ese efecto técnica de examen (aunque algunos la apliquen mejor y otros peor) y quedan los conocimientos subyacentes.

    3. Es curioso, que salvo la excepción de la UZ, se forman grupos claros: universidades que tienen muy buenos resultados en todos los parámetros (UB, por decir una), y otras que los tienen todos muy malos (UCa, por decir otra). Esto ya me parece significativo.

    4. En el medio es poco discriminativo, pero comparando extremos, se ven diferencias ABISMALES entre universidades como la UCLM y la US (por desgracia para la US). Vamos que la diferencia no es baladí. Otro dato significativo.

    5. El expediente cuenta tan solo un 10%, con lo que, nos dificulta mucho la interpretación de valores centrales, pero afecta mucho menos, de nuevo, al comparar los extremos.

    6. La nota de corte: la nota de corte es ínfima, un mero formalismo. En mi opinión el que no la supera, es que no tiene las más mínimas nociones de Medicina, como para poder ejercer sin poner en peligro la salud de nadie. En esto, de nuevo hay diferencias enormes, entre la UAM (donde casi todos la superan) y la US (donde, aún siendo mayoría los que la superan, un porcentaje nada desdeñable no lo hace).

    6. Una vez eliminados los que no superan la nota de corte, con ligeras variaciones, se mantienen los "puestos". Me parece importante, también.

    7. Mi caso particular: estudiante de la US, puedo decir que nuestro puesto es más que merecido. Oigo a gente decir que sus facultades están mal en cuanto a docencia, y no los puedo contradecir porque no estoy en "casa" de nadie. Pero dudo mucho que lleguen al nivel de TERCERMUNDISMO al más puro estilo US: exámenes en cartones, prácticas que se reducen a la mitad o desaparecen, profesores totalmente desactualizados (no todos, obviamente), asignaturas en las que puedes aprobar (algunas con nota) mirándote los exámenes de años anteriores... En fin, pasen y vean.

    Por otro lado, como sabes, he estado de Erasmus en Francia. Y cuando hago simulacros la diferencia que existe entre asignaturas que he hecho allí y las que he hecho aquí es también considerable.

    Conclusión (aleluya xD): no podemos hacer un ránking de la mejor a la peor facultad con estos datos, pero son, para mi gusto, bastante indicativos de por dónde van los tiros. Espero que sigan publicándolos y podamos hacer una serie temporal. Y además, que sirvan de revulsivo para que se diseñen verdaderos instrumentos para evaluar dónde es mejor y peor la docencia y atacar el problema.

    Fin y perdón por la parrafada jaja.

    ResponderEliminar
    Respuestas
    1. Gracias por la aportación Josan!

      Estoy de acuerdo contigo en que, aunque estos datos no son lo mejor del mundo, son muy indicativos de muchas cosas, pero lo son de las que son.

      Para mí que hay diferencias en los resultados del MIR era algo evidente, y que deja en perfecta evidencia los datos publicados. También que hay diferentes caballos a distintas velocidades. Lo que me parece polémico de hacer el ránking de estos resultados, no es que digas: "oye UCa (o US, o cualquier otra), vuestros estudiantes parece que sacan peor resultado en el MIR que facultades de un entorno parecido, algo tendréis que mejorar porque pone en desventaja a vuestros estudiantes". El problema, y yo creo que la razón por la escribí esto, son las conclusiones a las que se empezaron a llegar y ver en prensa, con las que dudo que tu y yo estemos de acuerdo.

      Creo que sabemos un poco por experiencia previa lo que puede ser una buena Educación Médica, y más tu estando en Francia, y estamos deseosos de tener datos que poner delante para sacar los colores a la vergüenza de cosas que nos encontramos delante. Ahora bien, el MIR vale en parte, y para sacar los colores a tus profesores es muy interesante, pero no puedes llevarlo a extremos de decir que la UAM es claramente mejor Facultad que la US.

      Los tiros ya se ve más o menos por donde van, y las limitaciones también tienen su efecto limitado, no creo que vayan a mover a lo bestia lo que es el orden, porque los que pasaron el corte es un indicador que se acerca algo más a la realidad.

      Ahora bien, el MIR es un proceso muy complejo que viene determinado por muchos factores: donde estudiaste es uno de los más importantes, pero también tus motivaciones personales y el número que deseas sacar, la academia donde te lo preparaste, otro tipo de circunstancias.....

      Conclusión yo también (que me voy): indicar e intentar sacar los colores con mejorar las cosas en tu facultad: BIEN. Que con estos datos digas que tu modelo es el de una facultad que tiene mejores resultados en el MIR: DUDOSO. Hacer un ranking de mejores y peores facultades "preparando" el MIR: CON MÁS DATOS. Hacer un ranking por mejores y peores facultades con el resultado éste: NO

      De nuevo gracias, has añadido cosas que no había contado :)

      Eliminar
  2. Hola Pedro,

    Creo que también te ha faltado añadir otra cosa, y es que, como se puede ver por ejemplo con las cifras de presentados de la Complutense, no es nada desdeñable el número de recirculantes (de esta Facultad, al menos 200 lo son). Creo que también puede ser un sesgo importante el no separar a los recirculantes de los nuevos presentados al hacer los estadísticos.

    ResponderEliminar
    Respuestas
    1. Hola Elena,

      me parece un dato muy importante, y de hecho es la segunda limitación que comento, con el ejemplo de Alcalá... Se presentaron 240 de la UAH siendo menos de 140 la promoción. Usando una simplificación, los datos de los que superaron la nota de corte se aproximan algo más a la realidad de la promoción, pero no es ni de cerca una aproximación real todavía.

      Gracias por la aportación :)

      Eliminar