Informe Pearson sobre la PSU
Febrero 2, 2013

Ayer fue entregado el Informe. Mas abajo un resumen oficial del Mineduc y una crónica de prensa.  

Bajar el documento aquí:

Ministro Beyer y Consejo de Rectores recibieron informe internacional que evalúa la PSU

Se detectaron problemas en la construcción del examen, potenciales sesgos en algunas preguntas y una baja alineación de la prueba al currículum nacional 

Mineduc,  31 de enero de 2013
El ministro de Educación, Harald Beyer, junto a autoridades académicas del Consejo de Rectores (Cruch), recibió el informe final de la evaluación internacional que se realizó a la Prueba de Selección Universitaria (PSU).
El examen es requisito para ingresar a una de las 25 universidades del Cruch, o a una de las ocho instituciones privadas que se sumaron en 2011 al proceso de admisión.
El grupo de pruebas que conforman la PSU fue creado por mandato del Consejo de Rectores en 2001 (se implementó por primera vez en la admisión 2004).
En junio de 2011 el Ministerio de Educación y el Consejo de Rectores acordaron revisar la calidad de este examen a través de una evaluación internacional. Tras una licitación fue seleccionada la empresa Pearson para efectuar un diagnóstico de la PSU, proceso que se llevó a cabo entre enero de 2012 y enero de 2013. La revisión se enfocó en tres áreas: la evaluación de los procesos de construcción de las pruebas, el análisis de la puntuación de las pruebas, y un estudio de su validez. Una comisión técnica compuesta por tres integrantes del Mineduc y tres integrantes designados por el Cruch aprobaron el Informe final de Pearson.
El ministro Beyer señaló que “nos hemos comprometido con el Cruch a estudiar el Informe en la próxima sesión del Consejo de Rectores el día 7 de marzo, analizarlo integralmente y definir una agenda de transformaciones, porque una primera mirada de este informe indica que la PSU está muy lejos de ser una prueba que cumpla con los estándares internacionales, sobre todo cuando se trata de un instrumento que tiene altas consecuencias para los estudiantes”.
La autoridad explicó que tras una década de la aplicación de esta prueba, es necesario implementar una serie de reformas al sistema de admisión tanto en el corto como en el largo plazo. “Yo creo que efectivamente después de 10 años todavía tenemos un sistema de admisiones que está al debe con los objetivos que se planteó cuando fue cambiado, pero creo que vamos a consensuar con el Consejo de Rectores la forma de trabajo que nos permita abordar todos esos objetivos  de forma simultánea”.
Para el titular de la cartera, dentro de los cambios a corto plazo que se podrían implementar y que fueron recomendaciones del Informe de Pearson, se encuentran “mejorar el pilotaje, y mejorar las técnicas de equivalencia entre años”. Otra de las preocupaciones del ministro Beyer, es la alta brecha que existe hoy entre los estudiantes de colegios municipales y particulares pagados. “Debiéramos tener un instrumento, que cumpliendo con los estándares internacionales, logre que las brechas sean las menores posibles. Debemos contar con un sistema de admisión que tenga un equilibrio entre equidad y predicción de desempeño académico”.
Las principales conclusiones del informe son:
 
1. Construcción de las pruebas
  • El informe señala que si bien en el proceso de elaboración de preguntas se reconoce la experiencia profesional de los equipos a cargo, no participan del proceso de revisión y análisis de la pertinencia de éstas expertos externos al Demre. Se recomienda la mejora en la documentación que guía y respalda los procesos, la realización de estudios específicos, la inclusión de expertos en currículum y profesores de enseñanza media que representen a más de una institución, y la realización de auditorías periódicas.
  • Otro problema detectado es que las preguntas disponibles y que finalmente llegan a la PSU no se testean o experimentan de manera adecuada. Todos los años se prueban las preguntas o ítems con un grupo de estudiantes que rinden el examen de manera voluntaria (Pilotaje), antes de la PSU. Sin embargo, según el informe de Pearson, la muestra que realiza este examen no es representativa del total de la población que rinde la Prueba de Selección Universitaria.
  • En la construcción de las preguntas, el proceso permite que éstas sean cambiadas después de ser testeadas, por lo que las preguntas finales quedan sin una última revisión que analice si tienen problemas de sesgo.
  • Las preguntas están alineadas de manera baja con el currículum de enseñanza media y están centradas en la enseñanza científico humanista, por sobre la modalidad técnico profesional.
  • El informe señala que el nivel de omisión, tanto cuando se testean las preguntas como cuando se rinde la Prueba de Selección Universitaria, son más altos que a nivel internacional. La recomendación es reconsiderar que se descuenten respuestas buenas por una cantidad de respuestas malas, dado que esto no es una práctica habitual en otros sistemas a nivel mundial.
  • En la PSU hay un indicador denominado DIF, que alerta si las preguntas al ser testeadas, tendrían algún problema de sesgo, tanto de género como por tipo de establecimiento. Según el informe de Pearson, después de esta alerta no se realiza un análisis cualitativo de la pregunta, por lo que en el banco de preguntas quedan aquellas que podrían tener algún problema de sesgo. Se recomienda además  que se integren DIF relacionados con el nivel socioeconómico, modalidad educacional y región de procedencia.
 
2. Puntuación de las pruebas, comunicación y uso de los resultados
  • Se detectó que falta un método que permita que la escala de puntajes de la PSU sea equivalente entre las distintas aplicaciones y de un año a otro. Además, que los márgenes de error de algunas pruebas son altos.
  • Pearson señaló en su análisis que es inadecuado usar un puntaje único para las pruebas de Ciencias, ya que se basa en un principio de equivalencia de las disciplinas evaluadas y no son comparables. Se recomienda desarrollar pruebas separadas, para Biología, Física y Química y reportar sus resultados en forma independiente.
  • Se considera que no existe suficiente explicación para los jóvenes que rinden el examen y otros actores relevantes comprendan el significado de los resultados de la Prueba de Selección Universitaria, por lo que el equipo evaluador recomienda que en cada uno de los reportes  se entregue información adicional que permita interpretar los puntajes.
 
3. Validez de las pruebas
  • Se determinó que en la estructura de las pruebas hay potenciales problemas de sesgo, que afectarían principalmente a los estudiantes de la modalidad Técnico Profesional. Se detectó que el examen con mayores problemas es el de Matemáticas.
  • Se señala que las pruebas tiene un alineamiento bajo con los objetivos fundamentales y los contenidos mínimos obligatorios del currículum chileno, por lo que se recomienda una revisión.
  • Al desagregar los puntajes por dependencia y modalidad educacional, los puntajes han aumentado para el caso de los establecimientos particulares pagados y modalidad científico humanista en desmedro de la modalidad técnico profesional. Además las brechas de acuerdo al nivel socioeconómico son más altas que lo que se refleja internacionalmente.
  • La capacidad de predicción respecto al desempeño en la universidad de los estudiantes que rinden la PSU, si bien existe, es menor que la de otras pruebas internacionales.

——————————————————————————–

Evaluación de consultora internacional Pearson hizo más de 100 recomendaciones para mejorar la prueba: Mineduc y rectores crearán órgano a cargo de la PSU tras informe que le hace 90 críticasEn marzo se formulará esta nueva institución que hará cambios al examen y evaluará sumar indicadores a la admisión a las universidades.  

Macarena Toro y Manuel F, El Mercurio, 1 de febrero de 2013

http://diario.elmercurio.com/2013/02/01/nacional/politica/noticias/C50C77CC-3663-4194-BD06-59907BA786EA.htm?id={C50C77CC-3663-4194-BD06-59907BA786EA}

Sus preguntas no siempre responden a lo que se enseña en los colegios, o favorecen a los egresados de la modalidad científico-humanista por sobre los técnico-profesionales. La escala para asignar los puntajes tiene imprecisiones y no permite comparar año a año.

Esas son algunas de las 90 fallas de la PSU que detectó la consultora internacional Pearson y que se plasman en un informe de 800 páginas que contiene más de 100 recomendaciones. Las conclusiones fueron aprobadas en forma unánime por un comité técnico integrado por representantes del Ministerio de Educación y del Consejo de Rectores (CRUCh).

A 10 años del debut de la PSU y por encargo de ambas instituciones, se revisó por un año desde cómo se hacen las preguntas hasta cómo se asignan los puntajes y se comunican los resultados (ver recuadro). Sobre cada etapa hubo reparos, lo que, según el ministro Harald Beyer, obligan a generar cambios al sistema. Por ello, junto con el CRUCh, anunció que en marzo se trabajará y presentará una propuesta para crear un nuevo organismo que esté a cargo del sistema de admisión a las universidades. La idea es que en el segundo semestre esta nueva institución pueda generar un cronograma de cambios en el test a corto y largo plazo.

Hasta ahora el sistema de admisión, incluyendo la PSU, está a cargo de un comité asesor del CRUCh en lo teórico, y del Demre de la U. de Chile en lo técnico.

La idea de Beyer es seguir trabajando con el Demre, pero que haya un consejo compuesto por representantes del CRUCh, Mineduc y de la educación media, cuyas “propuestas sean aprobadas por las universidades”.

A su juicio, este órgano aceleraría los cambios más urgentes que propone Pearson. Una de las falencias que destacó Beyer es que la PSU no aumentó la equidad, ya que el informe concluye que hay mayores brechas entre niveles socioeconómicos y tipos de colegios (públicos y privados) que las que se producen en otras pruebas que se aplican en el extranjero.

Cambios para 2013

Aunque aún no está zanjado del todo y el horizonte para reformar íntegramente la PSU es 2015, entre las autoridades hay consenso sobre modificaciones que se pueden implementar pronto. Una de ellas tiene que ver con la forma en que se elaboran las pruebas: afinar los pilotos con que se seleccionan las preguntas podría hacerse este año, así como alinear mejor los contenidos con el currículum de educación media.

En ese punto, el presidente del Consorcio de Universidades Estatales, Aldo Valle, enfatizó que hay que “mirar nuestro sistema escolar, que no tiene estándares internacionales y es altamente segregador. Eso se manifiesta en las pruebas de selección”.

Beyer replica que si bien hay que avanzar en el sector escolar, la PSU puede aumentar la equidad si se cambia la forma en cómo se hace. También puede aumentar las posibilidades de acceso la inclusión de nuevos factores a la admisión, como pasó este año con el ranking de notas.

Entre las alternativas de las autoridades está incluir mediciones de habilidades como reconocimiento de liderazgo y tolerancia a la frustración. El ministro comentó que esto se aplica en EE.UU. y que la OCDE trabaja en un proyecto de exámenes que midan capacidades, más allá de los conocimientos.

Los rectores plantean además que este año hay que mejorar el ranking , dándole un mayor valor en las ponderaciones (hoy es 10%) que pueda incluso reducir el peso de la PSU.

Además, si el tiempo alcanza, se podría cambiar la prueba de Ciencias por tres mediciones, una para cada rama (Química, Física y Biología). “En el fondo, ya son tres pruebas que se evalúan en forma independiente, pero se informan como una sola. Separarlas e informarlas en forma independiente no requiere demasiado esfuerzo”, asegura el vicerrector de la U. de Chile, Patricio Aceituno.

0 Comments

PUBLICACIONES

Libros

Capítulos de libros

Artículos académicos

Columnas de opinión

Comentarios críticos

Entrevistas

Presentaciones y cursos

Actividades

Documentos de interés

Google académico

DESTACADOS DE PORTADA

Artículos relacionados

Share This