DEPARTAMENTO DE EVALUACIÓN DE OPERACIONES DEL BANCO MUNDIAL24614 DESARROLLO DE LA CAPACIDAD DE EVALUACIÓN B A N C O M U N D I A L SEGUIMIENTO 1818 H Street, N.W. Washington, D.C. 20433, EE.UU. Y Teléfono: 202-477-1234 Fax: 202-477-6391 Télex: MCI 64145 WORLDBANK MCI 248423 WORLDBANK Internet: www.worldbank.org EVALUACIÓN: Departamento de Evaluación de Operaciones Grupo de programas de gestión de conocimientos y desarrollo de la capacidad de evaluación (OEDPK) Correo electrónico: ecampbellpage@worldbank.org Correo electrónico: eline@worldbank.org instrumentos, métodos y enfoques Teléfono: 202-458-4497 Fax: 202-522-3125 SEGUIMIENTO Y EVALUACIÓN: instrumentos, métodos y enfoques Banco Mundial Washington, D.C. www.worldbank.org/oed/ecd/ N AGRADECIMIENTOS Mari Clark y Rolf Sartorius elaboraron la primera edición de este informe (impacto social). Agradecemos las contribuciones sustantivas hechas por varios funcionarios del Banco Mundial: François Binder, Osvaldo Feinstein, Ronnie Hammad, Jody Kusek, Linda Morra, Ritva Reinikka, Gloria Rubio y Elizabeth White. En esta segunda edición se incluye un examen más detallado de la evaluación de los efectos, realizado por el consultor Michael Bamberger. El jefe de proyecto encargado de finalizar este informe fue Keith Mackay. Copyright © 2004 Banco Internacional de Reconstrucción y Fomento/BANCO MUNDIAL 1818 H Street, N.W. Washington, D.C. 20433, EE.UU. Reservados todos los derechos. Hecho en los Estados Unidos de América. Las opiniones expresadas en este informe no representan necesariamente las del Banco Mundial ni las de los gobiernos miembros. El Banco Mundial no garantiza la exactitud de los datos que figuran en esta publicación ni acepta responsabilidad alguna de las consecuencias que su uso pudiera tener. Las fronteras, colores, denominaciones y demás información que aparecen en cualquier mapa contenido en este volumen no suponen juicio alguno por parte del Grupo del Banco Mundial con respecto de la situación jurídica de ningún territorio, ni respaldo o aceptación de tales fronteras. D E P A R T A M E N T O D E E V A L U A C I Ó N D E O P E R A C I O N E S D E L B A N C O M U N D I A L D E S A R R O L L O D E L A C A P A C I D A D D E E V A L U A C I Ó N 3 ÍNDICE SyE: Exposición general . . . . . . . . . . . . . . . . . . . . . . . . . .5 Indicadores de desempeño . . . . . . . . . . . . . . . . . . . . . . . . .6 Enfoques del marco lógico . . . . . . . . . . . . . . . . . . . . . . . . .8 Evaluación basada en la teoría . . . . . . . . . . . . . . . . . . . . . .10 Encuestas formales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .12 Métodos de evaluación rápida . . . . . . . . . . . . . . . . . . . . . .14 Métodos participatorios . . . . . . . . . . . . . . . . . . . . . . . . . .16 Estudios de seguimiento del gasto público . . . . . . . . . . . . .18 Análisis de costos-beneficios y análisis de la eficacia en función de los costos . . . . . . . . . . . . . . . . . . . . . . . . .20 Evaluación de los efectos . . . . . . . . . . . . . . . . . . . . . . . . . .22 Recursos adicionales sobre seguimiento y evaluación . . . . . .25 D E P A R T A M E N T O D E E V A L U A C I Ó N D E O P E R A C I O N E S D E L B A N C O M U N D I A L D E S A R R O L L O D E L A C A P A C I D A D D E E V A L U A C I Ó N SYE: EXPOSICIÓN GENERAL 5 INSTRUMENTOS, MÉTODOS Y ENFOQUES PARA EL SEGUIMIENTO Y LA EVALUACIÓN El seguimiento y la evaluación (SyE) de las FINALIDAD actividades de desarrollo ofrece a los funcionarios públicos, a los responsables de programas de desarrollo y a la sociedad civil un medio más adecuado para aprender de la experiencia anterior, mejorar la prestación de servicios, planificar y asignar los recursos y demostrar los resultados, como corresponde a su obligación de rendir cuentas a las principales partes interesadas. Dentro de la comunidad del desarrollo se presta gran atención a los resultados: ello explica el creciente interés en el SyE. No obstante, muchas veces hay cierta confusión sobre lo que representa el SyE. La finalidad de esta exposición general es lograr una mayor confianza e interés en el SyE, y aclarar lo que implica. A continuación se presenta una muestra de los instrumentos, métodos y enfoques del SyE aquí esbozados, en particular, su finalidad y utilización; ventajas e inconvenientes; costos, conocimientos y tiempo necesarios, y algunas referencias importantes. Se ilustran varios métodos de recopilación de datos, marcos analíticos y tipos de evaluación y examen. En esta exposición general se consideran los siguientes temas: Indicadores de desempeño Enfoque del marco lógico Evaluación basada en la teoría Encuestas formales Métodos de evaluación rápida Métodos participatorios Estudios de seguimiento del gasto público Análisis de costos-beneficios y análisis de la eficacia en función de los costos Evaluación de los efectos La enumeración no es, ni pretende ser, exhaustiva. Algunos de estos instrumentos y enfoques son complementarios; otros se sustituyen mutuamente. Algunos pueden ser de amplia aplicación, mientras que otros están limitados a usos concretos. La elección del mecanismo más adecuado en un contexto dado dependerá de una serie de consideraciones. Entre ellas figuran los usos a que se va a destinar el SyE, las principales partes interesadas en las conclusiones del SyE, la urgencia con que se necesita la información, y el costo. N 6 Indicadores de desempeño ¿Qué son? Los indicadores de desempeño son instrumentos que permiten medir los insumos, procesos, productos, resultados y efectos de los proyectos, programas o estrategias de desarrollo. Cuando están respaldados por sistemas acertados de recopilación de datos --quizá con recurso a encuestas formales--, análisis e información, los indicadores permiten a los administradores seguir los progresos, demostrar los resultados y adoptar medidas correctivas para mejorar la prestación de servicios. La participación de las principales partes interesadas al definir los indicadores es importante, ya que en ese caso es más probable que comprendan y utilicen los indicadores para la toma de decisiones relativas a la gestión. Se podrían utilizar para: Fijar objetivos de desempeño y evaluar los progresos en su consecución. Identificar los problemas mediante un sistema de alerta temprana para poder adoptar medidas correctivas. Determinar si se necesita o no una evaluación o examen en profundidad. VENTAJAS: Son un medio eficaz de cuantificar los progresos conseguidos en el logro de los objetivos. Facilitan el establecimiento de puntos de referencia comparativos entre las diferentes unidades orgánicas y distritos y a lo largo del tiempo. INCONVENIENTES: Los indicadores mal definidos no permiten cuantificar adecuadamente los éxitos conseguidos. Tendencia a definir indicadores demasiado numerosos o sin fuentes de datos accesibles, lo que hace que el sistema resulte costoso y poco práctico y que, probablemente, no se utilice lo suficiente. Muchas veces se requiere una solución de compromiso entre la elección de los indicadores óptimos o deseados y la necesidad de aceptar indicadores que puedan cuantificarse utilizando los datos existentes. D E P A R T A M E N T O D E E V A L U A C I Ó N D E O P E R A C I O N E S D E L B A N C O M U N D I A L D E S A R R O L L O D E L A C A P A C I D A D D E E V A L U A C I Ó N 7 COSTO: Puede ser alto o bajo, según el número de indicadores recopilados, la frecuencia y calidad de la información solicitada y el carácter más o menos completo del sistema. CONOCIMIENTOS REQUERIDOS: Se recomiendan varios días de capacitación con el fin de adquirir los conocimientos necesarios para definir indicadores prácticos. La aplicación de sistemas de seguimiento del desempeño presupone conocimientos sobre recopilación de datos, análisis y presentación de informes y sobre sistemas de información para la gestión. TIEMPO NECESARIO: De varios días a varios meses, según el alcance del proceso de participación utilizado para definir los indicadores, y según la complejidad del programa. La aplicación de sistemas de seguimiento del desempeño puede durar de seis a 12 meses. P A R A M Á S I N F O R M A C I Ó N Banco Mundial (2000). Key Performance Indicator Handbook. Washington, D.C. Hatry, H. (1999). Performance Measurement: Getting Results. The Urban Institute,Washington, D.C. N 8 Enfoque del marco lógico ¿Qué es? El marco lógico ayuda a aclarar los objetivos de cualquier proyecto, programa o política. Facilita la identificación de las relaciones de causalidad previstas --la "lógica del programa"-- en la cadena formada por los siguientes componentes: insumos, procesos, productos (incluida la cobertura o "alcance" entre los distintos grupos beneficiarios), resultados y efectos. Permite determinar los indicadores de desempeño en cada fase de esta cadena, así como los riesgos que podrían impedir el logro de los objetivos. El marco lógico es también un vehículo para conseguir que los demás asociados aclaren sus objetivos y formulen sus actividades. Durante la aplicación, el marco lógico sirve como instrumento útil para examinar los progresos y tomar medidas correctivas. Se podría utilizar para: Mejorar la calidad del diseño de los proyectos y programas, exigiendo la especificación de objetivos claros, el uso de indicadores de desempeño y la evaluación de riesgos. Resumir el diseño de proyectos complejos. Ayudar a preparar planes operacionales detallados. Ofrecer una base objetiva para el examen, seguimiento y evaluación de las actividades. VENTAJAS: Garantiza que los responsables de las decisiones formulen las preguntas fundamen- tales y analicen los supuestos y riesgos. Consigue que las partes interesadas intervengan en el proceso de planeación y seguimiento. Cuando se usa de forma dinámica, es un instrumento eficaz de gestión que permite orientar la aplicación, el seguimiento y la evaluación. INCONVENIENTES: Si aplica con rigidez, inhibe la creatividad y la innovación. Si no se actualiza durante la aplicación, puede convertirse en un instrumento estático que no refleja las nuevas condiciones. Muchas veces requieren actividades complementarias y de capacitación. D E P A R T A M E N T O D E E V A L U A C I Ó N D E O P E R A C I O N E S D E L B A N C O M U N D I A L D E S A R R O L L O D E L A C A P A C I D A D D E E V A L U A C I Ó N 9 COSTO: De bajo a mediano, según el alcance y profundidad del proceso de participación utilizado en apoyo del enfoque. CONOCIMIENTOS REQUERIDOS: Capacitación de tres a cinco días, como mínimo, para los moderadores; preparación adicional para coordinar la planificación y ordenación basadas en la participación. TIEMPO NECESARIO: De varios días a varios meses, según el alcance y profundidad del proceso de participación. P A R A M Á S I N F O R M A C I Ó N Banco Mundial (2000).The Logframe Handbook, Banco Mundial, http://wbln1023/OCS/Quality.nsf/Main/MELFHandBook/$File/LFhandbook.pdf GTZ (1997). ZOPP: Objectives-Oriented Project Planning: http://www.unhabitat.org/cdrom/governance/html/books/zopp_e.pdf N 10 Evaluación basada en la teoría ¿Qué es? La evaluación basada en la teoría tiene varias semejanzas con el concepto de marco lógico pero permite una comprensión mucho más profunda del funcionamiento de un programa o actividad: la "teoría del programa" o "lógica del programa". En particular, no se puede suponer una sencilla relación lineal de causa a efecto. Por ejemplo, el éxito de un programa gubernamental para mejorar la alfabetización incrementando el número de maestros podría depender de numerosos factores, como la disponibilidad de aulas y libros de texto, las probables reacciones de los padres, directores de escuela y alumnos, la preparación y moral del personal docente, los distritos en que se deben ubicar los maestros adicionales, la fiabilidad del financiamiento público, etc. Si se consigue establecer cuáles son los factores determinantes del éxito y la forma en que se interrelacionan, se puede decidir qué pasos deben supervisarse a medida que avanza el programa, para ver si encuentran confirmación en los hechos. Ello permite determinar cuáles son los factores definitivos del éxito. Y cuando los datos revelan que estos factores no se han conseguido, una conclusión razonable es que el programa tiene pocas probabilidades de conseguir sus objetivos. Se podría utilizar para: Determinar el diseño de proyectos complejos. Mejorar la planificación y la gestión. VENTAJAS: Permite desde el primer momento recibir información sobre qué es lo que funciona o no y por qué razón. Permite corregir de inmediato los problemas que van apareciendo. Ayuda a identificar los efectos secundarios no deseados del programa. Ayuda a establecer prioridades entre los temas que se deben investigar con mayor profundidad, utilizando quizá una recopilación de datos mejor centrada o técnicas de SyE más avanzadas. Sirve de base para evaluar los efectos probables de los programas. D E P A R T A M E N T O D E E V A L U A C I Ó N D E O P E R A C I O N E S D E L B A N C O M U N D I A L D E S A R R O L L O D E L A C A P A C I D A D D E E V A L U A C I Ó N 11 INCONVENIENTES: Puede adquirir fácilmente una complejidad excesiva si la escala de las actividades es grande o si se elabora una lista exhaustiva de factores y supuestos. Las partes interesadas podrían estar en desacuerdo sobre cuáles son los factores determinantes que consideran importantes, problema cuya resolución puede con- sumir un tiempo precioso. COSTO: Mediano: depende de la profundidad del análisis y, sobre todo, del detalle de la recopilación de datos realizada para investigar el funcionamiento del programa. CONOCIMIENTOS REQUERIDOS: Capacitación de tres a cinco días, como mínimo, para los moderadores. TIEMPO NECESARIO: Puede variar enormemente, según la profundidad del análisis, la duración del programa o actividad y la profundidad de la labor de SyE realizada. P A R A M Á S I N F O R M A C I Ó N Weiss, Carol H. (1998). Evaluation. Prentice Hall, Nueva Jersey, segunda edición. Weiss, Carol H. (2000). "Theory-based evaluation: theories of change for poverty reduc- tion programs". En O. Feinstein y R. Picciotto, comps. Evaluation and Poverty Reduction. Departamento de Evaluación de Operaciones, Banco Mundial,Washington, D.C. Mayne, John (1999). Addressing AttributionThrough Contribution Analysis: Using Performance Measures Sensibly. Documento de trabajo de la Oficina del Auditor General del Canadá, Ottawa: http://www.oag-bvg.gc.ca/domino/other.nsf/ html/99dp1_e.html N 12 Encuestas formales ¿Qué son? Las encuestas formales pueden utilizarse para recopilar información estandarizada de una muestra cuidadosamente seleccionada de personas y hogares. Las encuestas recopilan con frecuencia información comparable sobre un número relativamente grande de personas de grupos destinatarios concretos. Se podrían utilizar para: Ofrecer datos de referencia para comparar los resultados de la estrategia, programa o proyecto. Comparar los diferentes grupos en un momento determinado del tiempo. Comparar los cambios a lo largo del tiempo dentro del mismo grupo. Comparar las condiciones reales con las metas establecidas en el diseño de un programa o proyecto. Describir las condiciones de una comunidad o grupo concreto. Ofrecer una aportación fundamental para una evaluación formal de los efectos de un programa o proyecto. Evaluar los niveles de pobreza como base para la preparación de estrategias de reducción de la pobreza. VENTAJAS: Las conclusiones de la muestra de personas entrevistadas se pueden aplicar a un grupo destinatario más amplio o al conjunto de la población. Pueden realizarse estimaciones cuantitativas sobre la magnitud y distribución de los efectos. INCONVENIENTES: Con excepción del cuestionario sobre indicadores básicos del bienestar, debe pasar un largo período de tiempo hasta que se conocen los resultados. La elaboración y el análisis de los datos son procesos muy lentos en las grandes encues- tas, incluso cuando se dispone de computadoras. Los estudios de medición de los niveles de vida y las encuestas de hogares son costosas y requieren mucho tiempo. Muchos tipos de información son difíciles de obtener mediante entrevistas formales. COSTO: Desde unos US$30 a US$60 por hogar en los cuestionarios sobre indicadores básicos del bienestar hasta US$170 por hogar en los estudios de medición de los niveles de vida. Los costos serán significativamente mayores si no hay un marco muestral para el país. D E P A R T A M E N T O D E E V A L U A C I Ó N D E O P E R A C I O N E S D E L B A N C O M U N D I A L D E S A R R O L L O D E L A C A P A C I D A D D E E V A L U A C I Ó N 13 CONOCIMIENTOS REQUERIDOS: Sólidos conocimientos técnicos y analíticos para el diseño de muestras y cuestionarios, análisis de datos y elaboración. TIEMPO NECESARIO: Depende del tamaño de la muestra. Los cuestionarios sobre indicadores básicos del bienestar se pueden terminar en dos meses. Los estudios de medición de los niveles de vida requieren generalmente de 18 meses a dos años. Algunos tipos de encuestas anualmente, supervisar los resultados de la actividad. Las conclusiones preliminares pueden Las encuestas de hogares sobre diversos temas obtenerse antes de transcurridos 30 días desde la (también conocidas con el nombre de "estudios realización de la encuesta. de medición de los niveles de vida"): son encuestas integradas sobre distintos temas que permiten Las encuestas de satisfacción del cliente (o de recopilar datos acerca de numerosos aspectos de prestación de servicios) se utilizan para evaluar los niveles de vida como medio para orientar las el desempeño de los servicios gubernamentales, políticas. Estas encuestas cubren los siguientes tomando como base la experiencia de los clientes. temas: gasto, composición de los hogares, Arrojan luz sobre los obstáculos con que tropiezan educación, salud, empleo, fecundidad, nutrición, los clientes para acceder a los servicios públicos, ahorro, actividades agrícolas y otras fuentes de sus opiniones sobre la calidad y suficiencia de los ingreso. Las encuestas de hogares sobre un solo servicios y la capacidad de respuesta de los tema abarcan una gama más reducida de temas funcionarios públicos. Estas encuestas son pero con mayor profundidad. realizadas normalmente por ministerios y organismos gubernamentales. Los cuestionarios sobre indicadores básicos del bienestar son encuestas de hogares que cuantifican Las fichas de calificación de los ciudadanos los cambios registrados en los indicadores sociales han sido utilizadas por ONG y centros de estudios para diferentes grupos de población, en particular, en varios países. Son semejantes a las encuestas en los indicadores de acceso, utilización y sobre prestación de servicios, y han examinado satisfacción con los servicios sociales y también el alcance de la corrupción que enfrentan económicos. Es un instrumento rápido y eficaz los ciudadanos comunes. Un aspecto importante para mejorar el diseño de la actividad, orientar los ha sido la amplia difusión de los resultados. servicios hacia los pobres y, si se repite P A R A M Á S I N F O R M A C I Ó N Sapsford, R. (1999). Survey Research. Sage, Newbury Park, CA. CoreWelfare Indicators Questionnaire: http://www4.worldbank.org/afr/stats/cwiq.cfm Estudios de medición de los niveles de vida: http://www.worldbank.org/lsms Encuestas de satisfacción del cliente: http://www4.worldbank.org/afr/stats/wbi.cfm#sds Fichas de calificación de los ciudadanos: http://lnweb18.worldbank.org/ESSD/sdvext.nsf/ 60ByDocName/CitizenReportCardSurveysANoteontheConceptandMethodology/$FILE/ CRC+SD+note.pdf N 14 Métodos de evaluación rápida ¿Qué son? Se trata de métodos rápidos y de bajo costo para obtener las opiniones y comentarios de los beneficiarios y otras partes interesadas, con el fin de atender las necesidades de información de los responsables de la toma de decisiones. Se podrían utilizar para: Ofrecer información rápida para la toma de decisiones, sobre todo en relación con los proyectos o programas. Ofrecer una comprensión cualitativa de los complejos cambios socioeconómicos, las situaciones sociales fuertemente interactivas, o los valores, motivaciones y reacciones de las personas. Ofrecer el contexto e interpretación para los datos cuantitativos recopilados mediante métodos más formales. VENTAJAS: Bajo costo. Rapidez. Flexibilidad para explorar nuevas ideas. INCONVENIENTES: Los resultados normalmente se refieren a comunidades o localidades específicas, lo que dificulta su generalización. Menos válidos, fiables y creíbles que las encuestas formales. COSTO: De bajo a mediano, según la escala de los métodos adoptados. CONOCIMIENTOS REQUERIDOS: Capacidad de realizar entrevistas no guiadas, dotes de moderador, observación sobre el terreno, toma de notas y conocimientos estadísticos básicos. TIEMPO NECESARIO: De cuatro a seis semanas, según el tamaño y ubicación de la población entrevistada y el número de lugares observados. D E P A R T A M E N T O D E E V A L U A C I Ó N D E O P E R A C I O N E S D E L B A N C O M U N D I A L D E S A R R O L L O D E L A C A P A C I D A D D E E V A L U A C I Ó N 15 Métodos de evaluación rápida Entrevista a informantes clave: serie de reunión abierta a todos los miembros de la preguntas abiertas formuladas a algunos comunidad. El entrevistador sigue un individuos seleccionados por su cuestionario cuidadosamente preparado. conocimiento y experiencia en un tema de interés. Las entrevistas son cualitativas, en Observación directa: utilización de un profundidad y semiestructuradas. Están formulario de observación detallado para basadas en guías de entrevista en que se registrar lo que se ve y oye en el sitio de un recogen los temas o preguntas. programa. La información puede referirse a actividades en curso, procesos, debates, Debates en grupos focales: debate interacciones sociales y resultados moderado entre ocho a 12 participantes observables. cuidadosamente seleccionados, con antecedentes semejantes. Los participantes Miniencuesta: cuestionario estructurado podrían ser beneficiarios o personal del con un número limitado de preguntas con programa, por ejemplo. El moderador respuestas estructuradas que se aplica a utiliza una guía de debate. Se toma nota 50-75 personas. La selección de los encues- de las observaciones y comentarios. tados puede ser aleatoria o "deliberada" (entrevistas a las partes interesadas en Entrevista de grupos comunitarios: serie dispensarios, por ejemplo, para una de preguntas y debates moderados en una encuesta sobre la atención de la salud). P A R A M Á S I N F O R M A C I Ó N USAID. Performance Monitoring and EvaluationTips, Nos. 2, 4, 5, 10. http://www.usaid.gov/pubs/usaid_eval/#02 K. Kumar (1993). Rapid Appraisal Methods. Banco Mundial,Washington, D.C. N 16 Métodos participatorios ¿Qué son? Los métodos participatorios permiten la intervención activa en la toma de decisiones para quienes tienen algo que ver con un proyecto, programa o estrategia; generan un sentimiento de identificación con los resultados y recomendaciones del SyE. Se podrían utilizar para: Aprender sobre las condiciones concretas y las perspectivas y prioridades de la población local para formular intervenciones más flexibles y sostenibles. Identificar problemas y resolverlos durante la ejecución. Evaluar un proyecto, programa o política. Brindar conocimientos teóricos y prácticos para dotar de más medios a la población pobre. VENTAJAS: Examinan las cuestiones pertinentes haciendo que participen en el diseño los verdaderos protagonistas. Establecen asociaciones y una mayor identificación local con los proyectos. Mejoran los conocimientos locales, la capacidad de gestión y las competencias. Ofrecen información oportuna y fiable para la toma de decisión sobre la gestión. INCONVENIENTES: Algunas veces parecen poco objetivos. Requieren mucho tiempo para que las partes interesadas puedan participar de forma significativa. Posible predominio y utilización inadecuada de algunas partes interesadas para pro- teger sus propios intereses. COSTO: De bajo a mediano. Los costos varían enormemente, según el alcance y profundidad de la aplicación y la forma en que se valoran las contribuciones de los recursos locales. D E P A R T A M E N T O D E E V A L U A C I Ó N D E O P E R A C I O N E S D E L B A N C O M U N D I A L D E S A R R O L L O D E L A C A P A C I D A D D E E V A L U A C I Ó N 17 CONOCIMIENTOS REQUERIDOS: Capacitación de varios días, como mínimo, para los moderadores. TIEMPO NECESARIO: Varía enormemente, según el alcance y profundidad de la aplicación. Instrumentos de participación habitualmente utilizados Análisis de las partes interesadas: es el en la colaboración, utilizando muchas veces punto de partida de la mayoría de las técnicas visuales para que puedan participar evaluaciones sociales y estudios basados en las personas que no saben leer ni escribir. la participación. Se utiliza para llegar a una comprensión de las relaciones de poder, Evaluación de los beneficiarios: implica la influencia e intereses de las distintas consulta sistemática a los beneficiarios de personas que participan en una actividad y los proyectos y a otras partes interesadas para determinar quién debe intervenir y para identificar y diseñar iniciativas de cuándo. desarrollo, detectar los obstáculos a la participación e intercambiar opiniones para Evaluación rural basada en la mejorar los servicios y actividades. participación: es un método de planificación que trata de intercambiar Seguimiento y evaluación participatorios: conocimientos entre la población local, implica la participación de las partes tanto rural como urbana, y personas ajenas. interesadas en diferentes niveles y en forma Permite a los responsables de las actividades conjunta para identificar problemas, recopilar de desarrollo y a la población local evaluar y y analizar la información y generar planificar intervenciones adecuadas basadas recomendaciones. P A R A M Á S I N F O R M A C I Ó N Guijt, I. y J. Gaventa (1998). Participatory Monitoring and Evaluation. Institute of Devel- opment Studies, University of Sussex, Brighton, Reino Unido. http://www.ids.ac.uk/ids/bookshop/briefs/brief12.html http://www.worldbank.org/participation/partme.htm N 18 Estudios de seguimiento del gasto público ¿Qué son? Los estudios de seguimiento del gasto público permiten seguir el flujo de fondos públicos y determinar hasta qué punto los recursos llegan de hecho a los grupos destinatarios. Examinan la forma, volumen y cronología de las distribuciones de recursos a los diferentes niveles de gobierno, en particular a las unidades responsables de la prestación de servicios sociales como la salud y la educación. Muchas veces forman parte de encuestas más generales sobre instalaciones y prestación de servicios, en las que se considera sobre todo la calidad de los servicios, las características de las instalaciones, su gestión, las estructuras de incentivos, etc. Se podrían utilizar para: Diagnosticar cuantitativamente los problemas existentes en la prestación de servicios. Ofrecer pruebas sobre los retrasos, "filtraciones" y corrupción. VENTAJAS: Favorecen la rendición de cuentas cuando se dispone de poca información financiera. Mejoran la gestión, ya que permiten detectar los obstáculos burocráticos en el flujo de los fondos para la prestación de servicios. INCONVENIENTES: Los organismos gubernamentales pueden resistirse a abrir sus libros de cuentas. Los costos son considerables. COSTO: Puede ser elevado mientras no se disponga de capacidad nacional para su realización. Por ejemplo, los primeros estudios de este tipo realizados en Uganda costaron US$60.000 para el sector de la educación y US$100.000 para el de la salud. D E P A R T A M E N T O D E E V A L U A C I Ó N D E O P E R A C I O N E S D E L B A N C O M U N D I A L D E S A R R O L L O D E L A C A P A C I D A D D E E V A L U A C I Ó N 19 CONOCIMIENTOS REQUERIDOS: Sólidos conocimientos técnicos y analíticos para el diseño de muestras y cuestionarios y el análisis y procesamiento de datos, así como una comprensión adecuada del sector que se va a evaluar. TIEMPO NECESARIO: De cinco a seis meses (sólo la encuesta dura de uno a dos meses). P A R A M Á S I N F O R M A C I Ó N http://www1.worldbank.org/publicsector/pe/trackingsurveys.htm N 20 Análisis de costos-beneficios y análisis de la eficacia en función de los costos ¿Qué son? El análisis de costos-beneficios y el de la eficacia en función de los costos son instru- mentos para determinar si los costos de una actividad pueden estar o no justificados por los resultados y los efectos. El análisis de costos-beneficios mide los insumos y resultados en términos monetarios. El análisis de la eficacia en función de los costos estima los insumos en términos monetarios y los resultados en términos cuantitativos no monetarios (por ejemplo, mejores calificaciones de lectura para los alumnos). Se podrían utilizar para: Orientar las decisiones sobre la asignación más eficiente de los recursos. Identificar proyectos que ofrezcan la tasa más elevada de rentabilidad para la inversión. VENTAJAS: Son métodos valiosos para estimar la eficiencia de los programas y proyectos. Ponen de manifiesto los supuestos económicos que, de lo contrario, podrían quedar implícitos o pasarse por alto en la fase de diseño. Resultan útiles para convencer a las autoridades y proveedores de fondos de que los beneficios justifican la actividad. INCONVENIENTES: Bastante técnicos, por lo que requieren una disponibilidad suficiente de recursos financieros y humanos. Quizá no se disponga de los datos necesarios para calcular los costos-beneficios, y los resultados previstos tal vez dependan demasiado de los supuestos formulados. Los resultados deben interpretarse con cautela, sobre todo en los proyectos donde es difícil cuantificar los beneficios. COSTO: Varía enormemente, según el alcance del análisis y la disponibilidad de datos. D E P A R T A M E N T O D E E V A L U A C I Ó N D E O P E R A C I O N E S D E L B A N C O M U N D I A L D E S A R R O L L O D E L A C A P A C I D A D D E E V A L U A C I Ó N 21 CONOCIMIENTOS REQUERIDOS: Los procedimientos utilizados en ambos tipos de análisis son con frecuencia muy técnicos. Requieren conocimientos sobre el análisis económico y disponibilidad de los datos pertinentes sobre economía y costos. TIEMPO NECESARIO: Varía enormemente, según el alcance del análisis y la disponibilidad de datos. P A R A M Á S I N F O R M A C I Ó N Belli, P. y cols. (2000). Economic Analysis of Investment Operations: AnalyticalTools and Practical Applications. Banco Mundial,Washington, D.C. EJEMPLOS DE PRÁCTICAS ACONSEJABLES DE ANÁLISIS DE COSTOS-BENEFICIOS: http://kms.worldbank.org/edunet/TEN_DIMENSIONS/DIM_4/cb_ce.htm N 22 Evaluación de los efectos ¿Qué es? La evaluación de los efectos es la identificación sistemática de las repercusiones --positivas o negativas, deliberadas o involuntarias-- en los hogares, instituciones y el medio ambiente, como consecuencia de una determinada actividad de desarrollo, por ejemplo, un programa o proyecto. La evaluación de los efectos nos ayuda a comprender mejor hasta qué punto las actividades llegan a los pobres e influyen en su bienestar. Entre las evaluaciones de los efectos puede haber desde encuestas por muestreo en gran escala en las que las poblaciones afectadas por los proyectos se comparan con grupos de control, antes y después de los mismos y, posiblemente, en diferentes momentos durante su ejecución, hasta evaluaciones rápidas, en pequeña escala, y evaluaciones participatorias en las que los efectos se estiman sobre la base de una combinación de entrevistas con grupos, informantes clave, estudios de casos y datos secundarios disponibles. Se podría utilizar para: Medir los resultados y efectos de una actividad y distinguir entre éstos y la influen- cia de otros factores externos. Ayudar a aclarar si los costos de una actividad están justificados. Orientar las decisiones sobre la conveniencia de ampliar, modificar o eliminar proyectos, programas o políticas. Extraer enseñanzas para mejorar el diseño y gestión de actividades futuras. Comparar la eficacia de intervenciones alternativas. Contribuir a una mejor rendición de cuentas sobre los resultados. VENTAJAS: Permite estimar la magnitud de los resultados y los efectos para diferentes grupos demográficos y regiones o a lo largo del tiempo. Da respuesta a algunas de las preguntas más fundamentales del desarrollo: ¿Estamos haciendo algo realmente? ¿Cuáles son los resultados sobre el terreno? ¿Cómo podemos hacer mejor las cosas? El análisis y el rigor sistemáticos pueden dar a los administradores y autoridades responsables de las políticas mayor confianza en la toma de decisiones. INCONVENIENTES: Algunos modelos son muy costosos y llevan demasiado tiempo, aunque se utilizan también métodos más rápidos y más económicos. Resulta menos útil cuando las autoridades necesitan la información con rapidez. Es difícil establecer un contrafáctico válido. D E P A R T A M E N T O D E E V A L U A C I Ó N D E O P E R A C I O N E S D E L B A N C O M U N D I A L D E S A R R O L L O D E L A C A P A C I D A D D E E V A L U A C I Ó N 23 COSTO: Varias evaluaciones de los efectos realizadas por el Banco Mundial han costado entre US$200.000 y US$900.000, según la magnitud y la complejidad del programa y los datos que haya sido preciso reunir. Otras evaluaciones menos complejas y más rápidas se pueden efectuar por mucho menos de US$100.000 y, en algunos casos, su costo solamente oscila entre US$10.000 y US$20.000. CONOCIMIENTOS REQUERIDOS: Se necesitan profundos conocimientos técnicos acerca del diseño de investigaciones en ciencias sociales, así como sobre la gestión, el análisis y la elaboración de informes. Lo ideal es que el equipo de evaluación cuente con una combinación equilibrada de destrezas cuantitativas y cualitativas. TIEMPO NECESARIO: Puede llevar hasta dos años o más. A menudo, las evaluaciones rápidas se pueden efectuar en menos de seis meses. EJEMPLOS DE DISEÑO DE EVALUACIONES DE LOS EFECTOS: Los diseños aleatorios, que incluyen la recopilación de información sobre el proyecto y los grupos de control en dos o más momentos, permiten un análisis estadístico más riguroso de los efectos del proyecto y de la contribución de otros factores. No obstante, en la práctica, casi nunca es posible usar estos diseños por razones de costo, tiempo, limitaciones metodológicas o éticas. Por consiguiente, en la mayoría de las evaluaciones de los efectos se utilizan diseños menos costosos y menos rigurosos. En el cuadro que sigue se describen cuatro modelos para el diseño de evaluaciones de los efectos en el ámbito del desarrollo. El primero es un ejemplo de un diseño aleatorio; el segundo es un diseño semiexperimental en el que se selecciona un grupo de control "no equivalente", cuyas características se asemejen tanto como sea posible a las de la población del proyecto; en el tercer ejemplo, la población del proyecto se compara con un grupo de control no equivalente una vez ejecutado el proyecto; el cuarto ilustra una evaluación rápida en que se combinan entrevistas de grupos, informantes clave, estudios de casos y datos secundarios. Con cada modelo sucesivo se sacrifica un poco más el rigor metodológico, a cambio de lo cual se logra reducir notablemente el costo y el tiempo necesario. P A R A M Á S I N F O R M A C I Ó N Baker, J. (2000). Evaluación del impacto de los proyectos de desarrollo en la pobreza: Manual para profesionales. Banco Mundial,Washington, D.C. http://www.worldbank.org/poverty/impact/ Sitio web del Banco Mundial sobre evaluaciones de los efectos: http://www.worldbank.org/poverty/impact/ Roche, C. (1999). Impact Assessment for Development Agencies: Learning to Value Change. Oxfam, Oxford. N 24 Cuatro modelos para la evaluación de los efectos Modelo Diseño Ejemplo Costo y duración indicativos 1. Evaluación Los sujetos (familias, escuelas, comunidades, Suministro de agua y servicios De uno a cinco años, que aleatoria antes y etc.) se asignan en forma aleatoria a un grupo de saneamiento o de otros ser- dependen del tiempo que después de la prueba. afectado por el proyecto y a un grupo de vicios, tales como vivienda, debe transcurrir antes de control. Se utilizan cuestionarios y otros infraestructura comunitaria, que se puedan observar los instrumentos de recopilación de datos etc., cuando la demanda es resultados. El costo puede (medidas antropométricas, pruebas de superior a la oferta y se selec- variar entre US$50.000 y rendimiento escolar, etc.) en ambos ciona a los beneficiarios medi- US$1 millón, según el grupos, antes y después del proyecto. Se ante una lotería. Ejemplo: tamaño y la complejidad pueden hacer también observaciones Fondo Social de Bolivia. del programa que se esté adicionales durante la ejecución del mismo. estudiando. 2. Diseño Cuando no sea posible efectuar una selección Estos modelos se han aplicado Costo y duración similares semiexperimental, aleatoria, se selecciona un grupo de control en programas de viviendas a los del Modelo 1. con comparaciones que se ajuste lo más cerca posible a las económicas del Banco Mundial previas y ex post de la características del grupo incluido en el en El Salvador, Zambia, Sene- población a la que proyecto. A veces se seleccionan los tipos gal y Filipinas. estaba destinado el de comunidades de los que se tomarán los proyecto y la de participantes en el proyecto. Cuando los control. proyectos se ejecutan en varias fases, los participantes seleccionados para las fases subsiguientes se pueden usar como grupos de control para su comparación con el grupo incluido en la primera fase del proyecto. 3. Comparación Se reúnen datos sobre los beneficiarios del Evaluar los efectos de los US$50,000 o más. El costo ex post de un grupo proyecto y se selecciona un grupo de control programas de microcrédito en suele ascender a la tercera que participe en no equivalente, como en el caso del Modelo Bangladesh. Se compararon las parte o la mitad de un el proyecto y un 2. Los datos se recopilan únicamente después aldeas en las que funcionaban estudio comparable en que grupo de control de ejecutado el proyecto. Se utilizan con programas de microcrédito se usen los Modelos 1 ó 2. no equivalente. frecuencia análisis multivariados para llevar con aldeas similares que no un control estadístico de las diferencias entre contaban con tales programas. las características de los dos grupos. 4. Evaluaciones En algunas evaluaciones únicamente se Evaluar proyectos de US$25,000 o más. rápidas de los estudian los grupos de estudio afectados por suministro de agua (El estudio realizado en efectos. el proyecto, mientras que en otros se incluyen administrados por la Indonesia costó grupos de control equivalentes. Se pueden comunidad en Indonesia. US$150.000). Algunos usar métodos participatorios para permitir estudios llevan uno o dos que los grupos identifiquen los cambios meses; para otros se nece- producidos por el proyecto, quiénes se han sita un año o más. beneficiado y quiénes no, y cuáles fueron las fortalezas y debilidades del proyecto. Se usa el método de triangulación para comparar la información proporcionada por el grupo con las opiniones de informantes clave y la información que se puede obtener de fuentes secundarias. Se pueden elaborar estudios de casos de individuos o grupos para permitir una mejor comprensión de los procesos de cambio. D E P A R T A M E N T O D E E V A L U A C I Ó N D E O P E R A C I O N E S D E L B A N C O M U N D I A L D E S A R R O L L O D E L A C A P A C I D A D D E E V A L U A C I Ó N 25 Recursos adicionales sobre seguimiento y evaluación Sitios web: Evaluación, seguimiento y mejora de la calidad (Banco Mundial): http://www.worldbank.org/evaluation/ Desarrollo de la capacidad de seguimiento y evaluación: http://www.worldbank.org/oed/ecd/ Noticias sobre el seguimiento y la evaluación: http://www.mande.co.uk/