Uniwersytet Warszawski, Instytut
Polityki Społecznej
EWALUACJA W POLITYCE SPOŁECZNEJ
PROGRAM | CO
NOWEGO?
Prowadzący: dr hab. Ryszard Szarfenberg, prof. UW - www, e-mail
(wykład w semestrze zimowym), dr Przemysław Potocki (warsztaty w semestrze
letnim)
Dyżury
Motto: ewaluacja to nie jest żadna
wiedza tajemna
Efekty kształcenia
Po ukończeniu przedmiotu student jest przygotowany do ćwiczeń w semestrze
letnim.
- Wyjaśnia czym jest ewaluacja odwołując się do specyfiki jej celów i
funkcji, jej kryteriów oraz metod i technik.
- Rozróżnia i rozpoznaje różne modele i podejścia do ewaluacji oraz
wybiera model odpowiedni do danych warunków.
- Ocenia przydatność metod i technik ewaluacji w zależności od celów
ewaluacji.
- Oddziela i odróżnia poszczególne kroki w procedurze prowadzenia
ewaluacji.
- Uzasadnia znaczenie standardów ewaluacji dla jej prowadzenia.
- Rozwiązuje proste zadania z zakresu projektowania ewaluacji.
- Ocenia przykłady ewaluacji pod względem ich zgodności ze standardami
ewaluacji.
Tematyka wykładów
- Wprowadzenie
- Definicje, funkcje i cele ewaluacji na tle audytu,
monitoringu i badań
- Ewaluacja w cyklu polityki publicznej i w pracy
socjalnej – sprawność działania
- Metoda ewaluacji
- Kryteria ewaluacji – skuteczność
- Kryterium skuteczności – badanie wpływu projektu
- Kryteria ewaluacji - efektywność
- Kryteria ewaluacji - użyteczność, trwałość, trafność
- Badania, źródła danych, ich uzyskiwanie oraz
prezentacja w kontekście ewaluacji
- Ewaluacja oparta na teorii projektu
- Procedura przeprowadzania ewaluacji na przykładzie
modelu ewaluacji CIPP
- Standardy ewaluacji i metaewaluacja
- Przykład ewaluacji – ewaluacja Wolskiego Programu
Reintegracji Społecznej „Druga szansa”
- Przyszłość ewaluacji
Lista tematów może ulec niewielkim zmianom
Zasady zaliczenia przedmiotu
- Obecność na zajęciach - dwie nieobecności bez konsekwencji, każda
następna do 6 wymaga zaliczenia, powyżej 6 nieobecności automatyczne
powtarzanie przedmiotu. Weryfikacja obecności - lista z podpisem.
- Dokonanie analizy wybranej ewaluacji projektu społecznego na podstawie
jej końcowego raportu oraz ewentualnie innych danych. Ocenie podlegać
będzie prezentacja na zajęciach oraz raport całościowy.
- Egzamin pisemny na podstawie treści zajęć, podręcznika i ewentualnie
literatury dodatkowej.
Wskazówki i wymogi wobec raportu z analizy
ewaluacji
- Pracę wykonuje jedna osoba lub zespół dwuosobowy
- Zadanie główne polega na dokonaniu analizy wybranej ewaluacji jednego
niewielkiego projektu z zakresu polityki społecznej
- Etap wstępny: należy znaleźć raport z ewaluacji
(wykorzystać można Google ze słowami "ewaluacja końcowa", "EFS",
"raport" "projekt"), przejrzeć znalezione raporty, wybrać jeden z nich,
przesłać propozycję do prowadzącego formularzem
do 12 października w celu uzyskania akceptacji.
- Etap 1: kryteria ewaluacji (wykłady 4-6)
- Wyodrębnić kryteria ewaluacyjne zastosowane w wybranej ewaluacji,
przytoczyć cytaty z raportu z ich opisem słownym, ocenić zgodność
nazewnictwa i opisu kryteriów z ich teorią przedstawioną na
wykładzie. Pytanie: czy i w jakim stopniu definicje kryteriów
ewaluacji były zgodne z definicjami wykładowymi?
- Przeanalizować sposób wyboru i ważenia kryteriów. Pytanie: czy i w
jakim stopniu świadomie wybrano kryteria i dokonano ich
hierarchizacji?
- Przeanalizować sposób operacjonalizacji kryteriów ewaluacyjnych.
Pytanie: w jaki sposób mierzone były kryteria ewaluacyjne w
kontekście danego projektu (np. jeżeli wybrano skuteczność, to w
jaki sposób dokonano jej pomiaru i ile wyniosła)?
- Etap 2. Źródła danych o projekcie do ewaluacji, narzędzia ich
uzyskania oraz sposób prezentacji (wykłady 7 i 8)
- Poszukujemy w raporcie wszystkich źródeł danych o projekcie, jakie
były wykorzystywane (jakie dokumenty były analizowane, z kim
przeprowadzano ankiety, wywiady) i krótko je przedstawiamy. Pytanie:
jakie były źródła danych o projekcie?
- Poszukujemy informacji o narzędziach uzyskania danych ze źródeł.
Pytanie: jakie techniki uzyskiwania danych ze źródeł zastosowano?
- Sprawdzamy sposób przedstawiania zebranych danych. Pytanie: w jaki
sposób przedstawiono dane o projekcie w raporcie z ewaluacji?
- Etap 3. Teoria projektu i metoda ewaluacji (wykłady 9-11)
- Poszukujemy informacji o teorii projektu. Pytanie: jaka teoria
oddziaływania projektu (teoria zmiany) była jego uzasadnieniem? Czy
i w jakim stopniu zastosowano teorię zmiany do ewaluacji projektu?
- Sprawdzamy, czy w raporcie są informacje na temat metod ewaluacji
cząstkowych. Pytanie: jakimi metodami ewaluatorzy ocenili projekt
według wybranych przez siebie kryteriów?
- Sprawdzamy, czy w raporcie są informacje na temat metody ewaluacji
łącznej. Pytanie: jaką metodą ewaluatorzy ocenili projekt łącznie na
podstawie jego ocen cząstkowych?
- Etap 4. Metaewaluacja (wykład 13)
- Poszukujemy informacji o tym, czy w ewaluacji stosowano się do
standardów ewaluacji Polskiego Towarzystwa Ewaluacyjnego lub innymi.
Pytanie: czy i w jakim stopniu w ewaluacji kierowano się standardami
ewaluacji?
Raporty cząstkowe z poszczególnych etapów prac zespoły będą
przedstawiały na odpowiednich zajęciach
- Raport z etapu 1 – zajęcia 4-6
- Raport z etapu 2 – zajęcia 7-8
- Raport z etapu 3 – zajęcia 9-11
- Raport z etapu 4 – zajęcia 13
- Raport z przeprowadzonej analizy należy przesłać mailem w
całości do 22 stycznia 2022. Raport powinien mieć stronę
tytułową z tytułem: „Analiza ewaluacji projektu…”, nazwiskami autorów i
ich mailami, spisem treści, streszczeniem, strukturą odpowiadającą
poszczególnym etapom pracy, podsumowaniem i wykorzystaną literaturą. W
raporcie należy stosować cytaty i przypisy dolne tak jak w innych
pracach akademickich. Bardziej szczegółowe zalecenia wkrótce.
LITERATURA
Podręcznik podstawowy
B. Szatur-Jaworska (red.)
"Ewaluacja w służbach społecznych", Mazowieckie Centrum Polityki
Społecznej, Warszawa 2010.
R. Szarfenberg "Ewaluacja w
polityce społecznej" w: J. Męcina, G. Firlit-Fesnak red. "Polityka
społeczna. Podręcznik akademicki", PWN, Warszawa 2018.
Literatura o ewaluacji w kontekście polityki społecznej (od
najnowszych)
- "O
ewaluacji z różnych perspektyw. Refleksje i wskazówki na temat
kształtowania jakości działań w polityce społecznej", Małopolskie
Obserwatorium Polityki Społecznej, ROPS w Krakowie, Kraków 2013.
- J. Szymanowska (red.) "Ewaluacja w pracy socjalnej", Impuls, Kraków
2012.
- A. Hryniewicka (red.) "Różne wymiary
skuteczności w pomocy społecznej", Instytut Rozwoju Służb Społecznych
2011.
- Z.
Wiśniewski, K. Zawadzki (red.) "Efektywność polityki rynku pracy w
Polsce", WUP–UMK, Toruń 2011.
- „Ewaluacja
programów i przedsięwzięć społecznych. Katalog dobrych praktyk”, Małopolskie
Obserwatorium Polityki Społecznej, Regionalny Ośrodek Polityki
Społecznej w Krakowie, 2012.
- J. Staręga-Piasek, A. Hryniewicka
(red.) „O potrzebie ewaluacji w pomocy społecznej”, Instytut Rozwoju
Służb Społecznych, Warszawa 2008.
- "Wykorzystywanie narzędzi ewaluacyjnych
w pomocy społecznej" raport Instytutu Rozwoju Służb Społecznych, 2008.
- K. Ornacka „Ewaluacja między naukami
społecznymi i pracą socjalną”, Uniwersytet Jagielloński, Kraków 2003.
Podręczniki, poradniki pozostałe
- K. Olejniczak,
M. Kozak, B. Ledzion (red.) „Teoria i praktyka ewaluacji
interwencji publicznych. Podręcznik akademicki”, Wydawnictwa
Akademickie i Profesjonalne, Akademia im. Koźmińskiego, Warszawa
2008.
- S.
Bienias, T. Gapski, J. Jąkalski, I. Lewandowska, E. Opałka, P.
Strzęboszewski "Ewaluacja. Poradnik dla pracowników administracji
publicznej", Ministerstwo Rozwoju Regionalnego, Warszawa 2012.
- A.
Kowalewska "Poradnik dla Wnioskodawcy: Jak przygotować dobry projekt,
a potem przeprowadzić jego ewaluację", NBP 2015.
- K. Pytlak "Podręcznik ewaluacji projektów
infrastrukturalnych. Czy Twój projekt przyniósł oczekiwane korzyści",
Ministerstwo Rozwoju Regionalnego, Warszawa 2009.
- T. A. Grzeszczyk "Ocena projektów europejskich 2007-2013", Placet,
Warszawa 2009.
Wybory tekstów zagranicznych
Pozostałe od najnowszych
-
"Ewaluacja ex ante – podsumowanie doświadczeń administracji polskiej",
Ministerstwo Rozwoju Regionalnego, Warszawa 2007.
- M. Ferry, K. Olejniczak "Wykorzystanie
ewaluacji w zarządzaniu programami unijnymi w Polsce", Ernst &
Young Polska, Warszawa 2008.
- A. Haber, M.
Szałaj (red.) "Ewaluacja wobec wyzwań stojących przed sektorem
finansów publicznych", Polska Agencja Rozwoju Przedsiębiorczości,
Warszawa 2009.
- K. Olejniczak
"Mechanizmy wykorzystania ewaluacji. Studium ewaluacji
średniookresowych INTERREG III", Scholar, Warszawa 2008.
- A.
Haber "Ewaluacja ex-post. Teoria i praktyka badawcza", Polska Agencja
Rozwoju Przedsiębiorczości", Warszawa 2007.
Artykuły (alfabetycznie)
- A. Baranowska-Rataj, A. Matysiak
"Czy znamy lekarstwo na niską dzietność? Międzynarodowe badania
ewaluacyjne na temat polityki rodzinnej", Polityka Społeczna nr
7/2011.
- K.W. Frieske "Nauki społeczne w
służbie spraw publicznych – polskie tradycje", w: A.
Haber, M. Szałaj (red.). Środowisko i warsztat ewaluacji, PARP, 2008.
- M.
Granosik "Dwa paradygmaty ewaluacji w pracy socjalnej" w: J.
Szymanowska (red.) "Ewaluacja w pracy socjalnej", Impuls, Kraków 2012.
- T.
Kupiec "Ewaluacja jako narzędzie zarządzania w sektorze publicznym",
Studia z Polityki Publicznej nr 2(2) 2014.
- F. L. Leeuw "Ewaluacja w Europie.
Wyzwania przyszłości", Państwo i Rynek nr 1/2008.
- G. Mazurkiewicz
"Ewaluacja w edukacji. Dylematy systemu ewaluacji oświaty w
Polsce", Zarządzanie Publiczne nr 1, 2016.
- P.
Ozierański "O związkach ewaluacji i socjotechniki", Polityka
Społeczna, nr 1/2006.
- D.
Pawluś "Rola ewaluacji w usprawnianiu działań", Polityka Społeczna, nr
5-6/2005.
- A.
Podkońska, "Ewaluacja w lokalnej
polityce społecznej - przykïad projektów aktywnej integracji",
Problemy Polityki Społecznej, nr 35 2016.
- R. Szarfenberg
"Ewaluacja w pracy z osobą i rodziną".
- R.
Szarfenberg "Ewaluacja organizowania i rozwoju społeczności lokalnej,
czyli o odmianach i sprawności trzeciej metody pracy socjalnej", w: J.
Kowalczyk red. "Programy aktywności lokalnej - nowa jakość pomocy
pomocy społecznej?" Impuls, Kraków 2012.
- R. Szarfenberg
"Dowody naukowe jako podstawa polityki społecznej, zarządzania
społecznego i pracy socjalnej", Problemy Polityki Społecznej" nr
15/2011.
- R. Szarfenberg
"Analiza koszty-korzyści w polityce społecznej", w: J. Szambelańczyk,
M. Żukowski (red.) "Człowiek w pracy i polityce społecznej",
Uniwersytet Ekonomiczny w Poznaniu, Poznań 2010.
- R. Szarfenberg
"Ewaluacja strategii a polityka społeczna", w: M. Grewiński, A.
Karwacki (red.) "Strategie w polityce społecznej", Mazowieckie Centrum
Polityki Społecznej, Warszawa 2009.
- D. Zalewski "Możliwości i
ograniczenia wykorzystania wyników ewaluacji przez instytucje
publiczne", w: A. Haber, M. Szałaj (red.). Środowisko i warsztat
ewaluacji, PARP, 2008.
Literatura i materiały ściśle metodologiczne
- M.
Csillag, J. Kreko, A. Scharle "Ewaluacja kontrfaktyczna programów
zatrudnienia osób młodych. Przewodnik metodologiczny", projekt
„Partnerstwo na rzecz zatrudnienia młodzieży – badania ewaluacyjne w
Hiszpanii, Polsce, na Węgrzech i we Włoszech” 2020.
- R.
Trzciński "Badnaie ewaluacyjne - szacowanie efektów programów
publicznych" w: H. Domański i in. "Metodologia
badań nad stratyfikacją społeczną ", Warszawa 2012.
- A. Kurowska "Schematy badań– metody
eksperymentalne i quasi-eksperymentalne" w: B. Szatur-Jaworska red.
"Ewaluacja w służbach społecznych", Mazowieckie Centrum Polityki
Społecznej, Warszawa 2010.
- D. Górecka "Metody wielokryterialne w
procedurze ewaluacji i selekcji projektów europejskich" w:
"Polityka spójności. Ocena i wyzwania", Warszawa 2008.
- R. Trzciński
"Wykorzystanie techniki propensity score matching w
badaniach ewaluacyjnych", Polska Agencja Rozwoju Przedsiębiorczości,
Warszawa 2009.
Standardy ewaluacji
Przykłady ewaluacji pojedynczych projektów
Wywiady
Zalecane strony