REGRESNÍ ANALÝZA Mgr. Jiří Mazurek Ph.D. Regresní analýza •Regresní analýza se zabývá závislostí kvantitativního znaku na kvantitativním znaku (nebo více kvantitativních znacích). •V případě závislosti jednoho znaku na jednom znaku mluvíme o jednoduché regresi. •U závislosti jednoho znaku na více kvantitativních znacích hovoříme o vícenásobné (nebo mnohonásobné) regresi. PODSTATA REGRESNÍ ANALÝZY •Jednou ze základních úloh regresní analýzy je najít vztah závislé proměnné y na faktorech •Tvar závislosti y na x → regresní analýza •Míra závislosti y na x → korelační analýza • Data •Průřezová data: jednotlivá pozorování více jednotek v jednom časovém intervalu (příjem domácnosti, spotřební chování). •Časové řady: pozorovaní proměnné za jednu časovou jednotku. •„Panelová“ data: kombinace průřezových dat a časových řad. • •My se budeme zabývat průřezovými daty. Proměnné: názvosloví y Predictand Predictors Regressand Regressors Vysvětlovaná proměnná Vysvětlující proměnné Závislá proměnná Nezávislé proměnné Endogenní proměnná Exogenní proměnné Cílová proměnná Kontrolní proměnné Regresní funkce Základní úloha Jak proložit danými body přímku? Metoda nejmenších čtverců Jednoduchá lineární regrese Jednoduchá lineární regrese •Jednoduchá lineární regrese je speciálním případem vícenásobné regrese. •Jednoduchá lineární regrese má pouze jednu vysvětlující proměnnou, vícenásobná regrese má dvě nebo více vysvětlujících proměnných. •V praxi se regrese provádí pomocí vhodného statistického softwaru, např. Excel nebo SPSS. • Vícenásobná lineární regrese • •Nejčastěji odhadovaná funkce • y = b0 + b1x1 + b2x2 + ... + bkxk •Kde máme k vysvětlujících proměnných. • •Nejjednodušším případem je jednoduchá lineární regrese • y = b0 + b1x1 , • v níž je pouze jedna vysvětlující proměnná. • Grafická interpretace •Yi = empirické (měřené) hodnoty závislé proměnné, •yi = teoretické hodnoty závislé proměnné, •ei = residua. •Vztah mezi Yi a yi : yi = Yi + ei • Předpokládané statistické vlastnosti náhodné složky Regresní koeficienty •Vektor regresních koeficientů získáme z vektorové rovnice : • • •kde X je tzv. matice regresorů • Příklad •Odhadněte závislost spotřeby elektrické energie (Y) na délce elektrického vedení (X1) a odběru energie (X2). Jsou k dispozici následující výběrová data: Příklad - řešení •Tabulka představuje body, z nichž získáme potřebné matice X a Y. Příklad - řešení Příklad - řešení Příklad - řešení Teoretické hodnoty •Teoretické hodnoty obdržíme dosazením do regresní rovnice za x1 a x2 postupně z tabulky vstupních dat: • Teoretické hodnoty jinak Vektor reziduálních odchylek: •Rozdíl teoretické a skutečné hodnoty, představuje vektor reziduálních odchylek: Rozptyl odhadu regresních koeficientů •Protože při výpočtu regresních koeficientů se jedná o odhady, je účelné také nalézt rozptyly těchto odhadů, které vyjadřují přesnost odhadů. Získáme je jako prvky hlavní diagonály matice: Příklad - řešení Rozptyly regresních koeficientů •Diagonálu poslední matice tvoří rozptyly jednotlivých regresních koeficientů: Po nalezení regresního modelu a rozptylů odhadů regresních koeficientů píšeme obvykle výsledné řešení tak, že pod regresní koeficienty do závorek uvádíme příslušné směrodatné odchylky (též tzv. standardní chyby). TEST VÝZNAMNOSTI REGRESNÍCH KOEFICIENTŮ •Při výpočtu regresních koeficientů b1, b2, …, bk se stává, že mezi koeficienty jsou až řádové rozdíly, např. b1 = 200 a b2 = 0,02. •V takových případech stojíme před problémem, zda má smysl zařadit např. b2 do regresní funkce. •K objektivnímu posouzení významnosti regresních koeficientů lze použít test statistické významnosti regresních koeficientů. Struktura testu Příklad - řešení INTERVALY SPOLEHLIVOSTI PRO REGRESNÍ KOEFICIENTY •Intervaly spolehlivosti pro parametry b1, …, bk, , tj. intervaly, ve kterých lze očekávat tyto parametry s pravděpodobností 1-α, získáme pomocí vztahu: • •kde • TESTOVÁNÍ VHODNOSTI REGRESNÍHO MODELU Příklad - řešení •Použijeme-li test na náš příklad, obdržíme: • • • •Protože T překročilo kritickou hodnotu K, zamítá se H0 a model se považuje za vyhovující, tj. zamítá se hypotéza o nulovosti všech regresních koeficientů (s výjimkou β0). Testové kritérium překročilo kritickou hodnotu výrazně a stalo by se tak i na jednoprocentní hladině významnosti. Příklad – řešení v Excelu •Odhadněte závislost spotřeby elektrické energie (Y) na délce elektrického vedení (X1) a odběru energie (X2). Jsou k dispozici následující výběrová data: Příklad – řešení v Excelu - postup •Data – Analýza dat – Regrese. •Zadáme sloupce X a Y a potvrdíme OK. •Excel nám vrátí tabulku s výsledky, viz následující snímek. •Ukážeme si v ní důležité informace. Příklad – řešení v Excelu - postup Příklad – samostatná úloha Jednoduchá lineární regrese – jiný způsob řešení •Použijeme opět Excel, ale jinak: vytvoříme graf, a v něm určíme rovnici lineární regrese. •1. krok: máme data ve dvou sloupcích. Vložíme bodový graf: • Jednoduchá lineární regrese – jiný způsob řešení •Klikneme prvým tlačítkem myši na některá bod grafu a zvolíme „přidat spojnici trendu“ – objeví se regresní přímka. Predikce pomocí regresní přímky. •V předchozím příkladě jsem měli tato data a vyšla nám následující rovnice regresní přímky: y = 1,8273x + 3,4. Veličina x nabývá hodnot od 1 do 11. Co když ale bude x = 13, jaké pak můžu očekávat y? Stačí dosadit do rovnice výše za x = 13, a vyjde y = 27,15. • Jednoduchá lineární regrese – jiný způsob řešení •V menu napravo zatrhneme dvě poslední možnosti – zobrazí se nám rovnice regresní přímky a koeficient determinace R^2. Graf bez odlehlé hodnoty Graf s odlehlou hodnotou Problémy regresní analýzy •Odlehlé hodnoty •Heteroskedasticita (nerovnost rozptylu) •Volba vhodné regresní funkce (křivky) Heteroskedasticita •Co dělat při nerovnosti rozptylu? – některé statistické nástroje jako GRETL nebo SPSS ji umí opravit. Navigating the Uneven Terrain of Heteroscedasticity in Regression Analysis | by Everton Gomede, PhD | Python's Gurus | Medium Volba regresní křivky Pokud body grafu neleží na přímce, můžeme v menu napravo zkusit jinou volbu, například mocninnou funkci. Výsledek je mnohem lepší: Nobelova cena za ekonomii Obsah obrázku text, řada/pruh, diagram, Písmo Obsah vygenerovaný umělou inteligencí může být nesprávný. Děkuji za pozornost.