Регресиона анализа

Регресиона анализа као појам се везује за утврђивање међусобних односа између две или више појава. Може нас, на пример, интересовати зависност између времена проведеног у спремању испита и добијене оцене на испиту, зарада запослених и њиховог образовања, каматне стопе и понуде новца... Како бисмо утврдили да ли су и у којој мери ове појаве зависне, правимо регресиони модел.^[1] Регресиона анализа има широку примену у предвиђању и прогнозирању појава у разним областима, као што су економија, медицина, психологија, историја...

Пример линеарне регресије

Појам регресионе анализеУреди

У статистичком моделовању, регресиона анализа је скуп статистичких процедура помоћу којих оцењујемо међусобну повезаност зависне променљиве (критеријумске променљиве), коју обично означавамо са $Y$ и независних променљивих (предикторске променљиве, регресори, фактори...), које обично означавамо са $X_{1}$ , $X_{2}$ , ..., $X_{n}$ где је $n$ број независних променљивих.^[2] Тачније, резултати добијени регресионом анализом нам говоре како се вредност зависне променљиве мења када се промени вредност једне независне променљиве, док су вредности осталих независних променљивих фиксиране. Основни задатак регресионе анализе је апроксимација регресионе функције којом се представља веза између зависне и независних променљивих. Регресиона анализа се такође користи за оцењивање функционалне зависности између зависне и независних променљивих, као и природе те зависности.

Подела метода регресионе анализеУреди

Према броју независних променљивих у регресионом моделу, разликујемо:

Проста регресија, код које постоји по једна зависна и једна независна променљива
Вишеструка регресија, где постоји једна зависна, али више независних променљивих

Према врсти зависне променљиве, регресиони модели могу да буду:

Модели са континуираном зависном променљивом
Модели са категоричком зависном променљивом, која није дихотомна, већ узима више од две вредности (категорије)
Модели са дихотомном зависном променљивом, који представљају специјалан случај модела са категоричком зависном променљивом, јер зависна променљива може узимати само две вредности^[3]

Према природи везе између зависне и независних променљивих, регресија може да буде:

Линеарна регресија, коју карактерише постојање линеарне везе између независних променљивих и зависне променљиве, а која се у моселу исказује као сабирање независних променљивих првог степена
Нелинеарна регресија, која може бити:

Према броју зависних променљивих, регресиони модел може бити:

Униваријантни регресиони модел, тј. модел који има једну зависну променљиву
Мултиваријантни регресиони модел, код кога постоји више зависних променљивих због чега се он састоји из више регресионих једначина^[4]

Примена регресионе анализеУреди

Концепт регресије је лако разумљив и имплементиран је у скоро сваком статистичком пакету, а омогућава испитивање функционалне зависности између променљивих, па као такав лежи у основи многих савремених статистичких техника. Зато се примена регресионе анализе може наћи у скоро свим академским областима или примењеној науци данас. Неки иод примера су:

Економија- предвиђање потрошње, предвиђање кретања цена акција на берзи и др.^[5]
Психологија- утицај интелигенције на постигнућа појединаца, утицај начина васпитања и културних вредности појединаца на њихова постигнућа у школи и сл.
Пољопривреда- како предвидети количину рода пшенице на основу познавања скупа других података (број сунчаних и кишних дана у години, семена и вештачког ђубрива које се користи...)
Историја- како проценити старост неког објекта на основу познатих карактеристика објекта.
Политика- предвиђање кретања становништва на основу познавања пола, стопе незапослености, висине примања у неком региону

Порекло речи регресијаУреди

Френсис Галтон (енгл. Francis Galton) је 1877. године, у Енглеској, представио рад „Типични закони наслеђа“, у коме је изложио концепт регресије.^[6] Он је открио везу између величине зрна грашка родитељске биљке и величине зрна грашка биљке потомка. Установио је да је ова веза приближно линеарна. Такође је утврдио да величина зрна „регресира“ ка средњој вредности. Овај феномен је назвао „регресија ка медиокритету“.

РеференцеУреди

^ „Necessary Condition Analysis - Erasmus Research Institute of Management - ERIM”. www.erim.eur.nl (на језику: енглески). Приступљено 19. 5. 2018.
^ Nagahara, Yuichi (јул 1999). „The PDF and CF of Pearson type IV distributions and the ML estimation of the parameters”. Statistics & Probability Letters. 43 (3): 251—264. ISSN 0167-7152. doi:10.1016/s0167-7152(98)00265-x.
^ Armstrong, J. Scott (јул 2012). „Illusions in regression analysis”. International Journal of Forecasting. 28 (3): 689—694. ISSN 0169-2070. doi:10.1016/j.ijforecast.2012.02.001.
^ Chiang, Chin Long (2003). Statistical Methods of Analysis (на језику: енглески). World Scientific. ISBN 9789812383105.
^ Ramcharan, Rodney (2003). „Reputation, Debt, and Policy Conditionality”. IMF Working Papers. 03 (192): 1. ISSN 1018-5941. doi:10.5089/9781451859782.001.
^ „Typical Laws of Heredity 1”. Nature. 15 (389): 512—514. април 1877. ISSN 0028-0836. doi:10.1038/015512b0.

ЛитератураУреди

Chiang, Chin Long (2003). Statistical Methods of Analysis (на језику: енглески). World Scientific. ISBN 9789812383105.
William H. Kruskal and Judith M. Tanur, ed. (1978), "Linear Hypotheses," International Encyclopedia of Statistics. Free Press, v. 1,

Evan J. Williams, "I. Regression," pp. 523–41.

Julian C. Stanley, "II. Analysis of Variance," pp. 541–554.

Lindley, D.V. (1987). "Regression and correlation analysis," New Palgrave: A Dictionary of Economics, v. 4, pp. 120–23.
Birkes, David and Dodge, Y., Alternative Methods of Regression. ISBN 0-471-56881-3
Chatfield, C. (1993) "Calculating Interval Forecasts," Journal of Business and Economic Statistics, 11. pp. 121–135.
Draper, N.R.; Smith, H. (1998). Applied Regression Analysis (3rd изд.). John Wiley. ISBN 0-471-17082-8.
Fox, J. (1997). Applied Regression Analysis, Linear Models and Related Methods. Sage
Hardle, W., Applied Nonparametric Regression (1990), ISBN 0-521-42950-1
Meade, N. and T. Islam (1995) "Prediction Intervals for Growth Curve Forecasts" Journal of Forecasting, 14, pp. 413–430.
A. Sen, M. Srivastava, Regression Analysis — Theory, Methods, and Applications, Springer-Verlag, Berlin, 2011 (4th printing).
T. Strutz: Data Fitting and Uncertainty (A practical introduction to weighted least squares and beyond). Vieweg+Teubner, ISBN 978-3-8348-1022-9.
Malakooti, B. (2013). Operations and Production Systems with Multiple Objectives. John Wiley & Sons.

Спољашње везеУреди

Математички факултет у Београду
Hazewinkel Michiel, ур. (2001). „Regression analysis”. Encyclopaedia of Mathematics. Springer. ISBN 978-1556080104.
Earliest Uses: Regression – basic history and references
Regression of Weakly Correlated Data

[1] „Necessary Condition Analysis - Erasmus Research Institute of Management - ERIM”. www.erim.eur.nl (на језику: енглески). Приступљено 19. 5. 2018.

[2] Nagahara, Yuichi (јул 1999). „The PDF and CF of Pearson type IV distributions and the ML estimation of the parameters”. Statistics & Probability Letters. 43 (3): 251—264. ISSN 0167-7152. doi:10.1016/s0167-7152(98)00265-x.

[3] Armstrong, J. Scott (јул 2012). „Illusions in regression analysis”. International Journal of Forecasting. 28 (3): 689—694. ISSN 0169-2070. doi:10.1016/j.ijforecast.2012.02.001.

[4] Chiang, Chin Long (2003). Statistical Methods of Analysis (на језику: енглески). World Scientific. ISBN 9789812383105.

[5] Ramcharan, Rodney (2003). „Reputation, Debt, and Policy Conditionality”. IMF Working Papers. 03 (192): 1. ISSN 1018-5941. doi:10.5089/9781451859782.001.

[6] „Typical Laws of Heredity 1”. Nature. 15 (389): 512—514. април 1877. ISSN 0028-0836. doi:10.1038/015512b0.

[1]

[2]

[3]

[4]

[5]

[6]