Linear Regression - NMSA407

• Title: Lineární regrese
• Guaranteed by: Department of Probability and Mathematical Statistics (32-KPMS)
• Faculty: Faculty of Mathematics and Physics
• Actual: from 2023
• Semester: winter
• E-Credits: 8
• Hours per week, examination: winter s.:4/2, C+Ex [HT]
• Capacity: unlimited
• Min. number of students: unlimited
• 4EU+: no
• Virtual mobility / capacity: no
• State of the course: taught
• Language: English, Czech
• Teaching methods: full-time
• Additional information: https://www2.karlin.mff.cuni.cz/~kulich/vyuka/linreg/index.html
• Guarantor: doc. Mgr. Michal Kulich, Ph.D.
• Teacher(s): doc. Mgr. Michal Kulich, Ph.D.; doc. Ing. Marek Omelka, Ph.D.
• Class: M Mgr. PMSE; M Mgr. PMSE > Povinné
• Classification: Mathematics > Probability and Statistics
• Is co-requisite for: NMST444
• Is pre-requisite for: NMST432, NMEK450, NMST564, NMST434, NMST531, NMST431, NMST438, NMEK432, NMST450, NMST422, NMST511, NMST436, NMFM404, NMEK511, NMST424, NMST412, NMSA562
• Is interchangeable with: NSTP195, NSTP194
• In complex pre-requisite: NMFP406
• Is complex co-requisite for: NMST545

Annotation

English

Linear regression model, also without classical assumptions (normality, constant variance, uncorrelated errors), simultaneous testing, residual analysis and regression diagnostics.

Last update: T_KPMS (02.05.2014)

Czech

Lineární regresní model, též bez splnění klasických předpokladů (normalita, konstantní rozptyl, nekorelované chyby), simultánní testování, reziduální analýza a regresní diagnostika.

Last update: T_KPMS (02.05.2014)

Aim of the course

English

To teach students how to model the dependence of the expected value of continuous random variables on both quantitative and qualitative variables.

Last update: T_KPMS (16.05.2013)

Czech

Naučit studenty modelovat závislost střední hodnoty spojitých náhodných veličin na kvantitativních i kvalitativních proměnných.

Last update: T_KPMS (16.05.2013)

Course completion requirements

English

The subject is finalized by a tutorial credit and an exam. Only the students who have obtained the tutorial credit can attempt to take the exam. The exam has two parts: written and oral.

Tutorial credit requirements:

1. Regular small assignments: A student needs to prepare acceptable solutions to at least 10 out of 12 tutorial class assignments. An assignment can be solved either during the corresponding tutorial class or the solution needs to be submitted within a pre-specified deadline.

2. Project: A student needs to submit a project satisfying the requirements given in the assignment. A corrected version of an unsatisfactory project can be resubmitted once.

The nature of these requirements precludes any possibility of additional attempts to obtain the tutorial credit (with the exceptions listed above).

Last update: Kulich Michal, doc. Mgr., Ph.D. (07.09.2022)

Czech

Předmět je zakončen zápočtem a zkouškou. Konání zkoušky je podmíněno předchozím získáním zápočtu. Zkouška je písemná a ústní.

Požadavky na zápočet:

1. Pravidelné úlohy: Student musí odevzdat přijatelná řešení alespoň 10 ze 12 zadaných úloh. Řešení je možné připravit během cvičení anebo je vypracovat jako samostatnou práci a odevzdat v předepsaném termínu.

2. Projekt: Je nutno odevzdat zápočtový projekt splňující požadavky zadání. Neuspokojivý projekt je možné jednou opravit.

Povaha požadavků k zápočtu vylučuje opravné termíny (s výjimkami uvedenými výše).

Last update: Kulich Michal, doc. Mgr., Ph.D. (07.09.2022)

Literature

Základní
KHURI, A. I. Linear Model Methodology. Chapman & Hall/CRC: Boca Raton, 2010, xx+542 s. ISBN: 978-1-58488-481-1.

ZVÁRA, K. Regrese. Matfyzpress: Praha, 2008, 253 s. ISBN: 978-80-7378-041-8.

Doporučená doplňková
DRAPER, N. R., SMITH, H. Applied Regression Analysis, Third Edition. John Wiley & Sons: New York, 1998, xx+706 s. ISBN: 0-471-17082-8.

SEBER, G. A. F., LEE, A. J. Linear Regression Analysis, Second Edition. John Wiley 7 Sons: Hoboken, 2003, xvi+557 s. ISBN: 0-471-41540-5.

WEISBERG, S. Applied Linear Regression, Third Edition. John Wiley & Sons: Hoboken, 2005, xvi+310 s. ISBN: 0-471-66379-4.

ANDĚL, J. Základy matematické statistiky, druhé opravené vydání. Matfyzpress: Praha, 2007, 358 s. ISBN: 80-7378-001-1.

CIPRA, T. Finanční ekonometrie. Ekopress: Praha, 2008, 538 s. ISBN: 978-80-86929-43-9.

ZVÁRA, K. Regresní analýza. Academia: Praha, 1989, 245 s. ISBN: 80-200-0125-5.

Last update: T_KPMS (20.04.2016)

Teaching methods

English

This course requires personal presence, no distant teaching components will be available.

Last update: Kulich Michal, doc. Mgr., Ph.D. (03.09.2022)

Czech

Výuka předmětu probíhá výhradně prezenčním způsobem.

Last update: Kulich Michal, doc. Mgr., Ph.D. (03.09.2022)

Requirements to the exam

English

Exam is composed of two parts

• written part composed of theoretical and semi-practical assignments (no computer analysis);

• oral part with questions corresponding to topics covered by lecture and exercise classes.

Problems assigned during exam are based on topics presented during lectures and also correspond to topics covered by exercise classes. Assigned problems correspond to the syllabus into extent covered by lectures.

Exam grade will be based on point evaluation of the written part and evaluation of the oral part.

Last update: Komárek Arnošt, prof. RNDr., Ph.D. (27.09.2018)

Czech

Zkouška sestává ze dvou částí

• písemná část sestávající z teoretických a semi-praktických problémů (bez použití počítače);

• ústní část sestávající z otázek pokrývajících látku probíranou během přednášek i cvičení.

Problémy zadané u zkoušky vycházejí z odpřednesené látky a současně odpovídají tomu, co bylo procvičováno na cvičení. Zadané problémy odpovídají sylabu předmětu v rozsahu, který byl prezentován na přednášce.

Známka ze zkoušky se stanoví na základě bodového ohodnocení písemné části a hodnocení výkonu u ústní části.

Last update: Komárek Arnošt, prof. RNDr., Ph.D. (27.09.2018)

Syllabus

English

1. Introduction - Simple linear regression

2. Linear regression model, least squares method

3. Properties of LS estimates

4. Statistical inference in LR model

5. Predictions

6. Model Checking and Diagnostic Methods (residuals)

7. Transformation of the response

8. Parametrization of a single covariate

9. Interactions

10. Analysis of variance (ANOVA) models

11. Multiple tests and simultaneous confidence intervals

12. Regression model with multiple covariates

13. Regression Models With Heteroskedastic Data (weighted least squares, sandwich estimation)

14. Sources of Bias in Regression Estimation (Covariate measurement errors, sampling bias)

Last update: Kulich Michal, doc. Mgr., Ph.D. (02.08.2023)

Czech

1. Úvod - jednoduchá lineární regrese

2. Lineární regresní model, metoda nejmenších čtverců

3. Vlastnosti odhadů metodou nejmenších čtverců

4. Statistická inference v LR modelu

5. Predikce

6. Ověřování modelu a regresní diagnostika I. (residua)

7. Transformace odezvy

8. Parametrizace jednoho regresoru

9. Interakce

10. Analýza rozptylu (ANOVA)

11. Simultánní testy a intervaly spolehlivosti

12. Regresní modely s více regresory

13. Heteroskedasticita: Vážené nejmenší čtverce, sandwichové odhady

14. Chyby v regresorech, chybějící pozorování regresorů

Last update: Kulich Michal, doc. Mgr., Ph.D. (02.08.2023)

Entry requirements

English

• Vector spaces, matrix calculus;

• Probability space, conditional probability, conditional distribution, conditional expectation;

• Elementary asymptotic results (laws of large numbers, central limit theorem for i.i.d. random variables and vectors, Cramér-Wold theorem, Cramér-Slutsky theorem);

• Foundations of statistical inference (statistical test, confidence interval, standard error, consistency);

• Basic procedures of statistical inference (asymptotic tests on expected value, one- and two-sample t-test, one-way analysis of variance, chi-square test of independence);

• Maximum-likelihood theory including asymptotic results and the delta method;

• Working knowledge of R, a free software environment for statistical computing and graphics (https://www.r-project.org).

Last update: Komárek Arnošt, prof. RNDr., Ph.D. (25.05.2018)

Czech

• Vektorové prostory, maticový počet;

• Pravděpodobnostní prostor, podmíněná pravděpodobnost, podmíněné rozdělení, podmíněná střední hodnota;

• Základní asymptotické výsledky (zákony velkých čísel, centrální limitní věta pro i.i.d. náhodné veličiny a vektory, Cramér-Woldova věta, Cramér-Slutského věta);

• Základy statistické inference (statistický test, interval spolehlivosti, směrodatná chyba, konzistence);

• Základní postupy statistické inference (asymptotické testy o střední hodnotě, jedno a dvouvýběrový t-test, analýza rozptylu jednoduchého třídění, chí-kvadrát test nezávislosti);

• Teorie maximální věrohodnosti včetně asymptotických výsledků a delta metody;

• Pracovní znalost prostředí R, volně šiřitelného prostředí pro statistické výpočty a grafiku (https://www.r-project.org).

Last update: Komárek Arnošt, prof. RNDr., Ph.D. (25.05.2018)