A rapid development in the area of data mining is motivated by the necessity to "translate" huge amounts of processed and stored data into meaningful information. This lecture is focused on understanding principal concepts and techniques applicable to data mining. Basic principles of their application to novel solutions of practical tasks will be discussed in detail. These comprise mainly business and Web applications, but others as well.
Last update: RNDr. Jan Hric (28.05.2020)
Obrovské množství zpracovávaných a uchovávaných dat vede ke snaze "přeložit" tyto údaje do smysluplné informace -
dobývání znalostí. Cílem přednášky je seznámit studenty se základními pojmy a technikami používanými v oblasti dobývání
znalostí. Součástí přednášky/cvičení bude návrh a vývoj jednoduché aplikace umožňující detailní pochopení principů
dobývání znalostí a jejich aplikace v praxi, především v oblasti ekonomie a WWW, ale i dalších.
Předpokládají se znalosti v rozsahu bakalářského kursu NDBI025 Databázové systémy.
Aim of the course - Czech
Last update: doc. RNDr. Iveta Mrázová, CSc. (27.05.2020)
Naučit základní metody dobývání znalostí z dat.
Literature - Czech
Last update: doc. RNDr. Iveta Mrázová, CSc. (27.05.2020)
Aggarwal C. C. (Ed.): Social Network Data Analytics, Springer, 2011
Aggarwal C. C.: Data Mining: The Textbook, Springer, 2015
Berka P.: Dobývání znalostí z databází, Academia, 2003
Berry M. J. A., Linoff G.: Data Mining Techniques for Marketing, Sales, and Customer Support, John Wiley & Sons, Inc., 1997
Liu B.: Web Data Mining, Springer, 2007
Murphy K. P.: Machine Learning: A Probabilistic Perspective, The MIT Press, 2012
Syllabus -
Last update: doc. RNDr. Iveta Mrázová, CSc. (27.05.2020)
1. Introduction to the area of data mining
Motivation for data mining and its importance for practice, an overview of frequent data mining tasks, main data mining methodologies.
Fundamental principles of database systems, data warehouses and the OLAP-technology (On-Line Analytical Processing), construction of data cubes, examples of data mining queries.
2. Fundamental paradigms of the data mining process
Data gathering, preparation and preprocessing - sampling, variability and confidence, discretization of numeric attributes and handling nonnumerical variables, replacement of missing and empty values, series variables.
Transformation, reduction and cleaning of the data - relationships among the attributes (hypothesis testing, correlation, regression, discriminant and cluster analysis).
Main principles of machine learning - supervised training, self-organization, semi-supervised learning, training set, test set and validation set, generalization and overfitting, Occam´s razor.
Validation of the obtained results - cross-validation, overall accuracy, confusion matrix, learning curve, lift curve, ROC curve, combination of models (bagging, boosting).
3. Techniques for association rule mining
Market basket analysis - frequent itemsets, association rules, their formulation and main characteristics.
Generation of frequent item combinations - algorithm apriori, "frequent-pattern-growth"-techniques (FP-Growth and TD-FP-Growth), combinational data analysis.
Constraint-based search for interesting rules (specification of time, items, etc.).
4. Approaches to data classification and prediction
Decision trees and their induction - algorithms ID3, C4.5, CART and CHAID.
Bayessian models - Bayessian classifiers, Bayessian networks and techniques for their training and inference.
Nature-inspired models - artificial neural networks of the perceptron type, SVM-machines, ELM-networks, genetic algorithms.
The k-means algorithm, the choice of a suitable metric, evaluation of the obtained results (cluster validity), representation and visualization of the found clusters.
Clustering based on the fuzzy set approach (FCM-clustering), neural approach and hierarchical clustering.
6. Social networks and their analysis
Social networks - their representation and characteristics, SF-networks, link analysis and the algorithms PageRank and HITS.
Applications - community discovery, evolution in social networks, link prediction and sentiment analysis.
Last update: doc. RNDr. Iveta Mrázová, CSc. (27.05.2020)
1. Úvod do problematiky dobývání znalostí
Motivace a význam dobývání znalostí v praxi, přehled základních úloh z oblasti dobývání znalostí. Metodiky pro řešení úloh z oblasti dobývání znalostí.
Základní principy databázových systémů, datových skladů a technologie OLAP (On-Line Analytical Processing), konstrukce datových krychlí, příklady dotazů pro dobývání znalostí.
2. Základní paradigmata procesu dobývání znalostí
Pořizování, příprava a předzpracování dat - vzorkování, variabilita a věrohodnost, diskretizace numerických atributů a zpracování nenumerických proměnných, náhrada chybějících a prázdných hodnot, řadové proměnné.
Transformace, redukce a čištění dat - vztahy mezi veličinami (testování hypotéz, korelační, regresní, diskriminační a shluková analýza).
Základní principy strojového učení - učení s učitelem, samoorganizace, částečně řízené učení (semi-supervised learning), trénovací, testovací a validační množina, generalizace a přeučení, Occamova břitva.
