Machine learning in physics - NFPL061

• Title: Strojové učení ve fyzice
• Guaranteed by: Department of Condensed Matter Physics (32-KFKL)
• Faculty: Faculty of Mathematics and Physics
• Actual: from 2023
• Semester: winter
• E-Credits: 4
• Hours per week, examination: winter s.:2/2, C+Ex [HT]
• Capacity: unlimited
• Min. number of students: unlimited
• 4EU+: no
• Virtual mobility / capacity: no
• State of the course: taught
• Language: Czech, English
• Teaching methods: full-time
• Guarantor: RNDr. Pavel Baláž, Ph.D.; RNDr. Martin Žonda, Ph.D.; doc. RNDr. Tomáš Novotný, Ph.D.
• Teacher(s): RNDr. Pavel Baláž, Ph.D.; RNDr. Martin Žonda, Ph.D.
• Classification: Physics > Solid State Physics

Annotation

English

The lecture will provide a practical introduction into basic numerical optimization techniques and machine learning methods used in classical and quantum physics as well as in other fields of science. The most important methods will be analyzed in detail during the exercises in a form of hands-on sessions and projects by using the Python libraries Scikit-learn, sktime, Tensorflow, Keras, and NetKet.

Last update: Mikšová Kateřina, Mgr. (13.05.2022)

Czech

V přednášce budou vysvětleny základní optimalizační techniky a metody strojového učení a jejich využití v klasické a kvantové fyzice a jiných přírodních vědách. Nejdůležitější metody budou detailněji analyzované na cvičeních, kde budou použity knihovny Scikit-learn, sktime, Tensorflow, Keras a NetKet v programovacím jazyku Python.

Last update: Mikšová Kateřina, Mgr. (13.05.2022)

Aim of the course

English

The aim of the course is to master the basic optimization techniques and methods of machine learning for use in physics and other fields of science.

Last update: Mikšová Kateřina, Mgr. (13.05.2022)

Czech

Cílem předmětu je osvojit si základní optimalizační techniky a metódy strojového učení s využitím ve fyzice a jiných přírodních vědách.

Last update: Mikšová Kateřina, Mgr. (13.05.2022)

Course completion requirements

English

To obtain the credit, which is a condition for admission to the exam, it is necessary to collect at least 65% of points from the assignments. The questions in the exam are based on the syllabus.

Last update: Mikšová Kateřina, Mgr. (13.05.2022)

Czech

Na získání zápočtu, který je podmínkou k připuštění k zkoušce, je potřeba nasbírat alespoň 65% bodů z úloh zadaných na cvičení. Otázky na zkoušce vychází ze sylabu.

Last update: Mikšová Kateřina, Mgr. (13.05.2022)

Literature

English

1. F. Chollet: Deep learning v jazyku Python. Knihovny Keras, Tensorflow. Grada (2019).

2. T. M. Mitchell: Machine learning, McGraw-Hill Science/Engineering/Math (1997).

3. A. Geron: Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow: Concepts, Tools, and Techniques to Build Intelligent Systems, O'Reilly Media (2019).

4. P. Mehta, M. Bukov, C.-H. Wang, A. G. R. Day, C. Richardson, C. K. Fisher, and D. J. Schwab, A High-Bias: Low-Variance Introduction to Machine Learning for Physicists, Physics Reports 810, 1 (2019).

5. Anna Dawid et al.: Modern applications of machine learning in quantum sciences, arXiv:2204.04198 [quant-ph] (2022).

6. M. Erdmann et al.: Deep Learning for Physics Research. World Scientific Publishing Co. (2021).

7. A. Tanaka et al.: Deep Learning and Physics. Springer (2019).

8. K. Nakajima, I. Fischer: Reservoir Computing. Theory, Physical Implementations, and Applications. Springer (2021).

Last update: Baláž Pavel, RNDr., Ph.D. (03.09.2024)

Syllabus

English

1. Crash course in Python and libraries NumPy, SciPy, and pandas.

2. Basic methods in machine learning: k-nearest neighbors, nearest centroids, linear regression, logistic regression, support vector machines, decision trees.

3. Bayesian regression.

4. Ensemble learning. Random forests.

5. Feed forward neural networks. Supervised learning. Backpropagation algorithm.

6. Unsupervised machine learning methods. Principal component analysics. Hopfield neural networks. Boltzmann machines and Restricted Boltzmann machines.

7. Autoencoders. Variational Autoencoder. Automatic phase classification.

8. Deep learning. Convolutional neural networks. Neural network regularization. Image recognition.

9. Analysis and forecasting of time sequences. Arima model. Recurrent neural networks. LSTM and GRU memory cells.

10. Application of neural networks in quantum physics. Neural network quantum states. Quantum state tomography.

11. Neuromorfic computing. Reservoir computing.

Last update: Baláž Pavel, RNDr., Ph.D. (03.09.2024)

Czech

1. Základy programovacího jazyka Python a jeho knihoven NumPy, SciPy a pandas.

2. Základní metody strojového učení: k nejbližších sousedů, nejbližší centroidy, lineární regrese, logistická regrese, metoda podpůrných vektorů (support vector machines), rozhodovací stromy (decision trees).

3. Bayesovská regrese.

4. Souborové učení (ensemble learning), náhodné lesy (random forests).

5. Dopředné neuronové sítě. Učení neuronových sítí s dozorem (supervised learning). Algoritmus zpětného šíření chyb (backpropagation algorithm).

6. Strojové učení bez dozoru (unsupervised learning). PCA. Hopfieldovy neuronové sítě. Boltzmannovy stroje. Omezené Boltzmannove stroje. Autoencoder. Automatická klasifikace fáz.

7. Hluboké učení (deep learning). Konvoluční neuronové sítě, regularizace neuronových sítí. Analýza obrazu.

8. Analýza a predikce časových řad. Arima model. Rekurentní neuronové sítě, paměťové buňky LSTM a GRU.

9. Využití neuronových sítí v kvantové fyzice. Neural network quantum states. Tomografie kvantových stavů.

10. Neuromorfní počítání. Rezervoárové počítání.

Last update: Baláž Pavel, RNDr., Ph.D. (03.09.2024)