PředmětyPředměty(verze: 806)
Předmět, akademický rok 2017/2018
   Přihlásit přes CAS
Neuronové sítě - NAIL002
Anglický název: Neural Networks
Zajišťuje: Katedra teoretické informatiky a matematické logiky (32-KTIML)
Fakulta: Matematicko-fyzikální fakulta
Platnost: od 2014
Semestr: zimní
E-Kredity: 9
Rozsah, examinace: zimní s.:4/2 Z+Zk [hodiny/týden]
Počet míst: neomezen
Minimální obsazenost: neomezen
Stav předmětu: vyučován
Jazyk výuky: čeština, angličtina
Způsob výuky: prezenční
Garant: doc. RNDr. Iveta Mrázová, CSc.
RNDr. František Mráz, CSc.
Třída: Informatika Mgr. - Teoretická informatika
Kategorizace předmětu: Informatika > Teoretická informatika
Anotace -
Poslední úprava: ()

Teorie neuronových sítí (NS) je motivována poznatky o CNS (centrální nervové soustavě) a odvozuje z nich matematické modely, které mají (přes velké zjednodušení skutečných neurofyziologických dějů v CNS) některé rysy přirozené inteligence. Ty jsou pak využívány k návrhům netradičních výpočetních postupů při řešení řady praktických úloh.
Cíl předmětu
Poslední úprava: T_KTI (26.05.2008)

Naučit teorii, algoritmy a používané metody pro různé architektury neuronových sítí.

Literatura
Poslední úprava: doc. RNDr. Iveta Mrázová, CSc. (30.04.2015)

Abu-Mostafa Y. S., Magdon-Ismail M., Lin H.-T.: Learning From Data: A Short Course, AMLbook.com, 2012

Goldberg D. E.: Genetic Algorithms in Search, Optimization and Machine Learning, Addison-Wesley, Reading, Mass. 1989

Haykin S.: Neural Networks and Learning Machines, 3rd Edition, Pearson, 2009

Kohonen T.: Self-Organizing Maps, Springer-Verlag, 1995

Rojas R.: Neural Networks: A Systematic Introduction, Springer-Verlag, Berlin, 1996

Šíma J. and Neruda R.: Teoretické otázky neuronových sítí, Matfyz Press, Praha, 1997

Sylabus -
Poslední úprava: RNDr. František Mráz, CSc. (04.05.2015)

1. Úvod do problematiky umělých neuronových sítí

  • Biologický neuron a neuronové sítě, přenos signálu v axonu a synapsích, zpracování informací v neuronech, hlavní části mozku.
  • Historie a základní principy umělých neuronových sítí.
  • Adaptace a učení, formální zápis vzorů.
  • Výběr a uspořádání příznaků, výběr a uspořádání trénovacích vzorů, PCA-analýza.

2. První modely umělých neuronových sítí

  • Formální neuron, váhy, potenciál, přenosová funkce.
  • Základní typy umělých neuronových sítí.
  • Konekcionalismus, učení a rozpoznávání, učení s učitelem a samoorganizace, extrakce znalostí, generalizace a robustnost.
  • Perceptron a lineární separabilita, dělicí nadrovina. Perceptronový algoritmus učení a jeho konvergence, přihrádkový algoritmus.

3. Dopředné sítě a algoritmus zpětného šíření

  • Algoritmus zpětného šíření - odvození adaptačních pravidel. Trénovací, testovací a validační množina, různé strategie učení.
  • Interní reprezentace znalostí, generalizace, over-fitting and over-sizing, Vapnik-Chervonenkisova dimenze.
  • Kolmogorovova věta, aproximace funkcí, složitost problému učení.
  • Oblasti a principy použití dopředných sítí perceptronového typu.

4. Asociativní sítě

  • Umělé neuronové sítě se zpětnou vazbou, Hebbovské učení, kapacita paměti, atraktory, energetická funkce a konvergence ke stabilním stavům.
  • Asociativní paměti, bidirektivní asociativní paměť (BAM), Hopfieldův model, spojitý Hopfieldův model, simulované žíhání, Boltzmannův stroj.
  • Použití Hopfieldovy sítě k hledání suboptimálních řešení NP-úplných problémů.

5. Samoorganizace a hybridní modely

  • Posilované učení bez učitele - Ojův algoritmus učení pro PCA.
  • Kohonenovy samoorganizační mapy a algoritmy pro jejich učení, laterální inhibice, topologické okolí.
  • Algoritmus vstřícného šíření (Counter-propagation), RBF-sítě, adaptivní rezonance (ART).
  • Kaskádová korelace a modulární neuronové sítě - sítě lokálních expertů.

6. Genetické algoritmy

  • Formulace optimalizačního problému, populace jedinců, základní genetické operátory - selekce, křížení, mutace.
  • Cílová funkce (fitness function). Analýza konvergence - věta o schematech.
  • Aplikace genetických algoritmů v oblasti umělých neuronových sítí.

 
Univerzita Karlova | Informační systém UK