CIEĽ PREDMETU:
Oboznámiť so základnými princípmi konekcionizmu (umelých neurónových sietí), so základnými modelmi a ich použitím pri riešení rôznych úloh. Prednášky sú kombinované s praktickým modelovaním na cvičeniach pomocou existujúcich simulačných nástrojov.

ZÍSKAVANIE BODOV V RÁMCI PREDMETU:
1. Odovzdanie aspoň dvoch (z troch) projektov počas semestra (maximálne 5+8+8=21 bodov). Každý projekt musí byť odovzdaný do stanoveného termínu. Projekty 2 a 3 budú ponúkať aj bonusy (maximálne 2 body) za vypracovanie bonusovej časti projektu.
2. Absolvovanie záverečnej písomno-ústnej skúšky (3 otázky po max. 8 bodov). Pred prihlásením sa na skúšku musíte mať oznámkované aspoň dva projekty.
3. Prednášky ani cvičenia nie sú v zásade povinné, no účasť a aktivita bude ohodnotená max. 5 bodmi.

PRAVIDLÁ HODNOTENIA PROJEKTOV:
a) Každý projekt musí byť odovzdaný do stanoveného termínu. Za každý oneskorený kalendárny deň odovzdania vzniká malus 1 bod (až do nuly).
b) Každý projekt musí byť aj prezentovaný na cvičení vo vopred stanovenom čase, a to aj v prípade neskoršieho odovzdania projektu.
c) Projekt bez prezentácie kódu sa hodnotí ako neodovzdaný projekt. Výnimkou môže byť len vážny, preukázateľný dôvod na omeškanie (napr. choroba).
d) Prezentácia projektu pozostáva z ukázania a vysvetlenia zdrojových kódov a fungovania modelu.
e) Pri projekte sa hodnotí nielen obsah, sa aj úprava. Za výraznejšie formálne a gramatické nedostatky môžu byť strhuté body.
f) Projekt musí byť odovzdaný vo formáte PDF so všetkými prílohami.
g) Programovať je možné v hocijakom programovacom jazyku (okrem jazykov Matlab, Octave a Mathematica).
h) Pri zistení opisovania/kopírovania zdrojových kódov a/alebo projektov študent(ka) získava automaticky nula bodov z projektu a nebude pripustený(-á) ku skúške.

HODNOTENIE: A (50-46), B (45-41), C (40-36), D (35-31), E (30-26), Fx (25-0)

PROJEKTY:
1. Perceptrón (termín odovzdania: Pia, 19.3., prezentácia kódu na cvičení v utorok 16.3.)
2. Viacvrstvový perceptrón (termín: Pia, 16.4., prezentácia kódu na cvičení 13.4.).
3. voliteľná téma PCA, SOM, RNN (termín: Pon, 10.5. o 12.00, prezentácia kódu na cvičení 11.5).

Všetky potrebné súbory nájdete tu.

Projekty: tu sú hodnotenia.
Pozn. Ak sa niekomu zdá, že má málo bodov za aktivitu, nech nezúfa, možno dostal zatiaľ body len za cvičenia (koho som na poslednom cvičení nestretol, tomu som body za prednášky nedával). Na skúške sa to dá do poriadku, alebo možno sa zastaviť u mňa.

Skúška: Zoznam otázok ku skúške nájdete tu. Na skúšku sa prihlasujte cez AIS2, termíny sú už vypísané. Na skúšku sa môže prihlasiť len ten, kto má oznámkované aspoň dva projekty. Písomná časť trvá 60 min, ústna časť začína (najneskôr) o hodinu po skončení písomky, dohodnite sa na poradí (odhad 10 min. na osobu).

SYLABUS:

1.	Úvod do umelých neurónových sietí (NS, konekcionizmu): inšpirácia z neurobiológie, základné poznatky o činnosti neurónov. Stručná história konekcionizmu. NS s logickými neurónmi. [U1/kap.1][U2/1,2.1-6,2.8-10,C3] slajdy
2.	Binárny perceptron: pojem učenia s učiteľom, učiace pravidlo perceptrónu, klasifikácia vzorov, lineárne separovateľné problémy. Spojitý perceptrón, chybová funkcia. Súvis s Bayesovským lineárnym klasifikátorom. [U2/3][U1/5] slajdy
3.	Lineárne NS: vektorové priestory, autoasociatívna pamäť, ortogonálna projekcia, detektor novosti. Pamäť korelačnej matice. [U1/4][U2/2.11] slajdy
4.	Viacvrstvový perceptron I: metóda spätného šírenia chyby, odvodenie učiaceho pravidla, dopredná NS ako univerzálny aproximátor funkcie, trénovacia a testovacia množina, zovšeobecňovanie. [U1/5][C2,cast 2][U2/4.1-13] slajdy
5.	Viacvrstvový perceptron II: selekcia modelu, prekrížená validácia, modifikácie základného učiaceho pravidla, praktické aplikácie. [U1/5][U2/4.14-20] slajdy
6.	Hebbovské učenie bez učiteľa, extrakcia príznakov, analýza hlavných komponentov, aplikácie [U2/8.1-8,8.11] slajdy
7.	Učenie so súťažením, samoorganizujúca sa mapa, klastrovanie, topologické zobrazenie, redukcia dimenzie, aplikácie [U1,kap.7;U2/9]. slajdy
8.	Hybridné NS: radial-basis-function NS, algoritmus trénovania, vlastnosti. [U2/5.1-4,10-11,13-15]. slajdy
9.	Rekurentné NS: časová štruktúra v dátach, dopredné neurónové siete s časovým oneskorením, rekurentné modely, algoritmy trénovania (BPTT, RTRL). [U1/6,U2/13] slajdy
10.	RNN ako iterovaný funkčný systém, klasterizácia stavového priestoru, rekurentné siete s echo stavmi, rekurentné modely so samoorganizáciou. Aplikácie [U1/6] slajdy
11.	Hopfieldov model NS: deterministická a stochastická dynamika, atraktory v stavovom priestore, autoasociatívna pamäť [U1/8.1-5,11] slajdy

LITERATÚRA:
[U1] Kvasnička V., Beňušková., Pospíchal J., Farkaš I., Tiňo P. a Kráľ A. (1997). Úvod do teórie neurónových sietí Iris: Bratislava.
[U2] Haykin S. (1999). Neural Networks: A Comprehensive Foundation (2nd ed.). Prentice Hall, NJ (k dispozícii na štúdium v knižnici FMFI).
[C1] Farkaš I.: Samoorganizujúce sa neurónové siete: Metóda hlavných komponentov. Pracovný text (slov. preklad podľa U2).
[C2] FAQs about neural networks
[C3] www.wikipedia.org