| 2-INF-150: Strojové učenie Zima 2017 Prednášky a poznámky |
Kontakt | Body | Základné informácie | Domáce úlohy | Prednášky a poznámky | Moodle | Predchádzajúce semestre
Na tejto stránke nájdete orientačný rozvrh semestra. Tento rozvrh bude aktualizovaný vždy po skončení príslušného týždňa prednášok, takisto budú pribúdať ďalšie študijné materiály.
Ďalšie zdroje informácií:
U prednášok uvádzame zoznam kapitol, ktoré najviac pokrývajú učivo. Prezentácia materiálu v rámci prednášok sa obvykle nezhoduje s prezentáciou v učebniciach. Uvedené kapitoly by mali hlavne slúžiť ako doplňujúci materiál pre samoštúdium.
| Týždeň 25.-29.9.2017 | |
| Administratíva. Úvod. | |
| Slajdy a poznámky: | Ďalšie materiály: |
|---|---|
|
Administratíva: [ PDF, 66 Kb ] |
|
| Týždeň 2.-6.10.2017 | |
|
Strojové učenie s učiteľom / regresia.
Lineárna regresia. Matematické základy (parciálne derivácie, gradient, maticový počet). Normálne rovnice. Alternatívne chybové funkcie (L1,Linf). Cvičenie: numpy Literatúra: GBC:2.1-2.4; GBC:5.1 |
|
| Slajdy a poznámky: | Ďalšie materiály: |
|---|---|
|
Algebra 101: [ PDF, 42 Kb ] Cvičenia 1: numpy: [ linka ] |
|
| Týždeň 9-13.10.2017 | |
|
Metódy optimalizácie (gradientová metóda, stochastická
gradientová metóda, lineárne/kvadratické programovanie). Generalizovaná lineárna regresia a ďalšie varianty. Teória učenia I. Matematický model strojového učenia. Výchylka a rozptyl. Krivky učenia. Literatúra: GBC:4.3,5.9; B:3.1; GBC:3.1-3.3,3.8; B:3.2, GBC:5.4 |
|
| Slajdy a poznámky: | Ďalšie materiály: |
|---|---|
|
Stredné hodnoty: [ PDF, 29 Kb ] Výchylka a rozptyl: [ PDF, 99 Kb ] |
|
| Týždeň 16.-20.10.2017 | |
|
Regularizácia (ridge regression, lasso). Holdout testing. Strojové učenie s učiteľom / klasifikácia. Logistická regresia. Cvičenie: regresia Literatúra: GBC:5.2.2,B:3.1.4; GBC:5.3 |
|
| Slajdy a poznámky: | Ďalšie materiály: |
|---|---|
|
Cvičenia 2: regresia: [ linka ] |
|
| Týždeň 23.-27.10.2017 | |
|
Jednoduché neurónové siete. Spätná propagácia. Support Vector Machines (SVM). Formulácia ako klasifikátor s najväčším odstupom. Riešenie pomocou kvadratického programovania. Literatúra: GBC:6.1-6.2 alebo B:5.1,5.3; B:7.1 |
| Týždeň 30.10.-3.11.2017 | |
| Pamiatka zosnulých - prednášky odpadli. |
| Týždeň 6.-10.11.2017 | |
|
Duálne programy. Duálna formulácia pre SVM. Podporné vektory. Cvičenie: neurónové siete Literatúra: GBC:5.7.2 alebo B:6.1-6.2 |
|
| Slajdy a poznámky: | Ďalšie materiály: |
|---|---|
|
Silná dualita: [ PDF, 92 Kb ] Cvičenia: Úvod do konvolučných neurónových sietí: [ PDF, 11139 Kb ] Cvičenia 3: neurónové siete: [ linka ] |
Lagrangeova dualita konvexných programov: [ linka ] Support Vector Machines and Kernels for Computational Biology (tutorial): [ linka ] |
| Týždeň 13.-17.11.2017 | |
|
Kernelový trik.
Dizajn kernelových funkcií (Mercerova veta, uzáverové vlastnosti).
Nekonzistentné diskriminanty. Voľnostné premenné (slack variables). Rozhodovacie stromy, algoritmus ID3. Bagging a boosting. Literatúra: GBC:5.7.2 alebo B:6.1-6.2; HTF:9.2; HTF:8.7; B:14.2-14.3 |
|
| Slajdy a poznámky: | Ďalšie materiály: |
|---|---|
|
Náhodné lesy: [ linka ] |
|
| Týždeň 20.-24.11.2017 | |
|
Teória strojového učenia (PAC učenie).
Odhady potrebného počtu trénovacích príkladov a
priebehu strednej hodnoty chyby pre konečné množiny hypotéz. Cvičenie: SVM a náhodné lesy |
|
| Slajdy a poznámky: | Ďalšie materiály: |
|---|---|
|
Cvičenia 4: SVM, náhodné lesy: [ linka ] |
PAC - konečné hypotézy: [ PDF, 243 Kb ] |
| Týždeň 27.11.-1.12.2017 | |
|
Odhady pre nekonečné množiny hypotéz. VC dimenzia. PAC učenie a SVM. Strojové učenie bez učiteľa. Zhlukovanie (k-means a k-medoids). |
|
| Slajdy a poznámky: | Ďalšie materiály: |
|---|---|
|
obdĺžniky s osovorovnobežnými stranami / Andres Munoz, NY Univ: [ PDF, 97 Kb ] VC dimenzia - definícia a riešené príklady / Yishai Mansour, U Tel Aviv: [ PDF, 109 Kb ] VC dimenzia - PAC ohraničenie / Yishai Mansour, U Tel Aviv: [ PDF, 173 Kb ] PAC ohraničenie pre SVM: [ PDF, 295 Kb ] |
|
| Týždeň 4.-8.12.2017 | |
|
Redukcia dimenzionality. Analýza hlavných komponentov (PCA). Cvičenie: PCA |
|
| Slajdy a poznámky: | Ďalšie materiály: |
|---|---|
|
PCA: [ PDF, 567 Kb ] Cvičenia 5: PCA: [ linka ] |
|
| Týždeň 11.-15.12.2017 | |
|
On-line učenie (halving algorithm, váhovaná
väčšina, horné ohraničenia počtu chýb). Učenie odmenou a trestom. Markovovské rozhodovacie procesy. Value iteration. Markovovské rozhodovacie procesy so spojitými stavmi. Fitted value iteration. |
|
| Slajdy a poznámky: | Ďalšie materiály: |
|---|---|
|
MDP definície: [ PDF, 22 Kb ] |
|
| Týždeň 18.-22.12.2017 | |
| Zhrnutie semestra. Ako aplikovať algoritmy strojového učenia v praxi? (video) | |
| Slajdy a poznámky: | Ďalšie materiály: |
|---|---|
|
Zhrnutie semestra: [ PDF, 2513 Kb ] |
Video (Andrew Ng, Stanford): [ linka ] |