Machine Learning Bootcamp

Balíček obsahuje:

• Úvod do strojového učení (2 dny)
• Zpracování přirozeného jazyka (1 den)
• Konvoluční neuronové sítě a zpracování obrazu (1 den)
• Časové řady (1 den)

Nejsou třeba žádné předchozí znalosti strojového učení.

Den 1.

• Co je to strojové učení
• Typy strojového učení (klasifikace, regrese, řazení, reinforcement learning, clustering, detekce anomálií, doporučování, optimalizace)
• Příprava data (rozdělení datových množin, vyváženost dat, šumy v datech, normalizace a standardizace atributů, rozpoznání přeučování a obrana proti němu)
• Evaluace modelů pro klasifikace (accuracy, precision, recall, matice záměn, ROC křivka, AUC)
• Základní algoritmy pro klasifikaci (baseline modely, naivní bayesovský klasifikátor, logistická regrese, Support Vector Machines, rozhodovací stromy, ensemble metody)
• Rychlotutoriál scikit learn (načítání a transformace dat, trénování modelů a predikce, pipelines, evaluace)
• Praktická úloha na klasifikaci
• Základní algoritmy pro regresi (analytické metody, gradient descent, SVR, regresní stromy)
• Evaluace regresních modelů (mean squared error, absolute squared error)
• Praktická úloha na regresi

Den 2.

• Základní algoritmy pro shlukování (K-means, hierarchické shlukování, metody pro určení počtu shluků)
• Praktická úloha na shlukování
• Úvod do neuronových sítí (proč jsou populární, výhody/nevýhody, perceptron)
• Nejpoužívanější aktivační funkce (Sigmoid, Linear, Tanh, Relu, Softmax)
• Vícevrstvé sítě (Algoritmus zpětné propagace chyby a stochastic gradient descent, konvoluce, pooling a regularizace)
• Trénování neuronových sítí (epocha, iterace, batch learning)
• Rychlotutoriál Keras (instalace TensorFlow + Keras, návrh sekvenčního modelu, optimalizátory a trénování, způsob práce s daty)
• Praktické úlohy na klasifikaci a regresi pomocí neuronových sítí

Den 3.

• Úvod do zpracování přirozeného jazyka
• Vybrané kapitoly z komputační ligvistiky (korpusy, tokenizace, morfologická, syntaktická a sémantická analýza, entropie, mutual information, perplexita)
• Vektorizace textových dokumentů (bag of words, one-hot encoding, TF-IDF)
• Word embedding (word2vec)
• Praktická úloha na klasifikaci textů
• Word embedding (vytvoření word2vec modelů a experimenty s vektorovými reprezentacemi slov)
• Úvod do jazykových modelů (n-gramové modely, vyhlazování, modely založené na neuronových sítích)
• Praktická úloha na jazykové modelování (implementace jazykových modelů a jejich využití pro detekci jazyka textu)
• Úprava algoritmu pro generování textů

Den 4.

• Zpět do historie (od biologické intuice přes ruční návrh atributů až k LeCunovi a Krizhevskému)
• Co je konvoluce a proč funguje
• PyTorch (jak postavit jednoduchou konvoluční síť)
• Praktický příklad na klasifikaci Fashion MNIST datasetu
• Co je MSCOCO
• Seznámení s ResNetem
• Vizualizace neuronových sítí
• Klasifikace obrázků do tříd
• Jak na špinavá data

Den 5.

• Úvod do teorie časových řad
• Vybrané postupy modelovaní časových řad (časová a frekvenční doména, spektrální analýza, autokorelace, modely časových řad (ARIMA apod.)
• Praktický příklad (pandas, základní charakteristiky, jednoduchá predikce)
• Metody strojového učení pro časové řady (state space metody, hidden markov model, kalman filter, dopředné neuronové sítě, rekurentní neuronové sítě, LSTM)
• Praktické příklady ilustrující sílu strojového učení (příprava trénovací množiny dle typu úlohy a zvoleného modelu, trénovaní a evaluace)
• Komplexní scénář predikce časové řady pomocí rekurentní sítě (predikce teploty z vícerozměných vstupních dat: sběr a příprava trénovací množiny, trénování a validace modelu, predikování pomocí naučené sítě)