NMAL
Strojové učení
Specializace zaměřená na strojové učení, hluboké učení a AI.
Seznam okruhů
1
2 materiálůArchitektura superskalárních procesorů, zpracování instrukcí mimo pořadí, řešení datových a řídících konfliktů, predikce skoků.
2
2 materiálůPaměťová konzistence a předbíhání operací čtení a zápisu, podpora virtuálního adresového prostoru.
3
1 materiálůDatový paralelismus SIMD a SIMT, jejich HW implementace a SW podpora na CPU a GPU.
4
2 materiálůArchitektury se sdílenou pamětí UMA a NUMA, zajištění lokality dat, protokoly koherence pamětí cache.
5
1 materiálůParalelní zpracování v OpenMP: Smyčky, sekce, tasky a synchronizační prostředky.
6
4 materiálůLambda kalkul (definice všech pojmů, operací...).
7
2 materiálůPráce v lambda kalkulu (demonstrace reprezentace čísel a pravdivostních hodnot a operací nad nimi).
8
2 materiálůHaskell - lazy evaluation (typy v jazyce včetně akcí, uživatelské typy, význam typových tříd, demonstrace lazy evaluation).
9
2 materiálůProlog - způsob vyhodnocení (základní princip, unifikace, chování vestavěných predikátů, operátor řezu - vhodné a nevhodné užití).
10
2 materiálůProlog - změna DB/programu za běhu (demonstrace na prohledávání stavového prostoru, práce se seznamy).
11
3 materiálůDistribuované a paralelní algoritmy - algoritmy řazení, select, algoritmy vyhledávání.
12
2 materiálůModel PRAM, suma prefixů a její aplikace.
13
2 materiálůDistribuované a paralelní algoritmy - algoritmy nad seznamy, stromy a grafy.
14
1 materiálůInterakce mezi procesy a typické problémy paralelismu (synchronizační a komunikační mechanismy).
15
1 materiálůDistribuovaný konsensus, broadcast, vzájemné vyloučení. Knihovna MPI.
16
2 materiálůProblém generalizace strojového učení a přístup k jeho řešení (trénovací, validační a testovací sada, regularizace, předtrénování, multi-task learning, augmentace dat, dropout, ...).
17
2 materiálůGenerativní modely a diskriminativní přístup ke klasifikaci (gaussovský klasifikátor, logistická regrese, ...).
18
2 materiálůNeuronové sítě a jejich trénování (metoda gradientního sestupu, účelová (loss) funkce, výpočetní graf, aktivační funkce, zápis pomocí maticového násobení, ...).
19
3 materiálůNeuronové sítě pro strukturovaná data (konvoluční a rekurentní sítě, motivace, základní vlastnosti, použití).
20
5 materiálůProhledávání stavového prostoru (informované a neinformované metody, lokální prohledávání, prohledávání v nejistém prostředí, hraní sekvenčních her, CSP úlohy).
21
1 materiálůKlasifikace formálních jazyků (Chomského hierarchie), vlastnosti formálních jazyků a jejich rozhodnutelnost.
22
2 materiálůKonečné automaty (jazyky přijímané KA, varianty KA, Myhill-Nerodova věta, regulární výrazy).
23
1 materiálůZásobníkové automaty (jazyky přijímané ZA, varianty ZA).
24
1 materiálůTuringovy stroje (jazyky přijímané TS, varianty TS, lineárně omezené automaty).
25
1 materiálůNerozhodnutelnost (problém zastavení TS, princip diagonalizace a redukce).
26
1 materiálůČasová a paměťová složitost (asymptotická a amortizovaná složitost, třídy složitosti, úplnost, SAT problém).
27
1 materiálůPostrelační a rozšířené relační databáze (objektový a objektově relační databázový model - struktura a operace; vlastnosti objektových databází; podpora práce s XML a JSON dokumenty v databázích).
28
1 materiálůNoSQL databáze (porovnání relačních a NoSQL; CAP věta a ACID/BASE principy; typy NoSQL databází; dotazování v NoSQL databázích; agregace dat pomocí Map-Reduce a agregační pipeline).
29
1 materiálůPorozumění datům a jejich příprava pro data mining (důvody a cíle; popisné charakteristiky dat a vizualizační techniky; korelační analýza; metody čištění; redukce dat a řešení nevyváženosti; normalizace dat).
30
2 materiálůOntologie a sémantický web (linked data, datový model RDF, ontologie, RDF schema a OWL, strukturovaná data na WWW).
31
1 materiálůProstorové databáze, indexace (nejen) v prostorových DB (problematika mapování prostoru, kD-Tree a Grid File vč. jejich variant a R-Tree).
32
1 materiálůPravděpodobnost a náhodné veličiny (podmíněná pravděpodobnost, nezávislost, náhodná veličina a její funkční a číselné charakteristiky, významná rozdělení pravděpodobnosti).
33
0 materiálůBodové a intervalové odhady (vlastnosti odhadů, metoda maximální věrohodnosti, Fisherova informace, asymptotické vlastnosti odhadů, asymptotické konfidenční intervaly).
34
0 materiálůTestování statistických hypotéz (základní principy, Chyba I. a II. druhu, síla testu, testy založené na normálním rozdělení, věrohodnostní poměr, základní neparametrické testy a testy pro kategoriální proměnné).
35
0 materiálůLineární modely (Lineární regresní model, Gaussova-Markovova věta, odhady parametrů, testy hypotéz v lineárních modelech, ANOVA).
36
3 materiálůMarkovské řetězce a Markovské rozhodovací procesy (základní techniky pro jejich analýzu).
37
2 materiálůRandomizované algoritmy (Monte Carlo a Las Vegas algoritmy, základní techniky pro jejich analýzu).
38
0 materiálůBayesovská inference (apriorní pravděpodobnosti, věrohodnost (likelihood), posteriorní rozložení, posteriorní prediktivní rozložení, neurčitost odhadu parametrů).
39
0 materiálůInference v pravděpodobnostních grafických modelech (Bayesovské sítě, Markovovo náhodné pole (MRF), Faktorový graf, EM algoritmus, šíření přesvědčení (belief propagation)).
40
0 materiálůPřibližná inference v Bayesovských modelech (Variational Bayes inference, Gibbsovo vzorkování, ...).
41
0 materiálůEntropie ve fyzice a informatice, emergence, chaotický systém.
42
0 materiálůVýpočetní development (princip, modely), celulární automaty (v 1D a 2D, Wolframovy třídy, sebereplikace).
43
0 materiálůKartézské genetické programování (reprezentace problému, prohledávací algoritmus, fitness funkce).
44
0 materiálůEvoluční návrh analogových a číslicových obvodů (kódování, fitness funkce, problém škálovatelnosti a jeho řešení).
45
0 materiálůNeuroevoluce (zakódování problému, typický algoritmus, využití náhradních modelů pro snížení časové náročnosti).
46
0 materiálůDNA počítače (Adlemanův experiment, SAT problém, důsledky pro informatiku).
47
0 materiálůSítě pro detekci objektů v obraze a sémantickou segmentaci (R-CNN, Faster R-CNN, SSD, U-net).
48
0 materiálůSítě pro určování podobnosti například v identifikaci osob podle obličeje nebo hlasu. (siamské sítě, contrastive/pair loss, triplet loss, hard negative mining).
49
0 materiálůNeuronové sítě: LBF, RBF, back propagation. Hopfieldova síť.
50
0 materiálůFuzzy množiny, fuzzy k-means, fuzzy logika, fuzzy řízení, adaptivní neuro-fuzzy systémy.
51
0 materiálůGenetický algoritmus, genetické programování (princip, výběr rodičů, křížení, mutace).
52
0 materiálůACO, PSO a jiné optimalizační algoritmy inspirované přírodou (základní principy).
53
0 materiálůHrubé množiny (definice, aproximační prostory).
54
0 materiálůSměs gaussovských rozložení (vyhodnocení, EM algoritmus, využití pro tvorbu klasifikátoru).
55
0 materiálůLineární klasifikátory (perceptron, lineární gaussovský klasifikátor, logistická regrese).
56
0 materiálůSupport Vector Machine klasifikátor (varianty pro lineárně separabilní a neseparabilní vzory, jádrové (kernel) funkce).
57
0 materiálůSkryté markovovy modely a jejich aplikace na rozpoznávání řeči (vyhodnocení a trénování modelu, Viterbi algoritmus).
58
0 materiálůExtrakce příznaků (požadované vlastnosti příznaků, Analýza hlavních komponent, Lineární diskriminační analýza).
59
0 materiálůMarkovský rozhodovací proces a posilované učení.
60
0 materiálůGrafové neuronové sítě (struktura, stavební bloky, využití).
61
0 materiálůAutoregresivní generativní modely a transformery (jazykové modely, překlad jazyka, attention).
62
0 materiálůMatice a determinanty (operace s maticemi, metody výpočtu, determinantů, výpočet inverzní matice, stopa, vlastní hodnoty).
63
0 materiálů