NHPC
Superpočítání
Specializace zaměřená na vysokovýkonné výpočty, paralelní zpracování a GPU.
Seznam okruhů
1
2 materiálůProblém generalizace strojového učení a přístup k jeho řešení (trénovací, validační a testovací sada, regularizace, předtrénování, multi-task learning, augmentace dat, dropout, ...).
2
2 materiálůGenerativní modely a diskriminativní přístup ke klasifikaci (gaussovský klasifikátor, logistická regrese, ...).
3
2 materiálůNeuronové sítě a jejich trénování (metoda gradientního sestupu, účelová (loss) funkce, výpočetní graf, aktivační funkce, zápis pomocí maticového násobení, ...).
4
3 materiálůNeuronové sítě pro strukturovaná data (konvoluční a rekurentní sítě, transformery, motivace, základní vlastnosti, použití).
5
5 materiálůProhledávání stavového prostoru (informované a neinformované metody, lokální prohledávání, prohledávání v nejistém prostředí, hraní sekvenčních her, CSP úlohy).
6
1 materiálůPostrelační a rozšířené relační databáze (objektový a objektově relační databázový model - struktura a operace; vlastnosti objektových databází; podpora práce s XML a JSON dokumenty v databázích).
7
1 materiálůNoSQL databáze (porovnání relačních a NoSQL; CAP věta a ACID/BASE principy; typy NoSQL databází; dotazování v NoSQL databázích; agregace dat pomocí Map-Reduce a agregační pipeline).
8
1 materiálůPorozumění datům a jejich příprava pro data mining (důvody a cíle; popisné charakteristiky dat a vizualizační techniky; korelační analýza; metody čištění; redukce dat a řešení nevyváženosti; normalizace dat).
9
2 materiálůOntologie a sémantický web (linked data, datový model RDF, ontologie, RDF schema a OWL, strukturovaná data na WWW).
10
1 materiálůProstorové databáze, indexace (nejen) v prostorových DB (problematika mapování prostoru, kD-Tree a Grid File vč. jejich variant a R-Tree).
11
2 materiálůArchitektura superskalárních procesorů, zpracování instrukcí mimo pořadí, řešení datových a řídících konfliktů, predikce skoků.
12
2 materiálůPaměťová konzistence a předbíhání operací čtení a zápisu, podpora virtuálního adresového prostoru.
13
1 materiálůDatový paralelismus SIMD a SIMT, jejich HW implementace a SW podpora na CPU a GPU.
14
2 materiálůArchitektury se sdílenou pamětí UMA a NUMA, zajištění lokality dat, protokoly koherence pamětí cache.
15
1 materiálůParalelní zpracování v OpenMP: Smyčky, sekce, tasky a synchronizační prostředky.
16
4 materiálůLambda kalkul (definice všech pojmů, operací...).
17
2 materiálůPráce v lambda kalkulu (demonstrace reprezentace čísel a pravdivostních hodnot a operací nad nimi).
18
2 materiálůHaskell - lazy evaluation (typy v jazyce včetně akcí, uživatelské typy, význam typových tříd, demonstrace lazy evaluation).
19
2 materiálůProlog - způsob vyhodnocení (základní princip, unifikace, chování vestavěných predikátů, operátor řezu - vhodné a nevhodné užití).
20
2 materiálůProlog - změna DB/programu za běhu (demonstrace na prohledávání stavového prostoru, práce se seznamy).
21
3 materiálůDistribuované a paralelní algoritmy - algoritmy řazení, select, algoritmy vyhledávání.
22
2 materiálůModel PRAM, suma prefixů a její aplikace.
23
2 materiálůDistribuované a paralelní algoritmy - algoritmy nad seznamy, stromy a grafy.
24
1 materiálůInterakce mezi procesy a typické problémy paralelismu (synchronizační a komunikační mechanismy).
25
1 materiálůDistribuovaný konsensus, broadcast, vzájemné vyloučení. Knihovna MPI.
26
1 materiálůKlasifikace formálních jazyků (Chomského hierarchie), vlastnosti formálních jazyků a jejich rozhodnutelnost.
27
2 materiálůKonečné automaty (jazyky přijímané KA, varianty KA, Myhill-Nerodova věta, regulární výrazy).
28
1 materiálůZásobníkové automaty (jazyky přijímané ZA, varianty ZA).
29
1 materiálůTuringovy stroje (jazyky přijímané TS, varianty TS, lineárně omezené automaty).
30
1 materiálůNerozhodnutelnost (problém zastavení TS, princip diagonalizace a redukce).
31
1 materiálůČasová a paměťová složitost (asymptotická a amortizovaná složitost, třídy složitosti, úplnost, SAT problém).
32
1 materiálůPravděpodobnost a náhodné veličiny (podmíněná pravděpodobnost, nezávislost, náhodná veličina a její funkční a číselné charakteristiky, významná rozdělení pravděpodobnosti).
33
0 materiálůBodové a intervalové odhady (vlastnosti odhadů, metoda maximální věrohodnosti, Fisherova informace, asymptotické vlastnosti odhadů, asymptotické konfidenční intervaly).
34
0 materiálůTestování statistických hypotéz (základní principy, Chyba I. a II. druhu, síla testu, testy založené na normálním rozdělení, věrohodnostní poměr, základní neparametrické testy a testy pro kategoriální proměnné).
35
0 materiálůLineární modely (Lineární regresní model, Gaussova-Markovova věta, odhady parametrů, testy hypotéz v lineárních modelech, ANOVA).
36
3 materiálůMarkovské řetězce a Markovské rozhodovací procesy (základní techniky pro jejich analýzu).
37
2 materiálůRandomizované algoritmy (Monte Carlo a Las Vegas algoritmy, základní techniky pro jejich analýzu).
38
0 materiálůMetodika návrhu HW/SW codesign, platformy, programovatelné obvody.
39
0 materiálůOptimalizace vlastností systému (příkon, energie).
40
0 materiálůSpecifikace (chování, struktura), syntéza (alokace, přidělení, plánování) a integrace systémů (rozhraní, synchronizace, komunikace).
41
0 materiálůSyntéza HW z vyšších programovacích jazyků (reprezentace, alokace, plánování, přiřazení) a nástroj Vivado HLS.
42
0 materiálůArchitektura grafických procesorů, datový paralelismus SIMT, problém divergence vláken a paměťové lokality.
43
0 materiálůHierarchie vláken architektury CUDA, jednotka alokace prostředků a jednotka vykonání.
44
0 materiálůHierarchie paměti v architektuře CUDA, techniky optimalizace přístupů do globální paměti.
45
0 materiálůSynchronizace a redukce v CUDA.
46
0 materiálůZákladní konstrukce jazyka OpenACC (loop, kernel, transfery dat).
47
0 materiálůVíceproudové zpracování, překrytí komunikace a výpočtu, synchronizace mezi proudy.
48
0 materiálůObecná architektura přepínače. Přepínače se sdílenou sběrnicí, se sdílenou pamětí, křížový přepínač. Párování. Algoritmy pro plánování přenosu. Řešení blokování. Vícestupňové přepínací sítě.
49
0 materiálůObecná architektura směrovače. Základní funkce směrovače. Zpracování paketů ve směrovači, kontext paketu, rychlá a pomalá cesta. Typy přepínání ve směrovači: softwarové, rychlé, CEF.
50
0 materiálůSměrování link state, distance vector, path vector. Algoritmy pro výpočet směrovacích informací (Bellman-Ford, Dijkstra a další).
51
0 materiálůMetody pro řízení toku dat a prevence zahlcení na transportní vrstvě. Vlastnosti protokolů MP-TCP, QUIC, SCTP.
52
0 materiálůUkazatele a zákony paralelního zpracování. Funkce konstantní účinnosti a škálovatelnost.
53
0 materiálůBlokující a neblokující párové komunikace v MPI.
54
0 materiálůKolektivní komunikace a operace v MPI.
55
0 materiálůKomunikátory a topologie v MPI.
56
0 materiálůDatové typy v MPI.
57
0 materiálůJednostranné komunikace v MPI.
58
0 materiálůParalelní vstup a výstup, organizace souborového systému Lustre.
59
0 materiálůPropojovací sítě: Topologie a směrovací algoritmy, přepínání a řízení toku.
60
0 materiálůExtrémně přesné řešení diferenciálních rovnic metodou vyššího řádu.
61
0 materiálůNumerické řešení obyčejných diferenciálních rovnic (počátečních úloh), analytické řešení počátečních úloh.
62
0 materiálůMetoda řešení rozsáhlých soustav algebraických rovnic převodem na obyčejné diferenciální rovnice.
63
0 materiálů