Feladatok
A feladatokra jelentkezés személyesen (e-mailben történik) 2025.03.23.-ig. A feladat teljesítése az aláírás megszerzésének szükséges és elégséges feltétele.
Jelentkezés során az alábbi információkat várom:
- Csoport tagjainak neve, neptun kódja (1 fős csoportok is megengedettek)
- Feladat rövid specifikációja: 0,5 - 1 oldalas leírás, mely az alábbiakat tartalmazza: kitűzött célok, tanításhoz felhasznált adathalmazok, gyakorlatban megvizsgálni kívánt módszerek / elméleti feladat esetén a vizsgált elméleti probléma.
Általános információ
A félév során egy összetettebb feladatot kell megoldani. A feladatot és a megoldást egy rövid prezentáció keretében a félév utolsó hetében kell bemutatni a teljes hallgatóság jelenlétében. A prezentáció és a hozzá kapcsolódó dokumentáció elfogadása jelenti a félévközi követelmények teljesítését.
A házi feladatok megoldása két / három fős csapatokban, illetve egyénileg történhet (ez utóbbi esetben értelemszerűen kisebb kiméretű / komplexitású feladatokkal). A csoportos feladatmegoldás esetén az oktatóknak nem feladata a feladatmegoldásra szánt munkamegosztás tervének, illetve teljesülésének az ellenőrzése. Amennyiben a megoldás nem éri el az elégséges szintet, abban az esetben a csoport minden tagja bukja az alárását!
A feladatok lehetőleg saját feladatok legyenek, vagyis mindenki próbáljon definiálni egy számára érdekes gyakorlati feladatot, melyet a tárgy előadásai során, illetve ahhoz kapcsolódó, gépi tanulás apparátusán belüli eszközökkel meg lehet oldani. A feladatok komplexitását (annak részleteit) a specifikáció során e-mailben egyeztetjük. Az elképzelt feladat rövid (kb 0,5-1 oldalas) kezdő specifikálációját e-mailben kérem 2025.03.23.-ig.
Azoknak, akik nem kívánnak saját feladatot hozni, javaslunk mi is feladatokat. Az alábbi listában példaként néhány ilyen feladattípus szerepel:
Feladatcsoportok
1.) Osztályozási problémák (pl.paritás, kettős spirál, stb.) vizsgálata
- önllóan implementált MLP/előre csatolt hálóval
- háló architektúrájának hippotézisterére gyakorolt hatása
- tanulás hiperparamétereinek gyakorlati hatásai
- súlyok kezdeti inicializálásának hatása
- hasonló vizsgálatok végzése RBF, SVM, CMAC, szekvenciális hálózatok, illetve konvolúciós hálózatok használatával
2.) Bonyolultabb felismerési feladatok megoldása:
- különböző képfelismerési feladatok pl. SVHN, Cifar10, ujjlenyomat felismerés, hasonlósági függvény tanulása
- hangfelismerés
3.) Kombinatoriuks optimalizációs probléma megoldása Hopfield hálóval
- Megoldás implementációja, annak összevetése IP solver eredményével, stb.
4.) Képtömörítés és zajszűrés vizsgálata különböző önszervező algoritmusokkal
- PCA hálók: pl. Sanger algoritmus, Oja algoritmus, APEX háló, Nemlineáris tömörítés, Kernel PCA
- GAN ilyen jellegű alkalmazása
5.) A Kohonen háló működését illusztráló "Kohonen mozi" elkészítése
6.) Tanulási eljárások módosításai, azok elemzése
- extrem learning machine
- Nulladrendű optimalizáció
- konjugált gradiens módszer
- RLS algoritmus
- Levenberg-Marquardt eljárás
- SGD, minibatch vizsgálata
- SVM kernel függvény megválasztása
7.) Dinamikus hálók (rekurzív BP, RTRL, BPTT, stb.) alkalmazása.
- idősor előrejelzés (pl. napfolt tevékenység előrejelzése, tőzsdei trendfordulók előrejelzése)
- kaotikus folyamatok rövid távú előrejelzése
8.) Dinamikus rendszerek identifikációja
- fordított inga egyensúlyozása,
- autó mozgatás (tolatás adott pozíció eléréséig)
- hátrafelé parkolás járda mellé két autó közé
- mozgás labirintusban
- különböző hálózatok képességeinek összehasonlítása
9.) Adattömörítő hálók vizsgálata, főkomponens analízis (PCA) és gyakorlati alkalmazása
- PCA hálók, kernel PCA vizsgálata és alkalmazása
10.) Független komponens analízis (ICA) és gyakorlati alkalmazása:
- összetett jelek pl. beszédjelek, illetve képek szétválasztása komponenseikre
11.) Mély tanuló eljárások vizsgálata:
- konvolúciós réteg konstrukciója, tanítása kézzel implementált TBP-vel, BPTT-vel
- deep learning új strukturális elemei által okozott módosítások analízise
- Kapuzó hálózatok alkalmazása mély neurális hálókban
- Visual attention alkalmazása és vizsgálata
12.) Moduláris hálózatok vizsgálata
- MOE architektúra azonos, illetve különböző típusú szakértőkkel
- boosting eljárások vizsgálata és alkalmazása
- Federált tanulás vizsgálata
13.) Adathiányos problémák vizsgálata
- Félig ellenőrzött tanítás
- Aktív tanulás
14.) Hálók működésének interpretációja
- Deep Taylor dekompozíció alapú vizsgálat
- Lokális, lineáris modelillesztés alapú vizsgálat
- Shapely Value alapú vizsgálatok
Komplexebb feladatok esetén használhatóak körismert neurális hálós / gépi tanulásos környezetek, keretrendszerek (pl. Tensorflow / Pytorch, Matlab toolboxok, stb.).
További feladatokhoz találhatók ötletek, illetve különféle neurális megoldások tesztelésére adatbázisok az alábbi web címeken:
http://www.cs.cmu.edu/afs/cs.cmu.edu/project/ai-repository/ai/html/other/repositories.html
http://lib.stat.cmu.edu/datasets/
ftp://ftp.ics.uci.edu/pub/machine-learning-databases/
http://archive.ics.uci.edu/ml/
https://www.kaggle.com/competitions
adathalmazok keresésére: https://datasetsearch.research.google.com