Dušan TODOROVIĆ: Tehnike za razložljivost v strojnem učenju: LIME, SHAP in Grad-CAM

☰ Meni

V ponedeljek, 27. julija 2026, bo ob 16:00 uri izvedeno 
predavanje v okviru PONEDELJKOVEGA SEMINARJA RAČUNALNIŠTVA IN INFORMATIKE
Oddelkov za Informacijske znanosti in tehnologije UP FAMNIT in UP IAM.

ČAS/PROSTOR: 27. julij 2026 ob 16.00 prek Zoom-a.

———————————————-
PREDAVATELJ: Dušan TODOROVIĆ
———————————————-

Dušan Todorović je diplomiral na ATVSS v Nišu, smer Sodobne računalniške tehnologije. Trenutno je študent magistrskega programa Računalništvo in informatika na UP FAMNIT. Seminarsko nalogo je izdelal v okviru predmeta Raziskovalni seminar, pod mentorstvom dr. Branka Kavška.

———————————————————————————————————
NASLOV: Tehnike za razložljivost v strojnem učenju: LIME, SHAP in Grad-CAM
———————————————————————————————————

POVZETEK:

V seminarski nalogi obravnavam problem interpretabilnosti kompleksnih modelov strojnega učenja ter analiziram tri pomembne metode za razložljivost — LIME, SHAP in Grad-CAM. V teoretičnem delu predstavim osnovne pojme interpretabilnosti (lokalna in globalna interpretacija, model-agnostične in model-specifične metode) ter matematično ozadje posamezne metode. V praktičnem delu izvedem dva eksperimenta: prvega na podatkovnem naboru Titanic z modelom Random Forest (LIME in SHAP za tabelarične podatke), drugega pa na podatkovnem naboru Fashion-MNIST s konvolucijsko nevronsko mrežo (SHAP in Grad-CAM za slike). Rezultati pokažejo, da LIME ponuja intuitivne lokalne razlage, SHAP omogoča stabilnejšo in teoretično bolje utemeljeno interpretacijo (tako lokalno kot globalno), Grad-CAM pa vizualni vpogled v regije slike, ki najbolj vplivajo na odločitev CNN modela. Ugotovim, da ne obstaja ena univerzalna metoda za razlago vseh modelov, saj je izbira odvisna od tipa podatkov in modela.

Seminar bo potekal v slovenskem jeziku.

Seminar bo potekal online prek aplikacije Zoom s pričetkom ob 16:00 uri na sledeči povezavi:

https://upr-si.zoom.us/j/297328207?pwd=S3Zpdk1VR3pjckNtWkQwKzlvcDR5UT09

Meeting ID: 297 328 207
Passcode: 123456789

Vabljeni!