Dušan Todorović

☰ Meni

On Monday, July 27, 2026, at 4:00 PM, a lecture will be held as part of the Monday RIN seminar, organized by the UP FAMNIT and UP IAM.

TIME / VENUE: July 27, 2026, at 4:00 PM, via Zoom.

SPEAKER: Dušan TODOROVIĆ

Dušan Todorović graduated from the Academy of Technical and Educational Applied Studies (ATVSS) in Niš, specializing in Modern Computer Technologies. He is currently a master’s student in the Computer Science program at UP FAMNIT. His seminar paper was prepared as part of the Research Seminar course under the supervision of Dr. Branko Kavšek.

———————————————————————————————————
NASLOV: Tehnike za razložljivost v strojnem učenju: LIME, SHAP in Grad-CAM
———————————————————————————————————

POVZETEK:

V seminarski nalogi obravnavam problem interpretabilnosti kompleksnih modelov strojnega učenja ter analiziram tri pomembne metode za razložljivost — LIME, SHAP in Grad-CAM. V teoretičnem delu predstavim osnovne pojme interpretabilnosti (lokalna in globalna interpretacija, model-agnostične in model-specifične metode) ter matematično ozadje posamezne metode. V praktičnem delu izvedem dva eksperimenta: prvega na podatkovnem naboru Titanic z modelom Random Forest (LIME in SHAP za tabelarične podatke), drugega pa na podatkovnem naboru Fashion-MNIST s konvolucijsko nevronsko mrežo (SHAP in Grad-CAM za slike). Rezultati pokažejo, da LIME ponuja intuitivne lokalne razlage, SHAP omogoča stabilnejšo in teoretično bolje utemeljeno interpretacijo (tako lokalno kot globalno), Grad-CAM pa vizualni vpogled v regije slike, ki najbolj vplivajo na odločitev CNN modela. Ugotovim, da ne obstaja ena univerzalna metoda za razlago vseh modelov, saj je izbira odvisna od tipa podatkov in modela.

Seminar bo potekal v slovenskem jeziku.

Seminar bo potekal online prek aplikacije Zoom s pričetkom ob 16:00 uri na sledeči povezavi:

https://upr-si.zoom.us/j/297328207?pwd=S3Zpdk1VR3pjckNtWkQwKzlvcDR5UT09

Meeting ID: 297 328 207
Passcode: 123456789

Vabljeni!