Data: 14 kwietnia 2026, godz. 12:00
Miejsce: Sala A1-33 (RND)
Prelegent: prof. dr hab. Jerzy Stefanowski (Politechnika Poznańska)
Tytuł: Objaśnianie decyzji systemów uczenia maszynowego z wykorzystaniem wyjaśnień kontrfaktowych
Abstrakt: Współczesne systemy uczenia maszynowego osiągają wysoką trafność predykcji dla wielu zadań. Jednak ich bardzo złożona budowa, zwłaszcza głębokich sieci neuronowych, jest nieprzejrzysta dla ludzi i ma charakter tzw. „czarnej skrzynki”, co utrudnia budowę zaufania do nich oraz dalszy rozwój niektórych zastosowań, gdzie oczekuje się możliwości interpretacji ich działania. Wyjaśnialna sztuczna inteligencja (ang. Explainable Artificial Intelligence) ma na celu dostarczyć odbiorcom potencjalnie zrozumiałych wyjaśnień predykcji oraz czasami także globalnych zasad działania złożonych systemów uczenia maszynowego. Spośród wielu metod wyjaśniania, skupiamy uwagę na kontrfaktach (ang. counterfactual explanations), które wskazują jakie zmiany należy dokonać w opisie klasyfikowanego przykładu, tak aby system zmienił decyzję na bardziej pożądaną. Jakość wyjaśnień kontrfaktowych jest zależna od ich własności, które są uwzględniane w konkretnych algorytmach, np. poprawna zmiana decyzji, wielkość zmiany opisu przykładu, wykonalność proponowanej zmiany, wiarygodność położenia zmienionego przykładu w przestrzeni danych. W prezentacji przedstawimy ostatnie badania autora nad analizą spełnialności niektórych z tych miar, w szczególności poprawy wiarygodności oraz odporności generowanych kontrfaktów.
Krótkie bio: Jerzy Stefanowski jest profesorem Politechniki Poznańskiej, zatrudnionym w Instytucie Informatyki, oraz kierownikiem Zakładu Uczenia Maszynowego na tej uczelni. Od 2021 roku członek korespondent Polskiej Akademii Nauk. Jego zainteresowania badawcze obejmują eksplorację danych, uczenie maszynowe, sztuczną inteligencję oraz inteligentne wspomaganie decyzji. Główne osiągnięcia badawcze dotyczą: wyjaśnialnej sztucznej inteligencji (XAI) w tym wyjaśnień kontrfaktycznych oraz opartych na prototypach, eksploracji danych o niezbalansowanych klasach, uczenia przyrostowego ze zmiennych strumieni danych oraz detekcji dryfu pojęć, indukcji różnych typów reguł, zespołów wielu klasyfikatorów oraz medycznych zastosowań eksploracji danych. Więcej informacji: http://www.cs.put.poznan.pl/jstefanowski