Institute seminar:

Streszczenie (autorskie):

Gwałtownemu rozwojowi dziedziny sztucznej inteligencji towarzyszy równie gwałtowny wzrost oporu wobec niej. Przyczyną są tu coraz bardziej dominujące algorytmy o rosnącej złożoności, coraz częściej typu „czarnej skrzynki”, których wyniki stają się coraz trudniejsze do zrozumienia dla użytkowników. Firmy i przemysł domagają się uzasadnień decyzji sugerowanych przez systemy AI. To oczekiwanie klientów systemów AI doprowadziło do rozwoju gałęzi AI zwanej „sztuczną inteligencją dającą się wyjaśnić” (XAI).

Do metod "czarnoskrzynkowych" w obszarze metod analizy skupień należą m.in. metody tzw. Grafowej Analizy Spektralnej (GSA). W niniejszym referacie przedstawimy wyniki prac prowadzonych przez ZPSI IPI PAN ukierunkowanych na XAI dla GSA. Kładliśmy szczególny nacisk na tzw. wyjaśnialność przyczynową dla analizy skupień dokumentów tekstowych. Trzy kierunki naszych prac obejmują:

• klasyczne zastosowania GSC - w przestrzeni wektorów własnych laplasjanów macierzy podobieństwa,
• nowatorskie użycie GSC - w przestrzeni spektrów wartości własnych,
• analityczne badanie własności granicznych w GSC