Institute seminar:

Streszczenie (autorskie):

Relevance is a fundamental feature of human cognition: when we talk, we don’t produce random utterances; rather, we carefully pick our utterances so as to convey relevant information. But what makes a piece of information relevant? Formal pragmatics has an answer to this question: roughly, a proposition is relevant iff it eliminates at least some of the possibilities under consideration at a given time (Groenendijk and Stokhof 1984; Roberts [1996] 2012).
In this talk, I do three things. First, I draw attention to a limitation of this approach: it is not able to account for the fact that sometimes a proposition is perceived to be relevant despite eliminating no live possibility. Second, I discuss recent work on relevance (including my own work) that tries to overcome this problem by using probabilities and information-theoretic notions (e.g. Kullback-Leibler Divergence).
I end the talk with a cautionary note: current accounts of relevance might not be accounts of relevance at all.

Streszczenie (autorskie):

Większość komunikacji internetowej jest bardzo nadmiarowa i jednocześnie wymagany jest odpowiedni stopień bezpieczeństwa podczas transmisji. Aby zaoszczędzić na przepustowości komunikacji i zapewnić pożądany poziom bezpieczeństwa, strumień danych jest najpierw kompresowany w celu usunięcia nadmiarowych bitów, a następnie szyfrowany z użyciem uwierzytelnionego szyfrowania. To rozwiązanie jest bardzo elastyczne i działa dobrze dla dowolnej pary algorytmów (kompresji i szyfrowania). Jego wadą jest jednak fakt, że oba algorytmy są projektowane niezależnie. Można oczekiwać, że zaprojektowanie pojedynczego algorytmu kompresującego i szyfrującego (zwanego compcrypt) powinno przynieść korzyści pod względem zarówno wydajności jak i stopnia bezpieczeństwa.
Seminarium przedstawia wyniki osiągnięte podczas projektowania algorytmów łącznej kompresji i szyfrowania z użyciem algorytmu kompresji ANS. Najpierw wprowadzimy kompresję ANS i omówimy jej własności. Pokażemy również, że ANS z ukrytą tablicą kodowania (i dekodowania) można "złamać" za pomocą ataków statystycznych. Następnie badamy zachowanie algorytmu ANS w przypadku, gdy jego stany są wybierane losowo. Po tej wstępnej fazie przedstawiamy nasz algorytm compcrypt, który jest zbudowany w oparciu o ANS z losowymi skokami stanów i z szyfrowaniem z użyciem gąbki MonkeyDuplex. Podajemy również formalne dowody stopnia bezpieczeństwa (poufności i integralności/uwierzytelnienia) oparte na grach kryptograficznych. Nasz algorytm compcrypt został zaimplementowany. Nasza implementacja pozwala na przetwarzanie danych z szybkością 178 MB/s, która jest porównywalna do szybkości ANS-a z losowymi skokami stanów (182 MB/s). Ceną za to jest mała strata jakości kompresji.
Prezentacja jest oparta na pracy dostępnej w ramach Open Access: Camtepe S., et al. (2022): ANS-based compression and encryption with 128-bit security, International Journal of Information Security, Vol. 21, pp. 1051–1067.

Streszczenie (autorskie):

Computing systems are becoming ever more complex, with automated decisions increasingly often based on deep learning components. A wide variety of applications are being developed, many of them safety-critical, such as self-driving cars and medical diagnosis. Since deep learning is unstable with respect to adversarial perturbations, there is a need for rigorous software development methodologies that encompass machine learning components. This lecture will describe progress with developing automated certification techniques for learnt software components to ensure safety and adversarial robustness of their decisions. I will discuss different dimensions of robustness, including bounded perturbations and causal interventions, as well as the role of uncertainty and explainability.

Streszczenie (autorskie):

Wyobraźmy sobie dwóch graczy w kasynie. Pierwszy z nich, notuje w zeszycie wyniki poprzednich losowań i na ich podstawie stara się przewidzieć kolejne. Drugi hazardzista, do swoich przewidywań dodatkowo używa monety, która służy mu jako "losowa porada". Przy założeniu, że mowa o uczciwym kasynie, obaj hazardziści powinni mieć taką samą szansę wygrania. Co jednak, jeśli wyniki losowań są z góry zdeterminowane i jedynie z każdą chwilą ujawniane hazardzistom? Czy możliwa jest sytuacja, w której pewien probabilistyczny hazardzista będzie lepszy od każdego deterministycznego? W trakcie referatu odpowiem na to pytanie twierdząco, w ramach pewnego konkretnego modelu z algorytmicznej losowości. Wynik został uzyskany wraz Laurentem Bienvenu i Valentino Delle Rose w ramach projektu OPUS realizowanego w IPI PAN.