Konferencja: VI edycja krajowej konferencji „Nowoczesne i bezpieczne środowisko IT”
Miejsce: 6 marca 2025r Serock
Zorganizowana przez: Centralny Instytutu Analiz Polityczno-Prawnych
Miejsce: 6 marca 2025r Serock
Zorganizowana przez: Centralny Instytutu Analiz Polityczno-Prawnych
Opis:
Prezentacja „Zagrożenia cybernetyczne dla systemów sztucznej inteligencji” omawia kluczowe zagrożenia związane z bezpieczeństwem AI, dzieląc je na ataki na dane wejściowe, dane treningowe, modele, algorytmy oraz wyniki generowane przez AI. Przedstawiono m.in. ataki adwersarialne, zatrucie danych treningowych, kradzież modelu, ataki bocznokanałowe oraz wstrzyknięcie polecenia. Szczególną uwagę poświęcono ryzyku generowania fake news przez AI oraz analizie wyników eksperymentu testującego różne modele językowe pod kątem podatności na dezinformację.
Prezentacja „Zagrożenia cybernetyczne dla systemów sztucznej inteligencji” omawia kluczowe zagrożenia związane z bezpieczeństwem AI, dzieląc je na ataki na dane wejściowe, dane treningowe, modele, algorytmy oraz wyniki generowane przez AI. Przedstawiono m.in. ataki adwersarialne, zatrucie danych treningowych, kradzież modelu, ataki bocznokanałowe oraz wstrzyknięcie polecenia. Szczególną uwagę poświęcono ryzyku generowania fake news przez AI oraz analizie wyników eksperymentu testującego różne modele językowe pod kątem podatności na dezinformację.
Podkreślono konieczność międzynarodowej współpracy w zakresie bezpieczeństwa AI, wskazując na inicjatywy takie jak Deklaracja z Bletchley oraz ramy bezpieczeństwa opracowane przez OWASP, MITRE i NIST. Prezentacja zwraca uwagę na potrzebę transparentności, odpowiedzialności sektora prywatnego oraz dalszego rozwoju technologii zabezpieczeń AI w kontekście rosnących zagrożeń cybernetycznych.