Konferencja: THE H@CK SUMMIT
Miejsce: 14 października 2025r., PGE Narodowy, Warszawa
Zorganizowana przez: ACADEMIC PARTNERS, DKWOC
Miejsce: 14 października 2025r., PGE Narodowy, Warszawa
Zorganizowana przez: ACADEMIC PARTNERS, DKWOC
Opis:
Prezentacja omawia kluczowe wektory ataków cybernetycznych na systemy sztucznej inteligencji – od manipulacji danymi wejściowymi (m.in. ataki adwersarialne, wstrzyknięcia poleceń, ataki enkodera) i treningowymi (wycieki danych, zatruwanie, inferencja członkostwa, model skewing), przez ataki na wyniki działania (ujawnianie poufnych informacji, inwersja modelu, ataki na integralność), aż po ataki na sam model i algorytm (jailbreaking, backdoor, trojan, kradzież, DoS, ataki bocznokanałowe, niebezpieczna konstrukcja API). Ilustruje to seria eksperymentów i demonstracji (np. eksperyment fake news, narzędzie Nightshade, demo ataku bocznokanałowego), a na zakończenie prezentuje wybrane inicjatywy i standardy bezpieczeństwa, takie jak OWASP Top 10, macierz MITRE ATLAS, NIST AI RMF, baza incydentów AI, ISO/IEC TR 24028, Deklaracja z Bletchley oraz Global AI Index.
Prezentacja omawia kluczowe wektory ataków cybernetycznych na systemy sztucznej inteligencji – od manipulacji danymi wejściowymi (m.in. ataki adwersarialne, wstrzyknięcia poleceń, ataki enkodera) i treningowymi (wycieki danych, zatruwanie, inferencja członkostwa, model skewing), przez ataki na wyniki działania (ujawnianie poufnych informacji, inwersja modelu, ataki na integralność), aż po ataki na sam model i algorytm (jailbreaking, backdoor, trojan, kradzież, DoS, ataki bocznokanałowe, niebezpieczna konstrukcja API). Ilustruje to seria eksperymentów i demonstracji (np. eksperyment fake news, narzędzie Nightshade, demo ataku bocznokanałowego), a na zakończenie prezentuje wybrane inicjatywy i standardy bezpieczeństwa, takie jak OWASP Top 10, macierz MITRE ATLAS, NIST AI RMF, baza incydentów AI, ISO/IEC TR 24028, Deklaracja z Bletchley oraz Global AI Index.