Jak działają ataki bocznokanałowe w AI?

• Czas odpowiedzi – różnice w czasie przetwarzania wskazują na szczegóły dotyczące struktury modelu.
• Zużycie energii – analiza wzorców zużycia energii przez procesory.
• Emitowane fale elektromagnetyczne – obserwacja promieniowania generowanego przez sprzęt podczas obliczeń.
• Ruch sieciowy – analiza pakietów danych wysyłanych i odbieranych przez system.

Przykłady ataków bocznokanałowych na systemy AI

1. Odtwarzanie danych treningowych
   • Atakujący wykorzystują dane takie jak gradienty lub zmiany w wagach modelu, by odtworzyć dane wejściowe użyte podczas treningu.
2. Podgląd architektury modelu
   • Analiza sygnałów elektromagnetycznych lub czasu obliczeń pozwala atakującemu zgadywać, jakie warstwy składają się na model i jak są ze sobą połączone.
3. Kradzież parametrów modelu
   • Modele AI o dużych rozmiarach są wartościowe. Dzięki bocznokanałowym danym atakujący mogą odtworzyć strukturę modelu, minimalizując własne koszty jego budowy.
4. Złośliwe ingerencje (ang. adversarial attacks)
   • Poprzez manipulowanie danymi wejściowymi atakujący może wprowadzić model w błąd, a dane bocznokanałowe pomagają zrozumieć, jak najlepiej to zrobić.

Ochrona przed atakami bocznokanałowymi

• Redukcja wycieków informacji
  • Wprowadzenie sztucznego szumu w czasie odpowiedzi czy obliczeń utrudnia analizę bocznokanałową.
• Izolacja sprzętowa
  • Systemy AI mogą być uruchamiane na sprzęcie, który minimalizuje emisje elektromagnetyczne czy śledzenie ruchu sieciowego.
• Bezpieczne szkolenie modeli
  • Wykorzystanie technik takich jak differential privacy, które chronią dane treningowe przed odtworzeniem.
• Monitorowanie anomalii
  • Wdrażanie mechanizmów detekcji nietypowych zachowań w systemach AI, co pozwala identyfikować próby bocznokanałowego ataku.

Podsumowanie