Typy ataków na Systemy Uczenia Maszynowego

Mehr dazu

Zagrożenia dla baz danych

von dr inż. Michał Malinowski

wirusy

von Patryk Mlynarczyk

Typy ataków na Systemy Uczenia Maszynowego

Algorytm

Nadmierna autonomia (Excessive Agency)

Niebezpieczna konstrukcja API (Insecure Plugin Design)

Dane Treningowe

Przechylenie modelu (Model Skewing)

Atak inferencji członkostwa (Membership Inference Attacks)

Zatrucie danych treningowych (Training Data Poisoning)

Wycieki danych (Data Exfiltration)

Wyniki

Atak na integralność wyników (Output Integrity Attack)

Nadmierna zależność (Overreliance)

Niebezpieczne przetwarzanie wyników (Insecure Output Handling)

Inwersja modelu (Model Inversion Attack)

Ujawnienie poufnych informacji (Sensitive Information Disclosure)

Dane wejściowe

Ataki enkodera (Encoder Attacks)

Wstrzyknięcie polecenia (Prompt Injection)

Ataki omijające (Evasion Attacks)

Ataki adwersarialne (Adversarial Attacks)

Model

Jailbreak (Jailbreaking Attack)

Zatrucie modelu (Model Poisoning)

Ataki przeprogramowujące (Reprogramming Attacks)

Ataki na transfer uczenia (Transfer Learning Attacks)

Ataki bocznokanałowe (Side-Channel Attacks)

Atak typu odmowa usługi (DoS) (Model Denial of Service)

Kradzież modelu (Model Theft)

Ataki typu trojan (Trojan Attacks)

Ataki typu backdoor (Backdoor Attacks)

Luki w łańcuchu dostaw (Supply Chain Vulnerabilities)