Moses - Adversarial Machine Learning

Zur Modulseite PDF generieren

Modul / Version
#41117 / #1

Gültigkeit
Seit WiSe 2023/24

Verfügbare Sprache(n)
English

Titel des Moduls
Adversarial Machine Learning

Leistungspunkte
6

Modulverantwortliche*r
Rieck, Konrad

Benotung
Benotet

Prüfungsform
Schriftliche Prüfung

Lehrsprache(n)
English

Zugehörigkeit

Fakultät
Fakultät IV

Institut
Institut für Softwaretechnik und Theoretische Informatik

Fachgebiet
34353000 FG Maschinelles Lernen und IT-Sicherheit

Prüfungsausschuss
Keine Angabe

Kontakt

Sekretariat
Keine Angabe

Ansprechpartner*in
Rieck, Konrad

E-Mail-Adresse
rieck@tu-berlin.de

Webseite

https://mlsec.tu-berlin.de

Diese Modulbeschreibung ist nicht oder nicht vollständig auf deutsch hinterlegt.

Es wird stattdessen der Inhalt der folgenden Sprachversion angezeigt: Englisch.

Klicken Sie hier um die Inhalte der fehlenden oder unvollständige Sprachversion (Deutsch) anzuzeigen

Lernergebnisse

After completion of the module, the students have a comprehensive understanding of attacks and defenses in machine learning. They are able to define security goals, formalize threats and identify vulnerabilities in the application of learning algorithms. They know the working principles of attack types and can transfer them to new domains. These attack types include adversarial examples, poisoning, backdoors, as well as inference attacks. They can apply defense mechanisms, such as adversarial training, certified robustness and attack detection. Finally, students are aware of the ethical implications of adversarial machine learning and understand its impact on society and policy.

Lehrinhalte

The lecture covers classic and recent topics in adversarial machine learning. These topics include - White-box and black-box threat models - Techniques for crafting adversarial examples - Poisoning and backdoor attacks - Membership inference and model extraction - Problem-space attacks and attacks in structured domains - Adversarial preprocessing - Countermeasures measures and defenses - Attack and backdoor detection methods - Experimental design principles

Modulbestandteile

Compulsory area

Die folgenden Veranstaltungen sind für das Modul obligatorisch:

Lehrveranstaltungen	Art	Nummer	Turnus	Sprache	SWS	ISIS	VVZ
Adversarial Machine Learning	IV		WiSe	en	4

ISIS-Kurssuche nach Veranstaltungen des Moduls

Arbeitsaufwand und Leistungspunkte

Adversarial Machine Learning (IV):

Aufwandbeschreibung	Multiplikator	Stunden	Gesamt
Attendance	15.0	4.0h	60.0h
Pre/post processing	15.0	4.0h	60.0h
Exercise tasks	10.0	4.0h	40.0h
Preparation for exam	1.0	20.0h	20.0h
			180.0h(~6 LP)

Der Aufwand des Moduls summiert sich zu 180.0 Stunden. Damit umfasst das Modul 6 Leistungspunkte.

Beschreibung der Lehr- und Lernformen

This integrated course consists of a lecture combined with exercise assignments. The latter require independently solving programming exercises with the guidance of a teaching assistant.

Voraussetzungen für die Teilnahme / Prüfung

Wünschenswerte Voraussetzungen für die Teilnahme an den Lehrveranstaltungen:

- Very good knowledge of machine learning - Recommended: programming skills in Python - Helpful, but not obligatory: Basic knowledge in security

Verpflichtende Voraussetzungen für die Modulprüfungsanmeldung:

Dieses Modul hat keine Prüfungsvoraussetzungen.

Abschluss des Moduls

Benotung

Benotet

Prüfungsform

Written exam

Sprache(n)

English

Dauer/Umfang

90 minutes

Dauer des Moduls

Für Belegung und Abschluss des Moduls ist folgende Semesteranzahl veranschlagt:
1 Semester.

Dieses Modul kann in folgenden Semestern begonnen werden:
Wintersemester.

Maximale teilnehmende Personen

Dieses Modul ist nicht auf eine Anzahl Studierender begrenzt.

Anmeldeformalitäten

Registration is not required, but stating the interest to participate in the lecture is welcome for the planning of resources. This is done by registering for the course at the teaching platform ISIS.

Literaturhinweise, Skripte

Skript in Papierform

Verfügbarkeit: nicht verfügbar

Skript in elektronischer Form

Verfügbarkeit: nicht verfügbar

Literatur

Empfohlene Literatur
Keine empfohlene Literatur angegeben

Zugeordnete Studiengänge

Semester:

Zeige auch ausgelaufene Studiengänge und StuPOs

Diese Modulversion wird in folgenden Studiengängen verwendet:

Studiengang / StuPO	StuPOs	Verwendungen	Erste Verwendung	Letzte Verwendung
Computer Engineering (M. Sc.)	1	28	WiSe 2023/24	SoSe 2025
Computer Science (Informatik) (M. Sc.)	1	24	WiSe 2023/24	SoSe 2025
Elektrotechnik (M. Sc.)	1	12	WiSe 2023/24	SoSe 2025
Information Systems Management (Wirtschaftsinformatik) (M. Sc.)	1	4	WiSe 2023/24	SoSe 2025
Medieninformatik (M. Sc.)	1	4	WiSe 2023/24	SoSe 2025

Sonstiges

Keine Angabe