Moses - Adversarial Machine Learning

Zur Modulseite PDF generieren

Modul / Version
#41117 / #1

Gültigkeit
Seit WiSe 2023/24

Verfügbare Sprache(n)
Englisch

Titel des Moduls
Adversarial Machine Learning

Leistungspunkte
6

Modulverantwortliche*r
Rieck, Konrad

Benotung
Benotet

Prüfungsform
Schriftliche Prüfung

Lehrsprache(n)
Englisch

Zugehörigkeit

Fakultät
Fakultät IV

Institut
Institut für Softwaretechnik und Theoretische Informatik

Fachgebiet
34353000 FG Maschinelles Lernen und IT-Sicherheit

Prüfungsausschuss
Keine Angabe

Kontakt

Sekretariat
Keine Angabe

Ansprechpartner*in
Rieck, Konrad

E-Mail-Adresse
rieck@tu-berlin.de

Webseite

https://mlsec.tu-berlin.de

Diese Modulbeschreibung ist nicht oder nicht vollständig auf deutsch hinterlegt.

Es wird auf Wunsch trotzdem der Inhalt der unvollständigen Spracheversion angezeigt.

Lernergebnisse

Nach Abschluss des Modules haben die Studierenden ein umfassendes Verständnis von Angriffen und Verteidigungsmaßnahmen im Bereich des maschinellen Lernens. Sie sind in der Lage, Sicherheitsziele zu definieren, Bedrohungen zu formalisieren und Schwachstellen bei der Anwendung von Lernalgorithmen zu identifizieren. Sie kennen die Funktionsprinzipien von Angriffsarten und können diese auf neue Domänen übertragen. Zu diesen Angriffsarten gehören Adversarial Examples, Poisoning, Backdoors sowie Inferenzangriffe. Sie können Abwehrmechanismen, wie z.B. Adversarial Training, zertifizierte Robustheit und Angriffserkennung anwenden. Schließlich sind sich die Studierenden der ethischen Implikationen von Adversarial Learning bewusst und verstehen dessen Auswirkungen auf Gesellschaft und Politik.

Lehrinhalte

Die Vorlesung behandelt klassische und aktuelle Themen im Bereich des Adversarial Machine Learning. Diese Themen umfassen - White-Box- und Black-Box-Bedrohungsmodelle - Techniken für die Erzeugung von Adversarial Examples - Poisoning- und Backdoor-Angriffe - Membership-Inferenz und Modellextraktion - Problemraum-Angriffe und Angriffe in strukturierten Domänen - Adversial Preprocessing - Gegenmaßnahmen und Abwehrmechanismen - Methoden zur Erkennung von Angriffen und Hintertüren - Prinzipien der Versuchsplanung

Modulbestandteile

Pflichtbereich

Die folgenden Veranstaltungen sind für das Modul obligatorisch:

Lehrveranstaltungen	Art	Nummer	Turnus	Sprache	SWS	ISIS	VVZ
Adversarial Machine Learning	IV		WiSe	en	4

ISIS-Kurssuche nach Veranstaltungen des Moduls

Arbeitsaufwand und Leistungspunkte

Adversarial Machine Learning (IV):

Aufwandbeschreibung	Multiplikator	Stunden	Gesamt
Präsenzzeit	15.0	4.0h	60.0h
Vor-/Nachbereitung	15.0	4.0h	60.0h
Übungsaufgaben	10.0	4.0h	40.0h
Klausurvorbereitung	1.0	20.0h	20.0h
			180.0h(~6 LP)

Der Aufwand des Moduls summiert sich zu 180.0 Stunden. Damit umfasst das Modul 6 Leistungspunkte.

Beschreibung der Lehr- und Lernformen

Dieser integrierte Kurs besteht aus einer Vorlesung in Kombination mit Übungsaufgaben. Letztere erfordern das selbständige Lösen von Programmieraufgaben unter Anleitung.

Voraussetzungen für die Teilnahme / Prüfung

Wünschenswerte Voraussetzungen für die Teilnahme an den Lehrveranstaltungen:

- Sehr gute Kenntnisse des maschinellen Lernens - Empfohlen: Programmierkenntnisse in Python - Hilfreich, aber nicht zwingend erforderlich: Grundkenntnisse in IT-Sicherheit

Verpflichtende Voraussetzungen für die Modulprüfungsanmeldung:

Dieses Modul hat keine Prüfungsvoraussetzungen.

Abschluss des Moduls

Benotung

Benotet

Prüfungsform

Schriftliche Prüfung

Sprache(n)

Englisch

Dauer/Umfang

Keine Angabe

Dauer des Moduls

Für Belegung und Abschluss des Moduls ist folgende Semesteranzahl veranschlagt:
1 Semester.

Dieses Modul kann in folgenden Semestern begonnen werden:
Wintersemester.

Maximale teilnehmende Personen

Dieses Modul ist nicht auf eine Anzahl Studierender begrenzt.

Anmeldeformalitäten

Eine Anmeldung ist nicht erforderlich aber hilfreich zur Planung. Eine Anmeldung zum Kurs ist auf der Lehrplattform ISIS möglich.

Literaturhinweise, Skripte

Skript in Papierform

Verfügbarkeit: nicht verfügbar

Skript in elektronischer Form

Verfügbarkeit: nicht verfügbar

Literatur

Empfohlene Literatur
Keine empfohlene Literatur angegeben

Zugeordnete Studiengänge

Semester:

Zeige auch ausgelaufene Studiengänge und StuPOs

Diese Modulversion wird in folgenden Studiengängen verwendet:

Studiengang / StuPO	StuPOs	Verwendungen	Erste Verwendung	Letzte Verwendung
Computer Engineering (M. Sc.)	1	28	WiSe 2023/24	SoSe 2025
Computer Science (Informatik) (M. Sc.)	1	24	WiSe 2023/24	SoSe 2025
Elektrotechnik (M. Sc.)	1	12	WiSe 2023/24	SoSe 2025
Information Systems Management (Wirtschaftsinformatik) (M. Sc.)	1	4	WiSe 2023/24	SoSe 2025
Medieninformatik (M. Sc.)	1	4	WiSe 2023/24	SoSe 2025

Sonstiges

Keine Angabe