X-Student Research Group: AI Caramba - Schwachstellen, Herausforderungen und Chancen von generativer KI in der IT-Sicherheit

'AI Caramba': Schwachstellen, Herausforderungen und Chancen von generativer KI in der IT-Sicherheit

Ein Lehrforschungsprojekt (im Rahmen der X-Student Research Groups) am Institut für Softwaretechnik und Theoretische Informatik, Technische Universität Berlin.

Kursbeschreibung:

Welche Schwachstellen und Risiken können durch den Einsatz von generativer KI (bspw. ChatGPT) in der Softwareentwicklung entstehen? Kann die Sicherheit des Codes durch bestimmte Prompts beeinflusst werden? Diese und weitere Fragen sollen in diesem Projekt gemeinsam durch die Studierenden praxisnah untersucht werden. Nach einer gemeinsamen Einarbeitungs- und Recherchephase zum Stand der Forschung erarbeiten die Teilnehmenden eigene (spezifischere) Forschungsfragen, teilen sich in thematische Kleingruppen auf und führen praxisorientierte Experimente durch. Ziel ist es, sich gemeinsam auszutauschen und ein besseres Verständnis für den Umgang mit KI im Kontext der IT-Sicherheit zu entwickeln. Der Kurs richtet sich insbesondere an Informatikstudierende (ab 3. Sem) mit Grundkenntnissen in Programmierung (z. B. Python) und Interesse an IT-Sicherheit und generativer KI. Auch andere Fachrichtungen sind willkommen, um ethische und gesellschaftliche Perspektiven einzubringen.

Lehrende: Sebastian Neef (Kontakt: neef@sect.tu-berlin.de)

Sprache der Group: deutsch

Termine: wöchentlich Mittwochs von 10:00-12:00 Uhr, erster Termin: 22.10.2025

Raum der Group: FH 302 (3. OG), Fraunhoferstraße (FH) , Fraunhoferstraße 33-36 , 10587 Berlin

Weitere Informationen:

·       Informationen zur Anmeldung für eine X-Student Research Group

·       Modulbeschreibung X-Student Research Groups