Moses - Information Theory

Zur Modulseite PDF generieren

Modul / Version
#40230 / #2

Gültigkeit
SS 2017 - SS 2019

Verfügbare Sprache(n)
English

Titel des Moduls
Information Theory

Leistungspunkte
6

Modulverantwortliche*r
Caire, Giuseppe

Benotung
Benotet

Prüfungsform
Portfolioprüfung

Lehrsprache(n)
English

Zugehörigkeit

Fakultät
Fakultät IV

Institut
Institut für Telekommunikationssysteme

Fachgebiet
34331600 FG Theoretische Grundlagen der Kommunikationstechnik

Prüfungsausschuss
Keine Angabe

Kontakt

Sekretariat
HFT 6

Ansprechpartner*in
Caire, Giuseppe

E-Mail-Adresse
caire@tu-berlin.de

Webseite

http://www.commit.tu-berlin.de/menue/lehre/parameter/en/

Diese Modulbeschreibung ist nicht oder nicht vollständig auf deutsch hinterlegt.

Es wird stattdessen der Inhalt der folgenden Sprachversion angezeigt: Englisch.

Klicken Sie hier um die Inhalte der fehlenden oder unvollständige Sprachversion (Deutsch) anzuzeigen

Diese Modulbeschreibung gilt nicht im aktuellen Semester.

Die Modulbeschreibung gilt nur für den Zeitraum SS 2017 - SS 2019.

Lernergebnisse

Students are presented with fundamental and advanced concepts in Information Theory. The module is formed by two courses in sequence. In the first course, basic information measures and single-source/single-destination problems are presented. In the second course, multiuser network problems are presented. Information theory forms the theoretical foundation of communication networks, data compression, data storage, and source coding, such as video and audio coding.

Lehrinhalte

- Definition and main properties of entropy, cross-entropy (information divergence) and mutual information - Typical sequences and typical sets, fundamental lemmas of typicality. - Data compression, Human codes, arithmetic codes, notion of universal lossless source coding (Lempel-Ziv algorithm). - Channel capacity of discrete memoryless channels - Gaussian channels, spectral efficiency, waterfilling power allocation with relation to bit-loading and OFDM. - Rate-distortion theory and quantization, reverse waterfilling with relation to subband coding, successive refinement coding, with reference to scalable image and video coding. - The Multiple Access Channel - The Broadcast Channel - The Interference Channel - Graphical networks and network coding - Relay networks and noisy network coding

Modulbestandteile

Compulsory area

Die folgenden Veranstaltungen sind für das Modul obligatorisch:

Lehrveranstaltungen	Art	Nummer	Turnus	Sprache	SWS	ISIS	VVZ
Information Theory	VL	0432 L 654	WiSe	Keine Angabe	2
Network Information Theory	VL	34331600 L 001	SoSe	Keine Angabe	2

ISIS-Kurssuche nach Veranstaltungen des Moduls

Arbeitsaufwand und Leistungspunkte

Information Theory (VL):

Aufwandbeschreibung	Multiplikator	Stunden	Gesamt
Attendance time	15.0	2.0h	30.0h
Examination preparation	1.0	30.0h	30.0h
Preparation and postprocessing	15.0	2.0h	30.0h
			90.0h(~3 LP)

Network Information Theory (VL):

Aufwandbeschreibung	Multiplikator	Stunden	Gesamt
Attendance time	15.0	2.0h	30.0h
Examination preparation	1.0	30.0h	30.0h
Preparation and postprocessing	15.0	2.0h	30.0h
			90.0h(~3 LP)

Der Aufwand des Moduls summiert sich zu 180.0 Stunden. Damit umfasst das Modul 6 Leistungspunkte.

Beschreibung der Lehr- und Lernformen

The module consists of conventional frontal teaching in class, developing theoretical and mathematical concepts, exercises developed in class, in order to develop problem-solving skills and reinforce comprehension of the theory, and homework exercises in order to develop independent and autonomous thinking skills in the students.

Voraussetzungen für die Teilnahme / Prüfung

Wünschenswerte Voraussetzungen für die Teilnahme an den Lehrveranstaltungen:

Prerequisite for participation to courses are a mathematical background at the level of beginning MS students in Electrical Engineering (multivariate calculus, Fourier and Laplace Transforms, signals and systems, linear algebra and notions of matrix theory). The course is open to students enrolled in any MSc in EE CS, Mathematics and Physics

Verpflichtende Voraussetzungen für die Modulprüfungsanmeldung:

Dieses Modul hat keine Prüfungsvoraussetzungen.

Abschluss des Moduls

Benotung

Benotet

Prüfungsform

Portfolio examination

Art der Portfolioprüfung

100 Punkte insgesamt

Sprache(n)

English

Prüfungselemente

Name	Punkte	Kategorie	Dauer/Umfang
(Deliverable assessment) Project presentation	40	mündlich	20 min
(Examination) Oral examination/discussion	20	mündlich	20 min
(Examination) Written test	40	schriftlich	90 min

Notenschlüssel

Notenschlüssel »Notenschlüssel 3: Fak IV (3)«

Gesamtpunktzahl	1.0	1.3	1.7	2.0	2.3	2.7	3.0	3.3	3.7	4.0
100.0pt	85.0pt	80.0pt	75.0pt	70.0pt	65.0pt	60.0pt	55.0pt	50.0pt	45.0pt	40.0pt

Prüfungsbeschreibung (Abschluss des Moduls)

The final grade according to § 47 (2) AllgStuPO will be calculated according to Notenschlüssel 3 of Faculty IV.

Dauer des Moduls

Für Belegung und Abschluss des Moduls ist folgende Semesteranzahl veranschlagt:
2 Semester.

Dieses Modul kann in folgenden Semestern begonnen werden:
Winter- und Sommersemester.

Maximale teilnehmende Personen

Dieses Modul ist nicht auf eine Anzahl Studierender begrenzt.

Anmeldeformalitäten

Course teaching and organization (not module examination enrollment at Examination office/Prüfungsamt) is supported by an ISIS course. Registration details are provided at the beginning of the module.

Literaturhinweise, Skripte

Skript in Papierform

Verfügbarkeit: nicht verfügbar

Skript in elektronischer Form

Verfügbarkeit: verfügbar

Zusätzliche Informationen:

Literatur

Empfohlene Literatur
El Gamal, Abbas, and Young-Han Kim. Network information theory. Cambridge University Press, 2011.
T. Cover and J. Thomas, Elements of Information Theory, 2nd Ed., Wiley Interscience, 2006.

Zugeordnete Studiengänge

Semester:

Zeige auch ausgelaufene Studiengänge und StuPOs

Diese Modulversion wird in folgenden Studiengängen verwendet:

	Studiengang / StuPO	StuPOs	Verwendungen	Erste Verwendung	Letzte Verwendung
Dieses Modul findet in keinem Studiengang Verwendung.

Studierende anderer Studiengänge können dieses Modul ohne Kapazitätsprüfung belegen.

Sonstiges

The module is formed by two courses, taking place in two consecutive semesters (WS - SS)