- Nazwa przedmiotu:
- Podstawy i zastosowania teorii informacji
- Koordynator przedmiotu:
- dr inż. Krzysztof Suchecki
- Status przedmiotu:
- Obowiązkowy
- Poziom kształcenia:
- Studia II stopnia
- Program:
- Fizyka Techniczna
- Grupa przedmiotów:
- Obowiązkowe
- Kod przedmiotu:
- 1050-FTEDM-MSP-2PZT
- Semestr nominalny:
- 1 / rok ak. 2020/2021
- Liczba punktów ECTS:
- 2
- Liczba godzin pracy studenta związanych z osiągnięciem efektów uczenia się:
- 1. godziny kontaktowe – 30 h; w tym
a) obecność na wykładach – 15 h
b) obecność na ćwiczeniach/laboratoriach – 15 h
2. praca własna studenta – 20 h; w tym
a) przygotowanie do ćwiczeń i do kolokwiów – 20 h
Razem w semestrze 50 h, co odpowiada 2 pkt. ECTS
- Liczba punktów ECTS na zajęciach wymagających bezpośredniego udziału nauczycieli akademickich:
- 1. obecność na wykładach – 15 h
2. obecność na ćwiczeniach – 15 h
Razem w semestrze 30 h, co odpowiada 1 pkt. ECTS
- Język prowadzenia zajęć:
- polski
- Liczba punktów ECTS, którą student uzyskuje w ramach zajęć o charakterze praktycznym:
- 0
- Formy zajęć i ich wymiar w semestrze:
-
- Wykład15h
- Ćwiczenia15h
- Laboratorium0h
- Projekt0h
- Lekcje komputerowe0h
- Wymagania wstępne:
- Analiza Matematyczna, Probabilistyka, Fizyka Statystyczna i Termodynamika
- Limit liczby studentów:
- brak
- Cel przedmiotu:
- Poznanie i zrozumienie podstaw teorii informacji i jej zastosowań oraz umiejętność jej stosowania.
- Treści kształcenia:
- Wykład:
1. Wprowadzanie, koncepcja informacji
2. Entropia Shannona i informacja wzajemna
3. Własności entropii i informacji
4. Własność asymptotycznej ekwipartycji i typowy zbiór
5. Kompresja danych, kodowanie
6. Kody optymalne, Huffmana i Shannona-Fano-Eliasa
7. Dystkretne kanały informacji i ich własności
8. Twierdzenie o kodowaniu kanałów
9. Łańcuchy Markowa, przyrost entropii
10. Druga zasada termodynamiki a teoria informacji
11. Rozkłady maksymalnej entropii
12. Entropia ciągła
13. Przyrost entropii w procesach gaussowskich
14. Kryptografia a teoria informacji
15. Optymalizacja portfela inwestycyjnego i inne zastosowania
Ćwiczenia:
Bezpośrednie uzupełnienie wykładu – ten sam zakres treści
- Metody oceny:
- W trakcie semestru są 3 krótkie kolokwia. Zaliczenie wymaga zdobycia ponad 50% całkowitej ilości punktów. Ocena końcowa zależy od ilości punktów wg. typowej skali (>50% to 3, >60% to 3.5, >70% to 4, >80% to 4.5, zaś >90% to 5)
- Egzamin:
- tak
- Literatura:
- 1. Thomas M. Cover, Joy A. Thomas, Elements of Information Theory, Wiley 2006
2. David J.C. MacKay, Information Theory, Inference and Learning Algorithms, Cambridge University Press 2003
3. Z. Łukasik, Teoria informaji i sygnałów, Radom: Politechnika Radomska Wydawnictwo, 2012
4. B. Schneier, Kryptografia dla praktyków, Wydawnictwa Naukowo-Techniczne 2002
5. K. Huang, Podstawy fizyki statystycznej, Wydawnictwo Naukowe PWN 2006
- Witryna www przedmiotu:
- brak
- Uwagi:
- brak
Efekty uczenia się
Profil ogólnoakademicki - wiedza
- Efekt PZTI_W01
- Ma podstawową wiedzę w zakresie teorii informacji.
Weryfikacja: kolokwium
Powiązane efekty kierunkowe:
FT2_W02
Powiązane efekty obszarowe:
X2A_W02, T2A_W01, T2A_W02
- Efekt PZTI_W02
- Zna podstawowe zastosowania teorii informacji w fizyce i jej związki z termodynamiką.
Weryfikacja: kolokwium
Powiązane efekty kierunkowe:
FT2_W03
Powiązane efekty obszarowe:
X2A_W03, X2A_W04, X2A_W05, T2A_W03, T2A_W04, InzA_W02, InzA_W05
Profil ogólnoakademicki - umiejętności
- Efekt PZTI_U01
- Potrafi operować pojęciami teorii informacji w praktyce i dokonywać związanych z nimi obliczeń.
Weryfikacja: kolokwium
Powiązane efekty kierunkowe:
FT2_U06, FT2_U07
Powiązane efekty obszarowe:
X2A_U02, X2A_U04, T2A_U09, X2A_U06, T2A_U07
- Efekt PZTI_U02
- Umie wykorzystać teorię informacji do opisu zjawisk lub rozwiązywania problemów.
Weryfikacja: kolokwium
Powiązane efekty kierunkowe:
FT2_U16, FT2_U17
Powiązane efekty obszarowe:
X2A_U01, X2A_U02, T2A_U17, InzA_U06, X2A_U02, T2A_U18