Zachodniopomorski Uniwersytet Technologiczny w Szczecinie

Wydział Elektryczny - Teleinformatyka (S2)
specjalność: Sieci teleinformatyczne i systemy mobilne

Sylabus przedmiotu Teoria informacji i kodowania:

Informacje podstawowe

Kierunek studiów Teleinformatyka
Forma studiów studia stacjonarne Poziom drugiego stopnia
Tytuł zawodowy absolwenta magister
Obszary studiów nauk technicznych, studiów inżynierskich
Profil ogólnoakademicki
Moduł
Przedmiot Teoria informacji i kodowania
Specjalność Systemy transmisyjne
Jednostka prowadząca Katedra Inżynierii Systemów, Sygnałów i Elektroniki
Nauczyciel odpowiedzialny Roman Kaszyński <Roman.Kaszynski@zut.edu.pl>
Inni nauczyciele Sławomir Kocoń <Slawomir.Kocon@zut.edu.pl>, Piotr Okoniewski <Piotr.Okoniewski@zut.edu.pl>
ECTS (planowane) 3,0 ECTS (formy) 3,0
Forma zaliczenia zaliczenie Język polski
Blok obieralny Grupa obieralna

Formy dydaktyczne

Forma dydaktycznaKODSemestrGodzinyECTSWagaZaliczenie
ćwiczenia audytoryjneA3 30 1,50,41zaliczenie
wykładyW3 30 1,50,59zaliczenie

Wymagania wstępne

KODWymaganie wstępne
W-1Znajomość podstawowych pojęć z zakresu analizy matematycznej i algebry liniowej.
W-2Znajomość podstawowych pojęć rachunku prawdopodobieństwa.

Cele przedmiotu

KODCel modułu/przedmiotu
C-1Zapozananie studenta z podstawowymi pojęciami i modelami systemów informacyjnych, przekształcaniami sygnałów w systemach informacyjnych oraz optymalizacją systemów informacyjnych.
C-2Nauczenie studenta wybranych metod kodowania i dekodowania ciągów informacyjnych.
C-3Zapoznanie studenta ze źródłami informacji ziarnistej, miarą nieokreśloności statystycznej, ilością informacji statystycznej.
C-4Zapoznanie studenta z podstawowymi pojęciami kodowania informacji oraz z wybranymi metodami kodowania.

Treści programowe z podziałem na formy zajęć

KODTreść programowaGodziny
ćwiczenia audytoryjne
T-A-1Wprowadzenie do ćwiczeń. Przypomienie zagadnień matematycznych niezbędncych do samodzielnego rozwiązywania ćwiczeń.1
T-A-2Wstęp do teorii informacji: informacja, niepewność, entropia, obliczanie entropii.2
T-A-3Przekształcanie sygnałów w systemach informacyjnych. Optymalizacja systemów informacyjnych.4
T-A-4Kanały informacyjne, przepustowość, źródła Markowa.2
T-A-5Kodowanie źródłowe, kody Huffmana, kompresja.2
T-A-6Kody detekcyjne, kody korekcyjne, kody blokowe, kresy.2
T-A-7Kody liniowe, kody Hamminga.2
T-A-8Podstawowe modyfikacje kodów liniowych, kody łączone, kody iterowane, kody Reeda-Mullera, kody wielomianowe.4
T-A-9Poszukiwanie wielomianów generujących kodów cyklicznych, test parzystości kodu cyklicznego, kody sympleksowe, korekcja błędów pojedyńczych.4
T-A-10Kody splotowe: podstawowe parametry, reprezentacja, wykrywanie, dekodowanie.4
T-A-11Turbokody: dekodowanie.2
T-A-12Zaliczenie formy zajęć.1
30
wykłady
T-W-1Systemy Informacyjne: podstawowe pojęcia i modele systemów informacyjnych, przekształcanie sygnałów w systemach informacyjnych. Optymalizacja systemów informacyjnych: parametry charakteryzujące systemy informacyjne, sformułowanie problemu optymalizacyjnego, systemy adaptacyjne.4
T-W-2Źródła informacji ziarnistej: modele informacji i ich klasyfikacja, modele informacji ziarnistej, zmienne losowe, rozkłady prawdopodobieństw, łańcuchy stochastyczne, łańcuchy Markowa, stacjonarność łańcuchów.4
T-W-3Miara nieokreśloności statystycznej: entropia jednej zmiennej i jej właściwości, entropia wielu zmiennych losowych, entropia ciągów zmiennych losowych. Ilość informacji statystycznej: definicja i właściwości.4
T-W-4Wprowadzenie do teorii niezawodności. Elementy teorii decyzji.4
T-W-5Przetwarzanie informacji: Kodowanie i dekodowanie, podstawowe pojęcia, dekodowanie jednoznaczne, kody blokowe i natychmiastowe2
T-W-6Kody jednoznacznie dekodowalne, kody optymalne, kodowanie Shannona-Fano, kodowanie Huffmana, nadmiar kodu.2
T-W-7Kody liniowe: definicja algebraiczna i własności, kody łączone, kody iterowane, kody Reeda-Mullera. Kody cykliczne: podstawy algebraiczne kodów cyklicznych, wykrywanie błęów w kodach cyklicznych, cykliczne kody Hamminga, kody CRC, korygowanie błędów.4
T-W-8Kody splotowe: definicja, parametry, wielomiany generujące, struktura kodera. Dekodowanie kodów splotowych: definicje i algorytmy Wozencrafta i Viterbiego.4
T-W-9Turbokody: zasada tworzenia, dekodowanie, przeplot.1
T-W-10Zaliczenie formy zajęć.1
30

Obciążenie pracą studenta - formy aktywności

KODForma aktywnościGodziny
ćwiczenia audytoryjne
A-A-1Obecność na zajęciach.30
A-A-2Samodzielne rozwiązywanie zadań.10
A-A-3Przygotowanie do zaliczenia.5
45
wykłady
A-W-1Uczestnictwo w zajęciach.30
A-W-2Samodzielne studiowanie tematyki zajęć.10
A-W-3Przygotowanie do zaliczenia.5
45

Metody nauczania / narzędzia dydaktyczne

KODMetoda nauczania / narzędzie dydaktyczne
M-1Wykład z krótkimi pytaniami kontrolnymi na początku wykładu
M-2Wykład informacyjny
M-3Samodzielne rozwiązywanie ćwiczeń rachunkowych

Sposoby oceny

KODSposób oceny
S-1Ocena podsumowująca: Na podstawie zaliczenia pisemnego wykładów.
S-2Ocena podsumowująca: Na podstawie sprawozdań i kolokwium zaliczającego ćwiczenia audytoryjne.

Zamierzone efekty kształcenia - wiedza

Zamierzone efekty kształceniaOdniesienie do efektów kształcenia dla kierunku studiówOdniesienie do efektów zdefiniowanych dla obszaru kształceniaOdniesienie do efektów kształcenia prowadzących do uzyskania tytułu zawodowego inżynieraCel przedmiotuTreści programoweMetody nauczaniaSposób oceny
TI_2A_D08-ST_W01
Student posiadł wiedzę o podstawowych pojęciach teorii informacji i kodowania.
TI_2A_W01, TI_2A_W06T2A_W01, T2A_W03, T2A_W04, T2A_W07C-3, C-1, C-4T-W-9, T-W-1, T-W-7, T-W-8, T-W-2, T-W-4, T-W-3, T-W-6, T-W-5M-1, M-2S-1, S-2

Zamierzone efekty kształcenia - umiejętności

Zamierzone efekty kształceniaOdniesienie do efektów kształcenia dla kierunku studiówOdniesienie do efektów zdefiniowanych dla obszaru kształceniaOdniesienie do efektów kształcenia prowadzących do uzyskania tytułu zawodowego inżynieraCel przedmiotuTreści programoweMetody nauczaniaSposób oceny
TI_2A_D08-ST_U01
Student potrafi posługiwać się pojęciami i twierdzeniami z zakresu teorii informacji oraz kodowania oraz wykorzystywać je do kodowania i dekodowania ciągów informacyjnych.
TI_2A_U01T2A_U08C-2, C-3, C-4, C-1T-A-4, T-A-3, T-A-5, T-A-2, T-A-7, T-A-6, T-A-10, T-A-1, T-A-9, T-A-11, T-A-8M-1, M-3S-2, S-1

Kryterium oceny - wiedza

Efekt kształceniaOcenaKryterium oceny
TI_2A_D08-ST_W01
Student posiadł wiedzę o podstawowych pojęciach teorii informacji i kodowania.
2,0
3,0Student posiadł wiedzę o podstawowych pojęciach teorii informacji i kodowania.
3,5
4,0
4,5
5,0

Kryterium oceny - umiejętności

Efekt kształceniaOcenaKryterium oceny
TI_2A_D08-ST_U01
Student potrafi posługiwać się pojęciami i twierdzeniami z zakresu teorii informacji oraz kodowania oraz wykorzystywać je do kodowania i dekodowania ciągów informacyjnych.
2,0
3,0Student potrafi posługiwać się pojęciami i twierdzeniami z zakresu teorii informacji oraz kodowania oraz wykorzystywać je do kodowania i dekodowania ciągów informacyjnych.
3,5
4,0
4,5
5,0

Literatura podstawowa

  1. Jan Chojcan, Jerzy Rutkowski, Zbiór zadań z teorii informacji i kodowania., Wydawnictwo Politechniki Śląskiej, Gliwice, 1997
  2. Krzysztof Wesołowski, Podstawy cyfrowych systemów telekomunikacyjnych, Wydawnictwo Komunikacji i Łączności, Warszawa, 2003
  3. Wojciech Sobczak, Elementy teorii informacji, Wiedza powszechna, Warszawa, 1973

Literatura dodatkowa

  1. Thomas M. Cover, Joy A. Thomas, Elements of information theory, Wiley, Hoboken, NJ, 2006
  2. Simon Haykin, Communication systems, Wiley, 2001

Treści programowe - ćwiczenia audytoryjne

KODTreść programowaGodziny
T-A-1Wprowadzenie do ćwiczeń. Przypomienie zagadnień matematycznych niezbędncych do samodzielnego rozwiązywania ćwiczeń.1
T-A-2Wstęp do teorii informacji: informacja, niepewność, entropia, obliczanie entropii.2
T-A-3Przekształcanie sygnałów w systemach informacyjnych. Optymalizacja systemów informacyjnych.4
T-A-4Kanały informacyjne, przepustowość, źródła Markowa.2
T-A-5Kodowanie źródłowe, kody Huffmana, kompresja.2
T-A-6Kody detekcyjne, kody korekcyjne, kody blokowe, kresy.2
T-A-7Kody liniowe, kody Hamminga.2
T-A-8Podstawowe modyfikacje kodów liniowych, kody łączone, kody iterowane, kody Reeda-Mullera, kody wielomianowe.4
T-A-9Poszukiwanie wielomianów generujących kodów cyklicznych, test parzystości kodu cyklicznego, kody sympleksowe, korekcja błędów pojedyńczych.4
T-A-10Kody splotowe: podstawowe parametry, reprezentacja, wykrywanie, dekodowanie.4
T-A-11Turbokody: dekodowanie.2
T-A-12Zaliczenie formy zajęć.1
30

Treści programowe - wykłady

KODTreść programowaGodziny
T-W-1Systemy Informacyjne: podstawowe pojęcia i modele systemów informacyjnych, przekształcanie sygnałów w systemach informacyjnych. Optymalizacja systemów informacyjnych: parametry charakteryzujące systemy informacyjne, sformułowanie problemu optymalizacyjnego, systemy adaptacyjne.4
T-W-2Źródła informacji ziarnistej: modele informacji i ich klasyfikacja, modele informacji ziarnistej, zmienne losowe, rozkłady prawdopodobieństw, łańcuchy stochastyczne, łańcuchy Markowa, stacjonarność łańcuchów.4
T-W-3Miara nieokreśloności statystycznej: entropia jednej zmiennej i jej właściwości, entropia wielu zmiennych losowych, entropia ciągów zmiennych losowych. Ilość informacji statystycznej: definicja i właściwości.4
T-W-4Wprowadzenie do teorii niezawodności. Elementy teorii decyzji.4
T-W-5Przetwarzanie informacji: Kodowanie i dekodowanie, podstawowe pojęcia, dekodowanie jednoznaczne, kody blokowe i natychmiastowe2
T-W-6Kody jednoznacznie dekodowalne, kody optymalne, kodowanie Shannona-Fano, kodowanie Huffmana, nadmiar kodu.2
T-W-7Kody liniowe: definicja algebraiczna i własności, kody łączone, kody iterowane, kody Reeda-Mullera. Kody cykliczne: podstawy algebraiczne kodów cyklicznych, wykrywanie błęów w kodach cyklicznych, cykliczne kody Hamminga, kody CRC, korygowanie błędów.4
T-W-8Kody splotowe: definicja, parametry, wielomiany generujące, struktura kodera. Dekodowanie kodów splotowych: definicje i algorytmy Wozencrafta i Viterbiego.4
T-W-9Turbokody: zasada tworzenia, dekodowanie, przeplot.1
T-W-10Zaliczenie formy zajęć.1
30

Formy aktywności - ćwiczenia audytoryjne

KODForma aktywnościGodziny
A-A-1Obecność na zajęciach.30
A-A-2Samodzielne rozwiązywanie zadań.10
A-A-3Przygotowanie do zaliczenia.5
45
(*) 1 punkt ECTS, odpowiada około 30 godzinom aktywności studenta

Formy aktywności - wykłady

KODForma aktywnościGodziny
A-W-1Uczestnictwo w zajęciach.30
A-W-2Samodzielne studiowanie tematyki zajęć.10
A-W-3Przygotowanie do zaliczenia.5
45
(*) 1 punkt ECTS, odpowiada około 30 godzinom aktywności studenta
PoleKODZnaczenie kodu
Zamierzone efekty kształceniaTI_2A_D08-ST_W01Student posiadł wiedzę o podstawowych pojęciach teorii informacji i kodowania.
Odniesienie do efektów kształcenia dla kierunku studiówTI_2A_W01Ma rozszerzoną i pogłębioną wiedzę z zakresu wybranych metod matematycznych i zna narzędzia informatyczne niezbędne do – jej praktycznego wykorzystania.
TI_2A_W06Ma ugruntowaną i podbudowaną teoretycznie wiedzę z zakresu technologii szerokopasmowej transmisji danych, w tym światłowodowej.
Odniesienie do efektów zdefiniowanych dla obszaru kształceniaT2A_W01ma rozszerzoną i pogłębioną wiedzę z zakresu matematyki, fizyki, chemii i innych obszarów właściwych dla studiowanego kierunku studiów przydatną do formułowania i rozwiązywania złożonych zadań z zakresu studiowanego kierunku studiów
T2A_W03ma uporządkowaną, podbudowaną teoretycznie wiedzę ogólną obejmującą kluczowe zagadnienia z zakresu studiowanego kierunku studiów
T2A_W04ma podbudowaną teoretycznie szczegółową wiedzę związaną z wybranymi zagadnieniami z zakresu studiowanego kierunku studiów
T2A_W07zna podstawowe metody, techniki, narzędzia i materiały stosowane przy rozwiązywaniu złożonych zadań inżynierskich z zakresu studiowanego kierunku studiów
Cel przedmiotuC-3Zapoznanie studenta ze źródłami informacji ziarnistej, miarą nieokreśloności statystycznej, ilością informacji statystycznej.
C-1Zapozananie studenta z podstawowymi pojęciami i modelami systemów informacyjnych, przekształcaniami sygnałów w systemach informacyjnych oraz optymalizacją systemów informacyjnych.
C-4Zapoznanie studenta z podstawowymi pojęciami kodowania informacji oraz z wybranymi metodami kodowania.
Treści programoweT-W-9Turbokody: zasada tworzenia, dekodowanie, przeplot.
T-W-1Systemy Informacyjne: podstawowe pojęcia i modele systemów informacyjnych, przekształcanie sygnałów w systemach informacyjnych. Optymalizacja systemów informacyjnych: parametry charakteryzujące systemy informacyjne, sformułowanie problemu optymalizacyjnego, systemy adaptacyjne.
T-W-7Kody liniowe: definicja algebraiczna i własności, kody łączone, kody iterowane, kody Reeda-Mullera. Kody cykliczne: podstawy algebraiczne kodów cyklicznych, wykrywanie błęów w kodach cyklicznych, cykliczne kody Hamminga, kody CRC, korygowanie błędów.
T-W-8Kody splotowe: definicja, parametry, wielomiany generujące, struktura kodera. Dekodowanie kodów splotowych: definicje i algorytmy Wozencrafta i Viterbiego.
T-W-2Źródła informacji ziarnistej: modele informacji i ich klasyfikacja, modele informacji ziarnistej, zmienne losowe, rozkłady prawdopodobieństw, łańcuchy stochastyczne, łańcuchy Markowa, stacjonarność łańcuchów.
T-W-4Wprowadzenie do teorii niezawodności. Elementy teorii decyzji.
T-W-3Miara nieokreśloności statystycznej: entropia jednej zmiennej i jej właściwości, entropia wielu zmiennych losowych, entropia ciągów zmiennych losowych. Ilość informacji statystycznej: definicja i właściwości.
T-W-6Kody jednoznacznie dekodowalne, kody optymalne, kodowanie Shannona-Fano, kodowanie Huffmana, nadmiar kodu.
T-W-5Przetwarzanie informacji: Kodowanie i dekodowanie, podstawowe pojęcia, dekodowanie jednoznaczne, kody blokowe i natychmiastowe
Metody nauczaniaM-1Wykład z krótkimi pytaniami kontrolnymi na początku wykładu
M-2Wykład informacyjny
Sposób ocenyS-1Ocena podsumowująca: Na podstawie zaliczenia pisemnego wykładów.
S-2Ocena podsumowująca: Na podstawie sprawozdań i kolokwium zaliczającego ćwiczenia audytoryjne.
Kryteria ocenyOcenaKryterium oceny
2,0
3,0Student posiadł wiedzę o podstawowych pojęciach teorii informacji i kodowania.
3,5
4,0
4,5
5,0
PoleKODZnaczenie kodu
Zamierzone efekty kształceniaTI_2A_D08-ST_U01Student potrafi posługiwać się pojęciami i twierdzeniami z zakresu teorii informacji oraz kodowania oraz wykorzystywać je do kodowania i dekodowania ciągów informacyjnych.
Odniesienie do efektów kształcenia dla kierunku studiówTI_2A_U01Wykorzystuje wiedzę z wybranych działów matematyki do: - opisu i analizy zaawansowanych algorytmów przetwarzania i analizy obrazów, - rozwiązywania złożonych problemów z zakresu teleinformatyki i telerobotyki, - optymalizacji transmisji danych.
Odniesienie do efektów zdefiniowanych dla obszaru kształceniaT2A_U08potrafi planować i przeprowadzać eksperymenty, w tym pomiary i symulacje komputerowe, interpretować uzyskane wyniki i wyciągać wnioski
Cel przedmiotuC-2Nauczenie studenta wybranych metod kodowania i dekodowania ciągów informacyjnych.
C-3Zapoznanie studenta ze źródłami informacji ziarnistej, miarą nieokreśloności statystycznej, ilością informacji statystycznej.
C-4Zapoznanie studenta z podstawowymi pojęciami kodowania informacji oraz z wybranymi metodami kodowania.
C-1Zapozananie studenta z podstawowymi pojęciami i modelami systemów informacyjnych, przekształcaniami sygnałów w systemach informacyjnych oraz optymalizacją systemów informacyjnych.
Treści programoweT-A-4Kanały informacyjne, przepustowość, źródła Markowa.
T-A-3Przekształcanie sygnałów w systemach informacyjnych. Optymalizacja systemów informacyjnych.
T-A-5Kodowanie źródłowe, kody Huffmana, kompresja.
T-A-2Wstęp do teorii informacji: informacja, niepewność, entropia, obliczanie entropii.
T-A-7Kody liniowe, kody Hamminga.
T-A-6Kody detekcyjne, kody korekcyjne, kody blokowe, kresy.
T-A-10Kody splotowe: podstawowe parametry, reprezentacja, wykrywanie, dekodowanie.
T-A-1Wprowadzenie do ćwiczeń. Przypomienie zagadnień matematycznych niezbędncych do samodzielnego rozwiązywania ćwiczeń.
T-A-9Poszukiwanie wielomianów generujących kodów cyklicznych, test parzystości kodu cyklicznego, kody sympleksowe, korekcja błędów pojedyńczych.
T-A-11Turbokody: dekodowanie.
T-A-8Podstawowe modyfikacje kodów liniowych, kody łączone, kody iterowane, kody Reeda-Mullera, kody wielomianowe.
Metody nauczaniaM-1Wykład z krótkimi pytaniami kontrolnymi na początku wykładu
M-3Samodzielne rozwiązywanie ćwiczeń rachunkowych
Sposób ocenyS-2Ocena podsumowująca: Na podstawie sprawozdań i kolokwium zaliczającego ćwiczenia audytoryjne.
S-1Ocena podsumowująca: Na podstawie zaliczenia pisemnego wykładów.
Kryteria ocenyOcenaKryterium oceny
2,0
3,0Student potrafi posługiwać się pojęciami i twierdzeniami z zakresu teorii informacji oraz kodowania oraz wykorzystywać je do kodowania i dekodowania ciągów informacyjnych.
3,5
4,0
4,5
5,0