Zachodniopomorski Uniwersytet Technologiczny w Szczecinie

Wydział Elektryczny - Teleinformatyka (S2)

Sylabus przedmiotu Teoria informacji i kodowania:

Informacje podstawowe

Kierunek studiów Teleinformatyka
Forma studiów studia stacjonarne Poziom drugiego stopnia
Tytuł zawodowy absolwenta magister
Obszary studiów nauki techniczne, studia inżynierskie
Profil ogólnoakademicki
Moduł
Przedmiot Teoria informacji i kodowania
Specjalność Systemy transmisyjne
Jednostka prowadząca Katedra Inżynierii Systemów, Sygnałów i Elektroniki
Nauczyciel odpowiedzialny Roman Kaszyński <Roman.Kaszynski@zut.edu.pl>
Inni nauczyciele Sławomir Kocoń <Slawomir.Kocon@zut.edu.pl>, Piotr Okoniewski <Piotr.Okoniewski@zut.edu.pl>
ECTS (planowane) 3,0 ECTS (formy) 3,0
Forma zaliczenia zaliczenie Język polski
Blok obieralny Grupa obieralna

Formy dydaktyczne

Forma dydaktycznaKODSemestrGodzinyECTSWagaZaliczenie
ćwiczenia audytoryjneA3 30 1,50,41zaliczenie
wykładyW3 30 1,50,59zaliczenie

Wymagania wstępne

KODWymaganie wstępne
W-1Znajomość podstawowych pojęć z zakresu analizy matematycznej i algebry liniowej.
W-2Znajomość podstawowych pojęć rachunku prawdopodobieństwa.

Cele przedmiotu

KODCel modułu/przedmiotu
C-1Zapozananie studenta z podstawowymi pojęciami i modelami systemów informacyjnych, przekształcaniami sygnałów w systemach informacyjnych oraz optymalizacją systemów informacyjnych.
C-2Nauczenie studenta wybranych metod kodowania i dekodowania ciągów informacyjnych.
C-3Zapoznanie studenta ze źródłami informacji ziarnistej, miarą nieokreśloności statystycznej, ilością informacji statystycznej.
C-4Zapoznanie studenta z podstawowymi pojęciami kodowania informacji oraz z wybranymi metodami kodowania.

Treści programowe z podziałem na formy zajęć

KODTreść programowaGodziny
ćwiczenia audytoryjne
T-A-1Wprowadzenie do ćwiczeń. Przypomienie zagadnień matematycznych niezbędncych do samodzielnego rozwiązywania ćwiczeń.1
T-A-2Wstęp do teorii informacji: informacja, niepewność, entropia, obliczanie entropii.2
T-A-3Przekształcanie sygnałów w systemach informacyjnych.4
T-A-4Kanały informacyjne, przepustowość, źródła Markowa.2
T-A-5Kody Huffmana, kompresja, kody Shannona-Fano2
T-A-6Kody detekcyjne, kody korekcyjne, kody blokowe, kresy.2
T-A-7Kody liniowe, kody Hamminga, CRC2
T-A-8Podstawowe modyfikacje kodów liniowych, kody łączone, kody iterowane, kody Reeda-Mullera, kody wielomianowe.4
T-A-9Poszukiwanie wielomianów generujących kodów cyklicznych, kody sympleksowe, korekcja błędów pojedyńczych.4
T-A-10Kody splotowe4
T-A-11Turbokody2
T-A-12Zaliczenie formy zajęć.1
30
wykłady
T-W-1Systemy Informacyjne: podstawowe pojęcia i modele systemów informacyjnych, przekształcanie sygnałów w systemach informacyjnych. Optymalizacja systemów informacyjnych: parametry charakteryzujące systemy informacyjne, sformułowanie problemu optymalizacyjnego, systemy adaptacyjne.4
T-W-2Źródła informacji ziarnistej: modele informacji i ich klasyfikacja, modele informacji ziarnistej, zmienne losowe, rozkłady prawdopodobieństw, łańcuchy stochastyczne, łańcuchy Markowa, stacjonarność łańcuchów.4
T-W-3Miara nieokreśloności statystycznej: entropia jednej zmiennej i jej właściwości, entropia wielu zmiennych losowych, entropia ciągów zmiennych losowych. Ilość informacji statystycznej: definicja i właściwości.4
T-W-4Wprowadzenie do teorii niezawodności.2
T-W-5Przetwarzanie informacji: Kodowanie i dekodowanie, podstawowe pojęcia, dekodowanie jednoznaczne, kody blokowe i natychmiastowe2
T-W-6Kodowanie Shannona-Fano, kodowanie Huffmana, nadmiar kodu.4
T-W-7Kody liniowe: definicja algebraiczna i własności, kody Reeda-Mullera. Kody cykliczne: podstawy algebraiczne kodów cyklicznych, wykrywanie błęów w kodach cyklicznych, cykliczne kody Hamminga, kody CRC.4
T-W-8Kody splotowe: definicja, parametry, wielomiany generujące, struktura kodera. Dekodowanie kodów splotowych: definicje i algorytmy Wozencrafta i Viterbiego.4
T-W-9Turbokody: zasada tworzenia, dekodowanie, przeplot.1
T-W-10Zaliczenie formy zajęć.1
30

Obciążenie pracą studenta - formy aktywności

KODForma aktywnościGodziny
ćwiczenia audytoryjne
A-A-1Obecność na zajęciach.30
A-A-2Samodzielne rozwiązywanie zadań.10
A-A-3Przygotowanie do zaliczenia.5
45
wykłady
A-W-1Uczestnictwo w zajęciach.30
A-W-2Samodzielne studiowanie tematyki zajęć.10
A-W-3Przygotowanie do zaliczenia.5
45

Metody nauczania / narzędzia dydaktyczne

KODMetoda nauczania / narzędzie dydaktyczne
M-1Wykład z krótkimi pytaniami kontrolnymi na początku wykładu
M-2Wykład informacyjny
M-3Samodzielne rozwiązywanie ćwiczeń rachunkowych

Sposoby oceny

KODSposób oceny
S-1Ocena podsumowująca: Na podstawie zaliczenia pisemnego wykładów.
S-2Ocena podsumowująca: Na podstawie sprawozdań i kolokwium zaliczającego ćwiczenia audytoryjne.

Zamierzone efekty kształcenia - wiedza

Zamierzone efekty kształceniaOdniesienie do efektów kształcenia dla kierunku studiówOdniesienie do efektów zdefiniowanych dla obszaru kształceniaOdniesienie do efektów kształcenia prowadzących do uzyskania tytułu zawodowego inżynieraCel przedmiotuTreści programoweMetody nauczaniaSposób oceny
TI_2A_D08-ST_W01
Student posiadł wiedzę o podstawowych pojęciach teorii informacji i kodowania.
TI_2A_W01, TI_2A_W06C-1, C-4, C-3T-W-3, T-W-4, T-W-1, T-W-2, T-W-6, T-W-5, T-W-7, T-W-8, T-W-9M-1, M-2S-1, S-2

Zamierzone efekty kształcenia - umiejętności

Zamierzone efekty kształceniaOdniesienie do efektów kształcenia dla kierunku studiówOdniesienie do efektów zdefiniowanych dla obszaru kształceniaOdniesienie do efektów kształcenia prowadzących do uzyskania tytułu zawodowego inżynieraCel przedmiotuTreści programoweMetody nauczaniaSposób oceny
TI_2A_D08-ST_U01
Student potrafi posługiwać się pojęciami i twierdzeniami z zakresu teorii informacji oraz kodowania oraz wykorzystywać je do kodowania i dekodowania ciągów informacyjnych.
TI_2A_U01C-1, C-4, C-3, C-2T-A-1, T-A-2, T-A-4, T-A-5, T-A-6, T-A-7, T-A-8, T-A-3, T-A-9, T-A-10, T-A-11M-1, M-3S-1, S-2

Kryterium oceny - wiedza

Efekt kształceniaOcenaKryterium oceny
TI_2A_D08-ST_W01
Student posiadł wiedzę o podstawowych pojęciach teorii informacji i kodowania.
2,0
3,0Student posiadł wiedzę o podstawowych pojęciach teorii informacji i kodowania.
3,5
4,0
4,5
5,0

Kryterium oceny - umiejętności

Efekt kształceniaOcenaKryterium oceny
TI_2A_D08-ST_U01
Student potrafi posługiwać się pojęciami i twierdzeniami z zakresu teorii informacji oraz kodowania oraz wykorzystywać je do kodowania i dekodowania ciągów informacyjnych.
2,0
3,0Student potrafi posługiwać się pojęciami i twierdzeniami z zakresu teorii informacji oraz kodowania oraz wykorzystywać je do kodowania i dekodowania ciągów informacyjnych.
3,5
4,0
4,5
5,0

Literatura podstawowa

  1. Jan Chojcan, Jerzy Rutkowski, Zbiór zadań z teorii informacji i kodowania., Wydawnictwo Politechniki Śląskiej, Gliwice, 1997
  2. Krzysztof Wesołowski, Podstawy cyfrowych systemów telekomunikacyjnych, Wydawnictwo Komunikacji i Łączności, Warszawa, 2003
  3. Wojciech Sobczak, Elementy teorii informacji, Wiedza powszechna, Warszawa, 1973

Literatura dodatkowa

  1. Thomas M. Cover, Joy A. Thomas, Elements of information theory, Wiley, Hoboken, NJ, 2006
  2. Simon Haykin, Communication systems, Wiley, 2001

Treści programowe - ćwiczenia audytoryjne

KODTreść programowaGodziny
T-A-1Wprowadzenie do ćwiczeń. Przypomienie zagadnień matematycznych niezbędncych do samodzielnego rozwiązywania ćwiczeń.1
T-A-2Wstęp do teorii informacji: informacja, niepewność, entropia, obliczanie entropii.2
T-A-3Przekształcanie sygnałów w systemach informacyjnych.4
T-A-4Kanały informacyjne, przepustowość, źródła Markowa.2
T-A-5Kody Huffmana, kompresja, kody Shannona-Fano2
T-A-6Kody detekcyjne, kody korekcyjne, kody blokowe, kresy.2
T-A-7Kody liniowe, kody Hamminga, CRC2
T-A-8Podstawowe modyfikacje kodów liniowych, kody łączone, kody iterowane, kody Reeda-Mullera, kody wielomianowe.4
T-A-9Poszukiwanie wielomianów generujących kodów cyklicznych, kody sympleksowe, korekcja błędów pojedyńczych.4
T-A-10Kody splotowe4
T-A-11Turbokody2
T-A-12Zaliczenie formy zajęć.1
30

Treści programowe - wykłady

KODTreść programowaGodziny
T-W-1Systemy Informacyjne: podstawowe pojęcia i modele systemów informacyjnych, przekształcanie sygnałów w systemach informacyjnych. Optymalizacja systemów informacyjnych: parametry charakteryzujące systemy informacyjne, sformułowanie problemu optymalizacyjnego, systemy adaptacyjne.4
T-W-2Źródła informacji ziarnistej: modele informacji i ich klasyfikacja, modele informacji ziarnistej, zmienne losowe, rozkłady prawdopodobieństw, łańcuchy stochastyczne, łańcuchy Markowa, stacjonarność łańcuchów.4
T-W-3Miara nieokreśloności statystycznej: entropia jednej zmiennej i jej właściwości, entropia wielu zmiennych losowych, entropia ciągów zmiennych losowych. Ilość informacji statystycznej: definicja i właściwości.4
T-W-4Wprowadzenie do teorii niezawodności.2
T-W-5Przetwarzanie informacji: Kodowanie i dekodowanie, podstawowe pojęcia, dekodowanie jednoznaczne, kody blokowe i natychmiastowe2
T-W-6Kodowanie Shannona-Fano, kodowanie Huffmana, nadmiar kodu.4
T-W-7Kody liniowe: definicja algebraiczna i własności, kody Reeda-Mullera. Kody cykliczne: podstawy algebraiczne kodów cyklicznych, wykrywanie błęów w kodach cyklicznych, cykliczne kody Hamminga, kody CRC.4
T-W-8Kody splotowe: definicja, parametry, wielomiany generujące, struktura kodera. Dekodowanie kodów splotowych: definicje i algorytmy Wozencrafta i Viterbiego.4
T-W-9Turbokody: zasada tworzenia, dekodowanie, przeplot.1
T-W-10Zaliczenie formy zajęć.1
30

Formy aktywności - ćwiczenia audytoryjne

KODForma aktywnościGodziny
A-A-1Obecność na zajęciach.30
A-A-2Samodzielne rozwiązywanie zadań.10
A-A-3Przygotowanie do zaliczenia.5
45
(*) 1 punkt ECTS, odpowiada około 30 godzinom aktywności studenta

Formy aktywności - wykłady

KODForma aktywnościGodziny
A-W-1Uczestnictwo w zajęciach.30
A-W-2Samodzielne studiowanie tematyki zajęć.10
A-W-3Przygotowanie do zaliczenia.5
45
(*) 1 punkt ECTS, odpowiada około 30 godzinom aktywności studenta
PoleKODZnaczenie kodu
Zamierzone efekty kształceniaTI_2A_D08-ST_W01Student posiadł wiedzę o podstawowych pojęciach teorii informacji i kodowania.
Odniesienie do efektów kształcenia dla kierunku studiówTI_2A_W01Ma rozszerzoną i pogłębioną wiedzę z zakresu wybranych metod matematycznych i zna narzędzia informatyczne niezbędne do – jej praktycznego wykorzystania.
TI_2A_W06Ma ugruntowaną i podbudowaną teoretycznie wiedzę z zakresu technologii szerokopasmowej transmisji danych, w tym światłowodowej.
Cel przedmiotuC-1Zapozananie studenta z podstawowymi pojęciami i modelami systemów informacyjnych, przekształcaniami sygnałów w systemach informacyjnych oraz optymalizacją systemów informacyjnych.
C-4Zapoznanie studenta z podstawowymi pojęciami kodowania informacji oraz z wybranymi metodami kodowania.
C-3Zapoznanie studenta ze źródłami informacji ziarnistej, miarą nieokreśloności statystycznej, ilością informacji statystycznej.
Treści programoweT-W-3Miara nieokreśloności statystycznej: entropia jednej zmiennej i jej właściwości, entropia wielu zmiennych losowych, entropia ciągów zmiennych losowych. Ilość informacji statystycznej: definicja i właściwości.
T-W-4Wprowadzenie do teorii niezawodności.
T-W-1Systemy Informacyjne: podstawowe pojęcia i modele systemów informacyjnych, przekształcanie sygnałów w systemach informacyjnych. Optymalizacja systemów informacyjnych: parametry charakteryzujące systemy informacyjne, sformułowanie problemu optymalizacyjnego, systemy adaptacyjne.
T-W-2Źródła informacji ziarnistej: modele informacji i ich klasyfikacja, modele informacji ziarnistej, zmienne losowe, rozkłady prawdopodobieństw, łańcuchy stochastyczne, łańcuchy Markowa, stacjonarność łańcuchów.
T-W-6Kodowanie Shannona-Fano, kodowanie Huffmana, nadmiar kodu.
T-W-5Przetwarzanie informacji: Kodowanie i dekodowanie, podstawowe pojęcia, dekodowanie jednoznaczne, kody blokowe i natychmiastowe
T-W-7Kody liniowe: definicja algebraiczna i własności, kody Reeda-Mullera. Kody cykliczne: podstawy algebraiczne kodów cyklicznych, wykrywanie błęów w kodach cyklicznych, cykliczne kody Hamminga, kody CRC.
T-W-8Kody splotowe: definicja, parametry, wielomiany generujące, struktura kodera. Dekodowanie kodów splotowych: definicje i algorytmy Wozencrafta i Viterbiego.
T-W-9Turbokody: zasada tworzenia, dekodowanie, przeplot.
Metody nauczaniaM-1Wykład z krótkimi pytaniami kontrolnymi na początku wykładu
M-2Wykład informacyjny
Sposób ocenyS-1Ocena podsumowująca: Na podstawie zaliczenia pisemnego wykładów.
S-2Ocena podsumowująca: Na podstawie sprawozdań i kolokwium zaliczającego ćwiczenia audytoryjne.
Kryteria ocenyOcenaKryterium oceny
2,0
3,0Student posiadł wiedzę o podstawowych pojęciach teorii informacji i kodowania.
3,5
4,0
4,5
5,0
PoleKODZnaczenie kodu
Zamierzone efekty kształceniaTI_2A_D08-ST_U01Student potrafi posługiwać się pojęciami i twierdzeniami z zakresu teorii informacji oraz kodowania oraz wykorzystywać je do kodowania i dekodowania ciągów informacyjnych.
Odniesienie do efektów kształcenia dla kierunku studiówTI_2A_U01Wykorzystuje wiedzę z wybranych działów matematyki do: - opisu i analizy zaawansowanych algorytmów przetwarzania i analizy obrazów, - rozwiązywania złożonych problemów z zakresu teleinformatyki i telerobotyki, - optymalizacji transmisji danych.
Cel przedmiotuC-1Zapozananie studenta z podstawowymi pojęciami i modelami systemów informacyjnych, przekształcaniami sygnałów w systemach informacyjnych oraz optymalizacją systemów informacyjnych.
C-4Zapoznanie studenta z podstawowymi pojęciami kodowania informacji oraz z wybranymi metodami kodowania.
C-3Zapoznanie studenta ze źródłami informacji ziarnistej, miarą nieokreśloności statystycznej, ilością informacji statystycznej.
C-2Nauczenie studenta wybranych metod kodowania i dekodowania ciągów informacyjnych.
Treści programoweT-A-1Wprowadzenie do ćwiczeń. Przypomienie zagadnień matematycznych niezbędncych do samodzielnego rozwiązywania ćwiczeń.
T-A-2Wstęp do teorii informacji: informacja, niepewność, entropia, obliczanie entropii.
T-A-4Kanały informacyjne, przepustowość, źródła Markowa.
T-A-5Kody Huffmana, kompresja, kody Shannona-Fano
T-A-6Kody detekcyjne, kody korekcyjne, kody blokowe, kresy.
T-A-7Kody liniowe, kody Hamminga, CRC
T-A-8Podstawowe modyfikacje kodów liniowych, kody łączone, kody iterowane, kody Reeda-Mullera, kody wielomianowe.
T-A-3Przekształcanie sygnałów w systemach informacyjnych.
T-A-9Poszukiwanie wielomianów generujących kodów cyklicznych, kody sympleksowe, korekcja błędów pojedyńczych.
T-A-10Kody splotowe
T-A-11Turbokody
Metody nauczaniaM-1Wykład z krótkimi pytaniami kontrolnymi na początku wykładu
M-3Samodzielne rozwiązywanie ćwiczeń rachunkowych
Sposób ocenyS-1Ocena podsumowująca: Na podstawie zaliczenia pisemnego wykładów.
S-2Ocena podsumowująca: Na podstawie sprawozdań i kolokwium zaliczającego ćwiczenia audytoryjne.
Kryteria ocenyOcenaKryterium oceny
2,0
3,0Student potrafi posługiwać się pojęciami i twierdzeniami z zakresu teorii informacji oraz kodowania oraz wykorzystywać je do kodowania i dekodowania ciągów informacyjnych.
3,5
4,0
4,5
5,0