Nazwa przedmiotu:
Sieci neuronowe
Koordynator przedmiotu:
Prof. dr hab. inż. Bohdan Macukow, Prof. dr hab. inż. Jacek Mańdziuk
Status przedmiotu:
Obowiązkowy
Poziom kształcenia:
Studia II stopnia
Program:
Informatyka i Systemy Informacyjne
Grupa przedmiotów:
Wspólne
Kod przedmiotu:
1120-INMSI-MSP-0003
Semestr nominalny:
2 / rok ak. 2021/2022
Liczba punktów ECTS:
5
Liczba godzin pracy studenta związanych z osiągnięciem efektów uczenia się:
.
Liczba punktów ECTS na zajęciach wymagających bezpośredniego udziału nauczycieli akademickich:
.
Język prowadzenia zajęć:
polski
Liczba punktów ECTS, którą student uzyskuje w ramach zajęć o charakterze praktycznym:
.
Formy zajęć i ich wymiar w semestrze:
  • Wykład30h
  • Ćwiczenia0h
  • Laboratorium0h
  • Projekt30h
  • Lekcje komputerowe0h
Wymagania wstępne:
Programowanie
Limit liczby studentów:
brak limitu
Cel przedmiotu:
Celem jest przekazanie studentom wiedzy o sztucznych sieciach neuronowych wykorzystując wiedzę o układach biologicznych. Po ukończeniu kursu (wykład + projekt laboratoryjny) studenci powinni: - posiadać wiedzę teoretyczną o zasadach budowy i działania podstawowych modeli sieci neuronowych, - umieć wybrać odpowiednią strukturę neuronową do zrealizowania rozważanego problemu, - wybrać właściwe narzędzia programistyczne (języki programowania, pakiety itp.) w celu zrealizowania zadania, - w ramach zespołu dokonać rozdziału zadań na poszczególne osoby, - napisać i przetestować program, - wyciągnąć wnioski odnośnie skuteczności sieci, jej prawidłowej parametryzacji oraz silnych i słabych stron zaimplementowanego rozwiązania, - przygotować raport końcowy.
Treści kształcenia:
Wykład: Rys historyczny dziedziny sieci neuronowych Komórka nerwowa i jej modele; Perceptron Rosenblatta, omówienie algorytmu uczenia; Reguła Delta. Dowód zbieżności procedury uczącej percptronu; model Adaline, opis i dowód zbieżności procedury uczącej. Sieć jako klasyfikator, problem XOR, Tw. Kołmogorowa i wynikające z tego wnioski. Model propagacji wstecznej; sieć Kohonena. Miary odległości; Model Hamminga, przykłady; teoria rezonansu adaptacyjnego – model Grossberga/Carpenter (ART), algorytm i przykłady. Model pamięci skojarzeniowej; sieci operacji logicznych. Zastosowanie sieci neuronowych do rozwiązywania zadań algebry macierzowej. Sieci neuronowe do zadań kompresji. Sieci neuronowe komórkowe. Zasady budowy pamięci skojarzeniowych (reguła Hebba, uczenie niehebbowskie, uczenie anty-hebbowskie, reguły perceptronowe, pamięci dwukierunkowe. Zastosowanie sieci Hopfielda i sieci samoorganizujących się do rozwiązywania problemów optymalizacyjnych. Modyfikacje reguły propagacji wstecznej. Dobór optymalnej architektury sieci MLP (przeuczenie, zdolność generalizacji, oszacowania liczby neuronów w warstwie ukrytej sieci jednokierunkowej, metody obcinania). Algorytmy konstrukcyjne (kaskadowa korelacja, metody modularne). Systemy hybrydowe neuro-fuzzy i neuro-genetyczne (podstawy teoretyczne, zastosowania praktyczne). Zastosowania sieci neuronowych w zagadnieniach ekonomicznych, finansowych i medycznych. Projekt: W ramach projektu studenci w dwuosobowych zespołach realizują dwa zadania polegające na implementacji, testowaniu oraz ewaluacji wybranych modeli sieci neuronowych.
Metody oceny:
Do zaliczenia przedmiotu wymagane jest zdanie egzaminu (waga 60%) oraz zaliczenie części projektowej (waga 40%).
Egzamin:
tak
Literatura:
1. Wybrane artykuły z czasopism IEEE TNNLS oraz Information Sciences. 2. Wybrane prace z konferencji NIPS, IJCAI, AAAI, ICONIP, IJCNN, ICML, ... 3. S. Osowski, Sieci neuronowe do przetwarzania informacji, OW PW Warszawa 2000. 4. J. Mańdziuk Sieci neuronowe typu Hopfielda, teoria i przykłady zastosowań, AOW EXIT, Warszawa 2000. 5. R.A. Kosiński Sztuczne sieci neuronowe, WNT 2002. 6. http://www.mini.pw.edu.pl/~macukow/pl/dydaktyka.html.
Witryna www przedmiotu:
mini.pw.edu.pl/~macukow/
Uwagi:

Efekty uczenia się

Profil ogólnoakademicki - wiedza

Charakterystyka W01
Zna teoretyczne podstawy działania i modelowania elementów neuropodobnych oraz budowy sieciowych struktur neuronowych
Weryfikacja: ocena egzamin – część pisemna, ew. część ustna
Powiązane charakterystyki kierunkowe: I2_W02, I2SI_W03, I2SI_W04, I2SI_W05
Powiązane charakterystyki obszarowe: P7U_W, I.P7S_WG.o

Profil ogólnoakademicki - umiejętności

Charakterystyka U01
Potrafi przeanalizować zadany układ sieciowy, stworzyć opis jego funkcjonalności, przeprowadzić dowód poprawności działania
Weryfikacja: ocena egzaminu – część pisemna, ocena projektu
Powiązane charakterystyki kierunkowe: I2_U02, I2SI_U01
Powiązane charakterystyki obszarowe:
Charakterystyka U02
Potrafi zaprojektować układ rozwiązujący określony problem posiadający praktyczne znaczenie (np. z obszaru finansów czy klasyfikacji danych)
Weryfikacja: ocena egzaminu – część pisemna, ocena projektu
Powiązane charakterystyki kierunkowe: I2_U03, I2_U07, I2SI_U01, I2SI_U08
Powiązane charakterystyki obszarowe:
Charakterystyka U03
Potrafi wybrać właściwe narzędzia programistyczne do zamodelowania układu sieciowego o zadanych parametrach, uwzględnia przy tym możliwości procesorów GPU i narzędzia dla nich istniejące
Weryfikacja: ocena projektu
Powiązane charakterystyki kierunkowe: I2_U02, I2_U08
Powiązane charakterystyki obszarowe:
Charakterystyka U04
Posiada umiejętność korzystania ze źródeł literaturowych oraz zasobów internetowych dotyczących rozwiązywanego zadania
Weryfikacja: ocena projektu
Powiązane charakterystyki kierunkowe: I2_U01
Powiązane charakterystyki obszarowe:
Charakterystyka U05
Potrafi pracować indywidualnie i w zespole
Weryfikacja: ocena projektu
Powiązane charakterystyki kierunkowe: I2_U11
Powiązane charakterystyki obszarowe:

Profil ogólnoakademicki - kompetencje społeczne

Charakterystyka K01
Ma świadomość odpowiedzialności za wspólnie realizowane zadania w ramach pracy zespołowej
Weryfikacja: ocena projektu
Powiązane charakterystyki kierunkowe: I2_K05
Powiązane charakterystyki obszarowe: