Politechnika
Warszawska

Katalog
ECTS

Nazwa przedmiotu:

Sieci neuronowe

Koordynator przedmiotu:

Prof. dr hab. inż. Bohdan Macukow, Prof. dr hab. inż. Jacek Mańdziuk

Status przedmiotu:

Obowiązkowy

Poziom kształcenia:

Studia II stopnia

Program:

Informatyka i Systemy Informacyjne

Grupa przedmiotów:

Wspólne

Kod przedmiotu:

1120-INMSI-MSP-0113

Semestr nominalny:

2 / rok ak. 2023/2024

Liczba punktów ECTS:

5

Liczba godzin pracy studenta związanych z osiągnięciem efektów uczenia się:

1. godziny kontaktowe – 62 h; w tym a) obecność na wykładach – 30 h b) obecność na zajęciach projektowych – 30 h c) obecność na egzaminie – 2 h 2. praca własna studenta – 70 h; w tym a) zapoznanie się z literaturą – 15 h b) przygotowanie do zajęć projektowych – 35 h d) przygotowanie raportu – 10 h e) przygotowanie do egzaminu – 10 h Razem 132 h, co odpowiada 5 pkt. ECTS

Liczba punktów ECTS na zajęciach wymagających bezpośredniego udziału nauczycieli akademickich:

1. obecność na wykładach – 30 h 2. obecność na zajęciach projektowych – 30 h 3. obecność na egzaminie – 2 h Razem: 62 h., co odpowiada 2 punktom ECTS

Język prowadzenia zajęć:

polski

Liczba punktów ECTS, którą student uzyskuje w ramach zajęć o charakterze praktycznym:

1. obecność na zajęciach projektowych – 30 h 2. przygotowanie do zajęć projektowych – 35 h Razem 65 h, co odpowiada 2 pkt. ECTS

Formy zajęć i ich wymiar w semestrze:

• Wykład30h
• Ćwiczenia0h
• Laboratorium0h
• Projekt30h
• Lekcje komputerowe0h

Wymagania wstępne:

Programowanie

Limit liczby studentów:

brak limitu

Cel przedmiotu:

Celem jest przekazanie studentom wiedzy o sztucznych sieciach neuronowych wykorzystując wiedzę o układach biologicznych. Po ukończeniu kursu (wykład + projekt laboratoryjny) studenci powinni: - posiadać wiedzę teoretyczną o zasadach budowy i działania podstawowych modeli sieci neuronowych, - umieć wybrać odpowiednią strukturę neuronową do zrealizowania rozważanego problemu, - wybrać właściwe narzędzia programistyczne (języki programowania, pakiety itp.) w celu zrealizowania zadania, - w ramach zespołu dokonać rozdziału zadań na poszczególne osoby, - napisać i przetestować program, - wyciągnąć wnioski odnośnie skuteczności sieci, jej prawidłowej parametryzacji oraz silnych i słabych stron zaimplementowanego rozwiązania, - przygotować raport końcowy.

Treści kształcenia:

Wykład: Rys historyczny dziedziny sieci neuronowych Komórka nerwowa i jej modele; Perceptron Rosenblatta, omówienie algorytmu uczenia; Reguła Delta. Dowód zbieżności procedury uczącej percptronu; model Adaline, opis i dowód zbieżności procedury uczącej. Sieć jako klasyfikator, problem XOR, Tw. Kołmogorowa i wynikające z tego wnioski. Model propagacji wstecznej; sieć Kohonena. Miary odległości; Model Hamminga, przykłady; teoria rezonansu adaptacyjnego – model Grossberga/Carpenter (ART), algorytm i przykłady. Model pamięci skojarzeniowej; sieci operacji logicznych. Zastosowanie sieci neuronowych do rozwiązywania zadań algebry macierzowej. Sieci neuronowe do zadań kompresji. Sieci neuronowe komórkowe. Zasady budowy pamięci skojarzeniowych (reguła Hebba, uczenie niehebbowskie, uczenie anty-hebbowskie, reguły perceptronowe, pamięci dwukierunkowe. Zastosowanie sieci Hopfielda i sieci samoorganizujących się do rozwiązywania problemów optymalizacyjnych. Modyfikacje reguły propagacji wstecznej. Dobór optymalnej architektury sieci MLP (przeuczenie, zdolność generalizacji, oszacowania liczby neuronów w warstwie ukrytej sieci jednokierunkowej, metody obcinania). Algorytmy konstrukcyjne (kaskadowa korelacja, metody modularne). Systemy hybrydowe neuro-fuzzy i neuro-genetyczne (podstawy teoretyczne, zastosowania praktyczne). Zastosowania sieci neuronowych w zagadnieniach ekonomicznych, finansowych i medycznych. Projekt: W ramach projektu studenci w dwuosobowych zespołach realizują dwa zadania polegające na implementacji, testowaniu oraz ewaluacji wybranych modeli sieci neuronowych.

Metody oceny:

Do zaliczenia przedmiotu wymagane jest zdanie egzaminu (waga 60%) oraz zaliczenie części projektowej (waga 40%).

Egzamin:

tak

Literatura:

1. Wybrane artykuły z czasopism IEEE TNNLS oraz Information Sciences. 2. Wybrane prace z konferencji NIPS, IJCAI, AAAI, ICONIP, IJCNN, ICML, ... 3. S. Osowski, Sieci neuronowe do przetwarzania informacji, OW PW Warszawa 2000. 4. J. Mańdziuk Sieci neuronowe typu Hopfielda, teoria i przykłady zastosowań, AOW EXIT, Warszawa 2000. 5. R.A. Kosiński Sztuczne sieci neuronowe, WNT 2002. 6. http://www.mini.pw.edu.pl/~macukow/pl/dydaktyka.html.

Witryna www przedmiotu:

mini.pw.edu.pl/~macukow/

Uwagi:

Efekty uczenia się

Profil ogólnoakademicki - wiedza

Charakterystyka W01

Zna teoretyczne podstawy działania i modelowania elementów neuropodobnych oraz budowy sieciowych struktur neuronowych
Weryfikacja: ocena egzamin – część pisemna, ew. część ustna
Powiązane charakterystyki kierunkowe: I2_W02, I2SI_W02, I2SI_W04
Powiązane charakterystyki obszarowe: P7U_W, I.P7S_WG.o

Charakterystyka W02

Zna sposoby testowania skuteczności sieci neuronowych
Weryfikacja: .
Powiązane charakterystyki kierunkowe: I2SI_W01, I2SI_W05
Powiązane charakterystyki obszarowe:

Profil ogólnoakademicki - umiejętności

Charakterystyka U01

Potrafi przeanalizować zadany układ sieciowy, stworzyć opis jego funkcjonalności, przeprowadzić dowód poprawności działania
Weryfikacja: ocena egzaminu – część pisemna, ocena projektu
Powiązane charakterystyki kierunkowe: I2_U07, I2_U08, I2SI_U01
Powiązane charakterystyki obszarowe:

Charakterystyka U02

Potrafi zaprojektować układ rozwiązujący określony problem posiadający praktyczne znaczenie (np. z obszaru finansów czy klasyfikacji danych)
Weryfikacja: ocena egzaminu – część pisemna, ocena projektu
Powiązane charakterystyki kierunkowe: I2SI_U07, I2SI_U08, I2_U02, I2SI_U01
Powiązane charakterystyki obszarowe:

Charakterystyka U03

Potrafi wybrać właściwe narzędzia programistyczne do zamodelowania układu sieciowego o zadanych parametrach, uwzględnia przy tym możliwości procesorów GPU i narzędzia dla nich istniejące
Weryfikacja: ocena projektu
Powiązane charakterystyki kierunkowe: I2_U03, I2_U04
Powiązane charakterystyki obszarowe:

Charakterystyka U04

Posiada umiejętność korzystania ze źródeł literaturowych oraz zasobów internetowych dotyczących rozwiązywanego zadania
Weryfikacja: ocena projektu
Powiązane charakterystyki kierunkowe: I2_U01
Powiązane charakterystyki obszarowe:

Charakterystyka U05

Potrafi pracować indywidualnie i w zespole
Weryfikacja: ocena projektu
Powiązane charakterystyki kierunkowe: I2_U11
Powiązane charakterystyki obszarowe:

Profil ogólnoakademicki - kompetencje społeczne

Charakterystyka K01

Ma świadomość odpowiedzialności za wspólnie realizowane zadania.
Weryfikacja: ocena projektu
Powiązane charakterystyki kierunkowe: I2_K05
Powiązane charakterystyki obszarowe: