Drukuj Eksport do pliku (MS Word)
Nazwa przedmiotu:
Sieci neuronowe
Koordynator przedmiotu:
Prof. dr hab. inż. Bohdan Macukow, Prof. dr hab. inż. Jacek Mańdziuk
Status przedmiotu:
Obowiązkowy
Poziom kształcenia:
Studia II stopnia
Program:
Informatyka
Grupa przedmiotów:
Wspólne
Kod przedmiotu:
1120-INMSI-MSP-0003
Semestr nominalny:
1 / rok ak. 2015/2016
Liczba punktów ECTS:
6
Liczba godzin pracy studenta związanych z osiągnięciem efektów uczenia się:
Liczba punktów ECTS na zajęciach wymagających bezpośredniego udziału nauczycieli akademickich:
Język prowadzenia zajęć:
polski
Liczba punktów ECTS, którą student uzyskuje w ramach zajęć o charakterze praktycznym:
Formy zajęć i ich wymiar w semestrze:
  • Wykład45h
  • Ćwiczenia0h
  • Laboratorium0h
  • Projekt30h
  • Lekcje komputerowe0h
Wymagania wstępne:
Programowanie
Limit liczby studentów:
brak limitu
Cel przedmiotu:
Celem jest przekazanie studentom wiedzy o sztucznych sieciach neuronowych wykorzystując wiedzę o układach biologicznych. Po ukończeniu kursu (wykład + projekt laboratoryjny) studenci powinni: - posiadać wiedzę teoretyczną o zasadach budowy i działania podstawowych modeli, - umieć wybrać odpowiednią strukturę do zrealizowania zadanych funkcji, - wybrać właściwe narzędzia programistyczne (języki programowania, pakiety itp.) w celu zrealizowania zadania, - w ramach zespołu dokonać rozdziału zadań na poszczególne osoby, - napisać i przetestować program, - przygotować raport końcowy.
Treści kształcenia:
Wykład: Wiadomości wstępne: rys historyczny badań biocybernetycznych; porównanie funkcjonalne i strukturalne komputerów klasycznych i neurokomputerów, budowa i organizacja systemu nerwowego; komórka nerwowa jej budowa i własności, przekazywanie impulsów w systemie nerwowym; budowa i czynności ośrodkowego układu nerwowego. Komórka nerwowa i jej modele; model Mc Cullocha- Pittsa, sieci modelujące operacje (and, or, torowanie...); symbolika Mc Cullocha. Sieci neuronowe, sieć łańcuchowa i dwu-wymiarowa, połączenia typu hamowanie i pobudzanie oboczne; perceptron Rosenblatta, omówienie algorytmu uczenia; Reguła Delta. Dowód zbieżności procedury uczącej percptronu; model Adaline, opis i dowód zbieżności procedury uczącej. Sieć jako klasyfikator, problem XOR, Tw. Kołmogorowa i wynikające z tego wnioski. Model propagacji wstecznej; sieć Kohonena. Miary odległości; Model Hopfielda, Hopfield a modele fizyczne (szkło spinowe), funkcja energetyczna, zapis i odczyt w sieci, model binarny i ciągły, opis algorytmu, warunki zbieżności, przykłady. Model Hamminga, przykłady; teoria rezonansu adaptacyjnego – model Grossberga/Carpenter (ART), algorytm i przykłady. Model pamięci skojarzeniowej; sieci operacji logicznych. Zastosowanie sieci neuronowych do rozwiązywania zadań algebry macierzowej. Sieci neuronowe do zadań kompresji. Sieci neuronowe komórkowe. Zasady budowy pamięci skojarzeniowych (reguła Hebba, uczenie niehebbowskie, uczenie anty-hebbowskie, reguły perceptronowe, pamięci dwu- i wielokierunkowe). Zastosowanie sieci Hopfielda do rozwiązywania problemów optymalizacyjnych (interpretacja modelu w postaci układu elektrycznego, reprezentacja rozwiązywanego problemu kombinatorycznego, postać funkcji energii sieci, metody doboru współczynników, zalety i ograniczenia, modyfikacje deterministyczne, chaotyczne i stochastyczne, maszyna Boltzmanna, zastosowania akademickie oraz przykłady zastosowań praktycznych). Zastosowanie sieci samoorganizujących się do rozwiązywania problemów optymalizacyjnych (sieć Kohonena, metoda siatki elastycznej). Modyfikacje reguły propagacji wstecznej (momentum, reguła delta-bar-delta, Silva i Alameida, przybliżenie drugich pochodnych). Metody uczenia przyrostowego (motywacja, przykładowe algorytmy). Dobór optymalnej architektury sieci (przeuczenie, zdolność generalizacji, oszacowania liczby neuronów w warstwie ukrytej sieci jednokierunkowej, metody obcinania). Algorytmy konstrukcyjne (kaskadowa korelacja, metody modularne). Systemy hybrydowe neuro-fuzzy i neuro-genetyczne (podstawy teoretyczne, zastosowania praktyczne). Zastosowania sieci neuronowych w zagadnieniach ekonomicznych, finansowych i medycznych. Projekt: Tematyka zajęć obejmuje stworzenie modelu sieci neuronowej dla wybranego zagadnienia z zakresu: zastosowań w ekonomii, klasyfikacji, Support Vector Machine, klasyfikacji przy pomocy sieci radialnych, modelu Kohonena, gry Othello i innych.
Metody oceny:
Do zaliczenia przedmiotu wymagane jest zdanie egzaminu (waga 50%) oraz zaliczenie części praktycznej. Studenci w kilkuosobowych zespołach przygotowują własny model na wybrany temat wraz z przygotowaniem odpowiednich materiałów (waga 50%).
Egzamin:
tak
Literatura:
1. J. Hertz, A. Krogh, R. G. Palmer, Wstęp do teorii obliczeń neuronowych, WNT, 1993. 2. S. Osowski, Sieci neuronowe, OW PW, Warszawa, 1994. 3. T. Kacprzak, K. Ślot, Sieci neuronowe komórkowe, PWN, 1995. 4. T. Masters, Sieci neuronowe w praktyce, WNT, 1996. 5. J. Zurada, M. Barski, W. Jędruch, Sztuczne sieci neuronowe, PWN, 1996. 6. S. Osowski, Sieci neuronowe w ujęciu algorytmicznym, WNT, 1996. 7. D. Rutkowska, M. Piliński, L. Rutkowski, Sieci neuronowe, algorytmy genetyczne i systemy rozmyte, PWN, 1997. 8. S. Osowski, Sieci neuronowe do przetwarzania informacji, OW PW, Warszawa, 2000. 9. J. Mańdziuk, Sieci neuronowe typu Hopfielda, teoria i przykłady zastosowań, AOW EXIT, Warszawa, 2000. 10. B. Borowik, Pamięci asocjacyjne, Mikom, 2002. 11. R. A. Kosiński, Sztuczne sieci neuronowe, WNT, 2002. 12. http://www.mini.pw.edu.pl/~macukow/pl/dydaktyka.html
Witryna www przedmiotu:
mini.pw.edu.pl/~macukow/
Uwagi:

Efekty uczenia się

Profil ogólnoakademicki - wiedza

Efekt W2_01
Zna teoretyczne podstawy działania i modelowania elementów neuropodobnych oraz budowy sieciowych struktur neuronowych
Weryfikacja: egzamin – część pisemna, ew. część ustna
Powiązane efekty kierunkowe: SI_W09, SI_W11
Powiązane efekty obszarowe: ,

Profil ogólnoakademicki - umiejętności

Efekt U2_01
Potrafi przeanalizować zadany układ sieciowy, stworzyć opis jego funkcjonalności, przeprowadzić dowód poprawności działania
Weryfikacja: egzamin – część pisemna, ocena wykonanych projektów
Powiązane efekty kierunkowe: SI_U06, SI_U15
Powiązane efekty obszarowe: ,
Efekt U2_02
Potrafi zaprojektować układ rozwiązujący określony problem posiadający praktyczne znaczenie (np. z obszaru finansów czy klasyfikacji danych)
Weryfikacja: egzamin – część pisemna, ocena wykonanych projektów
Powiązane efekty kierunkowe: SI_U09, SI_U15
Powiązane efekty obszarowe: ,
Efekt U2_03
Potrafi wybrać właściwe narzędzia programistyczne do zamodelowania układu sieciowego o zadanych parametrach
Weryfikacja: zaliczenie projektu
Powiązane efekty kierunkowe: SI_U09
Powiązane efekty obszarowe:
Efekt U2_04
Posiada umiejętność korzystania ze źródeł literaturowych oraz zasobów internetowych dotyczących rozwiązywanego zadania
Weryfikacja: zaliczenie projektu
Powiązane efekty kierunkowe: SI_U01
Powiązane efekty obszarowe:

Profil ogólnoakademicki - kompetencje społeczne

Efekt K2_01
Potrafi pracować indywidualnie i w zespole
Weryfikacja: zaliczenie projektu
Powiązane efekty kierunkowe: SI_K04
Powiązane efekty obszarowe: