19520 V Neuronale Netze (2,N) |
|
Anmeldung
Bitte per Web-Formular anmelden.
Zeit
Fr 8:30 (s.t.) - 10:00 (s.t.), ab 20.04.
Ort
Takustraße 9, SR 046 manchmal auch K 40
Sprechstunde
n. V.
Inhalt
- Definition von neuronalen Netzen und Einführung
- Schwellenwertlogik (McCulloch-Pitts-Netze)
- Perzeptrone
- Netze mit mehreren Schichten
- Backpropagation
- Statistische Eigenschaften von neuronalen Netzen
- Assotiativspeicher
- Stochastische Netze
- Realisierung
Vorlesung Online
Die Vorlesung wird mit einer elektronischen Tafel gehalten und kann im
Internet nachträglich angesehen werden. Leider funktioniert die "Techno-Keide",
wie sie in der BZ bezeichnet wurde, nur mit dem Internet Explorer vernünftig.
Zum Mitnehmen (neu)
Alle Vorlesungen gibt es auch als Zip-Dateien zum Herunterladen (11-46MB pro
Vorlesung) und zu Hause angucken. Die Dateien befinden sich hier und heißen
lectureX.zip, wobei X durch die Nummer der Vorlesungsaufzeichnung zu ersetzen ist.
Literatur
Basis der Vorlesung
-
Rojas, Raúl: Neuronal Networks, Springer Verliag, 1996.
-
Rojas, Raúl: Theorie der Neuronalen Netze, Springer Verliag, 1993. (Deutsche Ausgabe, jedoch nicht so umfangreich.)
Andere Schwerpunkte
- Patterson, Dan W.: Artificial Neural Networks - Theory and Applications,
Prentice Hall, 1996.
Mathematischer Inhalt ohne Pseudocode. Deckt viele Modelle ab. Eine kurze Einführung im Stochastik,
Mustererkennung und Informationstheorie wird auch gegeben. Diese aber
auf dem untersten Level. Zum Beispiel wird auf zwei Seiten ausführich erklärt
was ein Integral ist. Die Beispiele sind
recht einfach. Auf Optimierung (leider) und Hardware (zum Glück) wird nicht
eingegangen. Positiv: Man merkt dem Buch an, daß es noch nicht so alt ist.
-
Freeman, James A.;Skapura, David M.: Neural Networks - Algorithms, Applications,
and Programming Techniques, Computation And Neural Systems Series (Ed. Christof
Koch), Addison-Wesley, 1992.
Mit (einfachen) Beispielen aus der Praxis und Pseudocode (Syntax an Modula
angelehnt). Man sieht dem Buch sein alter an: Neuere Verfahren und Optimierungen
kommen nicht vor.
-
Zell, Andreas: Simulation Neuronaler Netze, Addison-Wesley, 1994.
Anschauliche und Systematische Einführung in diverse Netztypen. Auf
Beschleunigungsverfahren wird eingegangen. Auch Leistungen von Verfahren sowie
Rechnern (auch speziellen Neuro-Computern) werden verglichen. Etwa 1/3 des
Buches besteht aus der Beschreibung vorhandener
Simulationssoftware. Insbesondere auf den SNNS (Stuttgarter Neuronale Netze
Simulator) wird ausführlich eingegangen. Dies ist jedoch nicht verwunderlich,
denn Zell ist einer der Programmierer des SNNS.
-
Schöneburg, Eberhard (Hrsg.): Industrielle Anwendung Neuronaler Netze,
Addison-Wesley, 1993.
Sehr bespielbezogener, sehr oberflächlicher Inhalt. Das Buch gibt keinen
Einblich in die Theorie, wie aus dem Titel schon hervorgeht. Es wird Software auf einer
Diskette mitgeliefert. Auf die Software wird im Buch natürlich eingegangen. Über
Hardware wird auch etwas erzählt.
-
Ritter, Helge (und andere): Neuronale Nezte, Addison-Wesley,1994.
Allumfassend. Geht zum Glück nicht auf (heute veraltete) Hardware ein, einen
großen Teil nehmen SOMs (Selbstorganisierende Karten) ein, viele
Praxisbeispiele und verständlich zu lesen.
-
Hertz, John; Krogh, Anders; Palmer, Richard G.: Introduction to the Theory of
Neural Computation, Addison-Wesley, 1991.
Sehr umfangreich, viele Modelle, sehr mathematisch, wenig Beispiele, keine
Algorithmen und auch (zum Glück) keine Hardware. Extrem viele Lieraturangaben.
Kommentare und Vorstellung anderen Bücher erwünscht.
Mailingliste
Es gibt eine Mailingliste zur Vorlesung Neuronale Netze beim Spline. Wer sich
noch nicht angemeldet hat, zum Beispiel nach der Vorlesungsanmeldung, sollte
sich also registrieren.
Übungen
Die Übungen finden ab dem 30. April jeden Montag um 14 Uhr c.t. in Raul 111 im Pi-Gebäude (Mathematik) statt. Die Übung ist zweistündig.
Übungsblätter
Neue Übungsblätter gibt es immer freitags (nicht direkt nach der
Vorlesung) und müssen spätestens am übernächsten Montag in der Übung abgegeben
werden.
- 1. Übungszettel (Ausgabe 27. April, Abgabe 7. Mai)
- 2. Übungszettel (Ausgabe 4. Mai, Abgabe 14. Mai)
- 3. Übungszettel (Ausgabe 4. Mai, Abgabe 21. Mai)
- 4. Übungszettel (Ausgabe 18. Mai, Abgabe 28. Mai)
- 5. Übungszettel (Ausgabe 25. Mai, Abgabe 5. Juni)
- 6. Übungszettel (Ausgabe 1. Juni, Abgabe 11. Juni)
- 7. Übungszettel (Ausgabe 8. Juni, Abgabe 18. Juni)
- 8. Übungszettel (Ausgabe 15. Juni, Abgabe 25. Juni)
- 9. Übungszettel (Ausgabe 22. Juni, Abgabe 2. Juli)
- 10. Übungszettel (Ausgabe 29. Juni, Abgabe 9. Juli)
Scheinkriterien
Es müssen 60% der Punkte aller Übungszettel erreicht und n-1
Übungszettel bearbeitet werden, um an der Klausur teilnehmen zu dürfen.
Die Übungen dürfen in Zweiergruppen bearbeitet werden. Für die nicht
rechtzeitige Abgabe von Übungen gibt es 10% Punktabzug pro Tag!
Die Scheine werden benotet. Wer die Klausur besteht (Note 4 oder besser) bekommt
einen Schein mit der Note der Klausur.
Klausur
Die Klausur findet am 19. Juli 2001 (Donnerstag) in Raum 032 (Pi-Gebäude) von 14:00 - 16:00 statt.
Entscheidend für die Scheinnote ist
ausschließlich die Klausur.
Wenn es eine Nachklausur oder mündliche Prüfung geben sollte, dann am
12. Oktober 2001 um/ab 10:00 Uhr. Dabei geht es dann allerdings nur um bestanden
(Note 4, ist dann auch Scheinnote) oder nicht bestanden. Wenn ein Attest für
den Klausurtag vorlag, geht es auch um bessere Noten.
Matlab
Beispiel
Wie versprochen den Quellcode zur Aufgabe 3 der 1. Übung in Matlab. Die
Kommentare sind sehr spärlich, aber wir hatten ja alles schon im Tutorum
besprochen. Die wenig kommentierte Version soll eigendlich auch nur zeigen, daß
die Lösung in Matlab sehr kompakt ist. Es gibt natürlich auch noch eine
ausführlicher kommentierte Version.
Programm
Am Fachbereich
ist Matlab in mehreren Versionen unter Solaris installiert.
Oft startet die
Version 5.2 automatisch. Die Version 6.0 (/import/matlab6r12/bin/matlab) ist aber viel schöner, denn sie hat
eine IDE mit eingebautem Editor, Online-Dokumentation usw..
Das Dokument
/import/matlab6r12/help/pdf_doc/matlab/getstart.pdf gibt eine gute
Einführung in die Sprache von Matlab. Eine sehr kurze Einführung gibt es auch.
Alternative
Es gibt einen GNU-Clone von Matlab. Er nennt sich Octave, ist in (fast)
jeder Linux-Distribution dabei und unterscheidet sich nur sehr wenig vom Orginal
(bis auf den Preis). Es gibt aber auch Versionen für Windows und
andere exotische Systeme. Als schneller Download ist ein FTP-Server einer
deutschen UNI empfehlenswert. Die Dokumentation gibt es auch Online.
Weitere nützliche Programme im Zusammenhang mit Octave (die es auch für Windows gibt):
- Octave benutzt für die grafische Ausgabe Gnuplot.
- Da keine IDE wie in dem neuen Matlab existiert gibt es einen Octave-Mode und
einen Matlab-Mode
(ftp)
für Emacs.
- Matlab Quellcode kann man schön mit Enscript ausdrucken.
Octave ist auch auf den Solaris-Rechnern im Fachbereich installiert (/import/octave/). Bei mir
funktioniert es nicht. Also diesbezüglich bitte keine Fragen per Mail schicken,
sondern nur Antworten. Wie auch immer, Matlab läuft und das gut.
Weitere Links
letzte Änderung am 27. Mai 2002 (Alexander Gloye)