Übung 6

1. Juni 2001 (Abgabe 11. Juni 2001)

Aufgabe 1 (5 Punkte)

   a)Implementieren Sie den Online Backpropagation-Algorithmus für ein Netz mit einer verdeckten Schicht.

   b)Implementieren Sie den Batch Backpropagation-Algorithmus für ein Netz mit einer verdeckten Schicht.

   c)Implementieren Sie den R-Prop Backpropagation-Algorithmus für ein Netz mit einer verdeckten Schicht.

Aufgabe 2 (5 Punkte)

Trainieren sie das 8-3-8 Encoder-Decoder-Problem mit den drei in Aufgabe 1 programmierten Verfahren. Führen Sie mehrer Versuche durch und vergleichen Sie den Lernaufwand.

Was ist das 8-3-8 Encoder-Decoder-Problem? Es gibt 8 Eingabe-Neuronen, 8 Ausgabe-Neuronen und 3 Neuronen in der verdeckten Schicht. Bei den Mustern der Eingaben ist immer genau ein Neuron an und alle anderen Neuronen aus. In der Ausgabeschicht sollen die Eingaben rekonstruiert werden.

Die Gewichte von der Eingabe zur verdeckten Schicht kodieren (komprimieren) also die Eingabe auf 3 Neuronen und die Gewichte von der verdeckten Schicht zur Ausgabe dekodieren (dekomprimieren) die ursrüngliche Eingabe zur Ausgabe.

Aufgabe 3 [alternativ zu Aufgabe 2] (6 Punkte)

Trainieren sie ein Netz zur Erkennung handgeschriebener Ziffern mit dem R-Prop Algorithmus. Wie hoch ist die Erkennungsrate?

Hier gibts die Daten. Die Ziffern sind durch Punktkoordinaten beschrieben, die den Linienzug der Ziffern beschreiben. Sie sind von der in der Vorlesung erwähnten Machine Learning Repository Seite.

Sie können die Koordinaten auch in Richtungs-Längen-Koordinaten umwandeln und testen ob die Erkennungsrate besser wird.