Notizblatt zu Neuronalen Netzen

• HebbscheLernRegel
• BackPropagationLearnig

Ein ungelöstes Problem bei neuronalen Netzen, ist wie man ein Netz, das auf einem lokalen Maximum festsitzt, wieder von dieser Situtation herunter bringt. Oder welchen Startwert man wählen soll, dass ein solcher gefunden wird.

Variante 1: SterbeHilfe: man lässt einige der "Zellen" absterben, bis sich das neuronale Netz neu "organisieren" muss. (http://www.imagination-engines.com/thaler.htm)

Variante 2: SterbeDrohung: Man verwirrt das neuronale Netz bis es bereit ist vom lokalen Maximum runter zu steigen (vgl. ZEN Koans)

Variante 3: ImaginaeresMaximum: man trainiert das neuronale Netz mit imaginären Daten, so dass auch die realen Daten besser werden ... Frage, wie findet man so ein imaginäres Maximum?

Thema OverLearning

Einführungen

• http://wwwmath.uni-muenster.de/SoftComputing/lehre/material/wwwnnscript/startseite.html
• http://www.ifi.unizh.ch/groups/ailab/teaching/NN2000/

-- MarcPilloud - 19 Dec 2002