Praxiseinstieg Machine Learning mit Scikit-Learn, Keras und TensorFlow, 2nd Edition

KAPITEL 11

Trainieren von Deep-Learning-Netzen

In Kapitel 10 haben wir künstliche neuronale Netze besprochen und unser erstes Deep-Learning-Netz trainiert. Es war aber ein sehr flaches DNN mit nur wenigen verborgenen Schichten. Wie lässt sich eine komplexe Aufgabe wie das Erkennen Hunderter Gegenstände in hochauflösenden Bildern angehen? Dazu müssen Sie ein weitaus tieferes DNN mit zehn oder noch viel mehr Schichten aus jeweils Hunderten Neuronen und Hunderttausenden Verbindungen trainieren. Das wird kein Spaziergang, und die folgenden sind nur ein paar der Probleme, denen Sie sich gegenübersehen können:

• Bei Deep-Learning-Netzen tritt eventuell das Problem der schwindenden Gradienten oder das verwandte Problem der explodierenden Gradienten