Deep Learning – Grundlagen und Implementierung

ANHANG A

Die Feinheiten

In diesem Anhang beschäftigen wir uns detailliert mit einigen technischen Bereichen, die aus Gründen der Vollständigkeit wichtig, aber nicht zwingend nötig sind.

Matrix-Kettenregel

Wir beginnen mit einer Erklärung dazu, warum wir im Kettenregelausdruck in Kapitel 1 (X) durch W^T ersetzen können.

Wörtlich genommen, entspricht L:

σ(XW₁₁) + σ(XW₁₂) + σ(XW₂₁) + σ(XW₂₂) + σ(XW₃₁) + σ(XW₃₂)

Dies ist wiederum eine Kurzschreibweise für die Tatsache, dass:

σ(XW₁₁) = σ(x₁₁ × w₁₁ + x₁₂ × w₂₁ + x₁₃ × w₃₁)

σ(XW₁₂) = σ(x₁₁ × w₁₂ + x₁₂ × w₂₂ + x₁₃ × w₃₂)

… und so weiter. Zoomen wir näher an einen dieser Ausdrücke heran. Wie würde er aussehen, ...