Deep Learning im Maßstab

Teil III. Extreme Skalierung

Dieser Abschnitt befasst sich mit den Aspekten der Skalierung von Deep Learning-Modellen, um große Datenmengen effektiv zu verarbeiten. Er beginnt mit einem datenzentrierten Ansatz und bietet Techniken zur Maximierung der Datennutzung und zur Optimierung von Datenpipelines durch Sampling- und Auswahlmethoden. Dieser Abschnitt befasst sich auch mit der Skalierung von Experimenten und bietet Einblicke in die effektive Planung und Verwaltung von Experimenten zur Verbesserung der Modellleistung. Darüber hinaus wird die effiziente Feinabstimmung großer Modelle mithilfe von Low-Rank-Techniken untersucht und das Konzept der Basismodelle vorgestellt und ihre Bedeutung in der sich entwickelnden Deep-Learning-Landschaft zusammengefasst.