Deep Learning im Maßstab

Kapitel 5. Verteilte Systeme und Kommunikation

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

InTeil I dieses Buches wurden die grundlegenden Konzepte des Deep Learning vorgestellt und die theoretischen und technischen Voraussetzungen für die effiziente Entwicklung von Deep-Learning-Modellen beschrieben. In den ersten vier Kapiteln wurde das Zusammenspiel von Hardware, Software, Daten und Algorithmen erläutert, um Deep Learning-Anwendungen zu realisieren. In Teil II wird das bisher erworbene Wissen auf verteilte Systeme angewandt und untersucht, wie eine Flotte von Rechengeräten zur Skalierung der Modellentwicklung genutzt werden kann.

In diesem Kapitel lernst du die verschiedenen Arten von verteilten Systemen und ihre jeweiligen Herausforderungen kennen. Außerdem lernst du die verschiedenen Kommunikationstopologien und Techniken kennen, die es heute gibt, um Deep Learning in einer verteilten Umgebung zu ermöglichen. Um den Einstieg in die Infrastruktur zu erleichtern, wird in diesem Kapitel kurz auf einige Software und Frameworks eingegangen, mit denen du deine Prozesse und Infrastruktur in großem Maßstab verwalten kannst.

In diesem Kapitel werden auch einige der attraktiven Deep-Learning-Infrastrukturen vorgestellt, die heute in großem Maßstab existieren. Die Verwaltung der Infrastruktur ist ein komplizierter Prozess und sollte in den Händen von Experten wie DevOps und MLOps liegen. Du kannst ...