Zwei Basis-Komponenten

Ein typischer Ceph-Cluster besteht aus zwei Diensten, die innerhalb eines Clusters beinahe beliebig oft vorkommen: den OSDs auf der einen Seite und den MONs auf der anderen Seite.

Stellenmarkt
  1. Junior Software Developer (m/w/d) Ruby on Rails
    Sektor N GmbH, Hamburg, Heidelberg (Home-Office möglich)
  2. Inhouse Berater SAP HCM / SuccessFactors (w/m/d)
    TÜV SÜD Gruppe, München
Detailsuche

OSD ist die Abkürzung für Object Storage Device. So bezeichnet Ceph den Dienst, der physische Platten in den Clusterverbund integriert. Die zuvor erwähnte Ebene, die verteilte Storage-Systeme zwischen die Nutzer und die physischen Geräte einfügen, stellen genau diese OSDs dar. Die Kommunikation mit den physischen Blockgeräten wickeln die OSD-Server im Hintergrund ab. Auch um die inhärente Replikation kümmern sich vorrangig die OSD-Dienste.

Dabei gilt, dass pro physischem Blockgerät ein OSD-Dienst läuft. Auf einem Server mit 24 Festplatten finden sich also 24 laufende OSD-Instanzen. OSDs bilden obendrein den Anlaufpunkt für Clients, um Daten anzuliefern oder abzuholen. Die Clients liefern Daten bei einem OSD an, das sich danach um die Replikation kümmert. Erst wenn die eingestellten Replikationsvorgaben erfüllt sind, erhält der Client die Nachricht, dass der Schreibvorgang erfolgreich war.

Die Monitoring-Server, kurz MONs, sind in Ceph die Cluster-Wachhunde: Sie führen Buch über vorhandene MONs und OSDs und erzwingen im Cluster ein Quorum auf der MON-Ebene. Das ist wichtig in Situationen, in denen der Cluster in mehrere Partitionen zerfällt, etwa weil Netzwerkhardware kaputtgeht: Die MONs stellen in solchen Szenarien sicher, dass Clients nur auf die Partition des Clusters schreibend zugreifen können, die die Mehrheit der insgesamt im Cluster bekannten MON-Server hinter sich weiß. MON-Server sind auch der erste Anlaufpunkt für Clients und OSDs gleichermaßen, wenn diese Informationen über die aktuelle Topologie des Clusters brauchen.

Die Platzierung von Daten

Golem Akademie
  1. OpenShift Installation & Administration
    31. Januar-2. Februar 2022, online
  2. Cloud Computing mit Amazon Web Services (AWS)
    29. November-1. Dezember 2021, Online
  3. Terraform mit AWS
    14.-15. Dezember 2021, online
Weitere IT-Trainings

Dieser Punkt führt zu einem der interessantesten Probleme, wenn es um das Thema verteilte Speicherlösungen geht. Der zwischengeschaltete Layer trägt wie eingangs beschrieben die Verantwortung dafür, dass eingehende Daten auf den physischen Speichergeräten sinnvoll verteilt abgelegt werden. Er ist obendrein zuständig, wenn Clients spezifische Informationen über eines der Cluster-Frontends wieder auslesen wollen, denn dann läuft der Vorgang einfach in umgekehrter Reihenfolge ab.

Woher aber erfährt ein Client, der Daten in den Cluster laden möchte, welches OSD das richtige ist? Und wo bekommt jenes Primary OSD die Information her, auf welchen anderen OSDs es von den hochgeladenen Daten Replikate anlegen muss, bevor es dem Client einen erfolgreichen Schreibvorgang vermeldet?

Im Beispiel von Ceph kommt an dieser Stelle der Crush-Algorithmus ins Spiel. Er ist Cephs Placement-Algorithmus und ermöglicht es Clients wie OSDs, sich das jeweils passende Ziel-OSD für bestimmte Datensätze auszurechnen.

Crush als Dreh- und Angelpunkt

Der Crush-Algorithmus ist in Ceph der zentrale Punkt, wenn es um die Platzierung von Daten geht. Die Abkürzung steht für Controlled Replication Under Scalable Hashing. Gemeint ist das Prinzip, anhand dessen Clients oder OSDs die Ziel-OSDs für bestimmte Datensätze festlegen.

Zur Erinnerung, Ceph betrachtet sämtliche Daten als binäre Objekte. Wenn ein Client nun also Informationen in den Cluster laden möchte, findet zuerst die Aufteilung in Objekte statt. Für jedes der Objekte stellt sich dann die Frage, an welches OSD es zu senden ist und wohin es von dort repliziert wird.

Der Crush-Algorithmus beantwortet ebendiese Frage. Der Client organisiert sich zunächst von den MON-Servern des Ceph-Clusters das aktuelle Verzeichnis aller OSDs und stößt danach die Crush-Berechnung für das jeweilige Objekt an.

Crush lässt sich auch von außen beeinflussen: Die Crush-Map bietet dem Admin etwa die Möglichkeit, Rechner oder OSDs logisch zu gruppieren. Legt der Admin zum Beispiel fest, dass bestimmte Server in Rack 1 hängen und andere Server in Rack 2, so kann er im nächsten Schritt bestimmen, dass Replikate eines binären Objektes in beiden Racks vorhanden sein müssen.

Wenn der Client oder die OSDs danach die Crush-Kalkulation für ein bestimmtes Objekt durchführen, beziehen sie jene Faktoren mit ein und erhalten ein entsprechendes Ergebnis. Das gilt übrigens sowohl für Lese- wie auch für Schreibvorgänge. Solange sich die Topologie des Clusters nicht ändert, bleibt das Crush-Resultat identisch.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Software Defined Storage ermöglicht verteiltes SpeichernParallellität als Matchwinner 
  1.  
  2. 1
  3. 2
  4. 3
  5. 4
  6.  


AgentBignose 19. Okt 2016

Ich finde den Artikel etwas zu unkritisch, klingt ein bisschen wie ein Werbe Prospekt...

amagol 07. Okt 2016

Die lokale SSD bring dir aber nur etwas wenn du weisst das die Daten genau auf dieser...

Käx 07. Okt 2016

Eben dieses. Der Vorteil von Drive Pooling ist das selektive (!) Spiegeln von Daten. Die...

olqs 06. Okt 2016

Wenn ihr sowieso eine Forschungseinrichtung seit, dann fragt doch mal unverbindlich beim...



Aktuell auf der Startseite von Golem.de
Cyrcle Phone 2.0
Rundes Smartphone soll 700 Euro kosten

Dass Mobiltelefone in den letzten 20 Jahren meist nicht rund gewesen sind, scheint einen guten Grund zu haben, wie das Cyrcle Phone 2.0 zeigt.

Cyrcle Phone 2.0: Rundes Smartphone soll 700 Euro kosten
Artikel
  1. A New Beginning: Jetzt wird Outcast wirklich fortgesetzt
    A New Beginning
    Jetzt wird Outcast wirklich fortgesetzt

    Rund 22 Jahre nach dem Start des ersten Teils gibt es die Ankündigung von Outcast 2 für Xbox Series X/S, Playstation 5 und Windows-PC.

  2. Bundesinnenministerium: Nur jede neunte Verwaltungsleistung ist digitalisiert
    Bundesinnenministerium
    Nur jede neunte Verwaltungsleistung ist digitalisiert

    Meldebescheinigungen oder Baugenehmigungen warten weiter auf die Digitalisierung.

  3. Smartphones: Huawei versucht nicht mehr, die besten Produkte zu machen
    Smartphones
    Huawei versucht nicht mehr, die besten Produkte zu machen

    Das Handelsembargo der USA gegen Huawei zeigt Wirkung, wenn auch anders als geplant.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • iPhone 13: jetzt alle Modelle vorbestellbar • Sony Pulse 3D PS5-Headset Midnight Black vorbestellbar 89,99€ • Breaking Deals mit Club-Rabatten (u. a. Samsung 65" QLED 1.189,15€) • WD Black SN750 1TB 96,99€ • Amazon Exklusives in 4K-UHD • GP Anniversary Sale: History & War [Werbung]
    •  /