Abo
  • Services:

Verwaltet, gespeichert und repliziert wird über die Chunk-Server

Für die Verwaltung, das Speichern und die Replikation der eigentlichen Daten sind die sogenannten Chunk-Server verantwortlich. Wie alle anderen Komponenten auch, wird der Chunk-Server-Dienst auf einem beliebigen Linux-System installiert. Chunk-Server sollten im Idealfall über schnelle Speichermedien (wie SAS-HDs oder SSDs) verfügen und können ein Filesystem als Teil des Storage-Pools exportieren. Im kleinsten Fall läuft ein Chunk-Server in einer virtuellen Maschine und gibt beispielsweise ein 20 GB großes Ext4-Dateisystem frei.

Stellenmarkt
  1. SEG Automotive Germany GmbH, Stuttgart-Weilimdorf
  2. Personalwerk Holding GmbH, Wiesbaden

Alle Chunk-Server sind untereinander verbunden und schließen ihre jeweils lokalen Dateisysteme zu einem Pool zusammen. Die Daten werden ab einer bestimmten Größe in einzelne Stripes aufgeteilt, erscheinen dann vor den Augen des Clients aber immer noch als eine Datei.

Der Metadata-Backup-Logger sammelt ähnlich wie ein Shadow-Master stets die Änderungen der Metadaten ein und sollte naturgemäß auf einem eigenen System laufen. Anders als ein typischer Master hält dieser die Metadaten jedoch nicht im Arbeitsspeicher, sondern lokal im Dateisystem vor. Im unwahrscheinlichen Fall eines Totalausfalls aller LizardFS-Master steht somit eine Sicherung für das Disaster-Recovery bereit.

  • Genereller Kommunikationsfluss bei LizardFS (Quelle: Skytechnology)
  • CGI-Oberfläche von LizardFS (Quelle: Skytechnology)
  • Architekturübersicht LizardFS (Quelle: Skytechnology)
  • Grafische Darstellung des Lesevorgangs unter LizardFS (Quelle: Skytechnology)
  • Grafische Darstellung des Schreibvorgangs unter LizardFS (Quelle: Skytechnology)
Genereller Kommunikationsfluss bei LizardFS (Quelle: Skytechnology)

Dateioperationen

Damit ein System von LizardFS exportierte Freigaben einhängen kann, muss das Paket Lizardfs-client installiert sein. Ein simples Kommando sorgt dafür, dass das System über einen Mount-Point, etwa unter /mnt, auf die Daten zugreifen kann, die auf den Chunk-Servern schlummern. Sobald der Benutzer oder eine Anwendung auf eine solche Datei zugreifen möchte, kontaktiert der installierte LizardFS-Client den aktuellen Master. Dieser soll eine Liste an Chunk-Servern zurückgeben, welche die gewünschte Datei beherbergen. Der Client nimmt die Liste in Empfang und kontaktiert im Anschluss einen der Chunk-Server, um eine Aufforderung zum Senden der Datei abzusetzen. Der Chunk-Server antwortet abschließend mit dem gewünschten Datenstrom.

  • Genereller Kommunikationsfluss bei LizardFS (Quelle: Skytechnology)
  • CGI-Oberfläche von LizardFS (Quelle: Skytechnology)
  • Architekturübersicht LizardFS (Quelle: Skytechnology)
  • Grafische Darstellung des Lesevorgangs unter LizardFS (Quelle: Skytechnology)
  • Grafische Darstellung des Schreibvorgangs unter LizardFS (Quelle: Skytechnology)
Grafische Darstellung des Lesevorgangs unter LizardFS (Quelle: Skytechnology)

Soll eine Datei auf dem LizardFS-Storage-Pool geschrieben oder verändert werden, muss der LizardFS-Client ebenfalls Rücksprache mit dem Master halten. Es könnte ja sein, dass eine bestehende Datei aufgrund von Balancing-Mechanismen verschoben wurde oder ein eben noch verfügbarer Chunk-Server offline gegangen ist. Erst wenn der Master einen Chunk-Server für den Schreibvorgang auswählt und an den Client übermittelt, sendet dieser im nächsten Schritt seine Daten an den Ziel-Chunk-Server.

Dieser bestätigt den Schreibvorgang und leitet, falls notwendig, eine Replikation der frisch geschriebenen Daten ein. Damit stellt der Chunk-Server sicher, dass ein gegebenenfalls gesetztes Replikationsziel möglichst zeitnah erfüllt wird. Eine Antwort an den LizardFS-Client signalisiert einen erfolgreichen Schreibvorgang. Der Client beendet daraufhin die soeben geöffnete Write-Session, indem der Master über den eben abgelaufenen Vorgang unterrichtet wird.

Sowohl beim Lese-, als auch beim Schreibvorgang achtet der LizardFS-Client auf eine möglicherweise konfigurierte Topologie. Wenn es dem Client sinnvoll erscheint, bevorzugt dieser ortsnahe Chunk-Server gegenüber jenen, die eventuell nur mit einer höheren Latenz erreichbar sind.

  • Genereller Kommunikationsfluss bei LizardFS (Quelle: Skytechnology)
  • CGI-Oberfläche von LizardFS (Quelle: Skytechnology)
  • Architekturübersicht LizardFS (Quelle: Skytechnology)
  • Grafische Darstellung des Lesevorgangs unter LizardFS (Quelle: Skytechnology)
  • Grafische Darstellung des Schreibvorgangs unter LizardFS (Quelle: Skytechnology)
Grafische Darstellung des Schreibvorgangs unter LizardFS (Quelle: Skytechnology)
 LizardFS: Software-defined Storage, wie es sein sollSimple, aber ausreichende Web-GUI 
  1.  
  2. 1
  3. 2
  4. 3
  5. 4
  6. 5
  7. 6
  8. 7
  9.  


Anzeige
Blu-ray-Angebote
  1. (u. a. Game Night 5,98€, Maze Runner 6,98€, Coco 5,98€)

felix.schwarz 09. Mai 2016

hm, zu den restlichen Aussagen (Microsoft's scale-out Angebote) kann ich nichts sagen...

Juge 30. Apr 2016

Kennst Du Microsoft Azure? Xbox Live? Skype? Das läuft alles auf SDS (Scale out Fileserver).

tingelchen 27. Apr 2016

Am Ende muss man eigentlich nur hergehen und die Online Speicher als FS im Linux...

olqs 27. Apr 2016

Im Text wird geschrieben, dass CephFS auch von den Entwicklern noch als "nur für Early...


Folgen Sie uns
       


Pathfinder Kingmaker - Golem.de live (Teil 2)

In Teil 2 unseres Livestreams wächst nicht nur unsere Party, sondern es gibt auch beim Endkampf jede Menge Drama, Wut und Liebe im Chat.

Pathfinder Kingmaker - Golem.de live (Teil 2) Video aufrufen
Passwörter: Eine vernünftige Maßnahme gegen den IoT-Irrsinn
Passwörter
Eine vernünftige Maßnahme gegen den IoT-Irrsinn

Kalifornien verabschiedet ein Gesetz, das Standardpasswörter verbietet. Das ist ein Schritt in die richtige Richtung, denn es setzt beim größten Problem von IoT-Geräten an und ist leicht umsetzbar.
Ein IMHO von Hanno Böck

  1. Retrogaming Maximal unnötige Minis
  2. Streaming Heilloses Durcheinander bei Netflix und Amazon Prime
  3. Sicherheit Ein Lob für Twitter und Github

Desktops: Unnötige Sicherheitsrisiken mit Linux
Desktops
Unnötige Sicherheitsrisiken mit Linux

Um Vorschaubilder von obskuren Datenformaten anzeigen zu lassen, gehen Entwickler von Linux-Desktops enorme Sicherheitsrisiken ein. Das ist ärgerlich und wäre nicht nötig.
Ein IMHO von Hanno Böck

  1. Red Hat Stratis 1.0 bringt XFS etwas näher an Btrfs und ZFS
  2. Nettools Systemd-Entwickler zeigen Werkzeuge zur Netzkonfiguration
  3. Panfrost Freier Linux-GPU-Treiber läuft auf modernen Mali-GPUs

WLAN-Standards umbenannt: Ein Schritt nach vorn ist nicht weit genug
WLAN-Standards umbenannt
Ein Schritt nach vorn ist nicht weit genug

Endlich weichen die nervigen Bezeichnungen für WLANs chronologisch sinnvollen. Doch die Wi-Fi Alliance sollte noch einen Schritt weiter gehen.
Ein IMHO von Oliver Nickel

  1. Wi-Fi 6 WLAN-Standards werden für besseres Verständnis umbenannt
  2. Wifi4EU Fast 19.000 Kommunen wollen kostenloses EU-WLAN
  3. Berlin Bund der Steuerzahler gegen freies WLAN

    •  /