Verwaltet, gespeichert und repliziert wird über die Chunk-Server

Für die Verwaltung, das Speichern und die Replikation der eigentlichen Daten sind die sogenannten Chunk-Server verantwortlich. Wie alle anderen Komponenten auch, wird der Chunk-Server-Dienst auf einem beliebigen Linux-System installiert. Chunk-Server sollten im Idealfall über schnelle Speichermedien (wie SAS-HDs oder SSDs) verfügen und können ein Filesystem als Teil des Storage-Pools exportieren. Im kleinsten Fall läuft ein Chunk-Server in einer virtuellen Maschine und gibt beispielsweise ein 20 GB großes Ext4-Dateisystem frei.

Stellenmarkt
  1. Test Analyst / Software Test Engineer (m/w/d)
    GK Software SE, Berlin, Chemnitz, Jena, Schöneck, Sankt Ingbert
  2. Support-Specialist (m/w/d)
    Allianz Technology SE, Hamburg
Detailsuche

Alle Chunk-Server sind untereinander verbunden und schließen ihre jeweils lokalen Dateisysteme zu einem Pool zusammen. Die Daten werden ab einer bestimmten Größe in einzelne Stripes aufgeteilt, erscheinen dann vor den Augen des Clients aber immer noch als eine Datei.

Der Metadata-Backup-Logger sammelt ähnlich wie ein Shadow-Master stets die Änderungen der Metadaten ein und sollte naturgemäß auf einem eigenen System laufen. Anders als ein typischer Master hält dieser die Metadaten jedoch nicht im Arbeitsspeicher, sondern lokal im Dateisystem vor. Im unwahrscheinlichen Fall eines Totalausfalls aller LizardFS-Master steht somit eine Sicherung für das Disaster-Recovery bereit.

  • Genereller Kommunikationsfluss bei LizardFS (Quelle: Skytechnology)
  • CGI-Oberfläche von LizardFS (Quelle: Skytechnology)
  • Architekturübersicht LizardFS (Quelle: Skytechnology)
  • Grafische Darstellung des Lesevorgangs unter LizardFS (Quelle: Skytechnology)
  • Grafische Darstellung des Schreibvorgangs unter LizardFS (Quelle: Skytechnology)
Genereller Kommunikationsfluss bei LizardFS (Quelle: Skytechnology)

Dateioperationen

Damit ein System von LizardFS exportierte Freigaben einhängen kann, muss das Paket Lizardfs-client installiert sein. Ein simples Kommando sorgt dafür, dass das System über einen Mount-Point, etwa unter /mnt, auf die Daten zugreifen kann, die auf den Chunk-Servern schlummern. Sobald der Benutzer oder eine Anwendung auf eine solche Datei zugreifen möchte, kontaktiert der installierte LizardFS-Client den aktuellen Master. Dieser soll eine Liste an Chunk-Servern zurückgeben, welche die gewünschte Datei beherbergen. Der Client nimmt die Liste in Empfang und kontaktiert im Anschluss einen der Chunk-Server, um eine Aufforderung zum Senden der Datei abzusetzen. Der Chunk-Server antwortet abschließend mit dem gewünschten Datenstrom.

  • Genereller Kommunikationsfluss bei LizardFS (Quelle: Skytechnology)
  • CGI-Oberfläche von LizardFS (Quelle: Skytechnology)
  • Architekturübersicht LizardFS (Quelle: Skytechnology)
  • Grafische Darstellung des Lesevorgangs unter LizardFS (Quelle: Skytechnology)
  • Grafische Darstellung des Schreibvorgangs unter LizardFS (Quelle: Skytechnology)
Grafische Darstellung des Lesevorgangs unter LizardFS (Quelle: Skytechnology)
Golem Akademie
  1. Advanced Python – Fortgeschrittene Programmierthemen: virtueller Drei-Tage-Workshop
    23.-25.01.2023, Virtuell
  2. Microsoft 365 Administration: virtueller Drei-Tage-Workshop
    01.-03.06.2022, Virtuell
Weitere IT-Trainings

Soll eine Datei auf dem LizardFS-Storage-Pool geschrieben oder verändert werden, muss der LizardFS-Client ebenfalls Rücksprache mit dem Master halten. Es könnte ja sein, dass eine bestehende Datei aufgrund von Balancing-Mechanismen verschoben wurde oder ein eben noch verfügbarer Chunk-Server offline gegangen ist. Erst wenn der Master einen Chunk-Server für den Schreibvorgang auswählt und an den Client übermittelt, sendet dieser im nächsten Schritt seine Daten an den Ziel-Chunk-Server.

Dieser bestätigt den Schreibvorgang und leitet, falls notwendig, eine Replikation der frisch geschriebenen Daten ein. Damit stellt der Chunk-Server sicher, dass ein gegebenenfalls gesetztes Replikationsziel möglichst zeitnah erfüllt wird. Eine Antwort an den LizardFS-Client signalisiert einen erfolgreichen Schreibvorgang. Der Client beendet daraufhin die soeben geöffnete Write-Session, indem der Master über den eben abgelaufenen Vorgang unterrichtet wird.

Sowohl beim Lese-, als auch beim Schreibvorgang achtet der LizardFS-Client auf eine möglicherweise konfigurierte Topologie. Wenn es dem Client sinnvoll erscheint, bevorzugt dieser ortsnahe Chunk-Server gegenüber jenen, die eventuell nur mit einer höheren Latenz erreichbar sind.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
  • Genereller Kommunikationsfluss bei LizardFS (Quelle: Skytechnology)
  • CGI-Oberfläche von LizardFS (Quelle: Skytechnology)
  • Architekturübersicht LizardFS (Quelle: Skytechnology)
  • Grafische Darstellung des Lesevorgangs unter LizardFS (Quelle: Skytechnology)
  • Grafische Darstellung des Schreibvorgangs unter LizardFS (Quelle: Skytechnology)
Grafische Darstellung des Schreibvorgangs unter LizardFS (Quelle: Skytechnology)
 LizardFS: Software-defined Storage, wie es sein sollSimple, aber ausreichende Web-GUI 
  1.  
  2. 1
  3. 2
  4. 3
  5. 4
  6. 5
  7. 6
  8. 7
  9.  


felix.schwarz 09. Mai 2016

hm, zu den restlichen Aussagen (Microsoft's scale-out Angebote) kann ich nichts sagen...

Juge 30. Apr 2016

Kennst Du Microsoft Azure? Xbox Live? Skype? Das läuft alles auf SDS (Scale out Fileserver).

tingelchen 27. Apr 2016

Am Ende muss man eigentlich nur hergehen und die Online Speicher als FS im Linux...

olqs 27. Apr 2016

Im Text wird geschrieben, dass CephFS auch von den Entwicklern noch als "nur für Early...



Aktuell auf der Startseite von Golem.de
LG HU915QE
Laserprojektor erzeugt 90-Zoll-Bild aus 5,6 cm Entfernung

LG hat einen Kurzdistanzprojektor mit Lasertechnik vorgestellt. Der HU915QE erzeugt ein riesiges Bild und steht dabei fast an der Wand.

LG HU915QE: Laserprojektor erzeugt 90-Zoll-Bild aus 5,6 cm Entfernung
Artikel
  1. Verkaufsstart des 9-Euro-Tickets: Was Fahrgäste wissen müssen
    Verkaufsstart des 9-Euro-Tickets
    Was Fahrgäste wissen müssen

    Das 9-Euro-Ticket für den ÖPNV ist beschlossene Sache, Verkehrsverbünde und -unternehmen sehen sich auf den Verkaufsstart in diesen Tagen gut vorbereitet. Doch es gibt viele offene Fragen.

  2. Sexualisierte Gewalt gegen Kinder: Bundesinnenministerin Faeser ändert Ansicht zu Chatkontrolle
    Sexualisierte Gewalt gegen Kinder
    Bundesinnenministerin Faeser ändert Ansicht zu Chatkontrolle

    Ursprünglich hat die Sozialdemokratin die geplante EU-Überwachung des Internets befürwortet. Nun sagt sie etwas anderes zur Chatkontrolle.

  3. LTE-Patent: Ford droht Verkaufs- und Produktionsverbot in Deutschland
    LTE-Patent
    Ford droht Verkaufs- und Produktionsverbot in Deutschland

    Ford fehlen Mobilfunk-Patentlizenzen, weshalb das Landgericht München eine drastische Entscheidung gefällt hat. Autos droht sogar die Vernichtung.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Acer Predator X38S (UWQHD, 175 Hz OC) 1.499€ • MindStar (u. a. AMD Ryzen 7 5700X 268€ und PowerColor RX 6750 XT Red Devil 609€ und RX 6900 XT Red Devil Ultimate 949€) • Alternate (u. a. Cooler Master Caliber R1 159,89€) • SanDisk Portable SSD 1 TB 81€ • Motorola Moto G60s 149€ [Werbung]
    •  /