Maglev: Google umgeht mit seinen Load-Balancern den Linux-Kernel

Das System Maglev ist für die Lastverteilung in der Google-Cloud verantwortlich. Das Unternehmen hat nun Details dazu beschrieben und beeindruckt mit einem kreativen Umgang mit dem Netzwerk-Stack des Linux-Kernels.

Artikel veröffentlicht am ,
Google beweist auch bei seinem Load-Balancer mal wieder Kreativität.
Google beweist auch bei seinem Load-Balancer mal wieder Kreativität. (Bild: Google)

Zwar können Konkurrenten den von Google eingesetzten Software-Load-Balancer Maglev nicht einfach schnell in ihren Rechenzentren ausrollen - dazu fehlt der Quellcode des Projekts. Dank einer nun veröffentlichten wissenschaftlichen Beschreibung des Systems können andere Unternehmen damit aber immerhin aus den Erfahrungen und Details zu Maglev lernen. Interessant ist vor allem der Umgang mit dem Linux-Kernel.

Netzwerk-Stack des Linux-Kernels wird umgangen

Stellenmarkt
  1. ERP Manager (m/w/d)
    Hays AG, Marktredwitz
  2. Spezialist*in für WLAN-Architektur und IT-Security "Operation" (m/w/d)
    Landeshauptstadt Stuttgart, Stuttgart
Detailsuche

Maglev ist der Beschreibung zufolge insbesondere auf das schnelle Verarbeiten von Paketen ausgelegt. So heißt es in der Erklärung, dass die Systeme mit 10 GBit/s angebunden seien und bei Google typischerweise oft sehr kleine Pakete von durchschnittlich nur 100 Byte Größe verarbeiten müssten.

Das entspreche etwa 9 Millionen Paketen pro Sekunde, die weitergeleitet werden müssen. Der Netzwerk-Stack des Linux-Kernels könne derartige Leistungsanforderungen jedoch nicht erfüllen, da dieser zu rechenintensiv sei. Mit der Unterstützung der Netzwerkkarten umgeht Maglev deshalb schlicht den Linux-Kernel und verwendet keinerlei Funktionen des Netwerk-Stacks.

Kosteneffiziente Konfiguration

Statt einer Aktiv-Passiv-Konfiguration, die bei den Hardware-Load-Balancern üblich sei, um einen Failover gewährleisten zu können, seien alle Maglev-Knoten in einem Cluster aktiv. Die notwendige Redundanz für die Hochverfügbarkeit wird über eine N+1-Konfiguration erreicht. Fällt ein Knoten aus, übernehmen die anderen die Arbeit. Über die Google-eigene Cluster-Verwaltung Borg können notfalls auch schnell neue Maglev-Instanzen gestartet werden.

Golem Akademie
  1. Einführung in die Programmierung mit Rust: virtueller Fünf-Halbtage-Workshop
    21.–25. März 2022, Virtuell
  2. Terraform mit AWS: virtueller Zwei-Tage-Workshop
    14.–15. Dezember 2021, Virtuell
Weitere IT-Trainings

Diese Konfiguration spare Kosten, da weniger physische Ressourcen ungenutzt vorgehalten werden müssten. Zum Verteilen der einkommenden Pakete nutzt Maglev das sogenannte Equal-Cost Multi-Path Routing (ECMP). Über bestimmte Hashing-Techniken ließen sich die Pakete von den Maglevs zudem verfolgen und an die eigentlichen Dienste weiterreichen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


TheSUNSTAR 20. Mär 2016

Vielleicht ist die Welt auch einfach nicht so schwarz/weiß wie du sie dir vorstellst...

Niantic 20. Mär 2016

Das ist soweit korrekt - und ich denke es gibt nur relativ wenige firmen, die derartige...

mushid0 18. Mär 2016

f5 loadbalancer umgehen auch ihren linux kernel bis layer 4 load balancing weil es dafür...

barforbarfoo 18. Mär 2016

Solange nur auf Basis von Informationen in den IP/TCP/UDP Headern entschieden wird...



Aktuell auf der Startseite von Golem.de
Ampelkoalition
Das Verkehrsministerium wird zum Digitalministerium

Aus dem geplanten Ministerium für Verkehr und Digitales wird ein Ministerium für Digitales und Verkehr. Minister Wissing erhält zusätzliche Kompetenzen.

Ampelkoalition: Das Verkehrsministerium wird zum Digitalministerium
Artikel
  1. Cloud-Ausfall: Eine AWS-Region als Single Point of Failure
    Cloud-Ausfall
    Eine AWS-Region als Single Point of Failure

    Ein stundenlanger Ausfall der AWS-Cloud legte zentrale Dienste und sogar Amazon selbst teilweise lahm. Das zeigt die Grenzen der Cloud-Versprechen.
    Ein Bericht von Sebastian Grüner

  2. Microsoft: Windows bekommt ein neues Notepad inklusive Dark Mode
    Microsoft
    Windows bekommt ein neues Notepad inklusive Dark Mode

    Es war nur eine Frage der Zeit: Microsoft zeigt ein neu designtes Notepad für Windows. Das enthält eine bessere Suchfunktion und Dark Mode.

  3. Euro NCAP: Renault Zoe mit katastrophalem Crash-Ergebnis
    Euro NCAP
    Renault Zoe mit katastrophalem Crash-Ergebnis

    Mit Renaults Zoe sollte man keinen Unfall bauen. Im Euro-NCAP-Crashtest erhielt das Elektroauto null Sterne.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Acer-Monitore zu Bestpreisen (u. a. 27" FHD 165Hz OC 199€) • Kingston PCIe-SSD 1TB 69,90€ & 2TB 174,90€ • Samsung Smartphones & Watches günstiger • Saturn: Xiaomi Redmi Note 9 Pro 128GB 199€ • Alternate (u. a. Razer Opus Headset 69,99€) • Release: Halo Infinite 68,99€ [Werbung]
    •  /