Maglev: Google umgeht mit seinen Load-Balancern den Linux-Kernel

Das System Maglev ist für die Lastverteilung in der Google-Cloud verantwortlich. Das Unternehmen hat nun Details dazu beschrieben und beeindruckt mit einem kreativen Umgang mit dem Netzwerk-Stack des Linux-Kernels.

Artikel veröffentlicht am ,
Google beweist auch bei seinem Load-Balancer mal wieder Kreativität.
Google beweist auch bei seinem Load-Balancer mal wieder Kreativität. (Bild: Google)

Zwar können Konkurrenten den von Google eingesetzten Software-Load-Balancer Maglev nicht einfach schnell in ihren Rechenzentren ausrollen - dazu fehlt der Quellcode des Projekts. Dank einer nun veröffentlichten wissenschaftlichen Beschreibung des Systems können andere Unternehmen damit aber immerhin aus den Erfahrungen und Details zu Maglev lernen. Interessant ist vor allem der Umgang mit dem Linux-Kernel.

Netzwerk-Stack des Linux-Kernels wird umgangen

Maglev ist der Beschreibung zufolge insbesondere auf das schnelle Verarbeiten von Paketen ausgelegt. So heißt es in der Erklärung, dass die Systeme mit 10 GBit/s angebunden seien und bei Google typischerweise oft sehr kleine Pakete von durchschnittlich nur 100 Byte Größe verarbeiten müssten.

Das entspreche etwa 9 Millionen Paketen pro Sekunde, die weitergeleitet werden müssen. Der Netzwerk-Stack des Linux-Kernels könne derartige Leistungsanforderungen jedoch nicht erfüllen, da dieser zu rechenintensiv sei. Mit der Unterstützung der Netzwerkkarten umgeht Maglev deshalb schlicht den Linux-Kernel und verwendet keinerlei Funktionen des Netwerk-Stacks.

Kosteneffiziente Konfiguration

Statt einer Aktiv-Passiv-Konfiguration, die bei den Hardware-Load-Balancern üblich sei, um einen Failover gewährleisten zu können, seien alle Maglev-Knoten in einem Cluster aktiv. Die notwendige Redundanz für die Hochverfügbarkeit wird über eine N+1-Konfiguration erreicht. Fällt ein Knoten aus, übernehmen die anderen die Arbeit. Über die Google-eigene Cluster-Verwaltung Borg können notfalls auch schnell neue Maglev-Instanzen gestartet werden.

Diese Konfiguration spare Kosten, da weniger physische Ressourcen ungenutzt vorgehalten werden müssten. Zum Verteilen der einkommenden Pakete nutzt Maglev das sogenannte Equal-Cost Multi-Path Routing (ECMP). Über bestimmte Hashing-Techniken ließen sich die Pakete von den Maglevs zudem verfolgen und an die eigentlichen Dienste weiterreichen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


TheSUNSTAR 20. Mär 2016

Vielleicht ist die Welt auch einfach nicht so schwarz/weiß wie du sie dir vorstellst...

Niantic 20. Mär 2016

Das ist soweit korrekt - und ich denke es gibt nur relativ wenige firmen, die derartige...

mushid0 18. Mär 2016

f5 loadbalancer umgehen auch ihren linux kernel bis layer 4 load balancing weil es dafür...

barforbarfoo 18. Mär 2016

Solange nur auf Basis von Informationen in den IP/TCP/UDP Headern entschieden wird...



Aktuell auf der Startseite von Golem.de
Solarenergie
Berlin fördert Balkonkraftwerke mit bis zu 500 Euro

Neben anderen Städten und Bundesländern unterstützt nun auch Berlin die Anschaffung von kleinen Solaranlagen. Jedoch nicht für alle Bürger.

Solarenergie: Berlin fördert Balkonkraftwerke mit bis zu 500 Euro
Artikel
  1. Der Herr der Ringe: Lego bringt Bruchtal aus 6.100 Teilen und mit 15 Figuren
    Der Herr der Ringe
    Lego bringt Bruchtal aus 6.100 Teilen und mit 15 Figuren

    Die gesamte Gemeinschaft des Ringes versammelt sich in den Hallen von Bruchtal, das als Lego-Diorama Herr-der-Ringe-Fans erfreuen kann.

  2. Navigation und GPS: Google Maps baut 3D-Städte und Inneneinrichtungen mit KI
    Navigation und GPS
    Google Maps baut 3D-Städte und Inneneinrichtungen mit KI

    Google Maps wird mit diversen neuen Funktionen ausgestattet - etwa mit Navigation per Augmented Reality oder 3D-Modellen bekannter Städte.

  3. Stress reduzieren: Runter mit der Hasskappe!
    Stress reduzieren
    Runter mit der Hasskappe!

    Viele ITler stehen unter enormen Stress und ruinieren sich damit die Gesundheit und den Spaß an der Arbeit - und anderen den Tag. Psychologen empfehlen als Lösung: mit Affirmationen die eigenen Gedanken umprogrammieren.
    Ein Bericht von Marc Favre

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Powercolor RX 7900 XTX 1.119€ • WSV-Finale bei MediaMarkt • Samsung 980 Pro 2TB (PS5-komp.) 174,99€ • MSI RTX 4080 1.349€ • Samsung 55" 4K QLED Curved Gaming-Monitor -25% • Asus RX 7900 XT 939,90€ • DAMN-Deals: AMD CPUs zu Tiefstpreisen • PCGH Cyber Week nur bis 9.2. [Werbung]
    •  /