Hadoop für Echtzeitdaten

Storm wird Open Source

Twitter will das von Backtype entwickelte System Storm als Open Source freigeben. Dabei handelt es sich um ein verteiltes, verlässliches und fehlertolerantes System zur Verarbeitung von Datenströmen, das Backtype als eine Art Hadoop für Echtzeitdaten bezeichnet.

Artikel veröffentlicht am ,
Storm wird im September 2011 Open Source.
Storm wird im September 2011 Open Source. (Bild: Backtype)

Storm soll am 19. September 2011 auf der Konferenz Strangeloop als Open Source freigegeben werden, das kündigte Nathan Marz an, der Chefentwickler von Backtype. Durch die Übernahme von Backtype durch Twitter gehört Storm mittlerweile zu dem Microblogging-Dienst, was die Frage aufwarf, ob Twitter Storm wie von Backtype geplant als Open Source freigeben wird.

Stellenmarkt
  1. IT Analyst Development & Consulting (m/w/d)
    DS Smith Packaging Deutschland Stiftung & Co. KG, Mannheim
  2. Senior Consultant IT-Security (m/w/d) SIEM Engineer
    operational services GmbH & Co. KG, verschiedene Standorte
Detailsuche

Backtype beschreibt Storm als eine Art Hadoop für Echtzeitdaten: Ähnlich wie die Jobs des von Hadoop implementierten Mapreduce laufen auf einem Storm-Cluster "Topologien". Während aber ein Mapreduce-Job irgendwann zu einem Ende kommt, läuft eine Topologie, bis sie manuell gestoppt wird. Die parallele Architektur von Storm soll dabei besonders fehlertolerant sein. Fallen Systeme aus, können sie nach dem Neustart nahtlos weiterarbeiten. Zudem garantiert das System, dass Nachrichten verarbeitet werden.

Storm lasse sich in unterschiedlichster Form einsetzen, wirbt Marz. So könne Storm zur Stream-Verarbeitung genutzt werden, wobei es einen Strom eingehender Nachrichten entgegennimmt und Datenbanken in Echtzeit aktualisiert. Auch für "Continuous Computation" lasse sich Storm nutzen. Dabei wird eine unendlich laufende Abfrage auf einen Nachrichtenstrom angewandt, und die Ergebnisse werden in Echtzeit an die Clients geschickt. Als drittes Beispiel nennt Marz verteilte RPC-Systeme.

Einige erste Details und Beispiele zu Storm hat Marz in einem Blogeintrag zusammengefasst. Bis zum 19. September 2011 will er die Dokumentation verbessern, so dass Interessierte die Software leicht testen können, wenn sie dann als Open Source veröffentlicht wird.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Mozilla
Firefox verliert 20 Prozent Nutzer in zweieinhalb Jahren

Die offiziellen Nutzer-Statistiken des Firefox-Browsers sehen für Mozilla nicht gut aus. Immerhin wird der Browser intensiver genutzt.

Mozilla: Firefox verliert 20 Prozent Nutzer in zweieinhalb Jahren
Artikel
  1. Plastikmüll: Bebot reinigt den Strand von Müll
    Plastikmüll
    Bebot reinigt den Strand von Müll

    Der Roboter Bebot soll zur automatischen Strandsäuberung eingesetzt werden und kann auch kleinere Plastikteile aussieben.

  2. Google, Mozilla, Telegram: Youtube schaltet testweise für 7 Euro die Werbung ab
    Google, Mozilla, Telegram
    Youtube schaltet testweise für 7 Euro die Werbung ab

    Sonst noch was? Was am 2. August 2021 neben den großen Meldungen sonst noch passiert ist, in aller Kürze.

  3. Azul: Milliardenauftrag für Flugtaxi-Hersteller Lilium
    Azul
    Milliardenauftrag für Flugtaxi-Hersteller Lilium

    Die brasilianische Fluglinie Azul hat 220 Flugtaxis von Lilium im Wert von mehr als einer Milliarde Euro vorreserviert.

XeniosZeus 05. Aug 2011

Backtype beschreibt Strom als eine Art Hadoop... :-D



Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Schnäppchen • Samsung Galaxy Vorbesteller-Aktion • Speicherwoche bei Media Markt • Samsung Odyssey G5 (34 Zoll, 165 Hz) 399€ • 15% auf Xiaomi-Technik • McAfee Total Protection ab 15,99€ • Saturn: 1 Produkt zahlen, 2 erhalten • Final Fantasy VII HD Remake PS4 25,64€ [Werbung]
    •  /