Streaming-Systeme für Big Data

Dennoch sind Nachrichten-Queues in der Praxis nur ein spezieller Teil in Lambda- und Kappa-Architekturen: Sie speisen kontinuierlich Daten in die kontinuierlich laufenden Fachanwendungen ein. Im Englischen werden diese Art von Anwendungen beziehungsweise deren Plattformen zumeist als Streaming Engine bezeichnet. Mittlerweile ist eine Vielzahl von Streaming Engines verfügbar. Ein Vergleich dieser Lösungen in Hinsicht auf Architektur, Einsatzzwecke, verfügbare Dienstleister und vieles andere ist nicht trivial.

Stellenmarkt
  1. IT-Systemadministration (m/w/d) im Referat "ADV, Informations- und Kommunikationstechnik, Statistik" ... (m/w/d)
    Ministerium für Klimaschutz, Umwelt, Energie und Mobilität des Landes Rheinland-Pfalz, Mainz
  2. Sachbearbeiterinnen / Sachbearbeiter (w/m/d) - Cyber-Sicherheit in Smart Home und Smart Cities
    Bundesamt für Sicherheit in der Informationstechnik, Bonn
Detailsuche

Derzeit stammen die beliebtesten Engines in diesem Bereich von Apache und sind Open-Source-Projekte: Apex, Beam, Flink, Samza, Storm und Spark. Ihre Verbreitung spricht Bände für die steigende Annahme und Bedeutung des Unbounded Data Processing. Aber zu viele Optionen sind nicht immer gut: Für welche soll ich mich entscheiden und was kann ich damit anfangen? Besprechen wir kurz die verschiedenen Möglichkeiten.

Zunächst einmal bieten nicht alle Engines im gleichen Maße oder auf gleiche Weise Hilfe bei der Implementierung für Unternehmen. Flink und Spark verfügen über einen quelloffenen Kern, der mit proprietären Ergänzungen erweitert werden kann. Hinter diesen Erweiterungen stehen Anbieter, die Support bereitstellen, in diesem Fall Data Artisans beziehungsweise Databricks. Diese bieten unter anderem kommerzielle Produkte und Dienstleistungen auf der Basis von Flink und Spark.

Bei anderen Streaming Engines stehen keine Unternehmen dahinter, die den Support gewährleisten, erprobte fertige Lösungen anbieten und die Entwicklung vorantreiben. Darunter fällt mittlerweile Apache Apex, das einst von dem mittlerweile geschlossenen Unternehmen Data Torrent betreut wurde. Doch dazu gehören auch Apache Storm und Apache Samza. Storm ist älter und ausgereifter als Samza, und es wird von dem Unternehmen Hortonworks unterstützt.

Golem Akademie
  1. Java EE 8 Komplettkurs: virtueller Fünf-Tage-Workshop
    24.–28. Januar 2022, virtuell
  2. PowerShell Praxisworkshop: virtueller Vier-Tage-Workshop
    20.–23. Dezember 2021, virtuell
Weitere IT-Trainings

Aber Hortonworks Kerngeschäft liegt nicht im Streaming, und wer als Unternehmen Unterstützung von Hortonworks will, muss anscheinend den gesamten Hortonworks-Stack nutzen. Es ist unklar, ob Hortonworks die Unterstützung für Storm ausbauen will, aber derzeit deutet nichts darauf hin.

Apache Beam unterscheidet sich von den bisher genannten dadurch, dass es eine Spezifikation ist, keine implementierte Engine an sich. Dahinter steht die Idee eines abstrakten Streaming-Konzeptes und einer einheitlichen API für die verschiedenen Streaming Engines. Beam wird vor allem von Google unterstützt - mit der Absicht, dass Streaming-Prozesse ohne viel Aufwand zu Googles Dataflow übertragen werden können. Flink unterstützt die Spezifikation vollständig, Spark nur teilweise.

Wie unterscheiden sich schließlich Flink und Spark? Flink wird vor allem als Integrationszentrale für echtzeitfähige, zustandsbehaftete Unternehmensanwendungen genutzt. Spark wird eher für Data-Science- und Analyse-Anwendungen genutzt, für Popularität sorgt hier die Integration von Python, Machine Learning und Jupyter Notebook.

Ein weiterer Unterschied ist, dass die Flink-basierte Plattform von Data Artisan nicht als cloudbasierte Lösung verfügbar ist, während Databricks' Angebot mit einer Cloud-only-Lösung wirbt. Doch auch hier gibt es Überschneidungen und Grauzonen. Für weitergehende Vergleiche bieten sich der Bericht von Bloor (PDF) an.

Ein neues Paradigma

Unabhängig von der konkreten Plattform-Wahl sollte die wichtigste Erkenntnis sein, dass die Echtzeitverarbeitung ein anderes Paradigma im Umgang mit Daten erfordert. Im Laufe der Zeit erhielten Streaming-Plattformen zusätzliche Fähigkeiten wie die SQL-Unterstützung, um Entwicklern den Umgang mit Datenströmen zu vereinfachen und eine höhere Abstraktion zu bieten. Wer aber dieses Paradigma mit der darauf basierenden Kappa-Architektur meistern und davon profitieren will, der muss Zeit investieren und die erforderliche Infrastruktur aufbauen.

Die Stream-basierte Verarbeitung von Daten eröffnet Wege in der Softwareentwicklung und der Datenanalyse, um geschäftliche Bedürfnisse zu erfüllen, und es lohnt sich, echtzeitfähige Anwendungen und Werkzeuge zu entwickeln.

Dieser Artikel erschien am 04.02.2019. Wir haben diesen Artikel zuletzt am 15.10.2021 aktualisiert.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Die Verarbeitung unbeschränkter Mengen und die Kappa-Architektur
  1.  
  2. 1
  3. 2
  4. 3


FlashBFE 20. Feb 2019

Ebenso, +1

FlashBFE 20. Feb 2019

Nein, ein Stapel ist eben keine Warteschlange. Das eine ist FILO, das andere FIFO. Und...

lennartgrosser1... 06. Feb 2019

Genau genommen ist Hadoop kein Data Warehouse, sondern ein Framework, welches verteiltes...

DummyAccount 05. Feb 2019

Spark ist übrigens in der Tat immer noch micro-batch orientiert. Flink dagegen bietet...



Aktuell auf der Startseite von Golem.de
Chorus im Test
Action im All plus galaktische Grafik

Schicke Grafik und ein sprechendes Raumschiff: Chorus von Deep Silver entpuppt sich beim Test als düsteres und spannendes Weltraumspiel.
Von Peter Steinlechner

Chorus im Test: Action im All plus galaktische Grafik
Artikel
  1. Bald exklusiv bei Disney+: Serien verschwinden aus Abos von Netflix und Prime Video
    Bald exklusiv bei Disney+
    Serien verschwinden aus Abos von Netflix und Prime Video

    Acht Serienklassiker gibt es bald nur noch exklusiv bei Disney+ im Abo. Dazu gehören Futurama, Family Guy und 24.
    Von Ingo Pakalski

  2. LTE: Noch 30 weiße Flecken im bevölkerungsreichsten Bundesland
    LTE
    Noch 30 weiße Flecken im bevölkerungsreichsten Bundesland

    Nach über drei Jahren Mobilfunk-Pakt gibt es in Nordrhein-Westfalen noch immer gut 30 weiße Flecken.

  3. Edge-Browser: Microsoft will Installation von Chrome verhindern
    Edge-Browser
    Microsoft will Installation von Chrome verhindern

    Microsoft intensiviert sein Vorgehen gegen andere Browser: Vor der Installation von Chrome wird Edge übertrieben gelobt.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Saturn-Advent: Toshiba Canvio 6TB 88€ • KFA2 Geforce RTX 3070 OC 8GB 1.019€ • Netgear günstiger (u. a. 5-Port-Switch 16,89€) • Norton 360 Deluxe 2022 18,99€ • Gaming-Monitore zu Bestpreisen (u. a. Samsung G3 27" FHD 144Hz 219€) • Spiele günstiger (u. a. Hades PS5 15,99€) [Werbung]
    •  /