Abo
  • IT-Karriere:

Streaming-Systeme

Dennoch sind Nachrichten-Queues in der Praxis nur ein spezieller Teil in Lambda- und Kappa-Architekturen: Sie speisen kontinuierlich Daten in die kontinuierlich laufenden Fachanwendungen ein. Im Englischen werden diese Art von Anwendungen beziehungsweise deren Plattformen zumeist als Streaming Engine bezeichnet. Mittlerweile ist eine Vielzahl von Streaming Engines verfügbar. Ein Vergleich dieser Lösungen in Hinsicht auf Architektur, Einsatzzwecke, verfügbare Dienstleister und vieles andere ist nicht trivial.

Stellenmarkt
  1. BWI GmbH, Bonn, Köln, Wilhelmshaven, Potsdam-Schwielowsee
  2. Schaltbau GmbH, München

Derzeit stammen die beliebtesten Engines in diesem Bereich von Apache und sind Open-Source-Projekte: Apex, Beam, Flink, Samza, Storm und Spark. Ihre Verbreitung spricht Bände für die steigende Annahme und Bedeutung des Unbounded Data Processing. Aber zu viele Optionen sind nicht immer gut: Für welche soll ich mich entscheiden und was kann ich damit anfangen? Besprechen wir kurz die verschiedenen Möglichkeiten.

Zunächst einmal bieten nicht alle Engines im gleichen Maße oder auf gleiche Weise Hilfe bei der Implementierung für Unternehmen. Flink und Spark verfügen über einen quelloffenen Kern, der mit proprietären Ergänzungen erweitert werden kann. Hinter diesen Erweiterungen stehen Anbieter, die Support bereitstellen, in diesem Fall Data Artisans beziehungsweise Databricks. Diese bieten unter anderem kommerzielle Produkte und Dienstleistungen auf der Basis von Flink und Spark.

Bei anderen Streaming Engines stehen keine Unternehmen dahinter, die den Support gewährleisten, erprobte fertige Lösungen anbieten und die Entwicklung vorantreiben. Darunter fällt mittlerweile Apache Apex, das einst von dem mittlerweile geschlossenen Unternehmen Data Torrent betreut wurde. Doch dazu gehören auch Apache Storm und Apache Samza. Storm ist älter und ausgereifter als Samza, und es wird von dem Unternehmen Hortonworks unterstützt.

Aber Hortonworks Kerngeschäft liegt nicht im Streaming, und wer als Unternehmen Unterstützung von Hortonworks will, muss anscheinend den gesamten Hortonworks-Stack nutzen. Es ist unklar, ob Hortonworks die Unterstützung für Storm ausbauen will, aber derzeit deutet nichts darauf hin.

Apache Beam unterscheidet sich von den bisher genannten dadurch, dass es eine Spezifikation ist, keine implementierte Engine an sich. Dahinter steht die Idee eines abstrakten Streaming-Konzeptes und einer einheitlichen API für die verschiedenen Streaming Engines. Beam wird vor allem von Google unterstützt - mit der Absicht, dass Streaming-Prozesse ohne viel Aufwand zu Googles Dataflow übertragen werden können. Flink unterstützt die Spezifikation vollständig, Spark nur teilweise.

Wie unterscheiden sich schließlich Flink und Spark? Flink wird vor allem als Integrationszentrale für echtzeitfähige, zustandsbehaftete Unternehmensanwendungen genutzt. Spark wird eher für Data-Science- und Analyse-Anwendungen genutzt, für Popularität sorgt hier die Integration von Python, Machine Learning und Jupyter Notebook.

Ein weiterer Unterschied ist, dass die Flink-basierte Plattform von Data Artisan nicht als cloudbasierte Lösung verfügbar ist, während Databricks' Angebot mit einer Cloud-only-Lösung wirbt. Doch auch hier gibt es Überschneidungen und Grauzonen. Für weitergehende Vergleiche bieten sich der Bericht von Bloor (PDF) an.

Ein neues Paradigma

Unabhängig von der konkreten Plattform-Wahl sollte die wichtigste Erkenntnis sein, dass die Echtzeitverarbeitung ein anderes Paradigma im Umgang mit Daten erfordert. Im Laufe der Zeit erhielten Streaming-Plattformen zusätzliche Fähigkeiten wie die SQL-Unterstützung, um Entwicklern den Umgang mit Datenströmen zu vereinfachen und eine höhere Abstraktion zu bieten. Wer aber dieses Paradigma mit der darauf basierenden Kappa-Architektur meistern und davon profitieren will, der muss Zeit investieren und die erforderliche Infrastruktur aufbauen.

Die Stream-basierte Verarbeitung von Daten eröffnet Wege in der Softwareentwicklung und der Datenanalyse, um geschäftliche Bedürfnisse zu erfüllen, und es lohnt sich, echtzeitfähige Anwendungen und Werkzeuge zu entwickeln.

 Die Verarbeitung unbeschränkter Mengen und die Kappa-Architektur
  1.  
  2. 1
  3. 2
  4. 3


Anzeige
Spiele-Angebote
  1. 50,99€
  2. 26,99€
  3. 2,99€
  4. 49,94€

FlashBFE 20. Feb 2019

Ebenso, +1

FlashBFE 20. Feb 2019

Nein, ein Stapel ist eben keine Warteschlange. Das eine ist FILO, das andere FIFO. Und...

lennartgrosser1... 06. Feb 2019

Genau genommen ist Hadoop kein Data Warehouse, sondern ein Framework, welches verteiltes...

DummyAccount 05. Feb 2019

Spark ist übrigens in der Tat immer noch micro-batch orientiert. Flink dagegen bietet...


Folgen Sie uns
       


Phase One IQ4 ausprobiert

Die Phase One IQ4 ist das Mittelformatsystem mit der höchsten Auflösung, das zur Zeit erhältlich ist. Wir haben die Profikamera getestet.

Phase One IQ4 ausprobiert Video aufrufen
In eigener Sache: Neue Workshops zu agilem Arbeiten und Selbstmanagement
In eigener Sache
Neue Workshops zu agilem Arbeiten und Selbstmanagement

Wir haben in unserer Leserumfrage nach Wünschen für Weiterbildungsangebote gefragt. Hier ist das Ergebnis: Zwei neue Workshops widmen sich der Selbstorganisation und gängigen Fehlern beim agilen Arbeiten - natürlich extra für IT-Profis.

  1. In eigener Sache ITler und Board kommen zusammen
  2. In eigener Sache Herbsttermin für den Kubernetes-Workshop steht
  3. Golem Akademie Golem.de startet Angebote zur beruflichen Weiterbildung

Erneuerbare Energien: Die Energiewende braucht Wasserstoff
Erneuerbare Energien
Die Energiewende braucht Wasserstoff

Kein anderes Element ist so universell und dabei simpel aufgebaut wie Wasserstoff und das energiereiche Gas lässt sich aus fast jedem Energieträger gewinnen. Genauso vielseitig gestaltet sich seine Nutzung.
Ein Bericht von Jan Oliver Löfken

  1. Strom-Boje Mittelrhein Schwimmende Kraftwerke liefern Strom aus dem Rhein
  2. Speicherung von Überschussstrom Wasserstoff soll bei Engpässen helfen
  3. Energiewende DLR-Forscher bauen Kohlekraftwerke zu Stromspeichern um

iPad OS im Test: Apple entdeckt den USB-Stick
iPad OS im Test
Apple entdeckt den USB-Stick

Zusammen mit iOS 13 hat Apple eine eigene Version für seine iPads vorgestellt: iPad OS verbessert die Benutzung als Tablet tatsächlich, ein Notebook-Ersatz ist ein iPad Pro damit aber immer noch nicht. Apple bringt aber endlich Funktionen, die wir teilweise seit Jahren vermisst haben.
Ein Test von Tobias Költzsch

  1. Tablets Apple bringt neues iPad Air und iPad Mini
  2. Eurasische Wirtschaftskommission Apple registriert sieben neue iPads
  3. Apple Es ändert sich einiges bei der App-Entwicklung für das iPad

    •  /