• IT-Karriere:
  • Services:

Streaming-Systeme

Dennoch sind Nachrichten-Queues in der Praxis nur ein spezieller Teil in Lambda- und Kappa-Architekturen: Sie speisen kontinuierlich Daten in die kontinuierlich laufenden Fachanwendungen ein. Im Englischen werden diese Art von Anwendungen beziehungsweise deren Plattformen zumeist als Streaming Engine bezeichnet. Mittlerweile ist eine Vielzahl von Streaming Engines verfügbar. Ein Vergleich dieser Lösungen in Hinsicht auf Architektur, Einsatzzwecke, verfügbare Dienstleister und vieles andere ist nicht trivial.

Stellenmarkt
  1. Deutsche Bundesbank, Frankfurt am Main
  2. CG Car-Garantie Versicherungs-AG, Freiburg

Derzeit stammen die beliebtesten Engines in diesem Bereich von Apache und sind Open-Source-Projekte: Apex, Beam, Flink, Samza, Storm und Spark. Ihre Verbreitung spricht Bände für die steigende Annahme und Bedeutung des Unbounded Data Processing. Aber zu viele Optionen sind nicht immer gut: Für welche soll ich mich entscheiden und was kann ich damit anfangen? Besprechen wir kurz die verschiedenen Möglichkeiten.

Zunächst einmal bieten nicht alle Engines im gleichen Maße oder auf gleiche Weise Hilfe bei der Implementierung für Unternehmen. Flink und Spark verfügen über einen quelloffenen Kern, der mit proprietären Ergänzungen erweitert werden kann. Hinter diesen Erweiterungen stehen Anbieter, die Support bereitstellen, in diesem Fall Data Artisans beziehungsweise Databricks. Diese bieten unter anderem kommerzielle Produkte und Dienstleistungen auf der Basis von Flink und Spark.

Bei anderen Streaming Engines stehen keine Unternehmen dahinter, die den Support gewährleisten, erprobte fertige Lösungen anbieten und die Entwicklung vorantreiben. Darunter fällt mittlerweile Apache Apex, das einst von dem mittlerweile geschlossenen Unternehmen Data Torrent betreut wurde. Doch dazu gehören auch Apache Storm und Apache Samza. Storm ist älter und ausgereifter als Samza, und es wird von dem Unternehmen Hortonworks unterstützt.

Golem Akademie
  1. PostgreSQL Fundamentals
    15.-18. Juni 2021, online
  2. OpenShift Installation & Administration
    14.-16. Juni 2021, online
Weitere IT-Trainings

Aber Hortonworks Kerngeschäft liegt nicht im Streaming, und wer als Unternehmen Unterstützung von Hortonworks will, muss anscheinend den gesamten Hortonworks-Stack nutzen. Es ist unklar, ob Hortonworks die Unterstützung für Storm ausbauen will, aber derzeit deutet nichts darauf hin.

Apache Beam unterscheidet sich von den bisher genannten dadurch, dass es eine Spezifikation ist, keine implementierte Engine an sich. Dahinter steht die Idee eines abstrakten Streaming-Konzeptes und einer einheitlichen API für die verschiedenen Streaming Engines. Beam wird vor allem von Google unterstützt - mit der Absicht, dass Streaming-Prozesse ohne viel Aufwand zu Googles Dataflow übertragen werden können. Flink unterstützt die Spezifikation vollständig, Spark nur teilweise.

Wie unterscheiden sich schließlich Flink und Spark? Flink wird vor allem als Integrationszentrale für echtzeitfähige, zustandsbehaftete Unternehmensanwendungen genutzt. Spark wird eher für Data-Science- und Analyse-Anwendungen genutzt, für Popularität sorgt hier die Integration von Python, Machine Learning und Jupyter Notebook.

Ein weiterer Unterschied ist, dass die Flink-basierte Plattform von Data Artisan nicht als cloudbasierte Lösung verfügbar ist, während Databricks' Angebot mit einer Cloud-only-Lösung wirbt. Doch auch hier gibt es Überschneidungen und Grauzonen. Für weitergehende Vergleiche bieten sich der Bericht von Bloor (PDF) an.

Ein neues Paradigma

Unabhängig von der konkreten Plattform-Wahl sollte die wichtigste Erkenntnis sein, dass die Echtzeitverarbeitung ein anderes Paradigma im Umgang mit Daten erfordert. Im Laufe der Zeit erhielten Streaming-Plattformen zusätzliche Fähigkeiten wie die SQL-Unterstützung, um Entwicklern den Umgang mit Datenströmen zu vereinfachen und eine höhere Abstraktion zu bieten. Wer aber dieses Paradigma mit der darauf basierenden Kappa-Architektur meistern und davon profitieren will, der muss Zeit investieren und die erforderliche Infrastruktur aufbauen.

Die Stream-basierte Verarbeitung von Daten eröffnet Wege in der Softwareentwicklung und der Datenanalyse, um geschäftliche Bedürfnisse zu erfüllen, und es lohnt sich, echtzeitfähige Anwendungen und Werkzeuge zu entwickeln.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Die Verarbeitung unbeschränkter Mengen und die Kappa-Architektur
  1.  
  2. 1
  3. 2
  4. 3


Anzeige
Spiele-Angebote
  1. 6,50€
  2. 19,49€
  3. 3,33€

FlashBFE 20. Feb 2019

Ebenso, +1

FlashBFE 20. Feb 2019

Nein, ein Stapel ist eben keine Warteschlange. Das eine ist FILO, das andere FIFO. Und...

lennartgrosser1... 06. Feb 2019

Genau genommen ist Hadoop kein Data Warehouse, sondern ein Framework, welches verteiltes...

DummyAccount 05. Feb 2019

Spark ist übrigens in der Tat immer noch micro-batch orientiert. Flink dagegen bietet...


Folgen Sie uns
       


Audi E Tron GT Probe gefahren

Der E-Tron GT ist die Oberklasse-Limousine von Audi. Golem.de ist das Elektroauto Probe gefahren.

Audi E Tron GT Probe gefahren Video aufrufen
Programm für IT-Jobeinstieg: Hoffen auf den Klebeeffekt
Programm für IT-Jobeinstieg
Hoffen auf den Klebeeffekt

Aktuell ist der Jobeinstieg für junge Ingenieure und Informatiker schwer. Um ihnen zu helfen, hat das Land Baden-Württemberg eine interessante Idee: Es macht sich selbst zur Zeitarbeitsfirma.
Ein Bericht von Peter Ilg

  1. Arbeitszeit Das Sechs-Stunden-Experiment bei Sipgate
  2. Neuorientierung im IT-Job Endlich mal machen!
  3. IT-Unternehmen Die richtige Software für ein Projekt finden

Weclapp-CTO Ertan Özdil: Wir dürfen nicht in Schönheit und Perfektion untergehen!
Weclapp-CTO Ertan Özdil
"Wir dürfen nicht in Schönheit und Perfektion untergehen!"

Der CTO von Weclapp träumt von smarter Software, die menschliches Eingreifen in der nächsten ERP-Generation reduziert. Deutschen Perfektionismus hält Ertan Özdil aber für gefährlich.
Ein Interview von Maja Hoock


    Fiat 500 als E-Auto im Test: Kleinstwagen mit großem Potenzial
    Fiat 500 als E-Auto im Test
    Kleinstwagen mit großem Potenzial

    Fiat hat einen neuen 500er entwickelt. Der Kleine fährt elektrisch - und zwar richtig gut.
    Ein Test von Peter Ilg

    1. Vierradlenkung Elektrischer GMC Hummer SUV fährt im Krabbengang seitwärts
    2. MG Cyberster MG B Roadster mit Lasergürtel und Union Jack
    3. Elektroauto E-Auto-Prämie übersteigt in 2021 schon Vorjahressumme

      •  /