Microservices: Netflix baut Encoding-Plattform komplett neu

Die Technik zum Video-Encoding bei Netflix hält dem Wachstum des Streaming-Anbieters nicht mehr stand.

Artikel veröffentlicht am ,
Netflix betreibt vor allem für sein Encoding viel Aufwand.
Netflix betreibt vor allem für sein Encoding viel Aufwand. (Bild: VALERIE MACON/AFP via Getty Images))

Die Videodateien, die der Streaming-Anbieter Netflix von Studios und anderen Herstellern bekommt, werden zum Ausspielen über die Plattform in unzähligen verschiedenen optimierten Formaten, Auflösungen und Qualitätsstufen kodiert. Seit der Einführung der dazu aktuell genutzten Plattform Reloaded vor sieben Jahren seien die Aufgaben aber um das Zehnfache gewachsen, was einige Probleme mit sich bringe, schreibt Netflix. Wie die Zuständigen nun im Engineering-Blog von Netflix schreiben, hat das Team die Plattform unter dem Namen Cosmos deshalb nun komplett neu erstellt.

Die bisherige Architektur sei einzig auf die Aufgabe der Audio- und Videoverarbeitung bedacht gewesen und darauf, möglichst gut zu skalieren. Die dafür genutzte monolithische Architektur habe aber das Einführen neuer Funktionen immer stärker behindert. Auch sei das zuständige Team inzwischen deutlich angewachsen und nicht mehr alle Beteiligten hätten einen Überblick darüber gehabt, wie neue Funktionen überhaupt ausgerollt werden konnten. Das habe vor allem an der Verbindung von Infrastruktur-Code mit der eigentlichen Anwendungslogik gelegen.

Mit Comos hat das Team eigenen Angaben zufolge nun also einen Neuanfang gewagt und sich dabei an modernen Microservices-Architekturen orientiert. Zusätzlich zu der eigentlichen Encoding-Aufgabe sollte der neue Dienst dabei modular aufgebaut sein, ein deutlich besseres Monitoring, eigene Werkzeuge und vor allem eine Continuous-Delivery-Pipeline bieten. Letztere soll dafür sorgen, dass ein Code-Beitrag ohne zusätzliche Eingriffe direkt in die Produktionsumgebung ausgerollt werden kann.

Wie das Team selbst schreibt, handele es sich bei den Cosmos-Diensten aber um keine Microservices. Zwar würden die Anwendungsdaten und ihre Abhängigkeiten ebenso von anderen Systemen getrennt und die Dienste kommunizierten über klar festgelegte APIs. Für das eigentliche Encoding kämen jedoch sehr große und extrem rechenintensive Arbeiten hinzu. Jede dieser Aufgaben habe eigene Abhängigkeiten, lade diese dann als Docker-Container, die je nach Umfang der Encoding-Aufgabe auch mehrere Tausend verschiedene Container umfassen könne. Ebenso könne solch ein Durchlauf mehrere Stunden oder gar Tage dauern, bis er abgeschlossen sei.

Die Arbeiten an Comos hätten bereits im Jahr 2018 begonnen und die neue Architektur werde bereits seit 2019 teilweise produktiv genutzt. Doch erst im laufenden Jahr 2021 soll die Mehrheit der Arbeiten auf die neue Technik umgestellt werden.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Lurchie85 04. Mär 2021

Prime bietet doch die Möglichkeit zu filtern 0_o Auf meinem fire TV kann ich das per Tab...

Pete Sabacker 04. Mär 2021

Du kannst auch skalierbare Monolithen bauen. Keiner braucht Microservices dafür...

1e3ste4 04. Mär 2021

Das was du meinst, nennt man Image. Container sind aus Images erzeugte Instanzen.



Aktuell auf der Startseite von Golem.de
Reviews
Hogwarts Legacy mit PC-Problemen und Detailreichtum

Die ersten Tests von Hogwarts Legacy loben Welt und Kampfsystem. Probleme gibt's wohl mit der PC-Technik - und Unwohlsein wegen J.K. Rowling.

Reviews: Hogwarts Legacy mit PC-Problemen und Detailreichtum
Artikel
  1. Volker Wissing: Schienengüterverbände sind gegen Autobahnausbau
    Volker Wissing
    Schienengüterverbände sind gegen Autobahnausbau

    Für den Güterverkehr sollte vermehrt auf die Bahn gesetzt werden und nicht auf mehr LKW. Für die gebe es eh nicht genug Fahrer, meinen Verbände.

  2. Künstliche Intelligenz: So funktioniert ChatGPT
    Künstliche Intelligenz
    So funktioniert ChatGPT

    Das mächtige Sprachmodell ChatGPT erzeugt Texte, die sich kaum von denen menschlicher Autoren unterscheiden lassen. Wir erklären die Technologie hinter dem Hype.
    Ein Deep Dive von Helmut Linde

  3. i4: BMW lässt sich am Berg nicht updaten
    i4
    BMW lässt sich am Berg nicht updaten

    Die Besitzerin eines BMW i4 hat die Fehlermeldung entdeckt, ihr Parkplatz sei zu steil für ein Update der Bordsoftware.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • RAM im Preisrutsch - neue Tiefstpreise! • Powercolor RX 7900 XTX 1.195€ • AMD Ryzen 7 5800X3D 329€ • Nur noch heute TV-Sale mit bis 77% Rabatt bei Otto • Lenovo Tab P11 Plus 249€ • MindStar: Intel Core i7 13700K 429€ • Logitech G915 Lightspeed 219,89€ • PCGH Cyber Week [Werbung]
    •  /