Apache Drill Riesige Datenmengen werden schneller verarbeitet

Mit Drill soll die Abfrage und Analyse riesiger Datenmengen beschleunigt werden. Drill soll ein Incubator-Projekt der ASF werden und basiert auf dem Konzept des Google-Werkzeugs Dremel, welches das Unternehmen intern einsetzt.

Zur Verwaltung riesiger Datenmengen nutzen viele Unternehmen Apache Hadoop, zur Analyse der Daten wird dann meist Mapreduce verwendet. Die Analyse ist jedoch bei bestimmten Anwendungen schlicht zu langsam, weshalb Google intern die Eigenentwicklung Dremel nutzt. Drill erweitert das frei zugängliche Dremel-Konzept leicht und soll zunächst als Incubator-Projekt der Apache-Foundation entwickelt werden.

Zusätzlich zu den SQL-ähnlichen Sprachen, die Dremel und Google Bigquery nutzen, soll Drill weitere Abfragesprachen unterstützen, etwa jene, die in MongoDB verwendet wird. Ebenso soll Drill mit mehr Datenformaten umgehen können als Dremel. Insbesondere sollen sowohl spalten- als auch zeilenbasierte Formate unterstützt werden. Als Quellen für die Daten wird zunächst Hadoop eingesetzt.

Die ersten Arbeiten an der Implementierung stammen von dem Hadoop-Distributor Mapr. Mit der Übergabe des Quellcodes an die Apache-Sofware-Foundation sollen eine größere Entwicklercommunity und Synergien mit den Hadoop-Entwicklern entstehen.

Es ist sehr wahrscheinlich, dass Drill in das Incubator-Projekt der Apache-Software-Foundation aufgenommen wird.