Von TypeScript und Node.js: Github migriert mit KI 800.000 Codezeilen nach Rust
Github hat die Laufzeitumgebung des Github-Copilot-Agenten vollständig von Typescript und Node.js in die Programmiersprache Rust migriert. Wie das Unternehmen in einem Blogbeitrag erklärt(öffnet im neuen Fenster), basierte die ursprüngliche Architektur auf der V8-JavaScript-Engine, was bei der Einbindung in verschiedene Anwendungen wie VS Code, die CLI oder Office-Tools zu merklichem Overhead führte.
Die gesamte Neuentwicklung umfasste mehr als 800.000 Zeilen Rust-Code und wurde größtenteils von einem einzelnen Entwickler mithilfe von KI-Agenten in nur wenigen Monaten erstellt. Laut Angaben von Github hätte das Projekt früher ein ganzes Team über Jahre hinweg gebunden.
Anstatt die Entwicklung in einem isolierten Zweig bis zu einem finalen Umstellungstermin durchzuführen, wurde der Code schrittweise über 128 Pull Requests direkt im Hauptzweig (main) integriert und kontinuierlich ausgeliefert.
Steigerung des Durchsatzes und Senkung des Speicherbedarfs
Für die Übergangsphase nutzte das Team Kompatibilitätsschichten (N-API-Shims), um Funktionen flexibel zwischen Rust und Typescript aufzurufen und Schritt für Schritt zu ersetzen. Im Zielzustand bietet die Laufzeitumgebung nun ein N-API-Modul für Node.js sowie eine schlanke C-ABI-Schnittstelle, über die SDKs verschiedener Sprachen (wie C#, Go, Java, Python oder Rust) direkt und effizient innerhalb desselben Prozesses eingebunden werden können.
Die Migration führte laut Github dazu, dass der Durchsatz paralleler Sessions von 7,55 auf bis zu 120 pro Sekunde stieg, während der Speicherbedarf deutlich sank. Die reinen Token-Kosten für den Einsatz der KI-Agenten sollen sich auf rund 120.000 US-Dollar bei etwa 136,3 Milliarden verarbeiteten Tokens belaufen haben. Dieser finanzielle Rahmen war laut Github nur möglich, weil eine Prompt-Caching-Quote von 96,22 Prozent den Token-Aufwand drastisch reduzierte.
Ein wesentliches Fazit des Projekts ist, dass der Rust-Compiler und statische Analysen dem KI-Agenten als schnelle Feedbackschleife dienten, der erfolgreiche Kompilierungsprozess alleine jedoch keine Fehlerfreiheit garantieren konnte. Umfassende Tests und menschliche Aufsicht für Architektur, Risikoabwägung und Freigaben waren weiterhin unverzichtbar. Das Projekt belege aber, dass komplexe Systemumstellungen mit KI-Agenten (g+) ökonomisch machbar seien, so Github.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.