Open Source: Github erwägt Kill-Switch für Pull Requests wegen KI-Schrott
Microsofts Open-Source-Kollaborationsplattform Github will aktiv gegen Spam durch KI-generierten Code ohne Nutzen vorgehen. Wie The Register(öffnet im neuen Fenster) berichtet, hat Produktmanagerin Camilla Moraes in einer Diskussion auf Github(öffnet im neuen Fenster) entsprechende Vorschläge gemacht.
Seitdem KI-Agenten Code schreiben können, werden Entwickler und Maintainer auf Github offenbar regelrecht von KI-Code überrannt. Dieser hält oft keiner Überprüfung statt, mitunter handelt es sich auch schlicht um falschen Code. Die Auswertung dieses AI Slops kostet die Maintainer viel Zeit – zu viel Zeit, wie diese finden.
Das erkennt Moraes an: "Wir haben von euch erfahren, dass ihr viel Zeit damit verbringt, Beiträge zu überprüfen, die aus verschiedenen Gründen nicht den Qualitätsstandards des Projekts entsprechen. Die Beiträge halten sich nicht an die Projektrichtlinien, werden häufig kurz nach der Einreichung aufgegeben und sind oft KI-generiert."
Github arbeitet an Lösungen
"Wir untersuchen dieses Problem und entwickeln sowohl sofortige als auch längerfristige strategische Lösungen" , erklärt Moraes. Zu den möglichen kurzfristigen Lösungen gehört ein sogenannter Kill-Switch, der Maintainern erlaubt, Pull Requests komplett zu deaktivieren.
Auch die Möglichkeit, Pull Requests nur noch Mitarbeitern am Projekt zu erlauben, könnte die Anzahl an KI-generierten (und möglicherweise fehlerhaften) Codebeiträgen deutlich reduzieren. Außerdem untersucht Github Moraes zufolge die Möglichkeiten, eingereichte Pull Requests zu löschen, sowie Mechanismen, die auf mögliche KI-Inhalte in den Beiträgen hinweisen.
The Register zitiert einige Entwickler, die auf die Probleme durch KI-generierten Code und den damit verbundenen Code hinweisen. So erklärt Xavier Portilla Edo, Head of Cloud Infrastructure bei Voiceflow, dass nur einer von zehn mit KI generierten Pull Requests die Qualitätsstandards erfülle.
Auch andere Plattformen haben mittlerweile angekündigt, KI-generierte Schrottinhalte nicht mehr dulden zu wollen. Unter anderem will Youtube gegen KI-generierte Videos ohne Inhalte vorgehen. Wikipedia hat Schnelllöschungsanträge eingeführt, um KI-generierten Quatsch ohne lange Diskussionen loszuwerden.