Machine Learning: Microsoft setzt auf KI zum Finden von Sicherheitslücken

Die Datenlage bei Microsoft ist offenbar groß genug für Machine Learning. Das Modell soll Open Source werden.

Artikel veröffentlicht am ,
Microsoft setzt auf KI und Machine Learning, auch für die eigene Entwicklung.
Microsoft setzt auf KI und Machine Learning, auch für die eigene Entwicklung. (Bild: Josh Edelson/AFP via Getty Images)

Das Security-Team von Microsoft setzt auf Machine-Learning-Modelle, um gemeldete Fehler danach zu klassifizieren, ob diese sicherheitskritische Lücken sind oder nicht, wie das Unternehmen in seinem Blog mitteilt. Durch eine neue Methode sei das Modell dabei so gut, dass in 99 Prozent aller Fälle gemeldete Fehler korrekt als sicherheitsrelevant klassifiziert werden und in 97 Prozent aller Fälle korrekt als kritisch oder nicht kritisch einsortiert werden.

Als Begründung für die Arbeit schreibt Microsoft, dass mit Hilfe automatisierter Werkzeuge Entwickler darin unterstützt werden sollen, ihre Arbeit besser zu priorisieren. "Zu oft verschwenden Ingenieure jedoch Zeit mit Fehlalarmen oder übersehen eine kritische Sicherheitslücke, die falsch klassifiziert wurde", schreibt das Unternehmen in seiner Ankündigung. Wenig überraschend schreibt Microsoft darüber hinaus, dass die Verknüpfung der Arbeit an den Machine-Learning-Modellen mit der Expertise von Security-Experten zu besseren Ergebnissen geführt habe.

Grundlage für das Training des Modells seien die rund 13 Millionen Fehlerberichte und Arbeitsaufgaben, die das Unternehmen seit 2001 sammelt. Davon wurde ein Teil für das Training entsprechend ihrer Qualität ausgewählt. Nach dem initialen Training hätten die Sicherheitsexperten von Microsoft das Modell im produktiven Einsatz getestet und evaluiert. Dies sei durch Überprüfung der durchschnittlichen gefundenen Anzahl von Fehlern und einer zufälligen Auswahl der gefundenen Fehler geschehen. Das Modell wurde mittels dieser Methode außerdem mehrfach verbessert.

Ideen dazu, automatische Hilfen zu benutzen, um Sicherheitslücken zu erkennen oder zu verhindern, sind nicht neu. So testet Facebook etwa seinen Code mit dem System Zoncolan. Der Cloud-Anbieter AWS nutzt für seinen Codeguru darüber hinaus Machine-Learning-Techniken zur Code-Überprüfung. Das Besondere an dem Modell von Microsoft ist wohl, dass es auf den Titeln der Fehlermeldungen basiert und nicht auf deren eigentlichem Inhalt.

Das Unternehmen plant, die genutzte Methodik "in den kommenden Monaten" als Open Source auf Github zu veröffentlichen. Eine wissenschaftliche Auswertung stellt Microsoft darüber hinaus als Teil seiner Dokumentation bereit.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Jack Kilby
Der Ingenieur, der den Mikrochip erfand

Am 6. Februar 1959 wurde Jack Kilbys Patent für den Mikrochip eingereicht. Und das war nicht das einzige Interessante im Leben des Nobelpreisträgers.
Ein Porträt von Elke Wittich

Jack Kilby: Der Ingenieur, der den Mikrochip erfand
Artikel
  1. Künstliche Intelligenz: So funktioniert ChatGPT
    Künstliche Intelligenz
    So funktioniert ChatGPT

    Das mächtige Sprachmodell ChatGPT erzeugt Texte, die sich kaum von denen menschlicher Autoren unterscheiden lassen. Wir erklären die Technologie hinter dem Hype.
    Ein Deep Dive von Helmut Linde

  2. Poco X5 und X5 Pro: Neue Poco-Smartphones mit Qualcomm-SoCs ab 300 Euro
    Poco X5 und X5 Pro
    Neue Poco-Smartphones mit Qualcomm-SoCs ab 300 Euro

    Pocos neue Smartphones kommen mit 120-Hz-Displays, großen Akkus und Qualcomm-Chips. Das Pro-Modell hat eine 108-Megapixel-Kamera.

  3. Programmiersprache: C++ - da ist noch Musik drin!
    Programmiersprache
    C++ - da ist noch Musik drin!

    Viele Entwickler sind dankbar für Impulse neuer Programmiersprachen, die Verbesserungen und Vereinfachungen in Aussicht stellen. Hat das uralte C++ mit seinen einzigartigen Vorteilen dagegen eine Chance?
    Ein Deep Dive von Adam Jaskowiec

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • RAM im Preisrutsch - neue Tiefstpreise! • Powercolor RX 7900 XTX 1.195€ • AMD Ryzen 7 5800X3D 329€ • Nur noch heute TV-Sale mit bis 77% Rabatt bei Otto • Lenovo Tab P11 Plus 249€ • MindStar: Intel Core i7 13700K 429€ • Logitech G915 Lightspeed 219,89€ • PCGH Cyber Week [Werbung]
    •  /