Machine Learning: Microsoft setzt auf KI zum Finden von Sicherheitslücken

Die Datenlage bei Microsoft ist offenbar groß genug für Machine Learning. Das Modell soll Open Source werden.

Artikel veröffentlicht am ,
Microsoft setzt auf KI und Machine Learning, auch für die eigene Entwicklung.
Microsoft setzt auf KI und Machine Learning, auch für die eigene Entwicklung. (Bild: Josh Edelson/AFP via Getty Images)

Das Security-Team von Microsoft setzt auf Machine-Learning-Modelle, um gemeldete Fehler danach zu klassifizieren, ob diese sicherheitskritische Lücken sind oder nicht, wie das Unternehmen in seinem Blog mitteilt. Durch eine neue Methode sei das Modell dabei so gut, dass in 99 Prozent aller Fälle gemeldete Fehler korrekt als sicherheitsrelevant klassifiziert werden und in 97 Prozent aller Fälle korrekt als kritisch oder nicht kritisch einsortiert werden.

Stellenmarkt
  1. Software Engineers & Machine Learning Experts (m/f/d)
    freiheit.com technologies gmbh, Hamburg
  2. Mitarbeiter (m/w/d) Anwendungsbetreuung Systeme
    Schock GmbH, Regen
Detailsuche

Als Begründung für die Arbeit schreibt Microsoft, dass mit Hilfe automatisierter Werkzeuge Entwickler darin unterstützt werden sollen, ihre Arbeit besser zu priorisieren. "Zu oft verschwenden Ingenieure jedoch Zeit mit Fehlalarmen oder übersehen eine kritische Sicherheitslücke, die falsch klassifiziert wurde", schreibt das Unternehmen in seiner Ankündigung. Wenig überraschend schreibt Microsoft darüber hinaus, dass die Verknüpfung der Arbeit an den Machine-Learning-Modellen mit der Expertise von Security-Experten zu besseren Ergebnissen geführt habe.

Grundlage für das Training des Modells seien die rund 13 Millionen Fehlerberichte und Arbeitsaufgaben, die das Unternehmen seit 2001 sammelt. Davon wurde ein Teil für das Training entsprechend ihrer Qualität ausgewählt. Nach dem initialen Training hätten die Sicherheitsexperten von Microsoft das Modell im produktiven Einsatz getestet und evaluiert. Dies sei durch Überprüfung der durchschnittlichen gefundenen Anzahl von Fehlern und einer zufälligen Auswahl der gefundenen Fehler geschehen. Das Modell wurde mittels dieser Methode außerdem mehrfach verbessert.

Ideen dazu, automatische Hilfen zu benutzen, um Sicherheitslücken zu erkennen oder zu verhindern, sind nicht neu. So testet Facebook etwa seinen Code mit dem System Zoncolan. Der Cloud-Anbieter AWS nutzt für seinen Codeguru darüber hinaus Machine-Learning-Techniken zur Code-Überprüfung. Das Besondere an dem Modell von Microsoft ist wohl, dass es auf den Titeln der Fehlermeldungen basiert und nicht auf deren eigentlichem Inhalt.

Golem Akademie
  1. Java EE 8 Komplettkurs: virtueller Fünf-Tage-Workshop
    24.–28. Januar 2022, virtuell
  2. Cloud Computing mit Amazon Web Services (AWS): virtueller Drei-Tage-Workshop
    14.–16. Februar 2022, virtuell
Weitere IT-Trainings

Das Unternehmen plant, die genutzte Methodik "in den kommenden Monaten" als Open Source auf Github zu veröffentlichen. Eine wissenschaftliche Auswertung stellt Microsoft darüber hinaus als Teil seiner Dokumentation bereit.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Softwarepatent
Uraltpatent könnte Microsoft Millionen kosten

Microsoft hat eine Klage um ein Software-Patent vor dem BGH verloren. Das Patent beschreibt Grundlagentechnik und könnte zahlreiche weitere Cloud-Anbieter betreffen.
Ein Bericht von Stefan Krempl

Softwarepatent: Uraltpatent könnte Microsoft Millionen kosten
Artikel
  1. Krypto: Angeblicher Nakamoto darf 1,1 Millionen Bitcoins behalten
    Krypto
    Angeblicher Nakamoto darf 1,1 Millionen Bitcoins behalten

    Ein Gericht hat entschieden, dass Craig Wright der Familie seines Geschäftspartners keine Bitcoins schuldet - kommt jetzt der Beweis, dass er Satoshi Nakamoto ist?

  2. Weihnachtsgeschäft: Onlinehändler erwarten Überlastung der Paketdienste
    Weihnachtsgeschäft
    Onlinehändler erwarten Überlastung der Paketdienste

    Eine geringere Verfügbarkeit der Waren macht dem Onlinehandel zusätzlich Probleme. Zudem erwarten weniger Händler Umsatzsteigerungen durch die Pandemie.

  3. Spielfilm: Matrix trifft Unreal Engine 5
    Spielfilm
    Matrix trifft Unreal Engine 5

    Ist der echt? Neo taucht in einem interaktiven Programm auf Basis der Unreal Engine 5 auf. Der Preload ist bereits möglich.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • MM Weihnachtsgeschenkt (u. a. 3 Spiele kaufen, nur 2 bezahlen) • PS5 & Xbox Series X mit o2-Vertrag bestellbar • Apple Days bei Saturn (u. a. MacBook Air M1 949€) • Switch OLED 349,99€ • Saturn-Advent: HP Reverb G2 + Controller 499,99€ • Logitech MX Keys Mini 89,99€ [Werbung]
    •  /