Copilot+-PC: Microsofts KI kontrolliert die Windows-Systemeinstellungen
Microsoft benutzt diverse KI-Modelle, um die Funktionalität von Copilot+-PCs zu unterstützen. Solche Modelle laufen zumeist lokal auf dem Gerät und werden mithilfe der verbauten NPU berechnet. Der Konzern plant zudem ein eigenes Modell speziell für die Systemeinstellungen. Das Sprachmodell namens Mu soll diverse Systemfunktionen selbstständig erkennen und steuern können.
"Das ist das Sprachmodell, welches den Agenten in Settings antreibt […], indem es Eingabeanfragen in natürlicher Sprache Funktionsaufrufen in den Settings zuweist" , schreibt Microsoft in einem Blogpost(öffnet im neuen Fenster) . Mu wird aktuell in einem Insider-Build im Dev-Channel getestet. Es handelt sich dabei um ein kleines Modell mit etwa 330 Millionen Parametern. Es soll 100 Tokens pro Sekunde mittels NPU verarbeiten können.
Einstellungen mit Suchanfragen ändern
Mu wird nach einer Encoder-Decoder-Architektur entwickelt. Der Encoder formatiert einen Eingabestring zunächst in eine nutzbare Form um. Der Decoder generiert auf Basis dieser formatierten Eingabe Ausgabetokens. "Dieses Design hat signifikante Effizienzvorteile" , schreibt Microsoft. "Der Encoder-Decoder-Ansatz von Mu erreichte eine um etwa 47 Prozent geringere Latenz des ersten Tokens und eine 4,7-mal höhere Decodiergeschwindigkeit im Vergleich zu einem Nur-Decoder-Modell ähnlicher Größe." Der Hersteller gibt Latenzen von ungefähr 500 Millisekunden an, was für den praktischen Nutzen ausreichen sollte.
Für die Nutzung in der Settings-App wurde das Mu-Modell zunächst an etwa 50 Einstellungen trainiert. Dies reichte allerdings nicht aus und die Anzahl der Trainingsdaten wurde auf mehr als 100 Einstellungsmöglichkeiten ausgeweitet. Mu soll so in die Windows-Suche integriert werden und auf Texteingabe diverse Einstellungen selbstständig ändern und finden können. Das wird aktuell aber nur auf Copilot+-PCs funktionieren – also PCs mit aktuellen ARM-Chips von Qualcomm oder den x86-Varianten von Intel und AMD.