Azure AI: Microsofts KI erkennt nicht jugendfreie Bilder automatisch

Microsoft Build 2023 Content Safety soll Bilder und Texte in Echtzeit analysieren können – etwa während Livestreams. Außerdem kommen Wasserzeichen für KI-Bilder.

Artikel veröffentlicht am 24. Mai 2023, 8:22 Uhr, Oliver Nickel

Bilder wie dieses müsste die KI noch als relativ harmlos einstufen. (Bild: Pixabay.com)

Microsoft will KI nicht nur für das Erstellen neuer Inhalte verwenden, sondern sie auch einsetzen, um Inhalte für bestimmte Usergruppen unerreichbar zu machen. Das Tool Azure AI Content Safety kann Bilder und Textpassagen analysieren und sie nach bestimmten Kriterien filtern. Das können etwa Klassifikatoren wie Hassinhalte, sexuelle Inhalte oder Gewalt sein. Die Kategorien können anschließend unterschiedlich gefiltert werden.

Die Software soll zudem in Echtzeit funktionieren. Sie kann so beispielsweise Livestreams oder Mulitplayer-Chats in Games überwachen und automatisiert Filter anwenden. Dabei wird jedem analysierten Text oder Bild ein Schwerelevel zugewiesen. Je nach Level werden die Inhalte dann angezeigt oder eben nicht.

Microsoft wird Nutzer ab dem 1. Juni 2023 für die Funktion zur Kasse bitten. Die Analyse von 1.000 Bildern kostet 1,50 US-Dollar. 1.000 Textstücke kosten 0,75 US-Dollar. Bis dahin können Kunden das Tool kostenlos ausprobieren. Generell scheint es aber keinen Probezeitraum zu geben.

Wasserzeichen für KI-Bilder

Microsoft arbeitet zusätzlich an einem bisher nicht näher genannten System, das KI-generierte Inhalte erkennen soll. Dieses Media Provenance Tool wird Teil von Microsoft Designer und Bing Image Creator – beides Programme, die selbst Bilder mittels KI generieren können. Dabei werden die generierten Bilder in ihren Metadaten markiert. So können sie jederzeit als KI-Werke erkannt werden.

Das System soll nicht näher genannte größere Bildformate unterstützen und in den nächsten Monaten erscheinen – zusammen mit den finalen Versionen von Designer und Image Creator.