Abo
  • IT-Karriere:

Parsey McParseface: Google gibt extrem guten Syntax-Parser frei

Zum Erkennen natürlicher Sprache hat Google ein neues Modell zum Parsen der Syntax entwickelt und mit seinem Deep-Learning-Framework Tensorflow implementiert. Der daraus erstellte Englisch-Parser Parsey McParseface soll die derzeit beste maschinelle Erkennungsrate für Syntaxbäume aufweisen.

Artikel veröffentlicht am ,
Parsey McParseface ist ein erstaunlich guter Parser.
Parsey McParseface ist ein erstaunlich guter Parser. (Bild: Robert Scoble/CC-BY 2.0)

Die Forschungsabteilung von Google hat ein neues Modell zum Erkennen der Syntax natürlicher Sprache (PDF) entwickelt und in sein eigenes Framework Tensorflow implementiert. Das so entstandene neuronale Netz Syntaxnet kann frei wiederverwendet werden. Google selbst hat damit den Englisch-Parser Parsey McParseface erstellt, der nun ebenfalls frei zur Verfügung steht.

Weltweit bester Parser

Stellenmarkt
  1. OEDIV KG, Bielefeld
  2. Deloitte, Leipzig

Mit dem etwas ungewöhnlichen Namen spielt Google offensichtlich auf Boaty McBoatface an, einen Namensvorschlag für ein neues britisches Polarforschungsschiff. Zum Trainieren des Parsers haben die Beteiligten auf die Standardkorpora der Penn Treebank, Onto Notes sowie der English Web Treebank zurückgegriffen. In Benchmarks mit Sätzen aus Zeitungen habe Parsey McParseface die inneren Abhängigkeiten und damit die syntaktischen Strukturen der getesteten Sätze zu über 94 Prozent korrekt erkannt. Das sei die derzeit beste Erkennungsrate einer Maschine für Englisch.

Die Übereinstimmungsrate zum Annotieren der Syntaxbäume durch darauf trainierte Sprachwissenschaftler schätzt Google auf etwa 96 bis 97 Prozent. Die Rate von Personen, die darin keine Übung haben, fällt wahrscheinlich deutlich geringer aus. Dies lege nahe, dass Maschinen langsam menschliche Leistungen erzielten. Allerdings gelte das nur für wohlgeformte und damit eher einfache Sätze. Die Rate für Sätze aus Googles Webtreebank liege bei lediglich 90 Prozent.

Die größten Probleme zum korrekten Erkennen bereiten Google zufolge zurzeit noch jene Sätze, die ein gewisses Weltwissen und Kontext voraussetzen. An diesem Problem will das Team weiter arbeiten und Methoden entwickeln, mit denen dieses Weltwissen maschinell erlernt werden kann.

Neuronales Netz verarbeitet Ambiguitäten

Syntaxnet arbeitet zunächst wie viele andere Systeme auch und weist nach der entsprechenden Trainingsphase Wörtern ihre Wortarten über ein Lexikon zu. Anschließend versucht der Parser, einzelne Abhängigkeiten innerhalb des Satzes zu erkennen, also etwa direktes und indirektes Objekt einem Verb zuzuweisen. Dies geschieht schrittweise, vergleichbar dem Lesen eines Textes von links nach rechts.

Mögliche Doppeldeutigkeiten eines Satzes werden dabei mit Hilfe des neuronalen Netzes gelöst. Zu jedem Zeitpunkt des Parsingvorgangs gibt es verschiedene Entscheidungsmöglichkeiten, einen Syntaxbaum aufzubauen, das neuronale Netz ordnet den Möglichkeiten dann Wahrscheinlichkeiten für ihre Plausibilität zu. Mittels der sogenannten Beam-Suche werden dabei möglichst lange verschiedene Hypothesen parallel zueinander aufrechterhalten und gegeneinander abgewogen. So können auch noch relativ spät im Parsevorgang mögliche Fehler erkannt und korrigiert werden.

Der Quellcode von Syntaxnet und Parsey McParseface steht auf Github bereit. Dort erläutert Google auch relativ ausführlich, wie mit Hilfe eigener Daten aus Baumdatenbanken das Modell genutzt werden kann, um selbst einen Parser zu erstellen.



Anzeige
Hardware-Angebote
  1. mit Gutschein: NBBX570

Eheran 14. Mai 2016

Gott, ist der Film wirklich so schlecht? :o

eni23 14. Mai 2016

Der Name stammt aber eindeutig von "hooty mcowlface".. Das mit dem Boot ist recht neu..

OhYeah 14. Mai 2016

Mimimimi. Mach dir lieber Sorgen um die Regierung und deren Überwachungsorgane.


Folgen Sie uns
       


Acer Predator Helios 700 - Hands on (Ifa 2019)

Was für ein skurriles Gerät: Golem.de schaut sich das Gaming-Notebook Predator Triton 700 von Acer an und probiert die Schiebetastatur aus.

Acer Predator Helios 700 - Hands on (Ifa 2019) Video aufrufen
Change-Management: Die Zeiten, sie, äh, ändern sich
Change-Management
Die Zeiten, sie, äh, ändern sich

Einen Change zu wollen, gehört heute zum guten Ton in der Unternehmensführung. Doch ein erzwungener Wandel in der Firmenkultur löst oft keine Probleme und schafft sogar neue.
Ein Erfahrungsbericht von Marvin Engel

  1. IT-Jobs Der Amtsschimmel wiehert jetzt agil
  2. MINT Werden Frauen überfördert?
  3. Recruiting Wenn das eigene Wachstum zur Herausforderung wird

IT-Sicherheit: Auch kleine Netze brauchen eine Firewall
IT-Sicherheit
Auch kleine Netze brauchen eine Firewall

Unternehmen mit kleinem Geldbeutel verzichten häufig auf eine Firewall. Das sollten sie aber nicht tun, wenn ihnen die Sicherheit ihres Netzwerks wichtig ist.
Von Götz Güttich

  1. Anzeige Wo Daten wirklich sicher liegen
  2. Erasure Coding Das Ende von Raid kommt durch Mathematik
  3. Endpoint Security IT-Sicherheit ist ein Cocktail mit vielen Zutaten

SSD-Kompendium: AHCI, M.2, NVMe, PCIe, Sata, U.2 - ein Überblick
SSD-Kompendium
AHCI, M.2, NVMe, PCIe, Sata, U.2 - ein Überblick

Heutige SSDs gibt es in allerhand Formfaktoren mit diversen Anbindungen und Protokollen, selbst der verwendete Speicher ist längst nicht mehr zwingend NAND-Flash. Wir erläutern die Unterschiede und Gemeinsamkeiten der Solid State Drives.
Von Marc Sauter

  1. PM1733 Samsungs PCIe-Gen4-SSD macht die 8 GByte/s voll
  2. PS5018-E18 Phisons PCIe-Gen4-SSD-Controller liefert 7 GByte/s
  3. Ultrastar SN640 Western Digital bringt SSD mit 31 TByte im E1.L-Ruler-Format

    •  /