{"id":88064,"date":"2021-06-08T10:06:48","date_gmt":"2021-06-08T10:06:48","guid":{"rendered":"https:\/\/wp-staging.amberscript.com\/blog\/dutch-punctuation-model\/"},"modified":"2023-06-20T09:22:50","modified_gmt":"2023-06-20T07:22:50","slug":"niederlaendisches-interpunktionsmodell","status":"publish","type":"post","link":"https:\/\/wp-staging.amberscript.com\/de\/blog\/niederlaendisches-interpunktionsmodell\/","title":{"rendered":"Niederl\u00e4ndisches Interpunktionsmodell"},"content":{"rendered":"\n

Grammatikalische Aspekte wie Gerundium, Pr\u00e4positionen und grundlegende grammatikalische Regeln spielen in den meisten bekannten Sprachen eine wichtige Rolle. Haben Sie schon einmal dar\u00fcber nachgedacht, dass auch die Interpunktion eine wichtige Rolle spielt?<\/em><\/p>\n\n\n\n

Interpunktion ist in der Sprache wichtig. Sie bedeutet die korrekte Anordnung von kleinen, manchmal kaum wahrnehmbaren Zeichen an den richtigen Stellen, um die genaue L\u00e4nge und die Bedeutung des Satzes anzuzeigen.<\/em><\/p>\n\n\n\n

Im folgenden Text werden wir einen genaueren Blick auf das KI-Interpunktionsmodell werfen, das wir f\u00fcr unser Spracherkennungsmodell f\u00fcr Niederl\u00e4ndisch entwickelt haben.<\/em><\/p>\n\n\n\n

Die Rolle der Zeichensetzung in der Sprache<\/strong><\/h2>\n\n\n\n

Die Interpunktion ist ein wesentlicher Bestandteil des geschriebenen Textes und tr\u00e4gt zur Verst\u00e4ndlichkeit und Koh\u00e4renz des Textes bei. Das Fehlen von Interpunktion beeintr\u00e4chtigt die Lesbarkeit und kann Texte unverst\u00e4ndlich machen. Au\u00dferdem verringern Satzzeichen die Mehrdeutigkeit. Wie in diesem Beispiel ersichtlich kann ein Komma die Bedeutung eines Satzes v\u00f6llig ver\u00e4ndern:<\/p>\n\n\n\n

\n

\u201cSch\u00fcler:innen sagen, Lehrer:innen haben es gut.\u201d<\/em><\/p>\n<\/blockquote>\n\n\n\n

vs<\/p>\n\n\n\n

\n

\u201cSch\u00fcler:innen, sagen Lehrer:innen, haben es gut.\u201d<\/em><\/p>\n<\/blockquote>\n\n\n\n

Interpunktion in Sprache-zu-Text<\/strong><\/h2>\n\n\n\n

Daher m\u00fcssen Sprache-zu-Text-Systeme Satzzeichen enthalten, wenn sie ein Transkript erstellen. Typische automatische Spracherkennungssysteme (ASR) geben jedoch keine Interpunktionszeichen aus, da sie keine gesprochene Form haben. Au\u00dferdem besteht das erzeugte Transkript nur aus klein geschriebenen W\u00f6rtern, was es schwer verst\u00e4ndlich macht. Ein korrekt interpunktiertes Transkript hilft auch bei der automatischen Generierung von Untertiteln f\u00fcr Videos.<\/p>\n\n\n\n

Dieses Problem kann durch die Integration eines separaten Interpunktionsmodells gel\u00f6st werden, das automatisch Interpunktion zur Ausgabe eines ASR-Modells hinzuf\u00fcgen kann. Es kann als ein Problem der nat\u00fcrlichen Sprachverarbeitung (NLP) betrachtet werden, bei dem das Ziel darin besteht, das Satzzeichen (oder das Fehlen desselben) f\u00fcr jedes Wort in einer Abschrift vorherzusagen.<\/p>\n\n\n\n

Sprachliche Modelle<\/strong><\/h2>\n\n\n\n

Deep Learning hat in den letzten Jahren enorme Fortschritte gemacht, die durch die steigende Rechenleistung beg\u00fcnstigt wurden. Der Bereich NLP wurde 2018 durch die Einf\u00fchrung von BERT im Sturm erobert. BERT<\/a> wurde von Google AI entwickelt und ist ein gro\u00dfes Sprachmodell, das auf der Transformator-Architektur<\/a> basiert. Es wurde als der ImageNet-Moment des NLP<\/a> angepriesen, was sich darauf bezieht, wie ImageNet den Fortschritt beim Lernen von Repr\u00e4sentationen aus Bildern im Bereich der Computer Vision gesteuert hat. BERT ist eine deutliche Verbesserung gegen\u00fcber fr\u00fcheren Sprachrepr\u00e4sentationsmodellen wie GloVe<\/a>-Embeddings und kontextuellen Repr\u00e4sentationen wie ELMo<\/a>.<\/p>\n\n\n\n

Eine intuitive Erkl\u00e4rung der Funktionsweise von BERT finden Sie in diesem hervorragenden Blogbeitrag von Jay Alammar<\/a>. Vereinfacht ausgedr\u00fcckt wird es auf Rohtexten selbst\u00fcberwacht trainiert, d. h. ohne menschliche Annotationen. Konkret wird es f\u00fcr zwei Aufgaben trainiert – maskierte Sprachmodellierung und Vorhersage des n\u00e4chsten Satzes. Am Ende des Trainings wird das Modell als „vortrainiert“ bezeichnet und erfasst die Semantik der Sprache mit seinen Wort- und Satzrepr\u00e4sentationen. Ein vortrainiertes BERT kann dann in einer nachgelagerten NLP-Aufgabe feinabgestimmt werden. Als es ver\u00f6ffentlicht wurde, lieferte BERT nach der Feinabstimmung bei einer Reihe von NLP-Aufgaben, einschlie\u00dflich der Inferenz nat\u00fcrlicher Sprache (NLI), der Beantwortung von Fragen usw., Ergebnisse auf dem neuesten Stand der Technik.<\/p>\n\n\n\n

Interpunktionsmodell bei Amberscript<\/strong><\/h2>\n\n\n\n

Bei Amberscript entwickeln wir kundenspezifische ASR-Modelle, eines davon f\u00fcr Niederl\u00e4ndisch. Wie bereits erw\u00e4hnt, fehlen in den von diesem Modell erzeugten Transkripten Satzzeichen. Derzeit gibt es keine quelloffenen Interpunktionsmodelle, die f\u00fcr die niederl\u00e4ndische Sprache spezifisch sind. Daher haben wir ein Interpunktionsmodell auf der Grundlage von BERT entwickelt, das automatisch die folgenden Interpunktionszeichen hinzuf\u00fcgt: Fragezeichen, Punkt, Ausrufezeichen, Komma, Doppelpunkt und Semikolon. Andere Satzzeichen, die paarweise auftreten, wie zum Beispiel Anf\u00fchrungszeichen und Klammern, sind viel schwieriger allein anhand des Textes zu bestimmen.<\/p>\n\n\n\t

\n\t\t\n\t
\n\n