Drei Fragen und Antworten: Wie weit geht das Tool Grammarly bei sensiblem Text?

Das Sprachkorrektur-Tool Grammarly bekommt täglich Textinhalte jeglicher Couleur vorgesetzt. Im Interview erklärt der Head of ML and NLP Products bei Grammarly Timo Mertens, wie das KI-Werkzeug mit Inhalten umgeht, die die Regeln der korrekten Sprache absichtlich brechen, aber auch darüber, wie man Texte mit fragwürdigem Inhalt behandelt.

Drei Fragen und Antworten mit Timo Mertens

Timo Mertens ist "Head of ML and NLP Products" bei Grammarly.

Sprache lebt davon, dass man mit ihr spielt. Auch wenn es derzeit noch keine konkreten Pläne gibt, hatten Sie im ersten Interview angedeutet, ihr Tool auf mehr Sprachen als nur Englisch auszudehnen – gerade das Deutsche lädt zu Experimenten ein. Wie will Grammarly flexibel den dichtenden Texten keinen Riegel vorschieben?

Das ist eine gute Frage. Einige Ratschläge zum Schreiben gelten natürlich für so gut wie jede Situation, so zum Beispiel die korrekte Rechtschreibung oder Zeichensetzung. Aber einige andere Eigenschaften des Schreibens, wie etwa der Stil oder der Formalitätsgrad, hängen stark vom Kontext und der Situation ab – und noch mehr vom Ziel Ihrer Botschaft.

Grammarly verfügt über eine Funktion, mit der Benutzer Ziele für ihre Texte festlegen und so die Zielgruppe, den Formalitätsgrad sowie den Textbereich auswählen können, um maßgeschneiderte Schreibvorschläge zu erhalten. Es gibt sechs Optionen zur Auswahl: general, academic, business, email, creative und casual (allgemein, akademisch, geschäftlich, E-Mail, kreativ und zwanglos). Jede von ihnen beeinflusst die Art der Vorschläge, die der Benutzer erhält.

Was Ihre Fragen zu weniger formellen und kreativen Schreibstilen betrifft: Je nach Zielsetzung kann der Benutzer für seinen Text entweder den lockeren oder den kreativen Modus wählen. Der zwanglose Stil ist für informelle Texte gedacht, zum Beispiel für persönliche Mitteilungen. Das Programm ignoriert dann die meisten Stilfragen. So werden beispielsweise Abkürzungen, Passiv, informelle Pronomen und so weiter nicht hervorgehoben. Der kreative Schwerpunkt bietet den freizügigsten Stil. Er erkennt Grammatik-, Interpunktions- und Rechtschreibfehler, lässt aber auch Spielraum für diejenigen, die Grammatikregeln absichtlich verbiegen wollen, um bestimmte sprachliche Effekte zu erzielen. Im kreativen Bereich werden Satzfragmente, fehlende Subjekte oder Verben, wortreiche Sätze, umgangssprachliche Wendungen, unvollständige Vergleiche und so weiter nicht gekennzeichnet.

Grammarly ist eine Schreibassistenz-Software. Das bedeutet, dass sie Usern dabei hilft, das eigene Schreiben in englischer Sprache in jeglicher Hinsicht zu optimieren. Das Ziel ist, menschliche Fähigkeiten zu erweitern und nicht, den Menschen zu ersetzen. Daher sind die Vorschläge des Programms immer nur Optionen, die man in Betracht ziehen kann – keine erzwungenen Vorschriften.

Umstrittene Begriffe bringen Sprachkorrekturen teilweise ziemlich aus dem Tritt. Wie geht ihr mit sensiblen Begriffen um, die manche als anstößig und andere als völlig normal empfinden?

Als Unternehmen, das KI-gestützte Produktangebote bereitstellt, wissen wir, dass wir die Verantwortung haben, ein Produkt zu entwickeln, das Vorurteile nicht verstärkt oder aufrechterhält. Wir haben interne Teams und strukturierte Arbeitsabläufe, die sich auf die Bewertung der Inklusivität und Sensibilität unserer Software konzentrieren. Diese Teams arbeiten daran, zu verbessern, wie wir eine gewissenhafte und inklusive Kommunikation unterstützen können. Gleichzeitig arbeiten wir mit Teammitgliedern aus dem gesamten Unternehmen zusammen, um auf auftretende Probleme zu reagieren.

Hier sind einige Beispiele für diese Entwicklung: Grammarly erforschte vor dem Launch mögliche Gender-Vorurteile in der Autokorrektur-Funktion; um fremdenfeindliche Alternativen zu vermeiden, schlagen wir stattdessen die offizielle Nennung von COVID-19 vor; außerdem haben wir eine Reihe von Vorschlägen zur Verwendung einer inklusiven LGBTQIA+-Sprache entwickelt, einschließlich der Unterstützung des Singulars "they".

Unsere Arbeit an dem Thema "Sensibilität" beginnt bereits bei der Annotation der Daten. Ein Bereich, auf den wir uns konzentrieren, ist zum Beispiel die Suche nach Möglichkeiten, potenzielle Voreingenommenheiten oder Stereotypen durch eine strenge Annotation der Datensätze vorzubeugen. In der Phase vor der Veröffentlichung neuer Funktionen führen wir außerdem gründliche Bewertungen durch, um potenzielle Probleme genau zu untersuchen, bevor die Funktionen an die Nutzer gehen. Und nach der Veröffentlichung hören wir unseren Nutzern aufmerksam zu und reagieren mit Verständnis auf auftretende Probleme. Wir haben ein Team, das funktionsübergreifend arbeitet, um Probleme zu bewerten und Lösungen zu entwickeln, die unseren Werten entsprechen. Der direkte Austausch mit unseren Nutzern hilft uns dabei, kontinuierlich zu verbessern, wie wir eine gewissenhafte und inklusive Kommunikation unterstützen können.

Ein wichtiger Faktor ist, dass alle Grammarly-Vorschläge mit Erklärungen zu den Grammatikregeln oder Sprachübungen versehen sind, die die Empfehlung beeinflussen. Dadurch können die Benutzer lernen, je öfter sie Grammarly benutzen. Am wichtigsten ist jedoch: User haben immer das letzte Wort, können die Optionen abwägen und entscheiden, ob sie einen Vorschlag anwenden wollen oder nicht.

Nicht jeder Text, den man korrigiert haben möchte, ist direkt für fremde Augen bestimmt – manche enthalten vertrauliche Firmeninformationen, andere vielleicht peinliche Liebesbriefe. Wo landen die Daten der hochgeladenen Dateien bei euch und wo werden sie verarbeitet?

Das Vertrauen der Nutzer ist die Grundlage für eine gewissenhafte Produktentwicklung. Es ist eine große Verantwortung, ein Produkt zu entwickeln, auf das sich täglich über 30 Millionen Menschen verlassen. Aus diesem Grund steht die Sicherheit der Daten im Mittelpunkt unseres Unternehmens und unseres Produkts. Wir haben weder in der Vergangenheit, noch werden wir in Zukunft Nutzerdaten verkaufen oder vermieten – Punkt. Wir geben auch keine Informationen an Dritte weiter, damit diese bei unseren Kunden Werbung machen können. Alles, was wir tun, geschieht im Vertrauen darauf, unseren Nutzern einen Mehrwert zu bieten. Um mit unserem Produkt einen bedeutungsvollen Wert zu schaffen, müssen wir ein Ökosystem fördern und aufrechterhalten, das auf Vertrauen basiert; so sehr, dass es in unser Geschäftsmodell integriert ist: Grammarly verdient Geld, wenn Kunden unsere erstklassige Kommunikationshilfe nutzen und sich für den Kauf eines unserer kostenpflichtigen Produktangebote (wie Grammarly Business oder Grammarly Premium) entscheiden. Als KI-Unternehmen nehmen wir unsere Verantwortung als Verwalter von Daten also sehr ernst.

Wir praktizieren "privacy by design": Beispielsweise prüft Grammarly nur den von Usern gewünschten Text. Die Überprüfung von Texten wird nicht in sensiblen Feldern ausgeführt (zum Beispiel in Kreditkartenformularen, Passwortfeldern, URL-Feldern oder ähnlichen, in denen private Informationen angegeben werden). Unsere Nutzer können zudem alle mit ihren Konten verbundenen Daten einsehen.

Da die Benutzer dem Programm ihre Wörter und Daten anvertrauen, haben wir Sicherheitsvorkehrungen getroffen, um zu gewährleisten, dass ihre Daten sicher sind. Wir verwenden eine Kombination aus technischen, physischen und logischen Schutzmaßnahmen, um die Sicherheit der Benutzerdaten zu gewährleisten. Dazu gehören die Verschlüsselung, sichere Netzwerkkonfiguration und Datenübertragung, ein eingeschränkter Zugang für Teammitglieder und andere Maßnahmen.

Wir haben schon immer mit extrem hohen Sicherheitsstandards gearbeitet. Vor ein paar Jahren, als wir unser Geschäft innerhalb professioneller Teams ausbauten, wurde uns klar, dass wir die Zertifizierungen und Bescheinigungen anstreben mussten, um dieses Engagement auch nach außen zu tragen. Da wir bereits über eine entsprechende Grundlage verfügten, konnten wir uns in kürzester Zeit mehrere Zertifizierungen sichern. Unsere Sicherheitspraktiken sind durch Zertifizierungen und Compliance auf Unternehmensebene belegt, zum Beispiel durch den SOC 2 (Typ 2)-Bericht und ISO-Zertifizierungen für Sicherheit, Datenschutz, Verfügbarkeit und Vertraulichkeit. Diese Auszeichnungen haben uns geholfen, unseren B2B-Kundenstamm auf 50.000 Teams zu erweitern, dazu zählen Unternehmen wie Siemens, Zoom, Okta und Expensify.

Und zu guter Letzt lautet einer unserer fünf Grundwerte bei Grammarly "Ethisch". Wir halten uns stets an einen hohen Standard, um das Richtige zu tun, auch wenn niemand zusieht.

Herr Mertens, vielen Dank für Ihre Antworten. Vergangene Woche haben wir uns bereits mit Grammarly über die technische Umsetzung der Sprachkorrektur unterhalten.

In der Serie „Drei Fragen und Antworten“ will die iX die heutigen Herausforderungen der IT auf den Punkt bringen – egal ob es sich um den Blick des Anwenders vorm PC, die Sicht des Managers oder den Alltag eines Administrators handelt. Haben Sie Anregungen aus Ihrer tagtäglichen Praxis oder der Ihrer Nutzer? Wessen Tipps zu welchem Thema würden Sie gerne kurz und knackig lesen? Dann schreiben Sie uns gerne oder hinterlassen Sie einen Kommentar im Forum.

(jvo)