Mit den aktuellen Moderator-Tools in Disqus können Benutzer Kommentare nach IP-Adresse, nach Wörtern und sogar nach Links herausfiltern. Und wenn diese Tools nicht ausreichen, können Benutzer Benutzer in den eigentlichen Kommentarthreads manuell blockieren, melden oder sperren. Nun, das reicht offenbar nicht aus, weshalb Disqus einen neuen „Toxic“-Filter hinzugefügt hat, den Moderatoren nutzen können, um Kommentare zu zensieren oder zu verbieten.

Der neue Filter wurde kürzlich zur Disqus-Kommentar-App hinzugefügt, und die Disqus-Mitarbeiter erklärten in einem kürzlich überarbeiteten Beitrag, wie er funktioniert offiziellen Website.

Disqus nutzte Daten, die in Zusammenarbeit mit der linksgerichteten Website Wired gesammelt und veröffentlicht wurden, um ihre neue API zu erstellen, um Kommentare zu überwachen und als „giftig“ zu kennzeichnen. Sie können das Ausmaß der „Toxizität“ anhand des Kommentarbewertungssystems unten auf den aktuellen Websites erkennen Internet-Troll-Karte.

Wie Sie sehen können, scheinen die von ihnen verwendeten Beispiele deutlich zu zeigen, dass bestimmte Arten von Ausdrücken, die sich an SJWs richten, wahrscheinlich als Kommentar markiert werden. Wir werden sehen, ob das in gleichem Maße auch für Angriffe gegen Rechtsextreme gilt.

Laut Disqus erkennt man giftige Inhalte an Missbrauch, Trolling, fehlendem Beitrag und angemessenem Lesereigentum. Wenn sie der Meinung sind, dass ein Kommentar einen Leser wahrscheinlich dazu veranlassen wird, den Inhalt zu verlassen, anstatt einen Beitrag zu leisten, dann halten sie den Kommentar wahrscheinlich für „giftig“.

Der Beitrag bedeutet, dass Inhaltsadministratoren Kommentare sehen können, die von Disqus als „giftig“ gekennzeichnet wurden, und entscheiden können, ob sie etwas dagegen unternehmen möchten, z. B. giftige Kommentare automatisch ausblenden oder löschen oder sie in den Spam-Ordner verschieben.

In dem Beitrag heißt es auch, dass sie einen Algorithmus für maschinelles Lernen verwenden werden, um den Toxizitätsfilter für verschiedene Gemeinschaften besser zu identifizieren und anzupassen, und erklärt…

„Diese erste Veröffentlichung legt eine Basislinie für die Toxizität in unserem gesamten Netzwerk fest. Wir wissen jedoch, dass das, was als akzeptabel und was als giftig gilt, in den verschiedenen Gemeinschaften unterschiedlich sein kann. Um dieses Problem besser anzugehen, arbeiten wir an Möglichkeiten, gemeinschaftliche Normen in die Toxizitätsbewertung einzubeziehen, in der Hoffnung, letztendlich individuellere Lösungen für einzelne Standorte und Gemeinden bereitzustellen.“

Die Kennzeichnung „giftig“ kennzeichnet vorerst nur Kommentare, gegen die jedoch keine Maßnahmen ergriffen werden. Moderatoren haben weiterhin die Kontrolle darüber, ob sie die „giftigen“ Kommentare entfernen oder hinterlassen möchten.