URI: 

       # taz.de -- Yahoo kämpft gegen Hate Speech: „… sie erschießen …“
       
       > Yahoo will Hasskommentare löschen, ohne dabei unverfängliche Posts zu
       > erwischen. Noch hat die Technik aber Grenzen.
       
   IMG Bild: Ein Algorithmus soll's richten: durchs Netz skaten und erstmal den ganzen Hass entfernen
       
       Berlin taz | Beim E-Mail-Postfach klappt es schon ganz gut: Eine Software
       analysiert unter anderem Absender und Textmuster der eingegangenen Mails
       und kommt zu dem Ergebnis: Spam. Oder eben kein Spam. Je nachdem, wie gut
       das Programm trainiert ist, ist diese Analyse recht zuverlässig.
       
       Was bei E-Mails Standard ist, könnte auch in den Kommentarspalten von
       Onlinemedien, Portalen wie Facebook oder sozialen Medien zur Gewohnheit
       werden. So hat kürzlich Yahoo einen Algorithmus entwickelt, der harmlose
       Kommentare von Hasskommentaren trennen soll – und der über das reine
       Filtern nach Schimpfwörtern hinausgeht.
       
       Die Entwickler nutzen dabei das sogenannte Natural Language Processing,
       eine Anwendung aus dem Bereich der künstlichen Intelligenz, die auch bei
       Übersetzungen verwendet wird. Anders als bei den häufig eher stümperhaften
       Übersetzungsvorschlägen lernte der Yahoo-Algorithmus schnell.
       
       Mit detaillierten Vorgaben aus mehreren Bereichen – von der Anzahl der
       Wörter in Großbuchstaben über die Interpunktion bis hin zu einer Liste an
       Hasswörtern und einer komplexen Methode, um Bedeutungen mehrdimensional zu
       erfassen, erkannte der Algorithmus etwa 90 Prozent der auch von
       menschlichen, geschulten Lesern als problematisch identifizierten
       Kommentare.
       
       „Da die Menge von nutzergenerierten Inhalten schnell wächst, ist es
       notwendig, genaue und automatisierte Methoden zu nutzen“, schreiben die
       Autoren in ihrer Veröffentlichung. Würden Hassreden einfach ignoriert,
       führe das zu einer Verwahrlosung der Community.
       
       Allerdings stieß die Automatisierung vor allem an einem Punkt an ihre
       Grenzen: Bei der Beurteilung von Äußerungen in ihrem Kontext. Eines der
       Beispiele, das die Autoren anführen, ist der Satz „oder man könnte . . .
       wisst ihr . . . sie erschießen“. Hier müssten wohl auch Moderatoren erst
       die vorhergehenden Äußerungen lesen, um beispielsweise zu wissen, ob sich
       der Kommentar überhaupt auf Menschen bezieht. Eine der Aufgaben für die
       Zukunft sei es daher, so die Autoren, die vorhergehenden Äußerungen
       mitzuanalysieren und so den Kontext für die Beurteilung nutzen zu können.
       
       Forderung nach Transparenz 
       
       Sami David Rauscher, Projektkoordinator des „No Hate Speech Movement“,
       begrüßt die Entwicklung grundsätzlich. „Wir finden schon, dass die
       Unternehmen da selbst in der Verantwortung stehen“, sagt er. Er bezweifelt
       allerdings, dass Algorithmen dazu in der Lage sind, zwischen den Zeilen zu
       lesen – so würden sicher einige löschenswerte Kommentare nicht erkannt
       werden. Rauscher fordert von den Unternehmen auch Transparenz über die
       Löschungsmodalitäten ein. Die ist häufig nicht gegeben. So erklärt etwa
       Facebook nicht, wann genau eine Äußerung als Hatespeech eingestuft wird.
       Unternehmenschef Mark Zuckerberg selbst drückte sich Anfang des Jahres bei
       einer Diskussion in Berlin um eine erschöpfende Antwort.
       
       Im Einsatz befindet sich der Yahoo-Algorithmus dem Konzern zufolge
       allerdings noch nicht – er sei noch im Entwicklungsstadium. Ob auch
       überlegt wird, einen Algorithmus für andere Sprachräume als den englischen
       zu entwickeln, ließ das Unternehmen auf Anfrage offen.
       
       Derzeit gibt es mehrere Unternehmen, die automatische Filterung bereits
       einsetzen oder planen: So begann Twitter im vergangenen Jahr, verifizierten
       Nutzern einen Filter anzubieten, der unter anderem Bedrohungen,
       Schimpfwörter und Spam aus der Timeline heraushalten soll. Apple erhielt im
       März ein Patent auf eine Entwicklung, die Schimpfwörter aus Audiostreams
       herausfiltern kann. Bei YouTube hat sich das Filtern mittels Algorithmus
       bereits etabliert – allerdings in einem anderen Bereich. Das System
       „Content ID“ erkennt Videos, die urheberrechtlich geschützte Inhalte
       enthalten.
       
       10 Aug 2016
       
       ## AUTOREN
       
   DIR Svenja Bergt
       
       ## TAGS
       
   DIR Hate Speech
   DIR Algorithmus
   DIR Yahoo
   DIR Youtube
   DIR Hate Speech
   DIR Hasskriminalität
   DIR Hasskommentare
   DIR Social Media
   DIR Schwerpunkt Türkei
   DIR Hasskommentare
   DIR Hate Speech
   DIR Hate Speech
   DIR Schwerpunkt Meta
   DIR Yahoo
   DIR Hate Speech
   DIR Hate Speech
       
       ## ARTIKEL ZUM THEMA
       
   DIR Verschwörungstheorien auf YouTube: Mit jedem Klick weiter nach rechts
       
       Vielen Forschern gilt YouTube als Radikalisierer, der Nutzer auf kurzen
       Wegen zu Rassismus und Verschwörungstheorien lenkt. Stimmt das?
       
   DIR Hasspost-Prozess in Saarbrücken: taz gewinnt gegen „8x9 mm“-Mann
       
       Ein Mann, der von Gewalt gegen „Genderlesben“ spricht, darf weiter
       namentlich genannt werden. Er hatte gegen die Berichterstattung geklagt.
       
   DIR Hasskommentare im Internet: Richterbund kritisiert Gesetzentwurf
       
       Die Vorschläge von Justizminister Heiko Maas gehen den Richtern nicht weit
       genug. Sie fordern verbindliche Auskunftsstellen und eine Herausgabe von
       Täternamen.
       
   DIR Raúl Krauthausen über Hasskommentare: „Die meisten sind junge Männer“
       
       Als Aktivist wird Raúl Krauthausen im Internet mitunter übel beschimpft. Er
       übt sich in Seelenhygiene und sagt: Der Hass schwappt auch in die reale
       Welt.
       
   DIR Arbeitsalltag von Social-Media-Teams: Keine Zeit für den Fascho-Check
       
       Eine Limonadenfirma kriegt Stress, weil sie aus Versehen das Selfie einer
       Rechtsextremen freundlich kommentiert hat. Zu Recht? Oder zu hart?
       
   DIR Kolumne Liebeserklärung: Gegen die Trolle
       
       Zensur ist in der Türkei Alltag. Dass die Regierung gegen Hate Speech
       vorgeht, die die Opfer des Reina-Anschlags verspottete, ist bemerkenswert.
       
   DIR Debatte Netz-Hetze: Ein §130-Button, aber schnell!
       
       Facebook ist zum Tummelplatz für Rassisten geworden. Das Unternehmen muss
       gezwungen werden, Hasskommentare zu melden.
       
   DIR Ermittlungen gegen Zuckerberg: Beihilfe zur Volksverhetzung
       
       Schon lange wird Facebook dafür kritisiert, nicht genug gegen
       Hasskommentare zu tun. Bald könnten deshalb Ermittlungen gegen den Konzern
       eingeleitet werden.
       
   DIR Hamburgs Justizsenator über Hate Speech: „Facebook soll entschädigen“
       
       Till Steffen (Grüne) fordert finanziellen Druck auf Online-Netzwerke, damit
       diese rechtswidrige Hassbotschaften schneller löschen.
       
   DIR Berufung von rechstradikalem Hetzer: Haftstrafe bestätigt
       
       Er hetzte im Netz gegen Flüchtlinge, Ausländer und Juden. In Unterfranken
       verurteilt ein Berufungsgericht einen Facebook-Nutzer zu einer
       Freiheitsstrafe.
       
   DIR Verizon kauft Suchmaschine: Yahoo – das Orakel schweigt
       
       Machtlos gegen Facebook und Google: Der Webpionier verliert die
       Eigenständigkeit und wird vom US-Telefonkonzern Verizon geschluckt.
       
   DIR Hate Speech in sozialen Netzwerken: Auffangbecken für Facebook-Hetzer
       
       Facebook geht mittlerweile strenger mit rechten Inhalten um. Deshalb ist
       das russische soziale Netzwerk VK für Hetzer eine Ausweichmöglichkeit.
       
   DIR Hasskommentare im Internet: Ein Netzwerk gegen Trolle
       
       Die deutsche Ausgabe der Kampagne „No Hate Speech Movement“ ist gestartet.
       Sie wendet sich gegen menschenfeindliche Postings im Internet.