Digitalisierung + KI

KI hält Schach-Diskussionen oft für Rassimus

Internet-Diskussionen über Schach kommen Künstlicher Intelligenz (KI) oft rassistisch vor. Sprachanalyse-Tools halten Begriffe wie „Schwarz gegen Weiß“ für Hasskommentare, was auf Plattformen wie YouTube sogar zu einer Verbannung führen kann. Zu diesem Ergebnis kommt eine Studie der Carnegie Mellon University.

26.02.2021

KI hält Schach-Diskussionen oft für Rassimus

„Kontext ist Problem“

„Eines der größten Probleme von KI ist der Kontext. Diskussionen sind für Algorithmen viel komplexer als für Menschen. Sie können Schlüsselwörter für Hassrede erkennen, aber den Hintergrund bei ihrer Verwendung nicht. KI braucht Unmengen an Daten, um diese Herausforderung zu meistern. Deswegen dürfen wir einem Computer auch noch keine komplexen Entscheidungen, wie beispielsweise über den Anspruch auf Sozialhilfe, überlassen“, erklärt Zukunftsforscher Gerd Leonhard  im pressetext-Interview.

Anzeige

Die Forscher haben für die Studie als Fallbeispiel den YouTube-Kanal „agadmator's Chess Channel“ verwendet, der im Juni für 24 Stunden aufgrund von scheinbar schädlichen Inhalten gesperrt wurde. Der Kanal beschäftigt sich lediglich mit Schach und YouTube hat den Bann nicht erklärt. Um herauszufinden, welche Inhalte die KI als schädlich einstuft, haben die Wissenschaftler mit einem eigenen Hassrede-Algorithmus mehr als 680.000 Kommentare bei fünf Schach-Kanälen analysiert.

KI liegt meist falsch

Insgesamt 1.000 vermeintliche Hass-Kommentare haben die Studienautoren als Stichprobe verwendet. Dabei stellte sich heraus, dass die KI in 82 Prozent der Fälle mit ihren Einschätzungen falsch lag. Die YouTube-Postings enthielten keine Hassrede. Das liege daran, dass der Algorithmus Wörter wie „Schwarz“, „Weiß“, „Angriff“ oder „Bedrohung“ automatisch als Anzeichen für Rassismus und schädliche Inhalte sieht.

Quelle: UD/pte
 

Related Posts

Newsletter

Unsere Verantwortung/Mitgliedschaften

Logo
Serverlabel
The Global Compact
Englisch
Gold Community
Deutsches Netzwerk Wirtschaftsethik
Caring for Climate

© macondo publishing GmbH
  Alle Rechte vorbehalten.

 
Lasche