Skip to main content

Derfor fejler AI med hadtale: Over 2 ud af 3 oplever groft indhold online

AI-modeller har svært ved at identificere hadefuld tale præcist, fordi de ofte kæmper med nuancer, kontekst og ironi.

Brugen af kunstig intelligens til at moderere online indhold er blevet en nødvendighed grundet de enorme mængder data på sociale medier. Systemerne bygger på sprogmodeller, der forsøger at opfange diskriminerende eller voldelige ytringer, men teknologien mangler menneskelig dømmekraft. Derfor ser vi store forskelle i, hvordan platforme som Meta og TikTok håndterer problemet, og hvor effektive deres automatiserede filtre reelt er.

En væsentlig udfordring er modellernes manglende evne til at afkode implicit had – altså ytringer, der fremstår positive eller neutrale på overfladen, men indeholder skjult foragt. Samtidig har AI tendens til at fejltolke "reclaimet" sprogbrug, hvor minoritetsgrupper selv bruger historiske skældsord i en positiv eller intern kontekst. Når systemerne ikke kan skelne mellem intentioner, opstår der både over- og underfiltrering, hvilket svækker troværdigheden af moderationsprocessen.

”En udfordring er tilfældet med implicit hadefuld tale, som ofte ikke opdages, fordi den ikke indeholder skældsord.” – Arkaitz Zubiaga, lektor ved Queen Mary University of London.

Den manglende ensartethed på tværs af AI-modeller skaber en ulighed i, hvordan brugere beskyttes online. Mens nogle modeller er ekstremt restriktive, er andre mere lempelige, hvilket betyder, at den samme besked kan blive slettet på én platform og tilladt på en anden. Dette understreger behovet for en mere nuanceret tilgang, hvor teknologien ikke står alene, men understøttes af menneskelig indsigt for at sikre en retfærdig håndtering af ytringsfrihed og sikkerhed.

Forklaring af begreber:

  • LLM (Large Language Model): En avanceret type kunstig intelligens, der er trænet på enorme mængder tekst for at forstå og generere menneskelignende sprog.
  • Implicit hadefuld tale: Indhold, der spreder had uden brug af direkte skældsord eller åbenlyse angreb; ofte forklædt i ironi, sarkasme eller tvetydige vendinger.
  • Reclaimet sprog: Når en marginaliseret gruppe tager ejerskab over et historisk nedsættende ord og bruger det internt i gruppen for at fratage ordet dets oprindelige magt til at såre.

Relevante søgninger:

Notitser er udvalgt af redaktøren, skrevet med hjælp fra kunstig intelligens og bygger på pressemeddelelser og medier fra ind- og udland. Søgeord i notitsen linker til DuckDuckGo, så du selv kan undersøge sagen fra flere vinkler andre steder på nettet.