Belgisch AI-bedrijf leidt EU-onderzoek naar online haat

Textgain leidt opstart van nieuw Europees expertisecentrum rond social media hate speech

Antwerpen, 18 januari 2021 – Het Belgische technologiebedrijf Textgain zal een Europees onderzoekscentrum naar online haat, desinformatie en ethisch verantwoorde Artificiële Intelligentie (AI) leiden voor alle Europese taalgebieden. Textgain krijgt ondersteuning van het departement Justitie van de Europese Commissie in het Rights, Equality & Citizenship programma (REC).

Alle talen, alle betrokken partijen

‘Het interesseert ons niet zozeer welke politieke stempel, huidskleur of religie iemand heeft’, zegt Textgain projectleider Gijs van Beek. ‘Vooral het steeds giftigere taalgebruik op sociale media dat mensen aanzet tot actie in de straat, hoe en waarom, dat willen we doorgronden.’ Het nieuwe European Observatory of Online Hate (EOOH) brengt alle betrokken partijen – meer dan 50 organisaties en experts in totaal – samen met transparantere AI voor alle Europese talen: een unicum. Het doel is greep krijgen op online trends, waarna experts met deze informatie op positief weerwoord kunnen inzetten.

Van tweet naar daad

Dat online haat en complottheorieën die via social media worden gedeeld reële gevolgen hebben, is pas nog eens duidelijk geworden bij de bestorming van Het Capitool in de VS. Wereldwijd worden democratieën uitgedaagd door toenemende polarisering, haat en desinformatie – ook in de EU.

Al in 2016 bereikte de Europese Commissie een overeenkomst met Facebook, Microsoft, Twitter en YouTube om online haat tegen te gaan. Dat haatberichten verwijderen niet de enige oplossing is, gaf voormalig OCAD-topman Paul Van Tigchelt al aan in 2017. En in januari 2021 waarschuwde EU-parlementslid Geert Bourgeois (N-VA) nog voor de impact van algoritmen op vrije meningsuiting.

De nood aan meer transparante AI is een speerpunt van de Europese Commissie.

Online haat en desinformatie nemen toe

Jihadistische terreurgroepen zijn vandaag nog steeds actief online, en gebruiken sociale media om leden te ronselen. Als tegenreactie wint islamofoob gedachtegoed van extreemrechtse groeperingen aan invloed. Tijdens een wereldwijde pandemie leeft een wildgroei aan complottheorieën weer op, met wortels in overheids-, wetenschapswantrouwen en antisemitisme. Complotdenken over ondergrondse pedotunnels, gedwongen vaccins, en buitenaardse reptielen verkleed als politici zijn verre van onschuldig wanneer burgers nood hebben aan accurate informatie.

Spiedende bots

Social media spelers zijn geneigd om AI hulpmiddelen in te zetten tegen haatberichten. Maar de maatschappelijke impact van deze systemen is niet altijd duidelijk: hoe neemt zo’n AI beslissingen – en waarom? Worden burgers online bespied door robots? Er is nood aan meer transparantie.

Textgain’s eigen expert Olivier Cauberghs, voormalig radicaliseringsdeskundige bij de Federale Politie: ‘Extremistische taal online heeft een invloed op hoe mensen handelen in het echte leven​, kijk maar naar de aanslag in Christchurch in 2019.’

‘De vele talen in Europa zijn een hindernis om een totaalbeeld te krijgen. Dat willen we aanpakken met een combinatie van vakkennis en innovatieve technologie van Belgische bodem, die past binnen onze Europese democratische waarden.’

Transparante AI

Tijdens het project wordt ‘Explainable AI’ ontwikkeld om online trends te analyseren in alle officiële Europese talen, waarna menselijke experts aan de slag gaan met informatiecampagnes en positief weerwoord. De projectpartners zullen als hub nauw samenwerken met meer dan 50 experten en organisaties zoals veiligheidsdiensten, mensenrechtenorganisaties, beleidsmakers en terrorisme-experten, zowel lokaal als op Europese schaal.

Bronnen

• The EU Code of conduct on countering illegal hate speech online
  The robust response provided by the European Union
• Ocad-topman wil veel sterkere ‘eigen propagandamachine’ tegen IS  (De Standaard, 6 feb 2017)
  Het blokkeren van haatdragende website, of verwijderen van opruiende boodschappen op (sociale) media is één ding, maar niet zaligmakend. ‘We moeten veel meer inzetten op het empoweren van positieve krachten binnen de eigen gemeenschap’, meent Paul Van Tigchelt, de topman van het Coördinatieorgaan voor de Dreigingsanalyse (Ocad).
• Laat algoritmes niet beslissen wat onder vrije meningsuiting valt  (De Tijd, 6 jan 2021)
  De Europese Commissie komt met een voorstel om de digitale diensten in de Europese interne markt te reguleren. Een van de aspecten gaat over hoe internetplatformen illegale inhoud moeten verwijderen. De vrije meningsuiting staat op het spel.
• Shaping Europe’s Digital Future  (19 feb 2020)
  Press remarks by President von der Leyen on the Commission’s new strategy: Shaping Europe’s Digital Future
• Op sociale media ging het er nog nooit zo ranzig aan toe  (De Standaard, 17 jun 2020)
  Racistische taal: maal drie. Seksistische taal: maal twee. Dreigende taal: maal drie. Op sociale media gaat het er vandaag veel ranziger aan toe dan vijf jaar geleden.