UNHCR: Haatzaaiende uitlatingen en desinformatie schadelijk voor ontheemden in de ‘echte’ wereld

GENÈVE – UNHCR, de VN-Vluchtelingenorganisatie, maakt zich zorgen dat de verspreiding van desinformatie, haatzaaiende uitlatingen en deepfakes de schade aan vluchtelingen en humanitaire hulpverleners in de echte wereld verergert en aanwakkert. Kunstmatige intelligentie (AI) versterkt deze risico’s voor de integriteit van ons informatie-ecosysteem en ondermijnt het vertrouwen, maar kan ook deel uitmaken van de oplossing als er op de juiste manier mee wordt omgegaan.

AI verandert onze wereld ingrijpend en zal, mits doelgericht en inclusief ingezet, kansen en tastbare voordelen opleveren, ook voor vluchtelingen. Het kan ook helpen bij het aanpakken van complexe informatie-uitdagingen in humanitaire contexten. Tijdens de AI for Good Summit die vandaag in Genève plaatsvindt, heeft UNHCR deskundigen uit de overheid, de technologiesector en de academische wereld bijeengebracht om positieve oplossingen voor complexe informatie-uitdagingen te bespreken.

Het is van cruciaal belang dat humanitaire en vluchtelingenperspectieven worden meegenomen in internationale inspanningen op het gebied van AI-governance. Zo moet er bijvoorbeeld voor worden gezorgd dat tools voor inhoudsmoderatie effectief werken in humanitaire contexten en in minder gangbare talen: dit betekent dat mensen centraal moeten staan in teams die zich bezighouden met vertrouwen en veiligheid, en dat er duidelijke kaders moeten worden opgesteld met betrekking tot waarborgen en manipulatie.

Dit belangrijke werk vindt plaats tegen de achtergrond van toenemende uitdagingen op het gebied van informatie. Van Afrika tot Azië-Pacific: ’s werelds grootste ontheemdingcrises zijn vaak ook informatiecrises.

Wanneer informatie wordt verdraaid, kan dit de toegang tot banen en onderwijs beperken, integratie bemoeilijken en de sociale cohesie in gevaar brengen. Online geruchten, valse beschuldigingen, het aanwijzen van zondebokken en ontmenselijkende uitlatingen hebben geleid tot protesten en aanvallen. In extreme gevallen zijn ze in verband gebracht met fysiek geweld en moorden, en spelen ze zelfs een rol bij gedwongen ontheemding. Vorige maand nog werd de digitale communicatie van UNHCR ter gelegenheid van de Internationale Dag tegen Haatzaaiende Uitingen overspoeld met haatdragende reacties.

De spiraal van verkeerde informatie en desinformatie vormt een risico voor humanitaire operaties en de veiligheid. UNHCR heeft een toename geconstateerd van valse, vijandige verhalen die gericht zijn tegen operaties en medewerkers, en die een aanzienlijke invloed kunnen hebben op de fondsenwerving in een tijd van krimpende budgetten en groeiende behoeften.

Uit een recent onderzoek van UNHCR bleek dat 93 procent van de ondervraagde medewerkers getuige was geweest van verkeerde informatie, desinformatie of haatzaaiende uitlatingen, die de uitvoering van ons mandaat belemmeren. Vrouwen – zowel onder vluchtelingen als onder het personeel – worden onevenredig vaak het doelwit. Generatieve AI versterkt deze effecten op grote schaal. Zo vormen schadelijke, door AI gegenereerde deepfake-video’s van UNHCR-medewerkers en vluchtelingen een steeds grotere uitdaging.

Vluchtelingen, die al zwaar getekend zijn door trauma’s, worden beperkt of verhinderd in hun toegang tot beschermingsdiensten zoals registratie, evenals tot levensreddende hulp en andere diensten. Dit kan enorme risico’s met zich meebrengen en zelfs tot de dood leiden, zoals we onlangs hebben gezien in Libië, waar een golf van gewelddadige haatzaaiende uitlatingen en gevaarlijke desinformatie vijandigheid en misbruik jegens vluchtelingen aanwakkerde, en de veiligheid van UNHCR-medewerkers en humanitaire hulpverleners die ontheemden en gastgemeenschappen ondersteunen, in gevaar bracht. Ernstige voorbeelden hiervan zijn onder meer deepfakes van de UNHCR-vertegenwoordiger, online oproepen om de GPS-coördinaten van de adressen van medewerkers te delen, en video’s waarin nationale medewerkers worden afgeschilderd als verraders van hun land.

Haatzaaiende uitlatingen kennen geen grenzen en verspreiden zich razendsnel. Gemeenschappen die door vervolging en geweld gedwongen zijn hun huizen te ontvluchten, zoals de Rohingya, worden online nog steeds geconfronteerd met ontmenselijkende verhalen, zelfs in ballingschap. Online haat wakkert pesterijen en intimidatie in de echte wereld aan, waardoor de sociale cohesie wordt aangetast en de verdeeldheid tussen gastgemeenschappen en ontheemden wordt vergroot.

UNHCR is er vast van overtuigd dat vrijheid van meningsuiting van fundamenteel belang is en dat iedereen, ook vluchtelingen, de mogelijkheid moet hebben om ideeën en informatie te ontvangen en te verspreiden. Het gaat hier niet om de manier waarop legitieme maatschappelijke zorgen over migratie en asiel online worden besproken, maar om levensbedreigende informatiegevaren die in humanitaire contexten tot ernstige schade kunnen leiden. Zo kunnen kwaadwillenden, waaronder smokkelaars en mensenhandelaars, digitale platforms misbruiken door middel van desinformatie om mensen die gedwongen zijn te vluchten te misleiden met valse beloften van veiligheid, legale routes en werk, waardoor ze in gevaarlijke en uitbuitende situaties terechtkomen.

De aanpak van UNHCR is praktisch en op samenwerking gericht. Dankzij Zwitserland hebben we een ‘Community of Practice’ opgericht voor informatie-integriteit in humanitaire contexten. We werken samen met verschillende belangengroepen op lokaal en mondiaal niveau. Initiatieven zoals de ‘Global Refugee Forum Multistakeholder Pledge on Information Integrity’, die in 2023 samen met Google werd gelanceerd, kunnen inspiratie bieden voor verdere multilaterale benaderingen. Er wordt bemoedigende vooruitgang geboekt, maar deze moet worden gesystematiseerd.

Vluchtelingen staan centraal in dit werk. Lokale partnerschappen hebben bijgedragen aan de totstandkoming van de ‘Information Integrity Response Toolkit’ van UNHCR. Deze toolkit wordt door 2.000 professionals gebruikt als leidraad voor praktische maatregelen, variërend van risicobeoordelingen tot gemeenschapsgerichte reacties, en is een zichtbaar voorbeeld van onze op samenwerking gerichte aanpak.

De uitdaging ontwikkelt zich snel en kan niet door één enkele actor alleen worden opgelost. Het is essentieel dat vluchtelingen- en humanitaire contexten niet buiten beschouwing worden gelaten in discussies over AI-governance. Betrouwbare informatie is een noodzaak voor de bescherming van vluchtelingen, en informatie-integriteit helpt levens te redden en vertrouwen te behouden.