Ύπατη Αρμοστεία: Η ρητορική μίσους και η παραπληροφόρηση βλάπτουν τους εκτοπισμένους ανθρώπους στην καθημερινή ζωή

ΓΕΝΕΥΗ – Η Ύπατη Αρμοστεία του ΟΗΕ για τους Πρόσφυγες εκφράζει την ανησυχία της ότι η εξάπλωση της παραπληροφόρησης, της ρητορικής μίσους και των deepfakes εντείνει και προκαλεί πραγματική βλάβη στη ζωή των προσφύγων και των μελών ανθρωπιστικών οργανώσεων. Η τεχνητή νοημοσύνη (ΑΙ) ενισχύει τους κινδύνους που απειλούν την ακεραιότητα του πληροφοριακού μας οικοσυστήματος και υπονομεύει την εμπιστοσύνη, αλλά μπορεί επίσης να αποτελέσει μέρος της λύσης, εφόσον αξιοποιηθεί με τον κατάλληλο τρόπο.

Η τεχνητή νοημοσύνη μετασχηματίζει τον κόσμο μας και, όταν αναπτύσσεται με συγκεκριμένο σκοπό και συμπεριληπτικότητα, μπορεί να προσφέρει ευκαιρίες και απτά οφέλη, μεταξύ άλλων και για τους πρόσφυγες. Μπορεί επίσης να συμβάλει στην αντιμετώπιση σύνθετων προκλήσεων παροχής πληροφόρησης σε καταστάσεις ανθρωπιστικής ανταπόκρισης. Στο πλαίσιο της Συνόδου AI for Good που λαμβάνει χώρα στη Γενεύη αυτή την εβδομάδα, η Ύπατη Αρμοστεία έφερε κοντά κυβερνητικούς, τεχνολογικούς και ακαδημαϊκούς εμπειρογνώμονες για να συζητήσουν προσεγγίσεις με θετικό πρόσημο απέναντι στις σύνθετες προκλήσεις της πληροφόρησης.

Είναι ζωτικής σημασίας οι διεθνείς προσπάθειες διακυβέρνησης της τεχνητής νοημοσύνης να λαμβάνουν υπόψη τις διάφορες πτυχές της ανθρωπιστικής και προσφυγικής συνθήκης. Για παράδειγμα, είναι αναγκαίο να διασφαλιστεί ότι τα εργαλεία εποπτείας περιεχομένου (content moderation) λειτουργούν αποτελεσματικά σε περιβάλλοντα ανθρωπιστικής δράσης και σε λιγότερο διαδεδομένες γλώσσες. Αυτό σημαίνει ότι ο άνθρωπος πρέπει να βρίσκεται στο επίκεντρο του έργου των ομάδων που είναι αρμόδιες για την ασφάλεια και την εποπτεία του περιεχομένου στις ψηφιακές πλατφόρμες (trust and safety), ενώ παράλληλα χρειάζεται να θεσπίζονται σαφή πλαίσια για την προστασία των χρηστών και την αντιμετώπιση της χειραγώγησης.

Αυτή η σημαντική προσπάθεια διαδραματίζεται σε ένα περιβάλλον ολοένα αυξανόμενων προκλήσεων στον τομέα της πληροφόρησης. Από την Αφρική έως την Ασία και τον Ειρηνικό, οι μεγαλύτερες κρίσεις εκτοπισμού στον κόσμο είναι συχνά και κρίσεις πληροφόρησης.

Όταν η πληροφορία διαστρεβλώνεται, μπορεί να περιορίσει την πρόσβαση στην εργασία και την εκπαίδευση, να δυσκολέψει την ένταξη και να απειλήσει την κοινωνική συνοχή. Οι διαδικτυακές φήμες, οι ψευδείς κατηγορίες, η στοχοποίηση αποδιοπομπαίων τράγων και η απανθρωποποιητική ρητορική έχουν πυροδοτήσει διαμαρτυρίες και επιθέσεις. Σε ακραίες περιπτώσεις, έχουν συνδεθεί με σωματική βία, δολοφονίες και ακόμη και με τον αναγκαστικό εκτοπισμό ανθρώπων. Μόλις τον περασμένο μήνα, οι επικοινωνιακές δράσεις της Ύπατης Αρμοστείας για τη Διεθνή Ημέρα κατά της Ρητορικής Μίσους κατακλύστηκαν από σχόλια μίσους στις ψηφιακές πλατφόρμες.

Η κλιμακούμενη εξάπλωση της λανθασμένης πληροφόρησης και της παραπληροφόρησης δημιουργεί σοβαρούς κινδύνους για την ανθρωπιστική δράση και ασφάλεια. Η Ύπατη Αρμοστεία έχει παρατηρήσει μια αύξηση των ψευδών

και εχθρικών ρητορικών που στοxoποιούν τη δράση και το προσωπικό της, με πιθανές σοβαρές επιπτώσεις στη συγκέντρωση χρηματοδοτικών πόρων, σε μια περίοδο κατά την οποία οι προϋπολογισμοί συρρικνώνονται ενώ οι ανάγκες αυξάνονται.

Πρόσφατη έρευνα της Ύπατης Αρμοστείας διαπίστωσε ότι το 93% των εργαζομένων της που συμμετείχαν σε αυτήν είχε γίνει μάρτυρας περιστατικών λανθασμένης πληροφόρησης, παραπληροφόρησης ή ρητορικής μίσους με αντίκτυπο στην εκπλήρωση του έργου του οργανισμού. Οι γυναίκες αποτελούν δυσανάλογα συχνό στόχο τόσο μεταξύ των προσφύγων όσο και μεταξύ του προσωπικού της Ύπατης Αρμοστείας. Η παραγωγική τεχνητή νοημοσύνη (generative AI) επιδεινώνει το πρόβλημα, διευρύνοντας τις επιπτώσεις του σε μεγάλη κλίμακα. Χαρακτηριστικό παράδειγμα αποτελούν επιβλαβή βίντεο deepfake που δημιουργούνται με τεχνητή νοημοσύνη και αφορούν στελέχη της Ύπατης Αρμοστείας και πρόσφυγες, τα οποία συνιστούν ολοένα και μεγαλύτερη πρόκληση.

Οι πρόσφυγες, που ήδη προσπαθούν να διαχειριστούν τις συνέπειες του τραύματος που έχουν βιώσει, βλέπουν την πρόσβασή τους σε υπηρεσίες προστασίας, όπως η καταγραφή, καθώς και σε σωτήρια ανθρωπιστική βοήθεια και άλλες υπηρεσίες, να περιορίζεται ή ακόμη και να παρεμποδίζεται. Αυτό μπορεί να δημιουργήσει τεράστιους κινδύνους, ακόμη και να οδηγήσει σε απώλεια ανθρώπινων ζωών, όπως είδαμε πρόσφατα στη Λιβύη. Ένα κύμα βίαιης ρητορικής μίσους και επικίνδυνης παραπληροφόρησης πυροδότησε εχθρότητα και περιστατικά κακοποίησης σε βάρος προσφύγων, επηρεάζοντας παράλληλα την ασφάλεια του προσωπικού της Ύπατης Αρμοστείας και των εργαζομένων σε ανθρωπιστικές οργανώσεις που στηρίζουν τους εκτοπισμένους και τις κοινότητες υποδοχής τους. Σοβαρά περιστατικά περιλαμβάνουν την κυκλοφορία deepfakes για επικεφαλής της Ύπατης Αρμοστείας, διαδικτυακές εκκλήσεις για κοινοποίηση των συντεταγμένων GPS των κατοικιών εργαζομένων και βίντεο που παρουσιάζουν το εθνικό προσωπικό της Ύπατης Αρμοστείας ως προδότες της χώρας τους.

Η ρητορική μίσους δεν γνωρίζει σύνορα και εξαπλώνεται με ταχύτητα. Κοινότητες που αναγκάστηκαν να εγκαταλείψουν τα σπίτια τους εξαιτίας διώξεων και βίας, όπως οι Ροχίνγκια, εξακολουθούν να έρχονται αντιμέτωπες με απανθρωποποιητικά αφηγήματα στο διαδίκτυο, ακόμη και αφού έχουν εκτοπιστεί. Η ρητορική μίσους στο διαδίκτυο τροφοδοτεί την παρενόχληση και τον εκφοβισμό στην πραγματική ζωή, υπονομεύοντας την κοινωνική συνοχή και διευρύνοντας την απόσταση μεταξύ των κοινωνιών υποδοχής και των εκτοπισμένων ανθρώπων.

Η Ύπατη Αρμοστεία πιστεύει ακράδαντα ότι η ελευθερία της έκφρασης αποτελεί θεμελιώδες δικαίωμα και ότι κάθε άνθρωπος, συμπεριλαμβανομένων των προσφύγων, πρέπει να έχει τη δυνατότητα να λαμβάνει και να μεταδίδει ιδέες και πληροφορίες. Το ζήτημα δεν αφορά το πώς διεξάγεται η συζήτηση στο διαδίκτυο γύρω από εύλογες κοινωνικές ανησυχίες σχετικά με τη μετανάστευση και το άσυλο. Αφορά τους κινδύνους στο περιβάλλον πληροφόρησης οι οποίοι μπορούν να απειλήσουν ανθρώπινες ζωές και να προκαλέσουν σοβαρή βλάβη σε πλαίσια ανθρωπιστικής δράσης. Για παράδειγμα, κακόβουλοι δρώντες, όπως οι διακινητές ανθρώπων, μπορούν να διαδίδουν εσφαλμένες πληροφορίες μέσα από τις ψηφιακές πλατφόρμες, εξαπατώντας ανθρώπους που αναγκάζονται να εγκαταλείψουν τις εστίες τους. Προσφέρουν ψευδείς υποσχέσεις ασφάλειας, νόμιμων οδών μετακίνησης και παροχής εργασίας, οδηγώντας τους τελικά σε επικίνδυνες καταστάσεις και συνθήκες εκμετάλλευσης.

Η απάντηση της Ύπατης Αρμοστείας είναι έμπρακτη και βασίζεται στη συνεργασία. Με την υποστήριξη της Ελβετίας, δημιουργήσαμε μια Κοινότητα Πρακτικής για την Ακεραιότητα της Πληροφόρησης σε πλαίσια ανθρωπιστικής δράσης. Αναπτύσσουμε συνεργασίες με διαφορετικούς φορείς και ομάδες ενδιαφερομένων, σε τοπικό και διεθνές επίπεδο. Πρωτοβουλίες όπως η Πολυσυμμετοχική Δέσμευση για την Ακεραιότητα της Πληροφόρησης (Multistakeholder Pledge on Information Integrity) στο πλαίσιο του Παγκόσμιου Φόρουμ για τους Πρόσφυγες, η οποία ξεκίνησε το 2023 σε συνεργασία με τη Google, μπορούν να αποτελέσουν πρότυπο για την ανάπτυξη περαιτέρω πολυμερών πρωτοβουλιών. Έχουν γίνει ενθαρρυντικά βήματα προόδου, όμως χρειάζεται να αποκτήσουν πιο συστηματικό χαρακτήρα.

Οι πρόσφυγες βρίσκονται στο επίκεντρο αυτής της προσπάθειας. Μέσα από τοπικές συνέργειες διαμορφώθηκε η εργαλειοθήκη Information Integrity Response Toolkit (Εργαλειοθήκη Απόκρισης για την Ακεραιότητα της Πληροφόρησης) της Ύπατης Αρμοστείας. Με 2.000 επαγγελματίες να την αξιοποιούν για τον σχεδιασμό πρακτικών δράσεων, από την αξιολόγηση κινδύνων έως τις παρεμβάσεις που βασίζονται στην κοινότητα, αποτελεί ένα απτό παράδειγμα της συνεργατικής μας προσέγγισης.

Καθώς η πρόκληση αυτή εξελίσσεται διαρκώς και με ταχύ ρυθμό, κανένας φορέας δεν μπορεί να την αντιμετωπίσει μόνος του. Είναι ζωτικής σημασίας οι προσφυγικές και ανθρωπιστικές διαστάσεις να μην μένουν στο περιθώριο των συζητήσεων για τη διακυβέρνηση της τεχνητής νοημοσύνης. Η αξιόπιστη πληροφόρηση αποτελεί αναγκαία προϋπόθεση για την προστασία των προσφύγων, ενώ η ακεραιότητα της πληροφόρησης μπορεί να σώσει ζωές και να διατηρήσει την εμπιστοσύνη.