Παρακολούθησα πρόσφατα ένα πολύ ενδιαφέρον ντοκιμαντέρ στο Φεστιβάλ Ντοκιμαντέρ Θεσσαλονίκης, με τίτλο «Ψηφιακοί καθαριστές» ή αλλιώςThe Cleaners”, των Γερμανών Hans Block και Moritz Riesewieck, οι οποίοι ερευνούν τις συνθήκες και τα κριτήρια υπό τα οποία διαγράφεται από το διαδίκτυο ό,τι κρίνεται ακατάλληλο. Λίγες μέρες μετά, ξέσπασε το «σκάνδαλο» του Facebook και της Cambridge Analytica, που δεν εξέπληξε νομίζω και πολλούς τελικά, αποτέλεσε ωστόσο την αφορμή για μια ακόμα δημόσια συγγνώμη του Μαρκ Ζάκενμπεργκ, μια ακόμα συζήτηση περί προστασίας προσωπικών δεδομένων και θεσμικές διακηρύξεις εν αναμονή και του Γενικού Κανονισμού για την προστασία δεδομένων – GDPR.

Όμως πέρα από τη διάθεση προσωπικών δεδομένων από υποψιασμένους, εκούσια ή ακούσια, υπάρχει μια σειρά ερωτημάτων: Τι είναι τα μέσα κοινωνικής δικτύωσης για τη δημοκρατία; Είναι πρόσφορο πεδίο προπαγάνδας;

Σε χώρες όπως η Σερβία, η Σλοβακία, η Γουατεμάλα, επιχειρήθηκε ένα είδος λογοκρισίας, μια αλλαγή προτεραιοποίησης των ειδήσεων: Ο κόσμος μπορούσε να δει κυρίως ειδήσεις με τις οποίες συμφωνούσε, ή σημαντικές ειδήσεις έλειπαν εντελώς, με αποτέλεσμα το διχασμό της κοινής γνώμης. Το ίδιο το Facebook είχε διεξάγει έρευνα σε συνεργασία με ακαδημαϊκούς το 2014, διοχετεύοντας θετικές ή αρνητικές πληροφορίες στο προφίλ 689.000 χρηστών, προκειμένου να εξακριβώσει κατά πόσο η συναισθηματική ψυχολογία των χρηστών επηρεάζεται από φίλτρα περιεχομένου, είτε θετικά, είτε αρνητικά. Το αποτέλεσμα τέτοιων ερευνών χρησιμοποιείται στη συνέχεια για την ανάπτυξη αλγορίθμων για περαιτέρω εκμετάλλευση δεδομένων, όπως συνέβη πρόσφατα.

Ο σκηνοθέτης Hans Block

Στο Facebook υπάρχει ένα σωρό trash, παραπλανητικό υλικό ή fake news, κυκλοφορούν όμως και πολύ σημαντικά στοιχεία. Γι’ αυτό και μπορεί να είναι ταυτόχρονα εχθρός απολυταρχικών καθεστώτων, αλλά και εργαλείο τους. Πού τελειώνει η ανάγκη προστασίας από βλαβερό περιεχόμενο και πού αρχίζει η λογοκρισία; Τι σημαίνει βλαβερό περιεχόμενο, ποιος το κρίνει και ποιος αποφασίζει για τη διαγραφή του; Έχουμε άλλωστε αρκετά πλέον παραδείγματα αναρτήσεων τις οποίες το Facebook έχει «κατεβάσει» θεωρώντας τις προσβλητικές, ενώ ήταν για παράδειγμα, έργα τέχνης που απεικόνιζαν γυμνό.

Ο σκηνοθέτης Moritz Riesewieck

Στο ντοκιμαντέρ “The Cleaners” η έρευνα οδήγησε στις Φιλιππίνες, όπου οι πάροχοι των διαδικτυακών μέσων έχουν υπομισθώσει εταιρείες κι αυτές με τη σειρά τους νέους και νέες που επιβλέπουν καθημερινά τις αναρτήσεις στα μέσα κοινωνικής δικτύωσης και αποφασίζουν αν θα τις διαγράψουν ή όχι. Αποκεφαλισμοί, βιασμοί μικρών παιδιών, βασανιστήρια, πορνό περνούν σε δευτερόλεπτα απ’ τα μάτια των ‘καθαριστών’, των οποίων η εμπειρία εμφανίζει ομοιότητες με το μετατραυματικό στρες που βιώνουν οι βετεράνοι στρατιώτες που συμμετέχουν σε πολέμους. Τι θα κάνουν όμως αν δουν ένα γυμνό έργο τέχνης; Επίσης παρουσιάζονται περιπτώσεις, όπως του Φιλιππινέζου προέδρου Rodrigo Duterte, που για τη διαβόητη καμπάνια του κατά των ναρκωτικών υποστηρίχθηκε από το πρώην μοντέλο-νυν ποπ σταρ Mocha Uson μέσω των 4 εκατομμυρίων ακολούθων της στο Facebook, αλλά και μαρτυρίες απ’ όλο τον κόσμο για το ρόλο των social media στις δημοκρατικές (ή μη) κοινωνίες.

Με αφορμή λοιπόν όλα τα παραπάνω ερωτήματα και τους προβληματισμούς που μας γέννησε το ντοκιμαντέρ “The Cleaners”, μιλήσαμε με τους δημιουργούς του, Hans Block και Moritz Riesewieck, για την εμπειρία και τις απόψεις τους.

Πώς αποφασίσατε να ασχοληθείτε με το θέμα;
Η κοινωνική ζωή μεταφέρεται όλο και περισσότερο σε ψηφιακές πλατφόρμες. Ένα τόσο δυνατό νέο μέσο, δημιουργεί νέες δυνατότητες, αλλά και πρωτόγνωρα προβλήματα, καθώς ό,τι ή όποιος δεν εμφανίζεται εδώ, για δισεκατομμύρια κόσμου είναι ανύπαρκτος. Ποιος λοιπόν αποφασίζει τι θα δούμε ή όχι; Αυτό διερωτηθήκαμε το 2013 με μια σοκαριστική αφορμή: Το βράδυ της 21ης Μαρτίου χιλιάδες χρήστες του Facebook παρακολούθησαν το βιασμό ενός μικρού κοριτσιού από έναν ηλικιωμένο άντρα.

«Αυτό που μας εξέπληξε ήταν πόσο περήφανοι είναι οι “cleaners” για τη δουλειά τους»

Μέχρι να  απομακρυνθεί το βίντεο είχε κοινοποιηθεί 16.000 φορές και είχαν γίνει 4.000 κλικ. Πώς συνέβη αυτό; Ποιος ήταν υπεύθυνος; Ποιος φροντίζει για την καθαρότητα στα κοινωνικά δίκτυα; Ένα λογισμικό αναγνώρισης εικόνων; Ένας αλγόριθμος; Τεχνητή νοημοσύνη; Το ότι πίσω από αυτές τις αποφάσεις βρίσκονται χιλιάδες άγνωστοι εργαζόμενοι που παρέχουν κρυφά τις υπηρεσίες τους πάμφθηνα σε αναπτυσσόμενες χώρες για λογαριασμό εταιρειών social media, μας το είπε για πρώτη φορά η Αμερικανίδα επικοινωνιολόγος Sarah T. Roberts, την οποία συναντήσαμε στις έρευνές μας. Θελήσαμε να τους γνωρίσουμε και ν’ ακούσουμε τις ιστορίες τους. Έτσι ξεκινήσαμε αυτή την πολυετή έρευνα.

The Cleaners© gebrueder beetz filmproduktion

The Cleaners© gebrueder beetz filmproduktion

 

Είπατε ότι οι εργαζόμενοι έχουν υπογράψει συμβόλαια τήρησης απορρήτου και μιλήσατε κυρίως με πρώην εργαζόμενους. Πώς τους προσεγγίσατε και ποιες ήταν οι εντυπώσεις σας;
Το να αποκτήσουμε πρόσβαση ήταν το δυσκολότερο στην ταινία. Κοινωνικά δίκτυα όπως τα Twitter, Facebook, η Google, το YouTube κ.λ.π., προσλαμβάνουν στη Μανίλα χιλιάδες υπαλλήλους με κωδικούς, εκφοβισμούς και αντίποινα από τον άμεσο εργοδότη τους. Μελετήσαμε εκατοντάδες περιγραφές εργασίας από ισάριθμες εταιρείες ανθρώπινου δυναμικού, για να δούμε αν πραγματικά η δουλειά αυτή γίνεται εκεί. Καμιά όμως περιγραφή δεν αποκαλύπτει για ποια δουλειά πρόκειται. Ένας στόχος της έρευνας ήταν να σπάσουμε τον κωδικό ‘Honey Badger’ που χρησιμοποιεί το Facebook για να «μεταμφιέσει» τις διαγραφές. Κανείς δεν επιτρέπεται να αποκαλύψει ότι δουλεύει για το Facebook, αλλά πρέπει να λέει τι δουλεύει για το Honey Badger project. Έτσι αποκτήσαμε λίγο λίγο πρόσβαση στους εργαζόμενους. Αυτό πάντως που μας εξέπληξε τελικά, ήταν πόσο περήφανοι είναι για τη δουλειά τους. Κάποιοι αισθάνονται μάλιστα μια χριστιανική υποχρέωση να αγωνιστούν εναντίον του κακού στον παγκόσμιο ιστό, για να διατηρηθούν υγιείς, όπως λένε, οι κοινωνικές πλατφόρμες!

Πώς επιλέγονται κι εκπαιδεύονται οι ψηφιακοί καθαριστές και με τι κριτήρια διαγράφουν περιεχόμενο;
Δεν υπάρχουν συγκεκριμένες προδιαγραφές για τη δουλειά και αναζητούνται διαρκώς νέοι συνεργάτες, αφού κατά κανόνα κανείς από τους εργαζόμενους δεν αντέχει αυτή τη δουλειά πάνω από ένα εξάμηνο. Ακόμα κι εμάς μας ρώτησαν στο δρόμο αν ενδιαφερόμαστε για μια δουλειά και πήγαμε σε μια συνέντευξη. Στην αρχή κάνουν ένα τριήμερο ή πενθήμερο σεμινάριο, όπου πρέπει να μάθουν απέξω εκατοντάδες σελίδες με κανόνες και οδηγίες.

«Κάποιοι αισθάνονται μια χριστιανική υποχρέωση να αγωνιστούν εναντίον του κακού στον παγκόσμιο ιστό!»

Αυτόν τον κατάλογο πρέπει μάλιστα να τον επιστρέψουν, ώστε να μη διαρρεύσει. Όπως είναι ευνόητο, στο τέλος συχνά αποφασίζει το ένστικτο αν κάτι θα μείνει ή θα φύγει απ’ την πλατφόρμα. Μια τέτοια ευθύνη λοιπόν φορτώνεται στους ώμους νεαρών Φιλιππινέζων. Σε μια συνηθισμένη εφημερίδα οι συντάκτες κάθονται μέρες για ν’ αποφασίσουν τι θα δημοσιευθεί και τι όχι, αν μια εικόνα έχει ενημερωτική αξία, αν προτρέπει σε βία, αν πρέπει να προστατευτούν τα δικαιώματα προσωπικότητας. Το να πάρει κανείς αυτή την περίπλοκη απόφαση σε τρία δευτερόλεπτα δεν ταιριάζει με τη σοβαρότητα της υπόθεσης και οδηγεί σε λάθη. Επίσης ας μην ξεχνάμε, ότι οι κανόνες που εφαρμόζουν οι ‘cleaners’ και έχουν παγκόσμια ισχύ, έχουν σχεδιαστεί στη Silicon Valley. Ένα απλό παράδειγμα είναι η εκτίμηση για το ποιες οργανώσεις θεωρούνται τρομοκρατικές. Το Facebook επικαλείται την ‘Homeland security’. Σίγουρα η εκτίμηση θα ήταν εντελώς διαφορετική εκτός των ΗΠΑ. Έτσι μπορεί απ’ τη μια μέρα στην άλλη ένας ειρηνιστής να κηρυχθεί τρομοκράτης.

The Cleaners© gebrueder beetz filmproduktion

The Cleaners© gebrueder beetz filmproduktion

Πόσο σαφής είναι η διάκριση μεταξύ επικίνδυνου περιεχομένου και προστασίας, ελευθερίας έκφρασης και λογοκρισίας;
Είναι πολύ περίπλοκο να αποφασίσεις αν ένα περιεχόμενο πρέπει να διαγραφεί ή όχι. Η νορβηγική εφημερίδα Aftenposten δημοσίευσε πέρυσι στο Facebook τη φωτογραφία του κοριτσιού της βόμβας ναπάλμ που το 1971 έγινε σύμβολο του ειρηνιστικού κινήματος κατά του πολέμου του Βιετνάμ. Το Facebook, ειδικότερα ένας από τους χιλιάδες ‘καθαριστές’, τη διέγραψε. Πιθανότατα επειδή η εικόνα του γυμνού κοριτσιού που έτρεχε να σωθεί από τη βόμβα φάνηκε ανεπίτρεπτη, αφού οι προδιαγραφές του Facebook δεν επιτρέπουν τη γύμνια και μάλιστα των παιδιών. Εδώ ισχύει η ενημερωτική αξία της φωτογραφίας ή η παιδική γύμνια; Στο παράδειγμα αυτό φαίνεται ότι χρειάζονται γενικές ιστορικές και κοινωνικές γνώσεις για να αξιολογήσεις τέτοιες εικόνες στο πλαίσιό τους. Είναι πολύ λεπτή η γραμμή μεταξύ λογοκρισίας και προστασίας περιεχομένου στις πλατφόρμες και πρέπει κανείς να σταθμίζει πώς αποφασίζει κάθε φορά.

Υπάρχει προστασία από τους υφιστάμενους νόμους; Ποιο είναι το νέο θεσμικό πλαίσιο στη Γερμανία;
Οι κυβερνήσεις αρχίζουν σιγά σιγά ν’ ασκούν πιέσεις στο Facebook. Παραδείγματος χάριν, στη Γερμανία ο υπουργός δικαιοσύνης Heiko Maas ετοίμασε ένα νόμο που διασφαλίζει ότι η ρητορική μίσους διαγράφεται εντός εικοσιτετράωρου. Η βία και το μίσος στα social media αυξάνονται διαρκώς, γι’ αυτό και σαφώς χρειάζεται να ισχύουν και στο ίντερνετ δικαιώματα και ευθύνες. Τελικά όμως οι ευθύνες απλά μετατίθενται, αφού δεν είναι το κράτος δικαίου που αποφασίζει για το νόμιμο και παράνομο περιεχόμενο, αλλά μια ιδιωτική εταιρεία.

«Το ψηφιακό σύμπαν είναι ακόμα για πολλούς η άγρια δύση, όπου όλα είναι δυνατά»

Η πολιτική μεταθέτει την ευθύνη στο Facebook κι αυτό με τη σειρά του σε νεαρούς Φιλιππινέζους. Επιπλέον, οι εταιρείες φοβούνται ότι θα πληρώσουν πρόστιμο εάν ένα τέτοιο κείμενο δεν καταστραφεί εντός 24ώρου. Γι’ αυτό και συχνά θεωρούν καλύτερο να κοπεί κάτι παραπάνω παρά λιγότερο, πράγμα που είναι επικίνδυνο για την ελευθερία έκφρασης, όταν κάθε ακίδα έχει αφαιρεθεί απ’ το δημόσιο διάλογο. Και εν τέλει εμείς οι χρήστες τα αποδεχόμαστε όλα, αυτή την αέναη μετάθεση ευθυνών. Το ψηφιακό σύμπαν είναι ακόμα για πολλούς η άγρια δύση, όπου όλα είναι δυνατά και ο καθένας μπορεί να κάνει ό,τι θέλει. Πρέπει όμως να συνειδητοποιήσουμε ότι εφόσον το Facebook είναι ουσιαστικά μέρος της δημοκρατίας μας, πρέπει αντίστοιχα και τα εργαλεία της δημοκρατίας να εφαρμόζονται κι εκεί.

Ποια η γνώμη σας για την υπόθεση Cambridge Analytica;
Το ότι ο τεράστιος όγκος πληροφοριών που αφήνουμε  καθημερινά στη χρήση του Facebook χρησιμοποιείται για στοχευμένες πωλήσεις σε πελάτες, που κάνουν έτσι εξατομικευμένη διαφήμιση, είναι κάτι γνωστό από παλιά. Ωστόσο το τρομακτικό που μας δείχνει αυτή η υπόθεση, είναι ο απίστευτος αντίκτυπος, καθώς το εύρος και ο βαθμός επιρροής του Facebook με τα πάνω από 2 δισεκατομμύρια χρήστες του, είναι τεράστιος και τρομακτικός.

Τελικά ποιος είναι ο ρόλος των δικτύων στη δημοκρατία;
Πόση τυποποίηση θα επιτρέψουμε να έχουν τα social media που παίρνουν όλο και περισσότερο το ρόλο της δημοσιότητας; Πόσος χώρος μένει για γκρίζες ζώνες, για τη διαφορετικότητα ή τις μειονότητες, όταν πολλοί από τους διαχειριστές περιεχομένου εκτελούν με ιεραποστολικό ζήλο τα καθήκοντά τους, με σκοπό να καταπολεμήσουν την «αμαρτία»; Πώς μπορεί να πάρει κανείς απόφαση για θεμελιώδη δικαιώματα της ελευθερίας έκφρασης μέσα σε λίγα δευτερόλεπτα;

«Η απόφαση για δημοκρατία και ελευθερία γνώμης δεν μπορεί να έχει μόνο δύο εκδοχές – delete ή ignore!»

«Μην το πολυσκέφτεσαι», είναι ένας από τους πρώτους κανόνες που μαθαίνουν οι διαχειριστές περιεχομένου. Θέλουμε να δείξουμε ότι δεν είναι τυχαίο το ότι υπερισχύει η πολιτική του να παραμερίσεις ή να αποκλείσεις αυτό που ενοχλεί, αντί να δεχτείς τα ουσιαστικά προβλήματα. Είναι μια ιδεολογία που είτε αναλογικά, είτε ψηφιακά, παγκοσμίως γίνεται αποδεκτή και που θα έπρεπε να τη σταματήσουμε πριν να ‘ναι αργά. Δεν έχουμε πια την άνεση να αναζητούμε αλλού την ευθύνη. Η απόφαση για δημοκρατία και ελευθερία γνώμης δεν μπορεί να έχει μόνο δύο εκδοχές – delete ή ignore!

The Cleaners© gebrueder beetz filmproduktion

The Cleaners© gebrueder beetz filmproduktion