Η Ψευδαίσθηση της Επιτήρησης: Γιατί Aξίζει Nα Aγωνιστούμε για την Προστασία της Ιδιωτικής Ζωής
Η ψευδαίσθηση της επιτήρησης: Γιατί τα δεδομένα μας, μας κοστίζουν την ελευθερία μας
Σας ευχαριστώ θερμά για το ενδιαφέρον σας και την αναδημοσίευση των άρθρων μου. Θα εκτιμούσα ιδιαίτερα αν, κατά την κοινοποίηση, σ̲υ̲μ̲π̲ε̲ρ̲ι̲λ̲α̲μ̲β̲ά̲ν̲α̲τ̲ε̲ ̲κ̲α̲ι̲ ̲τ̲ο̲ν̲ ̲σ̲ύ̲ν̲δ̲ε̲σ̲μ̲ο̲ ̲(̲l̲i̲n̲k̲)̲ ̲τ̲ο̲υ̲ ̲ά̲ρ̲θ̲ρ̲ο̲υ̲ ̲μ̲ο̲υ̲. Αυτό όχι μόνο αναγνωρίζει την πηγή, αλλά επιτρέπει και σε άλλους να ανακαλύψουν περισσότερο περιεχόμενο. Η υποστήριξή σας είναι πολύτιμη για τη συνέχιση της ενημέρωσης.
Απόδοση στα ελληνικά: Απολλόδωρος - Carissa Véliz | 19 Δεκεμβρίου 2022
Το Εγχειρίδιο της Οξφόρδης για την Ψηφιακή Ηθική
https://doi.org/10.1093/oxfordhb/9780198857815.001.0001
Έκδοση: 2021 Online ISBN: 9780191890437 Έντυπο ISBN: 9780198857815
https://doi.org/10.1093/oxfordhb/9780198857815.013.30 Σελίδες C30.P1–C30.N7
Περίληψη
Το παρόν κεφάλαιο διερευνά την ηθική της επιτήρησης στην ψηφιακή εποχή, αξιολογώντας τα πλεονεκτήματα και τα μειονεκτήματά της.
Αφού αξιολογεί τις συνέπειες της επιτήρησης για την ελευθερία και τη δημοκρατία, υποστηρίζει ότι πρέπει να αντισταθούμε στην ψευδαίσθηση της επιτήρησης: την υπόθεση ότι η επιτήρηση δεν έχει σημαντικό ηθικό κόστος. Υπό την επήρεια αυτής της ψευδαίσθησης, λαμβάνονται υπόψη μόνο τα οφέλη της επιτήρησης και, ως αποτέλεσμα, η επιτήρηση θεωρείται μια βολική λύση σε προβλήματα που θα μπορούσαν να επιλυθούν με λιγότερο παρεμβατικά μέσα — χωρίς να συνειδητοποιούμε ότι η ίδια η επιτήρηση μπορεί, μακροπρόθεσμα, να δημιουργεί πιο σοβαρά προβλήματα από αυτά που επιλύει.
Το τοπίο της ιδιωτικής ζωής στις δύο πρώτες δεκαετίες του 21oυ αιώνα είναι ριζικά διαφορετικό από αυτό των δύο τελευταίων δεκαετιών του εικοστού αιώνα. Το 1980, ήταν απίθανο ένας απλός πολίτης να υπόκειται σε εκτεταμένη παρακολούθηση από εταιρείες ή την κυβέρνηση. Παρόλο που διεξάγονταν απογραφές από τα τέλη του 18ου αιώνα, τα φορολογικά αρχεία χρονολογούνται από τις αρχές του 20ού αιώνα και οι βάσεις δεδομένων του ιδιωτικού τομέα αποτελούσαν απειλή για την ιδιωτική ζωή τουλάχιστον από τη δεκαετία του 1970 (Solove 2001), η έκταση της παρακολούθησης περιοριζόταν από εμπόδια που σήμερα έχουν σε μεγάλο βαθμό ξεπεραστεί χάρη στις ψηφιακές τεχνολογίες. Στη δεκαετία του 1980, συλλέγονταν ορισμένα προσωπικά δεδομένα για εταιρικούς σκοπούς, αλλά οι εταιρείες δεν διέθεταν τα μέσα να παρακολουθούν κάθε άτομο ξεχωριστά καθ’ όλη τη διάρκεια της ημέρας του, ενώ η δυνατότητα αγοράς και ενοποίησης διαφορετικών βάσεων δεδομένων δεν ήταν διαθέσιμη με μερικά μόνο κλικ. Υπήρχαν μερικές κάμερες CCTV στους δρόμους, αλλά λιγότερες από ό,τι σήμερα και χωρίς αναγνώριση προσώπου. Ο μόνος λόγος για τον οποίο κάποιος μπορούσε να υποστεί σοβαρή κυβερνητική παρέμβαση στις φιλελεύθερες δημοκρατίες ήταν αν ήταν ύποπτος για εγκληματική πράξη. Ακόμη και τότε, ο όγκος των δεδομένων που μπορούσε να συγκεντρώσει η αστυνομία για αυτούς δεν πλησίαζε καν τον όγκο των δεδομένων που συλλέγονται σήμερα για τους απλούς πολίτες.
Οι οικονομικές μας συναλλαγές, οι διαδικτυακές αναζητήσεις, οι μετακινήσεις, οι επικοινωνίες, οι σχέσεις και οι αλληλεπιδράσεις μας με κυβερνήσεις και επιχειρήσεις δημιουργούν όλα προσωπικά δεδομένα που συλλέγονται, πωλούνται και αγοράζονται από μεσίτες δεδομένων, εταιρείες και κυβερνήσεις που ενδιαφέρονται για τη δημιουργία προφίλ ατόμων. Η εμπορευματοποίηση των προσωπικών δεδομένων φέρνει μαζί της υποσχέσεις: μεγαλύτερη ασφάλεια, οικονομικό κέρδος, καθώς και επιστημονικές και τεχνολογικές εξελίξεις. Η παράλληλη απώλεια της ιδιωτικής ζωής, ωστόσο, έχει σοβαρό κόστος το οποίο, κατά πάσα πιθανότητα, δεν λαμβάνεται αρκετά σοβαρά υπόψη, αν κρίνουμε από τη συνεχή επέκταση της επιτήρησης. Η επιτήρηση εκθέτει τους ανθρώπους στον κίνδυνο να υποστούν διακρίσεις, εκμετάλλευση και άλλα είδη κακοποίησης, όπως η εκβίαση. Επιπλέον, ωθεί την κοινωνία σε μια κουλτούρα έκθεσης που μπορεί να γεννήσει ομοιομορφία και να θέσει σε κίνδυνο τη δημοκρατία.
Στην πρώτη ενότητα εκτιμάται το εύρος και το βάθος της επιτήρησης στην ψηφιακή εποχή. Στη δεύτερη ενότητα, αξιολογώ τον ρόλο της συγκατάθεσης στις πρακτικές επιτήρησης. Η τρίτη ενότητα εξετάζει κατά πόσον τα τρέχοντα επίπεδα επιτήρησης συνιστούν μαζική επιτήρηση και σε ποιο βαθμό αυτό είναι ηθικά προβληματικό. Στην τέταρτη ενότητα, σκιαγραφώ το κόστος της επιτήρησης από την άποψη των κινδύνων, των βλαβών και των αδικιών. Η πέμπτη ενότητα διερευνά κατά πόσον η πανταχού παρούσα επιτήρηση μπορεί να δικαιολογηθεί για λόγους ασφάλειας. Στην έκτη ενότητα, διερευνώ κατά πόσον η επιτήρηση μπορεί να δικαιολογηθεί ως επιχειρηματικό μοντέλο. Στην έβδομη ενότητα, αξιολογώ κατά πόσον η πανταχού παρούσα επιτήρηση μπορεί να δικαιολογηθεί για λόγους τεχνολογικής προόδου. Στην όγδοη ενότητα, αναλύω τη σχέση μεταξύ επιτήρησης, ελευθερίας και δημοκρατίας. Τέλος, στην ένατη ενότητα, καταλήγω υποθέτοντας ότι η φύση του κόστους της επιτήρησης συχνά οδηγεί τους ανθρώπους να πέσουν στην παγίδα της «ψευδαίσθησης της επιτήρησης»: την υπόθεση ότι η επιτήρηση δεν έχει σημαντικό ηθικό κόστος. Στο πλαίσιο της «ψευδαίσθησης της επιτήρησης», λαμβάνονται υπόψη μόνο τα οφέλη της επιτήρησης και, ως αποτέλεσμα, η επιτήρηση θεωρείται μια βολική λύση σε προβλήματα που θα μπορούσαν να επιλυθούν με λιγότερο παρεμβατικά μέσα — χωρίς να συνειδητοποιείται ότι η ίδια η επιτήρηση ενδέχεται να δημιουργεί, μακροπρόθεσμα, πιο σοβαρά προβλήματα από αυτά που επιλύει.
Το εύρος και το βάθος της επιτήρησης στην ψηφιακή εποχή
Ο όγκος των προσωπικών δεδομένων που συλλέγονται για άτομα σε όλο τον κόσμο αυξάνεται σταθερά τις τελευταίες δύο δεκαετίες λόγω ορισμένων παραγόντων. Πρώτον, η ανάπτυξη εργαλείων ανάλυσης δεδομένων έχει καταστήσει ευκολότερη από ποτέ τη συλλογή προσωπικών δεδομένων. Δεύτερον, καθώς αλληλεπιδρούμε περισσότερο από ποτέ με τους υπολογιστές (και οι υπολογιστές αλληλεπιδρούν μαζί μας), δημιουργούνται περισσότερα προσωπικά δεδομένα από ποτέ. Τρίτον, ανεξάρτητα από το αν οι οργανισμοί δραστηριοποιούνται στον τομέα της τεχνολογίας, κάθε οργανισμός έχει κίνητρο να συλλέγει προσωπικά δεδομένα, καθώς αυτά μπορούν να πωληθούν σε τρίτους — τα προσωπικά δεδομένα έχουν καταστεί ένας εύκολος τρόπος για να κερδίσει κανείς χρήματα. Η οικονομία των προσωπικών δεδομένων —η αγορά και πώληση προσωπικών δεδομένων— έχει οδηγήσει στην εμφάνιση εταιρειών που ειδικεύονται στην εμπορευματοποίηση των προσωπικών δεδομένων: οι μεσίτες δεδομένων. Αυτές οι εταιρείες στοχεύουν να έχουν πρόσβαση σε κάθε χρήστη του διαδικτύου, τα δεδομένα των οποίων στη συνέχεια πωλούν σε ασφαλιστικές εταιρείες, τράπεζες, υποψήφιους υπαλλήλους, κυβερνήσεις κ.λπ.
Μερικά από αυτά τα δεδομένα θα έχουν παρασχεθεί από τους χρήστες με διαφορετικό βαθμό εθελοντικότητας. Για παράδειγμα, οι άνθρωποι μοιράζονται συνήθως τις διευθύνσεις ηλεκτρονικού ταχυδρομείου και τους αριθμούς τηλεφώνου τους με εταιρείες κάθε φορά που αγοράζουν κάτι και το παραλαμβάνουν στο σπίτι τους. Αυτό που ίσως δεν συνειδητοποιούν είναι ότι οι εταιρείες αυτές είναι πιθανό να μοιραστούν αυτές τις πληροφορίες με εκατοντάδες άλλες εταιρείες, οι οποίες στη συνέχεια θα τις χρησιμοποιήσουν για να εξαγάγουν ευαίσθητα συμπεράσματα. Ενώ κάποιος μπορεί να μην θεωρεί ότι η κοινοποίηση των μουσικών προτιμήσεών του σε εταιρείες αποτελεί ευαίσθητο δεδομένο, οι εταιρείες συχνά μετατρέπουν μη ευαίσθητα δεδομένα σε ευαίσθητα μέσω συμπερασμάτων, για παράδειγμα, συνάγοντας τον σεξουαλικό προσανατολισμό από τις μουσικές προτιμήσεις (Kosinski et al. 2013).
Ένας από τους χαρακτηριστικούς κινδύνους της ψηφιακής εποχής είναι η συγκέντρωση δεδομένων από διάφορες βάσεις δεδομένων. Πριν από την ψηφιοποίηση των δεδομένων, δεν ήταν τόσο επικίνδυνο να παραχωρούνται προσωπικά δεδομένα σε πολύ διαφορετικούς φορείς, καθώς οι πιθανότητες συγκέντρωσης αυτών των βάσεων δεδομένων ήταν ελάχιστες. Η ψηφιοποίηση και το διαδίκτυο έχουν διευκολύνει την ανταλλαγή δεδομένων. Καθώς αυξάνεται ο όγκος και το βάθος των δημόσιων βάσεων δεδομένων, η ιδιωτικότητά μας διατρέχει μεγαλύτερο κίνδυνο, καθώς γίνεται ευκολότερο να «συνδέσουμε τα σημεία» και να μάθουμε περισσότερα για τους ανθρώπους από όσα ήταν διατεθειμένοι να μοιραστούν. [2]
Για παράδειγμα, το 2006, η Netflix δημοσίευσε 10 εκατομμύρια αξιολογήσεις ταινιών από μισό εκατομμύριο πελάτες, στο πλαίσιο ενός διαγωνισμού που καλούσε τους συμμετέχοντες να σχεδιάσουν έναν καλύτερο αλγόριθμο προτάσεων. Τα δεδομένα υποτίθεται ότι ήταν ανώνυμα, αλλά ερευνητές του Πανεπιστημίου του Texas στο Austin κατάφεραν να ταυτοποιήσουν ξανά τα άτομα, συγκρίνοντας τις κατατάξεις και τις χρονικές σημάνσεις με δημόσιες πληροφορίες που υπάρχουν στην Internet Movie Database (IMDb). Αν κάποιος έβλεπε μια ταινία μια συγκεκριμένη βραδιά, την αξιολόγησε θετικά στο Netix και στη συνέχεια την βαθμολόγησε και στο IMDb, οι ερευνητές μπορούσαν να συμπεράνουν ότι επρόκειτο για το ίδιο άτομο. Οι κινηματογραφικές προτιμήσεις μπορούν να αποκαλύψουν ευαίσθητες πληροφορίες, όπως ο σεξουαλικός προσανατολισμός. Μια λεσβία μητέρα μήνυσε την Netix επειδή την έθεσε σε κίνδυνο να αποκαλυφθεί η σεξουαλική της ταυτότητα (Singel 2009). Ο κίνδυνος αποκάλυψης μέσω της συγκέντρωσης και των συμπερασμάτων έχει γίνει ακόμη πιο έντονος από τότε που οι μεσίτες δεδομένων ανέλαβαν να συγκεντρώσουν όσο το δυνατόν περισσότερα δεδομένα για κάθε άτομο.
Η έκταση της συλλογής δεδομένων για κάθε χρήστη του Διαδικτύου είναι εκπληκτικά ευρεία. Ένας τυπικός μεσίτης δεδομένων διαθέτει χιλιάδες στοιχεία για κάθε άτομο, συμπεριλαμβανομένων της ηλικίας, του φύλου, του μορφωτικού επιπέδου, της απασχόλησης, των πολιτικών απόψεων, της οικογενειακής κατάστασης, των αγορών, των δανείων, της καθαρής περιουσίας, των οχημάτων που κατέχει, των ακινήτων που κατέχει, των λεπτομερειών τραπεζικών λογαριασμών και ασφαλιστηρίων συμβολαίων, της πιθανότητας κάποιος να σχεδιάζει να αποκτήσει παιδί, της δραστηριότητας στα μέσα κοινωνικής δικτύωσης, των ενδιαφερόντων για το αλκοόλ και τον καπνό, των ενδιαφερόντων για τυχερά παιχνίδια σε καζίνο και λαχειοφόρους αγορές, της θρησκείας, της κατάστασης υγείας και πολλών άλλων (Melendez και Pasternack 2019).
Για να το θέσουμε σε προοπτική, η Stasi, η υπηρεσία ασφαλείας της Ανατολικής Γερμανίας, διαβόητη για τις δυνατότητες παρακολούθησής της, διέθετε πολύ λιγότερα δεδομένα για τους πολίτες της. Διαθέταν έναν κατάσκοπο ή πληροφοριοδότη για κάθε εξήντα έξι πολίτες (Koehler 1999: 9) και κατάφεραν να παρακολουθούν λίγο περισσότερο από το ένα τρίτο του πληθυσμού (Cameron 2021). Σήμερα, με ένα σημαντικό ποσοστό ανθρώπων να παρέχει εθελοντικά προσωπικές πληροφορίες στα κοινωνικά δίκτυα και να φέρει ένα smartphone στην τσέπη του, οι κυβερνήσεις μπορούν να παρακολουθούν κάθε πολίτη ξεχωριστά, διαθέτοντας σημαντικά περισσότερα δεδομένα από όσα είχε ποτέ η Στάζι.
Κάποιος θα μπορούσε να σκεφτεί ότι η σύγκριση με τη Στάζι είναι παραπλανητική, επειδή εκείνη ήταν κυβερνητική παρακολούθηση, ενώ το είδος της παρακολούθησης που αντιμετωπίζουμε σήμερα είναι κυρίως εταιρικό, το οποίο μπορεί να θεωρηθεί λιγότερο επικίνδυνο. Η κυβερνητική παρακολούθηση συχνά θεωρείται πιο ανησυχητική λόγω των ειδικών εξουσιών που κατέχουν οι κυβερνήσεις (π.χ. να συλλαμβάνουν άτομα). Η συλλογή και η εμπορία δεδομένων έχουν γίνει, ωστόσο, τόσο διαδεδομένες, ώστε δεν έχει νόημα να γίνεται διάκριση μεταξύ εταιρικής και κυβερνητικής παρακολούθησης, καθώς τα δεδομένα που συλλέγονται από τις εταιρείες κοινοποιούνται στις κυβερνήσεις και αντίστροφα (Véliz 2020: 27–45). Ακόμη και όταν οι εταιρείες αρνούνται να παραδώσουν δεδομένα στις κυβερνήσεις (όπως στην περίπτωση της Apple που αρνήθηκε να βοηθήσει το FBI να παραβιάσει το τηλέφωνο ενός νεκρού εγκληματία το 2016), οι κυβερνήσεις συχνά έχουν τη δυνατότητα να παραβιάσουν τα δεδομένα οι ίδιες ή να προσλάβουν τις υπηρεσίες κάποιου που θα το κάνει για λογαριασμό τους (που είναι ακριβώς αυτό που συνέβη στην περίπτωση της Apple) (Yadron 2016).
Οι περισσότερες χώρες δεν διαθέτουν τα μέσα για να αναπτύξουν εργαλεία παρακολούθησης και ηλεκτρονικής εισβολής, οπότε τα αγοράζουν από κατασκευαστές «κυβερνοόπλων» (Schneier 2018: 65). Οι χώρες χρησιμοποιούν συστηματικά τους τεχνολογικούς γίγαντες για να αναθέτουν την παρακολούθηση σε τρίτους. Οι εταιρείες Palantir, Amazon και Microsoft, για παράδειγμα, παρείχαν εργαλεία που βοήθησαν την κυβέρνηση Τραμπ να θέσει υπό παρακολούθηση, να συλλάβει και να απελάσει μετανάστες (Levin 2018). Τα δικαστικά αρχεία στις Ηνωμένες Πολιτείες δείχνουν ότι οι ανακριτές μπορούν να ζητήσουν από την Google να αποκαλύψει όλους όσους έκαναν αναζήτηση για μια συγκεκριμένη λέξη-κλειδί (σε αντίθεση με το να ζητήσουν πληροφορίες για έναν γνωστό ύποπτο) (Ng 2020). Εν ολίγοις, οποιαδήποτε προσωπικά δεδομένα συλλέγονται από μια εταιρεία μπορούν να καταλήξουν στα χέρια της αστυνομίας (Morrison 2021).
Σε ορισμένες περιπτώσεις, η εταιρική παρακολούθηση μπορεί να χρησιμοποιηθεί για την παράκαμψη κοινωνικών πολιτικών. Το 2018, ο John Roberts, Πρόεδρος του Ανωτάτου Δικαστηρίου των Ηνωμένων Πολιτειών, συνέταξε μια πλειοψηφική γνωμοδότηση με την οποία απορρίφθηκε η δυνατότητα της κυβέρνησης να αποκτά δεδομένα τοποθεσίας από πύργους κινητής τηλεφωνίας χωρίς ένταλμα. Μη ικανοποιημένη από την απόφαση αυτή, η κυβέρνηση Τραμπ αγόρασε πρόσβαση σε μια εμπορική βάση δεδομένων που χαρτογραφεί τις κινήσεις εκατομμυρίων κινητών τηλεφώνων στις Ηνωμένες Πολιτείες. Δεδομένου ότι τα δεδομένα αυτά διατίθενται προς πώληση από μεσίτες δεδομένων, η κυβέρνηση δεν χρειάστηκε ένταλμα για να τα αποκτήσει. Εξωτερικεύοντας την επιτήρηση σε ιδιωτικές εταιρείες, η κυβέρνηση βρήκε έναν τρόπο να παρακάμψει μια απόφαση του Ανωτάτου Δικαστηρίου (Cox 2020). Σε ένα άλλο παράδειγμα, στο πλαίσιο της αναζήτησης δύο υπόπτων, οι Ηνωμένες Πολιτείες ζήτησαν από το Μεξικό να χρησιμοποιήσει ένα σύστημα αναγνώρισης προσώπου που είχε κατασκευαστεί από μια κινεζική εταιρεία η οποία είχε συμπεριληφθεί στη μαύρη λίστα της αμερικανικής κυβέρνησης (Hill 2021).
Η ροή των πληροφοριών είναι αμφίδρομη: οι κυβερνήσεις συλλέγουν επίσης προσωπικά δεδομένα τα οποία διαβιβάζουν σε επιχειρήσεις — μερικές φορές έναντι αμοιβής. Για παράδειγμα, δεδομένα σχετικά με εκατομμύρια ασθενείς του Εθνικού Συστήματος Υγείας του Ηνωμένου Βασιλείου έχουν πωληθεί σε φαρμακευτικές εταιρείες (Helm 2019). Εν ολίγοις, το εύρος και το βάθος της συλλογής και της ανταλλαγής δεδομένων στην ψηφιακή εποχή είναι ευρύτερα από ποτέ.
Ο ρόλος της συγκατάθεσης στις πρακτικές επιτήρησης
Είναι λογικό να πιστεύει κανείς ότι, εάν η απώλεια της ιδιωτικότητας γίνεται με συγκατάθεση, δεν προκαλείται καμία ζημιά. Οι εταιρείες συχνά ισχυρίζονται ότι οι πρακτικές επιτήρησής τους δεν αποτελούν πρόβλημα, επειδή οι χρήστες δίνουν τη συγκατάθεσή τους όταν αποδέχονται τους όρους και τις προϋποθέσεις τους. Ωστόσο, η συγκατάθεση στο πλαίσιο της οικονομίας των δεδομένων είναι, στην καλύτερη περίπτωση, μια πρακτική ηθικά αμφισβητήσιμη.
Η έννοια της ενήμερης συγκατάθεσης προέρχεται από την ιατρική ηθική. Σε αυτό το πλαίσιο, αποτελεί ένα εργαλείο για τον σεβασμό και την προστασία της αυτονομίας των ασθενών. Η αυτονομία είναι η ικανότητα και το δικαίωμα των ενηλίκων να επιλέγουν τις δικές τους αξίες και να ενεργούν αναλόγως. Εάν οι ασθενείς πρέπει να αντιμετωπίζονται ως αυτοσκοποί, σύμφωνα με την καντιανή κατηγορική επιταγή, αυτό σημαίνει ότι πρέπει να αναγνωρίζουμε ότι έχουν τις δικές τους προτεραιότητες και στόχους και ότι το ιατρικό επάγγελμα δεν έχει το δικαίωμα να παρεμβαίνει στις επιθυμίες τους. Γι’ αυτό οι γιατροί δεν μπορούν να διεξάγουν έρευνα σε ασθενείς ή να παρεμβαίνουν στο σώμα τους χωρίς τη συγκατάθεσή τους.
Δυστυχώς, η πρακτική της συγκατάθεσης δεν εφαρμόζεται εύκολα στο πλαίσιο των δεδομένων. Ενώ ο ιατρικός κλάδος υποτίθεται ότι έχει ως σκοπό να βοηθά τους ασθενείς, οι εταιρείες συνήθως επιδιώκουν να προστατευθούν από τους χρήστες τους. Αυτό σημαίνει ότι οι όροι και οι προϋποθέσεις συντάσσονται με σκοπό να προστατεύουν τις εταιρείες —και όχι τους απλούς ανθρώπους— από την ευθύνη. Οι όροι και οι προϋποθέσεις είναι συνήθως αδικαιολόγητα εκτενείς, μη διαπραγματεύσιμοι και μπορούν να αλλάξουν ανά πάσα στιγμή χωρίς προηγούμενη προειδοποίηση.
Επιπλέον, ακόμη και αν οι όροι και οι προϋποθέσεις ήταν σύντομοι και διαπραγματεύσιμοι, θα μπορούσε να υποστηριχθεί ότι δεν υπάρχει κάτι τέτοιο όπως η ενήμερη συγκατάθεση στο πλαίσιο της οικονομίας των δεδομένων. Οι επιπτώσεις των δεδομένων είναι διαβόητα δύσκολο να κατανοηθούν, συχνά αδύνατο. Ούτε τα άτομα που συνέταξαν την πολιτική απορρήτου ούτε οι προγραμματιστές που έγραψαν τον κώδικα για τους αλγόριθμους που αναλύουν τα δεδομένα γνωρίζουν τι είδους συμπεράσματα ενδέχεται να εξαχθούν από τα δεδομένα που λαμβάνουν από τους χρήστες ή πού ενδέχεται να καταλήξουν αυτά τα δεδομένα μόλις πωληθούν. Εάν κανείς δεν το γνωρίζει, ο χρήστης δεν μπορεί να ενημερωθεί με ουσιαστικό τρόπο.
Μια τρίτη πρόκληση για τη συγκατάθεση στο πλαίσιο των δεδομένων είναι ότι συχνά είναι δύσκολο ή αδύνατο να ζητηθεί συγκατάθεση από όλα τα εμπλεκόμενα άτομα. Για παράδειγμα, αν κάποιος κάνει τεστ DNA, μπορεί να δίνει τη συγκατάθεσή του, αλλά οι γονείς, τα αδέλφια, τα παιδιά και οι μακρινοί συγγενείς του δεν δίνουν τη δική τους συγκατάθεση. Τα περισσότερα προσωπικά δεδομένα είτε περιέχουν πληροφορίες για άλλα άτομα είτε μπορούν να χρησιμοποιηθούν για να εξαχθούν συμπεράσματα σχετικά με άλλα άτομα, με αποτέλεσμα να μην είναι σαφές αν ένα άτομο διαθέτει την ηθική εξουσία να συναινέσει στην παραχώρηση των δεδομένων του.
Τέλος, η συγκατάθεση ενδέχεται να μην είναι εθελοντική. Πολύ συχνά, οι άνθρωποι δεν έχουν ουσιαστική επιλογή όσον αφορά τη χρήση τεχνολογικών εργαλείων που είναι απαραίτητα για να συμμετέχουν πλήρως στην κοινωνία, ενώ οι όροι και οι προϋποθέσεις δεν επιτρέπουν καμία μορφή διαπραγμάτευσης.
Έτσι, ενώ η συγκατάθεση μπορεί να διαδραματίζει κάποιο ρόλο στις πρακτικές επιτήρησης, ο ρόλος αυτός δεν είναι τόσο ευρύς όσο θα μπορούσε να φανταστεί κανείς, και το γεγονός ότι κάποιος δίνει τη συγκατάθεσή του να τεθεί υπό επιτήρηση δεν σημαίνει αυτόματα ότι μια τέτοια πρακτική είναι ηθική.
Η μαζική συλλογή δεδομένων ισοδυναμεί με μαζική παρακολούθηση;
Μια σημαντική συζήτηση στη βιβλιογραφία για την παρακολούθηση είναι αν μια τόσο εκτεταμένη μαζική συλλογή προσωπικών δεδομένων ισοδυναμεί με μαζική παρακολούθηση. Τόσο οι εταιρείες παρακολούθησης όσο και οι υπηρεσίες πληροφοριών έχουν συμφέρον να υπερασπιστούν την άποψη ότι η μαζική συλλογή προσωπικών δεδομένων δεν αποτελεί παραβίαση της ιδιωτικής ζωής, καθώς έτσι οι δραστηριότητές τους φαίνονται λιγότερο προβληματικές.
Όταν ο Steven Levy πήρε συνέντευξη από αξιωματούχους της Εθνικής Υπηρεσίας Ασφαλείας (NSA), συνειδητοποίησε ότι «βλέποντας τον κόσμο μέσα από τα μάτια της [NSA], δεν υπάρχει απειλή για την ιδιωτική ζωή στη συλλογή τεράστιων ποσοτήτων πληροφοριών» (Levy 2014). Η λογική είναι, σε γενικές γραμμές, ότι παρόλο που τα δεδομένα όλων συλλέγονται σε μαζική κλίμακα, αυτό δεν ισοδυναμεί με μαζική παρακολούθηση, επειδή σπάνια γίνεται πρόσβαση σε αυτά τα δεδομένα. Δεν είναι σαφές τι ακριβώς εννοούν οι άνθρωποι με τον όρο «πρόσβαση» και πολλά εξαρτώνται από αυτό, αλλά ένα παράδειγμα είναι ότι, ακόμη και αν οι υπηρεσίες πληροφοριών διαθέτουν άφθονα δεδομένα για εσάς, αν δεν παρουσιάζετε ενδιαφέρον για αυτές, είναι πολύ πιθανό κανένας ανθρώπινος πράκτορας να μην εξετάσει ποτέ αυτά τα δεδομένα. Στο ίδιο πνεύμα, ο Mark Pythian γράφει: «Αν οι αθώοι άνθρωποι δεν γνωρίζουν ότι οι επικοινωνίες τους έχουν υποκλαπεί, αποθηκευτεί και φιλτραριστεί από υπολογιστή — και, ως εκ τούτου, δεν έχουν δει ποτέ από ανθρώπινο αναλυτή — τότε η εισβολή είναι δυνητική, όχι πραγματική, και η πιθανότητα βλάβης για το άτομο είναι αμελητέα» (Omand και Phythian 2018: 24–25). Ομοίως, ο David Omand υποστηρίζει ότι η μαζική πρόσβαση σε δεδομένα δεν ισοδυναμεί με μαζική παρακολούθηση, διότι, για το μεγαλύτερο μέρος των δεδομένων, κανένας ανθρώπινος αναλυτής δεν τα βλέπει ούτε τα καταγράφει για μελλοντική δράση (Omand και Phythian 2018: 150).
Όσοι θεωρούν ότι η συλλογή πληροφοριών αποτελεί παραβίαση της ιδιωτικής ζωής τείνουν να αντιλαμβάνονται είτε την ιδιωτική ζωή είτε το δικαίωμα στην ιδιωτική ζωή ως ζήτημα ελέγχου. [5] Για αυτούς, αν κάποιος χάσει τον έλεγχο των δεδομένων του, αυτό ισοδυναμεί είτε με απώλεια της ιδιωτικής ζωής είτε με παραβίαση του δικαιώματός του στην ιδιωτική ζωή. Όσοι πιστεύουν ότι η συλλογή δεδομένων δεν αποτελεί λόγο ανησυχίας για την ιδιωτική ζωή τείνουν να αντιλαμβάνονται την ιδιωτική ζωή ή το δικαίωμα στην ιδιωτική ζωή ως ζήτημα πρόσβασης: όσο δεν υπάρχει πρόσβαση στα δεδομένα, δεν υπάρχει παραβίαση της ιδιωτικής ζωής. [6] Ο Kevin Macnish, για παράδειγμα, υποστηρίζει ότι η απώλεια ελέγχου επί των προσωπικών μας δεδομένων μπορεί να μας κάνει να νιώθουμε ευάλωτοι και να μας καθιστά πιο ευάλωτους, καθώς αυξάνει τον κίνδυνο να αποκτηθεί κάποτε πρόσβαση στα προσωπικά μας δεδομένα. Παρά την αυξημένη αυτή ευάλωτη θέση, υποστηρίζει ο Macnish, όσο δεν υπάρχει πρόσβαση στα δεδομένα, δεν συντρέχει παραβίαση της ιδιωτικής ζωής (Macnish 2016).
Η συλλογή δεδομένων σίγουρα θέτει σε κίνδυνο την ιδιωτικότητά μας, και αυτό είναι εν μέρει το πρόβλημα. Όμως, δεν είναι μόνο αυτό. Ας υποθέσουμε ότι μια υπηρεσία πληροφοριών όπως η NSA (στις Ηνωμένες Πολιτείες) ή το Government Communications Headquarters (κοινώς γνωστό ως GCHQ, στο Ηνωμένο Βασίλειο) καταλήγει σε συμφωνία μαζί σας: θα συλλέξουν όλα τα δεδομένα σας, αλλά αν δεν επικρίνετε ποτέ την κυβέρνηση, δεν θα αποκτήσουν ποτέ πρόσβαση σε αυτά. Ας υποθέσουμε περαιτέρω ότι μπορείτε να εμπιστευτείτε αυτή την υπόσχεση και ότι η υπηρεσία μπορεί να εγγυηθεί χωρίς καμία αμφιβολία την ασφάλεια των δεδομένων σας, έτσι ώστε, αν δεν επικρίνετε ποτέ την κυβέρνηση, τα δεδομένα σας να είναι τόσο ασφαλή όσο αν δεν είχαν συλλεχθεί ποτέ. Εδώ εξακολουθεί να διαπράττεται κάποιο κακό. Κάποιος θα μπορούσε να μπει στον πειρασμό να σκεφτεί ότι πρόκειται για κατάχρηση εξουσίας, αλλά πολλές παραβιάσεις δικαιωμάτων από κυβερνητικές υπηρεσίες αποτελούν κατάχρηση εξουσίας: δολοφονίες, αδικαιολόγητες φυλακίσεις κ.λπ. Αυτό που χαρακτηρίζει αυτή τη συγκεκριμένη κατάχρηση εξουσίας είναι ότι αποτελεί επίθεση κατά της ιδιωτικής μας ζωής, και ο καλύτερος τρόπος να το κατανοήσουμε είναι να το εξηγήσουμε με βάση το δικαίωμά μας στην ιδιωτική ζωή. Από εδώ και πέρα, λοιπόν, θα θεωρήσω ότι η συλλογή προσωπικών δεδομένων αποτελεί μια μορφή παρακολούθησης.
Οι κίνδυνοι, οι βλάβες και τα κακά της επιτήρησης
Αν αυτή η εκτίμηση είναι σωστή, δεδομένου ότι η επιτήρηση συνεπάγεται σημαντική εισβολή στην ιδιωτική ζωή, μπορεί να δικαιολογηθεί μόνο αν τα οφέλη της υπερτερούν του κόστους της. Ακόμη και αν κάποιος υποστήριζε ότι η μαζική συλλογή δεδομένων δεν ισοδυναμεί με μαζική παρακολούθηση και δεν παραβιάζει την ιδιωτική ζωή, είναι αναμφισβήτητο ότι η παρακολούθηση έχει κόστος.
Τουλάχιστον, το κόστος της παρακολούθησης είναι ο αυξημένος κίνδυνος έκθεσης. Τα προσωπικά δεδομένα είναι επικίνδυνα επειδή είναι ευαίσθητα, ιδιαίτερα επιρρεπή σε κατάχρηση, δύσκολο να διατηρηθούν ασφαλή και επιθυμητά από πολλούς — από εγκληματίες έως ασφαλιστικές εταιρείες και υπηρεσίες πληροφοριών. Όσο περισσότερα δεδομένα συλλέγονται, όσο περισσότερο αποθηκεύονται και όσο περισσότερο διαβιβάζονται από τον έναν φορέα στον άλλο, αναλύονται και συγκεντρώνονται με άλλα δεδομένα, τόσο πιο πιθανό είναι να καταλήξουν να χρησιμοποιηθούν καταχρηστικά. Παραδείγματα κατάχρησης δεδομένων περιλαμβάνουν την αμέλεια (δηλαδή όταν τα δεδομένα δεν φυλάσσονται με ασφάλεια και καταλήγουν να διαρρεύσουν), την έκθεση και την παράνομη διάκριση.
Ο τύπος παρακολούθησης που είναι συνηθισμένος στην ψηφιακή εποχή συνεπάγεται, επομένως, τουλάχιστον, έναν κίνδυνο. Μερικές φορές συνεπάγεται επίσης βλάβη, για παράδειγμα, όταν οι κίνδυνοι υλοποιούνται και υπάρχει περίπτωση έκθεσης ή διάκρισης. Τέλος, η επιτήρηση συνεπάγεται παραβίαση ή καταπάτηση του δικαιώματος στην ιδιωτική ζωή. Όταν μια εισβολή στην ιδιωτική ζωή είναι δικαιολογημένη, ισοδυναμεί με παραβίαση του δικαιώματος· αν η εισβολή είναι αδικαιολόγητη, τότε ισοδυναμεί με καταπάτηση του δικαιώματος στην ιδιωτική ζωή και, ως εκ τούτου, με αδίκημα.
Οι προϋποθέσεις της ηθικής επιτήρησης: Αναγκαιότητα και αναλογικότητα
Είναι ευρέως αποδεκτό ότι, για να είναι η επιτήρηση ηθική, πρέπει να είναι αναγκαία και αναλογική (Hadjimatheou 2014· Macnish 2015· Brown και Kor 2009). Δεδομένου ότι η επιτήρηση έχει κόστος, πρέπει να είναι αναγκαία, στο βαθμό που δεν μπορούν να επιτευχθούν συγκρίσιμα ευεργετικά αποτελέσματα με λιγότερο παρεμβατικές ή επιβλαβείς μεθόδους. Η ηθική έννοια της αναλογικότητας αναφέρεται σε έναν ηθικό περιορισμό των πράξεων που προκαλούν βλάβη. Για να είναι αναλογική μια πράξη που προκαλεί βλάβη, πρέπει να γίνεται με σκοπό την επίτευξη κάποιου αξιόλογου στόχου, έναντι του οποίου σταθμίζονται οι βλάβες (McMahan 2009: 19). Εάν τα οφέλη υπερτερούν των βλαβών, των κινδύνων και των αδικιών (εάν το κακό που δημιουργεί μια πράξη είναι μικρότερο από το κακό που αποτρέπει), τότε η πράξη είναι αναλογική. Μια σιωπηρή προϋπόθεση της αναλογικότητας είναι ότι η επιτήρηση πρέπει να είναι αποτελεσματική. Εάν η επιτήρηση έχει κόστος και κανένα όφελος επειδή δεν είναι αποτελεσματική (δεν επιτυγχάνει τον σκοπό για τον οποίο προορίζεται), τότε δύσκολα μπορεί να δικαιολογηθεί (Véliz 2017, υπό έκδοση).
Η αναλογικότητα αφορά τη σύγκριση των συνεπειών της εκτέλεσης μιας πράξης με τις συνέπειες της μη εκτέλεσής της. Η αναγκαιότητα αφορά τη σύγκριση του τι θα συμβεί αν εκτελεστεί μια πράξη με το τι θα συμβεί αν εκτελεστούν εναλλακτικές πράξεις που αποτελούν επίσης μέσα για την επίτευξη του ίδιου σκοπού. Η αναλογικότητα ασχολείται με το ερώτημα: είναι οι αρνητικές συνέπειες αυτής της πράξης τέτοιες που δεν μπορούν να δικαιολογήσουν τα θετικά αποτελέσματα; Η αναγκαιότητα, αντίθετα, ρωτά: ποιο είναι, από ηθική άποψη, το καλύτερο μέσο για την επίτευξη συγκεκριμένων σκοπών;
Η έννοια της αναλογικότητας στην επιτήρηση δεν είναι ξένη προς το δίκαιο και τη δημόσια πολιτική. Το Νομοσχέδιο για τις Ερευνητικές Εξουσίες στο Ηνωμένο Βασίλειο περιλαμβάνει την αναλογικότητα μεταξύ των παραγόντων που πρέπει να λαμβάνονται υπόψη στο πλαίσιο των γενικών υποχρεώσεων σε σχέση με την ιδιωτική ζωή. Το 2014, 500 οργανώσεις και εμπειρογνώμονες παγκοσμίως υπέγραψαν τις Διεθνείς Αρχές για την Εφαρμογή των Ανθρωπίνων Δικαιωμάτων στην Επιτήρηση των Επικοινωνιών, οι οποίες περιλαμβάνουν την αρχή της αναλογικότητας (Schneier 2015: 168).
Υπάρχουν τρία υποτιθέμενα οφέλη που χρησιμοποιούνται συχνά για να δικαιολογηθεί η παρακολούθηση: η ασφάλεια, το οικονομικό κέρδος και η τεχνολογική πρόοδος. Θα εξετάσω το καθένα από αυτά με τη σειρά και θα αξιολογήσω κατά πόσον η ψηφιακή παρακολούθηση είναι αναλογική και απαραίτητη για την επίτευξη των επιδιωκόμενων οφελών.
Παρακολούθηση και ασφάλεια
Η επέκταση της παρακολούθησης στα τέλη του εικοστού και στις αρχές του εικοστού πρώτου αιώνα συνδέθηκε με την ανησυχία για την ασφάλεια. Στο Ηνωμένο Βασίλειο, δημιουργήθηκε ο λεγόμενος «Δακτύλιος από Ατσάλι» (Ring of Steel) μετά τις βομβιστικές επιθέσεις με φορτηγά που πραγματοποίησε ο Ιρλανδικός Δημοκρατικός Στρατός (IRA) στο City του Λονδίνου στις αρχές της δεκαετίας του 1990 (Carlile 2004). Το «Ring of Steel» είναι ένα δίκτυο καμερών που έχει εγκατασταθεί γύρω από την οικονομική περιοχή, το οποίο επεκτάθηκε και εκσυγχρονίστηκε σταδιακά και το οποίο, στις αρχές της δεκαετίας του 2000, μετέτρεψε τη Βρετανία στη χώρα με την πιο εκτεταμένη βιντεοεπιτήρηση στον κόσμο (η θέση αυτή έχει πλέον καταληφθεί από την Κίνα και τις Ηνωμένες Πολιτείες, με αυτή τη σειρά) (Carlile 2004; Brandl 2021). Πιο πρόσφατα, το 2016, ο Νόμος για τις Ερευνητικές Εξουσίες (Investigatory Powers Act) εισήγαγε νέες κυβερνητικές εξουσίες μαζικής συλλογής δεδομένων για λόγους ασφάλειας.
Στις Ηνωμένες Πολιτείες, ήταν επίσης η απειλή της τρομοκρατίας που οδήγησε στην επέκταση της παρακολούθησης. Το 2000, η Ομοσπονδιακή Επιτροπή Εμπορίου είχε συστήσει στο Κογκρέσο των Ηνωμένων Πολιτειών να ρυθμίσει την οικονομία των δεδομένων. Ωστόσο, μετά την 11η Σεπτεμβρίου, η αμερικανική κυβέρνηση είδε την ευκαιρία να δημιουργήσει αντίγραφο όλων των δεδομένων που συλλέγονταν από τον επιχειρηματικό κόσμο και να τα χρησιμοποιήσει για σκοπούς εθνικής ασφάλειας. Χωρίς να το γνωρίζουν οι πολίτες, λίγο μετά τις επιθέσεις, τέθηκε σε εφαρμογή ένα μυστικό σύστημα μαζικής παρακολούθησης με στόχο την ενίσχυση της ασφάλειας. Με την ψήφιση του «Patriot Act», έξι εβδομάδες μετά τις τρομοκρατικές επιθέσεις, το Ομοσπονδιακό Γραφείο Ερευνών (FBI) εξουσιοδοτήθηκε να εκδίδει «επιστολές εθνικής ασφάλειας», μια μορφή κλήτευσης που δεν υπόκειται σε δικαστικό έλεγχο και επιτρέπει την κατασκοπεία της ιδιωτικής ζωής ατόμων (τηλεφωνικά αρχεία, τραπεζικοί λογαριασμοί, αναζητήσεις στο διαδίκτυο και αγορές με πιστωτικές κάρτες) που ενδεχομένως να μην θεωρούνται καν ύποπτοι (Wright 2008). Παρόμοιες τάσεις παρατηρήθηκαν και σε άλλες χώρες, όπως η Γαλλία.
Υπάρχουν μερικά επιχειρήματα που μπορούν να προβληθούν υπέρ της πανταχού παρούσας επιτήρησης για λόγους ασφάλειας. Αν και η μαζική επιτήρηση τείνει να φέρει αρνητική χροιά, η Κατερίνα Χατζημαθέου έχει υποστηρίξει ότι, πρώτον, η μη στοχευμένη επιτήρηση είναι λιγότερο πιθανό να στιγματίσει όσους παρακολουθούνται, επειδή παρακολουθούνται όλοι. Ωστόσο, θα μπορούσε να υποστηριχθεί ότι, όταν οι ύποπτοι εγκληματίες παρακολουθούνται κρυφά (μέσω της στοχευμένης παρακολούθησης, της εναλλακτικής λύσης της μαζικής παρακολούθησης), δεν στιγματίζονται, επειδή κανείς δεν γνωρίζει για την παρακολούθηση.
Δεύτερον, υποστηρίζει η Χατζημαθέου, η μαζική παρακολούθηση είναι πιθανό να αποτελεί ένα λιγότερο παρεμβατικό μέτρο στην ιδιωτική ζωή αν είναι φανερή, διότι επιτρέπει στους ανθρώπους να προσαρμόσουν τις προσδοκίες τους και να σχεδιάσουν ανάλογα. Το παράδειγμα που παραθέτει είναι το εξής: όταν οι άνθρωποι γνωρίζουν ότι θα υπάρχει παρακολούθηση στα αεροδρόμια, μπορούν να φροντίσουν να μην μεταφέρουν ευαίσθητα αντικείμενα στις χειραποσκευές τους (2014: 204). Ωστόσο, όταν η παρακολούθηση γίνεται πραγματικά πανταχού παρούσα, δεν υπάρχει τρόπος να την αποφύγουμε και, ως εκ τούτου, δεν υπάρχει δυνατότητα αντίστοιχου προγραμματισμού. Όταν ένας μηχανισμός παρακολούθησης ακολουθεί κάθε μας βήμα και κάθε πάτημα πλήκτρου καθ’ όλη τη διάρκεια της ημέρας, η αλλαγή της συμπεριφοράς μας ισοδυναμεί με ενδεχομένως δραστική αυτολογοκρισία. Το να μην μεταφέρουμε ευαίσθητα αντικείμενα στις χειραποσκευές μας μπορεί να μην αποτελεί μεγάλη ταλαιπωρία, αλλά το να αλλάζουμε το τι αναζητούμε στο διαδίκτυο, το αν θα πάμε σε μια διαδήλωση ή το τι λέμε στους αγαπημένους μας από φόβο για την παρακολούθηση, έχει σοβαρές επιπτώσεις για τα άτομα και τη δημοκρατία (de Bruin 2010· Gavison 1980· Véliz 2020), όπως θα δούμε αργότερα.
Τρίτον, υποστηρίζει ο Hadjimatheou, η αδιάκριτη παρακολούθηση είναι πιθανό να αποδειχθεί πιο αποτελεσματική ως αποτρεπτικός παράγοντας για την παράνομη συμπεριφορά (Hadjimatheou 2014: 189, 197). Το αν αυτό το επιχείρημα θα σταθεί θα εξαρτηθεί, πρώτον, από το πόσο αποτελεσματική είναι η μαζική παρακολούθηση στην πρόληψη του εγκλήματος και, δεύτερον, από το πόσα είναι διατεθειμένοι να χάσουν οι παραβάτες· στην περίπτωση εξτρεμιστών τρομοκρατών που είναι διατεθειμένοι να θυσιάσουν τη ζωή τους, ενδέχεται να μην λειτουργεί ως σημαντικό αποτρεπτικό μέσο.
Ίσως το ισχυρότερο επιχείρημα υπέρ της μαζικής παρακολούθησης είναι ότι πρέπει να υποβάλλουμε τους εαυτούς μας σε παρακολούθηση ως μέρος του καθήκοντος να προστατεύουμε ο ένας τον άλλον από παραβιάσεις δικαιωμάτων. Σε ορισμένες περιπτώσεις, επιτρέπεται η σκόπιμη πρόκληση βλάβης σε ένα άτομο ως μέσο επιβολής του «καθήκοντος προστασίας τρίτων από αδικαιολόγητη βλάβη — υπό την προϋπόθεση, φυσικά, της εξέτασης των κριτηρίων της αναγκαιότητας, της αποτελεσματικότητας και της αναλογικότητας» (Fabre 2022: Κεφ. 9). Όπως αναφέρθηκε προηγουμένως, η τρομοκρατία έχει βρεθεί στο επίκεντρο της υπεράσπισης της παρακολούθησης.
Απαραίτητη προϋπόθεση για να δικαιολογηθεί η παρακολούθηση είναι να είναι αποτελεσματική. Το αν η μαζική παρακολούθηση είναι αποτελεσματική αποτελεί αμφιλεγόμενο ζήτημα. Ενώ ο David Anderson διαπίστωσε ότι η μαζική συλλογή δεδομένων συνέβαλε στην αποτροπή εγκληματικών σχεδίων στο Ηνωμένο Βασίλειο (Anderson 2016), καμία από τις πολυάριθμες επιτροπές εποπτείας ή έρευνες στις Ηνωμένες Πολιτείες δεν την έχει κρίνει αποτελεσματική (Clarke et al. 2013: 104, 120; Bergen et al. 2014: 1; Savage 2015a; 2015b: 162–223; «Έκθεση για το Πρόγραμμα Παρακολούθησης του Προέδρου» 2009: 637; Isiko 2013). Αν και το δικό μου συμπέρασμα είναι ότι είναι πολύ αμφίβολο αν η μαζική παρακολούθηση θα αποτελέσει ποτέ μια αποτελεσματική μέθοδο πρόληψης της τρομοκρατίας, θα υποθέσω την αποτελεσματικότητά της στη συνέχεια για λόγους επιχειρηματολογίας.
Αφού αποδειχθεί ή υποτεθεί η αποτελεσματικότητα, η παρακολούθηση πρέπει ακόμη να είναι αναγκαία και αναλογική για να δικαιολογηθεί. Μαζί, και οι δύο προϋποθέσεις εξυπηρετούν τον στόχο να διασφαλίσουμε ότι είμαστε σε καλύτερη θέση με τη μαζική παρακολούθηση παρά χωρίς αυτήν.
Υπάρχουν σοβαρές αμφιβολίες ως προς το αν η μαζική επιτήρηση με σκοπό τη διασφάλιση της ασφάλειας μπορεί να είναι αναλογική. Το κακό της μαζικής παρακολούθησης είναι σημαντικό, δεδομένου ότι παραβιάζεται το δικαίωμα στην ιδιωτική ζωή ολόκληρου του πληθυσμού. Μαζί με αυτό το κακό έρχονται συνακόλουθοι κίνδυνοι και βλάβες. Μεταξύ αυτών είναι τα αποθαρρυντικά αποτελέσματα: η πιθανότητα οι αρχές να αντιμετωπίζουν όλους τους πολίτες ως ύποπτους εγκληματίες και να προβαίνουν σε «εκστρατείες ψαρέματος» αναζητώντας παρανομίες, καθώς και ο κίνδυνος τα δεδομένα αυτά να υποστούν παραβίαση, διαρροή ή σοβαρή κατάχρηση στο μέλλον.
Ομοίως, υπάρχουν αμφιβολίες ως προς το αν η μαζική παρακολούθηση είναι απαραίτητη και, αν είναι περιττή, δύσκολα μπορεί να θεωρηθεί αναλογική. Υπάρχουν λόγοι να πιστεύουμε ότι η στοχευμένη παρακολούθηση είναι καλύτερη από τη μαζική, καθώς και λιγότερο παρεμβατική. Στην περίπτωση της στοχευμένης παρακολούθησης, η αστυνομία ή οι υπηρεσίες πληροφοριών πρέπει πρώτα να λάβουν μια πληροφορία. Η πληροφορία αυτή προέρχεται συνήθως από την κοινότητα ή από μέλη της οικογένειας, αλλά μπορεί επίσης να προέρχεται από πληροφοριοδότες ή να προκύψει από άλλες ποινικές έρευνες. Μόλις υπάρξει βάσιμος λόγος υποψίας, οι ανακριτικές αρχές υποβάλλουν τα αποδεικτικά στοιχεία σε δικαστή, ο οποίος πρέπει να αποφασίσει αν υπάρχουν επαρκή στοιχεία για την υποψία, ώστε να εκδώσει ένταλμα για τη διεξαγωγή της παρακολούθησης. Το σύστημα αυτό λειτουργεί εκπληκτικά καλά. Επειδή οι αστυνομικοί θα πρέπει να απευθύνονται στους ίδιους δικαστές για την έκδοση ενταλμάτων σε μελλοντικές υποθέσεις, φροντίζουν να χτίσουν σχέσεις εμπιστοσύνης μαζί τους και να ζητούν ένταλμα μόνο όταν είναι πολύ πιθανό να βρουν κάτι. Στην πραγματικότητα, η αστυνομία εντοπίζει τουλάχιστον μέρος των αποδεικτικών στοιχείων που αναμενόταν σε ποσοστό άνω του 80% των υποθέσεων (Solove 2011: 130).
Η εμπειρία μετά την 11η Σεπτεμβρίου υποδηλώνει ότι η στοχευμένη παρακολούθηση είναι πιο αποτελεσματική από τη μαζική παρακολούθηση στην πρόληψη της τρομοκρατίας, γεγονός που υποστηρίζει το συμπέρασμα ότι η μαζική παρακολούθηση δεν είναι ούτε απαραίτητη ούτε αναλογική για την επίτευξη των αντιτρομοκρατικών μας στόχων. Το κύριο τεχνικό πρόβλημα με τη μαζική παρακολούθηση φαίνεται να είναι αυτό που τη χαρακτηρίζει: η έκταση της συλλογής δεδομένων. Η τεράστια ποσότητα πληροφοριών προσθέτει άσχετα δεδομένα για αθώους ανθρώπους και συσκοτίζει τις σημαντικές ενδείξεις που θα μπορούσαν να προκύψουν από τη στοχευμένη παρακολούθηση. Η μαζική παρακολούθηση προσθέτει άχυρο στο άχυρο και καθιστά ακόμη πιο δύσκολο να βρεθεί η βελόνα.
Ο εμπειρογνώμονας σε θέματα ασφάλειας Bruce Schneier έχει υποστηρίξει ότι η μαζική συλλογή και η εξόρυξη δεδομένων αποτελούν ακατάλληλα εργαλεία για τον εντοπισμό τρομοκρατών για τρεις λόγους (2015: 136–140). Πρώτον, τα ποσοστά σφάλματος είναι απαράδεκτα υψηλά. Όταν χρησιμοποιούμε την εξόρυξη δεδομένων για να στοχεύσουμε άτομα για κάτι σχετικά αβλαβές, όπως διαφημίσεις μόδας, τα λάθη μπορούν να γίνουν πιο εύκολα ανεκτά, καθώς το να λαμβάνουμε διαφημίσεις για ρούχα που δεν θέλουμε να αγοράσουμε συνήθως δεν αποτελεί μεγάλο πρόβλημα. Όταν όμως η εξόρυξη δεδομένων χρησιμοποιείται για την αναζήτηση τρομοκρατών, διακυβεύονται οι ζωές και η ελευθερία ενδεχομένως αθώων ανθρώπων, και η ανοχή μας στα λάθη θα πρέπει να είναι χαμηλή.
Ο δεύτερος λόγος για τον οποίο οι τεχνικές εξόρυξης δεδομένων είναι ακατάλληλες για τη διερεύνηση της τρομοκρατίας είναι ότι οι τρομοκρατικές επιθέσεις είναι μοναδικές. Δεν υπήρχε τρόπος να προβλεφθεί ότι θα χρησιμοποιούνταν βόμβες από χύτρα ταχύτητας στην επίθεση του Μαραθωνίου της Βοστώνης (Schneier 2015: 138), ή ότι κάποιος θα έβαζε βόμβα στο παπούτσι του, ή ότι κάποιοι θα δοκίμαζαν υγρά εκρηκτικά, ή ότι κάποιος θα σκότωνε ανθρώπους με φορτηγό στη Νίκαια. Ο Je Jonas, ερευνητής της IBM, και ο Jim Harper, διευθυντής πολιτικής πληροφοριών στο Ινστιτούτο Cato, υποστηρίζουν ότι «η τρομοκρατία δεν εμφανίζεται με επαρκή συχνότητα ώστε να επιτρέψει τη δημιουργία έγκυρων προγνωστικών μοντέλων» (Jonas και Harper 2006: 8).
Το τρίτο πρόβλημα είναι ότι οι τρομοκράτες θα προσπαθούν να αποφύγουν τον εντοπισμό, γεγονός που καθιστά πιο δύσκολη τη σύλληψή τους στα πολύ ευρύτατα δίχτυα που ρίχνουν οι υπηρεσίες πληροφοριών.
Ένα τελευταίο πρόβλημα, πέρα από την αναγκαιότητα και την αναλογικότητα, είναι η ανησυχία ότι η μαζική παρακολούθηση μπορεί τελικά να θέσει σε κίνδυνο την εθνική ασφάλεια λόγω τόσο εσωτερικών όσο και εξωτερικών κινδύνων. Οι εσωτερικοί κίνδυνοι περιλαμβάνουν την πιθανότητα μια μελλοντική κακή κυβέρνηση να αναλάβει τον έλεγχο της αρχιτεκτονικής της παρακολούθησης και να τη χρησιμοποιήσει για να μετατραπεί σε αυταρχικό καθεστώς. Οι εξωτερικοί κίνδυνοι περιλαμβάνουν την πιθανότητα μιας εχθρικής χώρας να εισβάλει σε ευαίσθητα συστήματα και να χρησιμοποιήσει προσωπικά δεδομένα για σκοπούς πληροφοριών ή ακόμη και στρατιωτικούς σκοπούς. Αυτοί οι κίνδυνοι καταδεικνύουν μια «πραγματική και αναπόφευκτη» αντίφαση που εντόπισε ο Timothy Garton Ash όταν οι κυβερνήσεις κατασκοπεύουν τους δικούς τους πολίτες, παραβιάζοντας έτσι την ελευθερία που υποτίθεται ότι πρέπει να υπερασπίζονται: «αν η παραβίαση ξεπεράσει τα όρια, αρχίζει να καταστρέφει αυτό που υποτίθεται ότι πρέπει να διαφυλάξει» (Garton Ash 1997: 236). Θα επανέλθουμε σε αυτό το ζήτημα στο συμπέρασμα.
Ακόμη και αν συμφωνούσαμε ότι δεν αξίζει να εφαρμοστεί πανταχού παρούσα επιτήρηση για λόγους ασφάλειας, υπάρχουν εκείνοι που ενδέχεται να πιστεύουν ότι η επιτήρηση δικαιολογείται για λόγους οικονομικού οφέλους.
Παρακολούθηση και οικονομικό κέρδος
Η εμπορευματοποίηση των δεδομένων, που συχνά αποκαλείται «οικονομία των δεδομένων», έχει εξελιχθεί σε έναν εξαιρετικά κερδοφόρο κλάδο. «Ο πιο πολύτιμος πόρος στον κόσμο δεν είναι πλέον το πετρέλαιο, αλλά τα δεδομένα», ανέφερε ένα άρθρο του Economist το 2017. Ένα σημαντικό μέρος της αγοράς δεδομένων συνδέεται με την εξατομικευμένη διαφήμιση, η οποία χρησιμοποιεί προσωπικά δεδομένα για να προβάλλει σχετικές διαφημίσεις στους χρήστες. Η διαφήμιση αποτελεί τον κύριο τρόπο χρηματοδότησης του διαδικτύου, και το μεγαλύτερο μέρος της διαδικτυακής διαφήμισης είναι εξατομικευμένο. Αυτό καθιστά τα προσωπικά δεδομένα ένα από τα πιο πολύτιμα είδη δεδομένων. Αυτό που παλαιότερα θεωρούνταν υποκλοπή και αρμοδιότητα της αστυνομίας έχει μετατραπεί σε ένα κυρίαρχο επιχειρηματικό μοντέλο.
Η εξατομικευμένη διαφήμιση οργανώνεται συχνά γύρω από τον μηχανισμό των πλειστηριασμών. Ο πλειστηριασμός σε πραγματικό χρόνο (RTB) αποστέλλει τα προσωπικά δεδομένα ενός χρήστη σε ενδιαφερόμενους διαφημιστές, συχνά χωρίς την άδειά του. Ας υποθέσουμε ότι η Amazon λαμβάνει αυτά τα δεδομένα και αναγνωρίζει τον χρήστη ως κάποιον που έχει επισκεφθεί τον ιστότοπό της στο παρελθόν αναζητώντας ένα βιβλίο. Μπορεί να είναι πρόθυμη να πληρώσει περισσότερα από άλλους για να τον παρασύρει να αγοράσει αυτό το βιβλίο, επειδή είναι σίγουρη ότι το θέλει. Και έτσι του εμφανίζεται μια διαφήμιση για βιβλίο της Amazon. Σε αυτή τη διαδικασία, ωστόσο, πολύ προσωπικά δεδομένα, όπως ο σεξουαλικός προσανατολισμός και η πολιτική τοποθέτηση, ενδέχεται να έχουν σταλεί σε δεκάδες ή ακόμη και εκατοντάδες πιθανούς διαφημιστές χωρίς τη γνώση ή τη συγκατάθεση του χρήστη. Και αυτές οι εταιρείες διατηρούν τα εν λόγω προσωπικά δεδομένα, τα οποία συχνά πωλούνται σε τρίτους (ICO 2019).
Ένα άλλο κρίσιμο κομμάτι του παζλ της οικονομίας των δεδομένων είναι οι μεσίτες δεδομένων. Όποτε συλλέγονται προσωπικά δεδομένα, υπάρχει μεγάλη πιθανότητα να καταλήξουν στα χέρια μεσιτών δεδομένων. Οι μεσίτες δεδομένων επιδιώκουν να έχουν πρόσβαση σε όλους τους χρήστες του διαδικτύου. Στη συνέχεια, πωλούν αυτά τα αρχεία σε υποψήφιους εργοδότες, ασφαλιστικές εταιρείες, κυβερνήσεις και οποιονδήποτε άλλο είναι πρόθυμος να αγοράσει τα δεδομένα. Μια εταιρεία όπως η Experian, για παράδειγμα, συγκεντρώνει δεδομένα για πάνω από ένα δισεκατομμύριο άτομα και επιχειρήσεις, συμπεριλαμβανομένων 235 εκατομμυρίων καταναλωτών στις ΗΠΑ. Η Axciom διαθέτει περισσότερα από 10.000 σημεία δεδομένων για καθέναν από τους 2,5 δισεκατομμύρια καταναλωτές σε 62 χώρες (Melendez και Pasternack 2019).
Αν και η οικονομία των δεδομένων είναι εξαιρετικά κερδοφόρα κατά τη στιγμή της συγγραφής του παρόντος, είναι αμφισβητήσιμο εάν τα οφέλη της υπερτερούν του κόστους της για την κοινωνία. Με την αύξηση της ανισότητας του πλούτου σε όλο τον κόσμο (Alvaredo et al. 2018), δεν υπάρχουν στοιχεία που να υποδηλώνουν ότι τα κέρδη εταιρειών όπως οι μεσίτες δεδομένων διαχέονται προς το υπόλοιπο της κοινωνίας. Σε αντίθεση με τις μεγάλες εταιρείες του παρελθόντος, οι μεσίτες δεδομένων δεν είναι εταιρείες που απασχολούν μεγάλο αριθμό ατόμων. Ενώ ένας κατασκευαστής αυτοκινήτων απασχολεί εκατοντάδες χιλιάδες άτομα (π.χ. η Volkswagen απασχολούσε 665.000 άτομα το 2020, σύμφωνα με το Statista), ένας μεσίτης δεδομένων απασχολεί συνήθως μόνο μερικές χιλιάδες (π.χ. η Experian, ένας από τους μεγαλύτερους μεσίτες δεδομένων, απασχολεί περίπου 16.000 άτομα, σύμφωνα με τον ιστότοπό της).
Με τη σειρά τους, οι κοινωνικές βλάβες και οι κίνδυνοι μιας οικονομίας που βασίζεται στην επιτήρηση είναι σημαντικοί. Οι μεσίτες δεδομένων καθιστούν εξαιρετικά δύσκολη την επιβολή των νόμων κατά των διακρίσεων. Όταν ο καθένας μπορεί να αποκτήσει ευαίσθητες πληροφορίες για άλλους χωρίς καμία εποπτεία, είναι δύσκολο να διασφαλιστεί ότι οι εταιρείες δεν κάνουν διακρίσεις εναντίον ατόμων λόγω, για παράδειγμα, των πολιτικών τους πεποιθήσεων, του σεξουαλικού τους προσανατολισμού ή της κατάστασης της υγείας τους. Συχνά, όταν οι άνθρωποι αντιμετωπίζονται με βάση τα δεδομένα τους τόσο από ιδιωτικούς όσο και από δημόσιους φορείς, παύουν να αντιμετωπίζονται ως ίσοι πολίτες (Véliz 2020).
Ο κίνδυνος παραβίασης και κατάχρησης ευαίσθητων δεδομένων είναι επίσης υψηλός. Τον Σεπτέμβριο του 2017, η Experian ανακοίνωσε μια παραβίαση της κυβερνοασφάλειας, κατά την οποία εγκληματίες απέκτησαν πρόσβαση στα προσωπικά δεδομένα περίπου 147 εκατομμυρίων πολιτών των ΗΠΑ. Τα δεδομένα στα οποία αποκτήθηκε πρόσβαση περιλάμβαναν ονόματα, αριθμούς κοινωνικής ασφάλισης, ημερομηνίες γέννησης, διευθύνσεις και αριθμούς άδειας οδήγησης. Πρόκειται για μία από τις μεγαλύτερες παραβιάσεις δεδομένων στην ιστορία. Τον Φεβρουάριο του 2020, το Υπουργείο Δικαιοσύνης των Ηνωμένων Πολιτειών απαγγέλλε κατηγορίες σε τέσσερις Κινέζους στρατιωτικούς για εννέα κατηγορίες που σχετίζονταν με την παραβίαση (κάτι που η Κίνα έχει μέχρι στιγμής αρνηθεί). Το γεγονός ότι ξένες χώρες παραβιάζουν ευαίσθητα δεδομένα μας προειδοποιεί για έναν επιπλέον κίνδυνο για την εθνική ασφάλεια.
Μέσω δεδομένων που αποκτήθηκαν από έναν μεσίτη δεδομένων τοποθεσίας, δημοσιογράφοι της «New York Times» κατάφεραν να εντοπίσουν τη θέση του Προέδρου των Ηνωμένων Πολιτειών, συσχετίζοντας το δημόσιο πρόγραμμά του με ένα τηλέφωνο που ανήκε σε πράκτορα της Μυστικής Υπηρεσίας (Thompson και Warzel 2019). Χρησιμοποιώντας την ίδια βάση δεδομένων, οι δημοσιογράφοι μπόρεσαν επίσης να εντοπίσουν και να παρακολουθήσουν, μεταξύ άλλων, στρατιωτικούς αξιωματούχους με άδειες πρόσβασης σε απόρρητες πληροφορίες και αξιωματικούς των σωμάτων ασφαλείας.
Υπάρχουν επίσης ανησυχίες σχετικά με τον τρόπο με τον οποίο η οικονομία των δεδομένων ενθαρρύνει τον σχεδιασμό αλγορίθμων στα μέσα κοινωνικής δικτύωσης που οδηγούν σε παραπληροφόρηση και πόλωση της κοινωνίας. Οι εταιρείες κοινωνικών μέσων επιθυμούν οι χρήστες να παραμένουν στις πλατφόρμες τους για όσο το δυνατόν περισσότερο, καθώς έτσι μπορούν να συλλέγουν όσο το δυνατόν περισσότερα προσωπικά δεδομένα από αυτούς και να τους προβάλλουν όσο το δυνατόν περισσότερες διαφημίσεις. Δυστυχώς, το περιεχόμενο που προσελκύει περισσότερο το ενδιαφέρον είναι συχνά τοξικό περιεχόμενο, όπως η παραπληροφόρηση και οι έντονες πολιτικές συζητήσεις, που καταλήγουν να πολώσουν τους πολίτες σε ακραίες θέσεις (Wylie 2019). Για μια επιχειρηματολογία σχετικά με το γιατί υπάρχει υπερβολική προστασία της ιδιωτικής ζωής στα κοινωνικά δίκτυα σήμερα, βλ. Marmor, στον παρόντα τόμο. Για μια απάντηση σε αυτή την επιχειρηματολογία, βλ. Véliz (2021).
Τέλος, υπάρχει η ανησυχία ότι η αγορά των εξατομικευμένων διαφημίσεων αποτελεί χρηματοοικονομική φούσκα. Η μικροστοχευση είναι πολύ λιγότερο αποτελεσματική και ακριβής από ό,τι παρουσιάζεται και υπερβολικά δαπανηρή για να αξίζει τον κόπο (Edelman 2020; Hwang 2020). Η αγορά είναι τόσο αδιαφανής (επειδή οι δημοπρασίες σε πραγματικό χρόνο είναι αφηρημένες και είναι δύσκολο να επαληθευτεί ότι μια συγκεκριμένη διαφήμιση που έχει αγοραστεί φτάνει στο κοινό στο οποίο απευθύνεται και έχει αποτέλεσμα) που επιτρέπει λάθη στην αποτίμηση και απάτη κλικ. Η απάτη κλικ χρησιμοποιεί αυτοματοποιημένα σενάρια ή άτομα που πληρώνονται σε «φάρμες κλικ» για να κάνουν κλικ σε μια διαφήμιση, χωρίς όμως να υπάρχει καταναλωτής που να βλέπει τη συγκεκριμένη διαφήμιση (Hwang 2020: 84). Και ένας από τους λόγους για τους οποίους η αγορά είναι τόσο αδιαφανής είναι ότι οι διαφημίσεις είναι εξατομικευμένες· αν όλοι έβλεπαν την ίδια διαφήμιση, θα ήταν ευκολότερο να επαληθευτεί ότι πράγματι προβάλλεται. Η Forrester Research εκτίμησε ότι, το 2016, έως και το 56% του συνόλου των χρημάτων που δαπανήθηκαν για διαφημίσεις στις Ηνωμένες Πολιτείες χάθηκε λόγω απάτης ή μη ορατών διαφημίσεων (Bidel et al. 2017). Ο φόβος είναι ότι, μόλις οι επιχειρήσεις που έχουν αγοράσει εξατομικευμένες διαφημίσεις συνειδητοποιήσουν ότι πληρώνουν για κάτι που δεν αξίζει τον κόπο, η φούσκα θα σκάσει και θα βρεθούμε εν μέσω μιας χρηματοοικονομικής κρίσης παρόμοιας με εκείνη του 2008.
Δεδομένου ότι η οικονομία των δεδομένων έχει αυξήσει τις ανισότητες, έχει βλάψει την ισότητα, αποτελεί απειλή για την εθνική ασφάλεια, μπορεί να οδηγήσει σε πόλωση της κοινωνίας και σε παραπληροφόρηση, και ενέχει τον κίνδυνο χρηματοπιστωτικής κρίσης, δεν φαίνεται ότι η παρακολούθηση αποτελεί δικαιολογημένο επιχειρηματικό μοντέλο. Η πανταχού παρούσα παρακολούθηση ως επιχειρηματικό μοντέλο δεν είναι απαραίτητη. Η ανθρωπότητα είχε ήδη επιτύχει ένα υψηλό επίπεδο πλούτου πριν από την εμφάνιση της οικονομίας των δεδομένων. Ένας από τους κύριους λόγους για τους οποίους συλλέγονται τόσα πολλά προσωπικά δεδομένα στο διαδίκτυο είναι η χρηματοδότηση εταιρειών του διαδικτύου όπως το Facebook και η Google, αλλά αυτές οι εταιρείες θα μπορούσαν να χρηματοδοτηθούν μέσω εναλλακτικών επιχειρηματικών μοντέλων, συμπεριλαμβανομένων των μοντέλων συνδρομής, καθώς και μέσω διαφήμισης που δεν εξαρτάται από προσωπικά δεδομένα. Η διαφήμιση βάσει περιεχομένου, για παράδειγμα, προβάλλει διαφημίσεις στους χρήστες με βάση αυτό που μόλις αναζήτησαν, χωρίς να χρειάζεται να γνωρίζει οτιδήποτε άλλο για αυτούς. Δεδομένου ότι δεν είναι απαραίτητη και ότι τα οφέλη της μπορούν να επιτευχθούν με λιγότερο δαπανηρά μέσα, η επιτήρηση ως επιχειρηματικό μοντέλο δεν είναι ούτε αυτή αναλογική.
Παρακολούθηση και τεχνολογική πρόοδος
Ένας τρίτος συνηθισμένος λόγος για τη δικαιολογία της συλλογής προσωπικών δεδομένων είναι η τεχνολογική και επιστημονική πρόοδος. Συγκεκριμένα, συχνά θεωρείται ότι απαιτούνται μεγάλα ποσά προσωπικών δεδομένων για την εκπαίδευση της τεχνητής νοημοσύνης (AI). Μέχρι τα μέσα της δεκαετίας του 1980, οι ερευνητές της τεχνητής νοημοσύνης είχαν απομακρυνθεί από τη συμβολική τεχνητή νοημοσύνη (που βασίζεται σε κανόνες λογικής) και είχαν αρχίσει να σημειώνουν σημαντική πρόοδο στα νευρωνικά δίκτυα (που βασίζονται σε στατιστικά μοντέλα), γεγονός που τελικά οδήγησε στην άνθηση της έρευνας και των εφαρμογών της μηχανικής μάθησης. Μία από τις ιδιαιτερότητες των αλγορίθμων μηχανικής μάθησης είναι ότι χρειάζονται τεράστιες ποσότητες δεδομένων.
Σε πολλές περιπτώσεις, ωστόσο, τα πιο χρήσιμα δεδομένα για την εκπαίδευση της τεχνητής νοημοσύνης δεν είναι τα προσωπικά δεδομένα. Τα προσωπικά δεδομένα έχουν συχνά σύντομη διάρκεια ισχύος (οι άνθρωποι μετακομίζουν, αλλάζουν δουλειά, οι προτιμήσεις τους εξελίσσονται κ.λπ.) και μπορεί συχνά να είναι λιγότερο ακριβή από άλλα είδη δεδομένων, εν μέρει επειδή είναι δύσκολο (αν όχι αδύνατο) να κατατάξουμε τους ανθρώπους σε διακριτές κατηγορίες (Crawford 2021: Κεφ. 4). Ένα χαρακτηριστικό παράδειγμα τεχνητής νοημοσύνης είναι το AlphaZero, ένας αλγόριθμος που αναπτύχθηκε από την DeepMind της Google και παίζει το αρχαίο κινεζικό παιχνίδι Go. Το AlphaZero εκπαιδεύτηκε αποκλειστικά παίζοντας εναντίον του εαυτού του, χωρίς κανένα εξωτερικό δεδομένο, πόσο μάλλον προσωπικά δεδομένα. Ένα άλλο παράδειγμα χρήσης μη προσωπικών δεδομένων από την τεχνητή νοημοσύνη είναι η προσπάθεια ερευνητών του Ινστιτούτου Τεχνολογίας της Μασαχουσέτης (MIT) να ανακαλύψουν νέα αντιβιοτικά, χρησιμοποιώντας την τεχνητή νοημοσύνη για την ανάλυση χημικών ενώσεων (Trafton 2020).
Βεβαίως, υπάρχουν περιπτώσεις στις οποίες χρειαζόμαστε προσωπικά δεδομένα — με την ιατρική να αποτελεί ένα χαρακτηριστικό παράδειγμα. Ενώ η ιατρική δικαιολογεί τη συλλογή ορισμένων προσωπικών δεδομένων (π.χ. κλινικές εξετάσεις, κατάλογος συμπτωμάτων κ.λπ.), δεν δικαιολογεί την πανταχού παρούσα επιτήρηση και το εμπόριο προσωπικών δεδομένων που παρατηρούμε σήμερα. Το να υποστηρίζουμε ότι η πανταχού παρούσα επιτήρηση είναι περιττή και δυσανάλογη δεν ισοδυναμεί με το να υποστηρίζουμε ότι δεν μπορούμε ποτέ να χρησιμοποιήσουμε προσωπικά δεδομένα. Η συλλογή δεδομένων σε ιατρικό πλαίσιο είναι απολύτως δικαιολογημένη. Η πώληση αυτών των δεδομένων και η συλλογή προσωπικών δεδομένων παντού ίσως να μην είναι.
Μια τελική απάντηση είναι ότι δεν είναι βέβαιο αν η τεχνητή νοημοσύνη του μέλλοντος θα χρειαστεί τόσα δεδομένα όσα χρειάζεται σήμερα. Μέρος του τι σημαίνει να είναι κανείς ευφυής είναι η ικανότητα να γενικεύει τη γνώση από έναν περιορισμένο αριθμό παραδειγμάτων, όπως κάνουν οι άνθρωποι. Ένα παιδί δεν χρειάζεται εκατοντάδες χιλιάδες εικόνες σκύλων για να αναγνωρίσει τους σκύλους. Καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται πιο έξυπνα, μπορούμε να αναμένουμε ότι θα χρειάζονται λιγότερα δεδομένα (Wilson et al. 2019; Marcus και Davis 2020). Οι σημαντικότερες προκλήσεις για την ανάπτυξη της τεχνητής νοημοσύνης είναι τεχνικής φύσης και δεν θα επιλυθούν απαραίτητα με τη συλλογή περισσότερων δεδομένων (Schneier και Waldo 2019).
Και πάλι, αν η πανταχού παρούσα παρακολούθηση που διευκολύνεται από το εμπόριο προσωπικών δεδομένων δεν είναι απαραίτητη για την τεχνολογική πρόοδο, δύσκολα μπορεί να θεωρηθεί αναλογική, και δεν είναι καθόλου σαφές αν είναι απαραίτητο να συλλέγονται όσο το δυνατόν περισσότερα προσωπικά δεδομένα. Το βάρος της απόδειξης βαρύνει όσους υποστηρίζουν ότι είναι.
Παρακολούθηση, ελευθερία και δημοκρατία
Εδώ και δεκαετίες, οι στοχαστές ανησυχούν για τις αρνητικές συνέπειες της παρακολούθησης στην κοινωνία, την ελευθερία και τη φιλελεύθερη δημοκρατία. Η Ruth Gavison, για παράδειγμα, υποστήριξε ότι:
Ελλείψει συναίνεσης σχετικά με πολλούς περιορισμούς της ελευθερίας, και λαμβάνοντας υπόψη τα όρια της ικανότητάς μας να ενθαρρύνουμε την ανεκτικότητα και την αποδοχή και να ξεπεράσουμε τις προκαταλήψεις, η ιδιωτική ζωή πρέπει να αποτελεί μέρος της δέσμευσής μας για την ατομική ελευθερία. […] Η ιδιωτική ζωή είναι επίσης απαραίτητη για τη δημοκρατική διακυβέρνηση, διότι καλλιεργεί και ενθαρρύνει την ηθική αυτονομία του πολίτη, μια κεντρική προϋπόθεση της δημοκρατίας.
(Gavison 1980: 455)
Στο ίδιο πνεύμα, ο Thomas Nagel υποστήριξε ότι, για να είναι η δημόσια σφαίρα «άνετα κατοικήσιμη» για διαφορετικούς τύπους ανθρώπων, χρειαζόμαστε «μια κουλτούρα που να χαρακτηρίζεται από δημόσια επιφυλακτικότητα». Για να λειτουργεί καλά η φιλελεύθερη δημοκρατία, πρέπει να υπάρχει ένας συνακόλουθος «πολιτισμικός φιλελευθερισμός», στο πλαίσιο του οποίου οι πολίτες επιτρέπουν ο ένας στον άλλον να διαθέτει επαρκή ιδιωτικότητα, κάτι που είναι απαραίτητο για την προστασία της ατομικής ελευθερίας και την αποφυγή περιττών συγκρούσεων στη δημόσια σφαίρα (Nagel 1998).
Ο Boudewijn de Bruin έχει υποστηρίξει ότι οι παραβιάσεις της ιδιωτικής ζωής μπορούν να περιορίσουν την αρνητική ελευθερία των ανθρώπων, γεγονός που υποδηλώνει ότι η ιδιωτική ζωή αποτελεί μια φιλελεύθερη αξία (de Bruin 2010). Όταν οι εταιρείες και οι κυβερνήσεις μας αντιμετωπίζουν διαφορετικά ως αποτέλεσμα παραβιάσεων της ιδιωτικής ζωής, οι ευκαιρίες που μας προσφέρονται στη ζωή επηρεάζονται. Αν καταλήξουμε να ασκούμε αυτολογοκρισία σε μια προσπάθεια να βελτιώσουμε τις ευκαιρίες μας στη ζωή, η ελευθερία μας περιορίζεται ακόμη περισσότερο. Η απώλεια ελευθερίας που οφείλεται στην αυτολογοκρισία και στις εξωτερικές πιέσεις για συμμόρφωση με τις αλγοριθμικές προσδοκίες μπορεί στη συνέχεια να οδηγήσει σε συμμόρφωση.
Η πανταχού παρούσα επιτήρηση θέτει σε κίνδυνο θεμελιώδεις προσωπικές, πολιτικές και επαγγελματικές σχέσεις. Μπορεί, μεταξύ άλλων, να υπονομεύσει την οικειότητα μεταξύ φίλων και οικογένειας, την ελευθερία του συνεταιρίζεσθαι μεταξύ των πολιτών και το απόρρητο της επικοινωνίας μεταξύ δικηγόρου και πελάτη. Η επιτήρηση θέτει σε κίνδυνο θεμελιώδεις δημοκρατικές πρακτικές, όπως η μυστική ψηφοφορία (Lever 2015) και η ερευνητική δημοσιογραφία.
Ίσως δεν είναι τυχαίο το γεγονός ότι το Μεξικό, η πιο θανατηφόρα χώρα στον κόσμο για τους δημοσιογράφους το 2020, όπου καταγράφηκε σχεδόν το ένα τρίτο των δημοσιογράφων που δολοφονήθηκαν εκείνη τη χρονιά παγκοσμίως (Lakhani 2020), αποκαλύφθηκε ότι αποτελεί επίσης εστία κατασκοπείας εναντίον δημοσιογράφων και ακτιβιστών των ανθρωπίνων δικαιωμάτων (Sheridan 2021). Το «Pegasus Project» ήταν μια έρευνα που αποκάλυψε ότι περισσότεροι από 50.000 δημοσιογράφοι, ακτιβιστές των ανθρωπίνων δικαιωμάτων, ακαδημαϊκοί και άλλες εξέχουσες προσωπικότητες παρακολουθούνταν από κυβερνήσεις σε όλο τον κόσμο. Πάνω από 15.000 από τα θύματα ήταν Μεξικανοί — η εθνικότητα με τη μεγαλύτερη εκπροσώπηση στον κατάλογο (Schwartz 2021). Όταν οι δημοσιογράφοι δεν διαθέτουν επαρκή ιδιωτικότητα, δεν μπορούν να διασφαλίσουν ούτε τη δική τους ασφάλεια ούτε αυτή των πηγών τους, γεγονός που οδηγεί στην υποβάθμιση της δημοσιογραφικής πρακτικής. Οι πηγές δεν τολμούν να προσεγγίσουν τους δημοσιογράφους, και οι δημοσιογράφοι δεν τολμούν να αναλάβουν επικίνδυνες έρευνες. Με τη σειρά της, όταν υποβαθμίζεται η δημοσιογραφία, υποβαθμίζεται και η δημοκρατία, καθώς η δημοκρατία εξαρτάται από έναν καλά ενημερωμένο πληθυσμό.
Άλλα συναφή ζητήματα σχετικά με την επιτήρηση και την κοινωνία περιλαμβάνουν την υπονόμευση της αρχής της αθωότητας, καθώς όλοι οι πολίτες αντιμετωπίζονται ως πιθανοί ύποπτοι (Hadjimatheou 2017), τις ασυμμετρίες γνώσης που τείνουν να οδηγούν σε ασυμμετρίες εξουσίας (Véliz 2020), καθώς και τον κίνδυνο μαζικής κατάχρησης προσωπικών δεδομένων, για παράδειγμα, για σκοπούς γενοκτονίας. Στο παρελθόν, τα προσωπικά δεδομένα έχουν καταχραστεί κατάφωρα, όπως όταν οι Ναζί έκαναν επιδρομές σε τοπικά μητρώα αναζητώντας δεδομένα για Εβραίους (Seltzer και Anderson 2001), και ο καλύτερος δείκτης ότι κάτι μπορεί να συμβεί στο μέλλον είναι αν έχει συμβεί στο παρελθόν.
Συμπέρασμα: Ο κίνδυνος της ψευδαίσθησης της επιτήρησης
Δεδομένων των κινδύνων, των βλαβών και των αδικιών που συνεπάγεται το είδος της πανταχού παρούσας επιτήρησης που έχει γίνει συνηθισμένο στην ψηφιακή εποχή, το βάρος της απόδειξης φαίνεται να βαρύνει τους υπερασπιστές της πρακτικής αυτής. Ωστόσο, υπάρχει τουλάχιστον μία σημαντική πρόκληση σε αυτή τη συζήτηση.
Αυτό που είναι κοινό στους κινδύνους, τις βλάβες και τις αδικίες της επιτήρησης είναι ότι είναι δύσκολο να ποσοτικοποιηθούν. Είναι ευκολότερο να υπολογίσουμε τα πιθανά οφέλη της παρακολούθησης όσον αφορά την ασφάλεια, το οικονομικό κέρδος και την επιστημονική πρόοδο, παρά να αποτιμήσουμε τις απώλειές μας. Μπορούμε εύκολα να αποτιμήσουμε πόσα μπορούμε να ελπίζουμε να κερδίσουμε ετησίως, ας πούμε, μέσω εξατομικευμένων διαφημίσεων. Πώς όμως εκτιμούμε σε ποιο βαθμό η ερευνητική δημοσιογραφία μπορεί να υπονομευθεί από την επιτήρηση; Και αν η δημοσιογραφία δεν είναι μια ιδιαίτερα κερδοφόρα δραστηριότητα, πώς εκτιμούμε την αξία της για τη δημοκρατία; Πώς αξιολογούμε την απώλεια για την κοινωνία που συνεπάγεται η αυτολογοκρισία των ανθρώπων στην καθημερινή τους ζωή; Ως αποτέλεσμα αυτών των αναπάντητων ερωτημάτων, υποψιάζομαι ότι είμαστε επιρρεπείς να καταλήξουμε να υιοθετήσουμε αυτό που αποκαλώ «την ψευδαίσθηση της παρακολούθησης»: την υπόθεση ότι η παρακολούθηση δεν έχει σημαντικό ηθικό κόστος.
Στο βιβλίο του The Tyranny of Metrics, ο Jerry Z. Muller προειδοποιεί ενάντια στην εμμονή με τους δείκτες μέτρησης. Η εμμονή με τους δείκτες «μπορεί να αποσπά την προσοχή μας από τα πράγματα που πραγματικά μας ενδιαφέρουν» και «οδηγεί σχεδόν αναπόφευκτα στην προτεραιοποίηση των βραχυπρόθεσμων στόχων έναντι των μακροπρόθεσμων σκοπών», γράφει (Muller 2018: 3, 20). Η άνθηση ενός είδους τεχνητής νοημοσύνης που εξαρτάται σε μεγάλο βαθμό από τα δεδομένα έχει ενθαρρύνει περαιτέρω την εμμονή με τις μετρήσεις. Ωστόσο, υπάρχουν ορισμένα πολύτιμα πράγματα (π.χ. η οικειότητα, η αυτονομία, η ελευθερία και η δημοκρατία) που είναι πιο δύσκολο να ποσοτικοποιηθούν από άλλα (π.χ. το οικονομικό κέρδος μέσω της εμπορίας προσωπικών δεδομένων), αλλά δεν είναι λιγότερο πολύτιμα.
Όχι μόνο πολλά από τα μειονεκτήματα της παρακολούθησης είναι δύσκολο να ποσοτικοποιηθούν, αλλά και οι συνέπειες της παρακολούθησης συχνά εμφανίζονται με καθυστέρηση, γεγονός που ενισχύει περαιτέρω την ψευδαίσθηση της παρακολούθησης. Ακόμη και σε σχετικά απλές περιπτώσεις, μπορεί να περάσουν χρόνια μέχρι να γίνει αισθητή μια διαρροή δεδομένων. Τα ευαίσθητα δεδομένα μπορούν να παραμείνουν για χρόνια στο σκοτεινό διαδίκτυο πριν τα αξιοποιήσει κάποιος εγκληματίας. Αυτή η καθυστέρηση καθιστά δύσκολη τη σύνδεση μεταξύ της απώλειας ενός συγκεκριμένου στοιχείου δεδομένων και μιας συγκεκριμένης αρνητικής συνέπειας. Η σύνδεση στον τομέα των κοινωνικών βλαβών καθυστερεί ακόμη περισσότερο και είναι πιο δύσκολο να αποδειχθεί. Η δημοσιογραφία μπορεί να επιβιώσει για μερικά χρόνια ή ίσως ακόμη και δεκαετίες χωρίς ιδιωτικότητα, και η διάβρωσή της μπορεί να είναι τόσο σταδιακή ώστε να είναι δύσκολο να γίνει αντιληπτή. Μια ξεθωριασμένη μορφή δημοκρατίας μπορεί επίσης να αντέξει κάποια δυσανάλογη επιτήρηση για μερικά χρόνια.
Το επικίνδυνο με την ψευδαίσθηση της επιτήρησης είναι ότι μας ωθεί να εκτιμούμε τα πιθανά οφέλη της επιτήρησης χωρίς να λαμβάνουμε σοβαρά υπόψη το πιθανό κόστος της. Δεδομένης της στενής σχέσης μεταξύ αυταρχικών καθεστώτων και της επιδίωξης για πανταχού παρούσα επιτήρηση, όπως αποδεικνύεται από ιστορικά παραδείγματα, από τη Στάζι της Ανατολικής Γερμανίας έως τη σύγχρονη Κίνα, η ψευδαίσθηση της επιτήρησης μπορεί τελικά να έχει πολύ υψηλό κόστος, ακόμη και αν αυτό δεν μπορεί να αποτιμηθεί οικονομικά μέχρι να είναι πλέον πολύ αργά.
Ένα επείγον ερώτημα, λοιπόν, είναι πόση επιτήρηση είναι υπερβολική για να διατηρηθούν η φιλελεύθερη δημοκρατία, η ελευθερία και οι τρόποι ζωής που εκτιμούμε; Ο David Omand υποστηρίζει ότι «μία βασική διαφορά μεταξύ της πρακτικής της συλλογής πληροφοριών στο εσωτερικό των φιλελεύθερων δημοκρατικών κρατών και εκείνης στα ολοκληρωτικά κράτη είναι η έκτασή της» (Omand και Phythian 2018: 36). Από αυτή την άποψη, η κοινωνία μας δεν φαίνεται να τα πηγαίνει καλά, ακόμη και σε σύγκριση με μια κοινωνία όπως η Ανατολική Γερμανία. Συλλέγουμε περισσότερα προσωπικά δεδομένα από ποτέ. Αν η Κατερίνα Χατζημαθέου έχει δίκιο ότι ο βαθμός εισβολής στον ιδιωτικό χώρο καθορίζεται από τις εύλογες προσδοκίες, τη δυνατότητα προγραμματισμού και συγκατάθεσης για την παρακολούθηση, τον αριθμό των ατόμων που έχουν πρόσβαση σε ευαίσθητες πληροφορίες, την ευαισθησία των δεδομένων και τη διάρκεια διατήρησής τους (Χατζημαθέου 2014: 196), φαίνεται και πάλι ότι οι κοινωνίες μας είναι οι πιο παρεμβατικές που έχουν υπάρξει ποτέ.
Αυτό που υποδηλώνει μια αναστοχαστική προσέγγιση της ψευδαίσθησης της επιτήρησης είναι ότι, για να απαντήσουμε στο ερώτημα πόση επιτήρηση είναι υπερβολική, πρέπει να ξεπεράσουμε τις βραχυπρόθεσμες ανησυχίες και να σκεφτούμε το είδος της κοινωνίας που θέλουμε να έχουμε σε μερικές δεκαετίες από τώρα. Πρέπει να σκεφτούμε προσεκτικά τις απαιτήσεις της αυτονομίας, της ελευθερίας, της ισότητας και της δημοκρατίας, για να διασφαλίσουμε ότι η επιτήρηση δεν δημιουργεί μακροπρόθεσμα σοβαρότερα προβλήματα από αυτά που υποτίθεται ότι επιλύει.
Αναφορές
Allen, Anita (1988), Uneasy Access: Privacy for Women in a Free Society (Washington, DC: Rowan and Littlefield).
Google Scholar Google Preview WorldCat COPAC
Alvaredo, Facundo, Chancel, Lucas, Piketty, Thomas, Saez, Emmanuel, and Zucman, Gabriel (2018), World Inequality Report 2018 (World Inequality Lab, The World Wide Web).
Google Scholar Google Preview WorldCat COPAC
Anderson, David (2016), Report of the Bulk Powers Review (London: Her Majestyʼs Government).
Google Scholar Google Preview WorldCat COPAC
Andreotta, Adam J., Kirkham, Nin, and Rizzi, Marco (2021), ʻAI, Big Data, and the Future of Consentʼ, AI & Society.
https://doi.org/10.1007/s00146-021-01262-5.
Beardsley, Elizabeth (1971), ʻPrivacy: Autonomy and Self-Disclosureʼ, in J. Rowland Pennock and J.W. Chapman, eds, Privacy: Nomos XIII (New York: Atherton Press), 56–70.
Google Scholar Google Preview WorldCat COPAC
Bergen, Peter, Sterman, David, Schneider, Emily, and Cahall, Bailey (2014), Do NSAʼs Bulk Surveillance Programs Stop Terrorists?
https://www.jstor.org/stable/resrep10476#metadata_info_tab_contents.
WorldCat
Bezanson, Randall P. (1992), ʻThe Right to Privacy Revisited: Privacy, News, and Social Change, 1890–1990ʼ, California Law Review
80, 1133–1175.
Google Scholar WorldCat
Bidel, Susan, Parrish, Melissa, Verblow, Brandon, Egelman, Wei-Ming, and Turley, Christine (2017), ʻPoor Quality Ads Cost US
Marketers $7.4 Billion in 2016ʼ, in Forrester.
Brandl, Robert (2021), ʻThe Worldʼs Most Surveilled Citizensʼ, WebsiteToolTester, https://www.forrester.com/report/Poor-Quality-
Ads-Cost-US-Marketers-74-Billion-In-2016/RES136115.
Brown, Ian, and Kor, Douwe (2009), ʻTerrorism and Proportionality of Internet Surveillanceʼ, European Journal of Criminology 6, 119–134.
Google Scholar WorldCat
Cameron, Joel D. (2021), ʻStasiʼ, in Encyclopedia Britannica. https://www.britannica.com/topic/Stasi.
Carlile, Jennifer (2004), ʻIn Britain, Somebodyʼs Watching Youʼ, NBC News, 9 Sept.
Clarke, Richard A., Morell, Michael J., Stone, Georey R., Sunstein, Cass R., and Swire, Peter (2013), ʻLiberty and Security in a
Changing World. Report and Recommendations of the Presidentʼs Review Group on Intelligence and Communications
Technologiesʼ. https://obamawhitehouse.archives.gov/blog/2013/12/18/liberty-and-security-changing-world.
WorldCat
Cox, Joseph (2020), ʻCBP Refuses to Tell Congress How It is Tracking Americans without a Warrantʼ, Vice, 23 October.
Crawford, Kate (2021), Atlas of AI (New Haven, CT: Yale University Press).
Google Scholar Google Preview WorldCat COPAC
Cuters, Bart (2016), ʻClick Here to Consent Forever: Expiry Dates for Informed Consentʼ, Big Data & Society 1, 1–6.
Google Scholar WorldCat
de Bruin, Boudewijn (2010), ʻThe Liberal Value of Privacyʼ, Law and Philosophy 29, 505–534.
Google Scholar WorldCat
Edelman, Gilard (2020), ʻAd Tech Could Be the Next Internet Bubbleʼ, Wired, 5 October.
Fabre, Cécile (2022), Spying through a Glass Darkly. The Ethics of Espionage and Counterintelligence (Oxford: Oxford University Press).
Google Scholar Google Preview WorldCat COPAC
Downloaded from https://academic.oup.com/edited-volume/37078/chapter/387347620 by dennis sarah user on 19 December 2022
Fried, Charles (1970), An Anatomy of Values (Cambridge, MA: Harvard University Press).
Google Scholar Google Preview WorldCat COPAC
Garrett, Roland (1974), ʻThe Nature of Privacyʼ, Philosophy Today 89, 421–472.
Google Scholar WorldCat
Garton Ash, Timothy (1997), The File. A Personal History (New York: Vintage Books).
Google Scholar Google Preview WorldCat COPAC
Gavison, Ruth (1980), ʻPrivacy and the Limits of Lawʼ, Yale Law Journal 89, 421–471.
Google Scholar WorldCat
Gerstein, Robert (1978), ʻIntimacy and Privacyʼ, Ethics 89, 86–91.
Google Scholar WorldCat
Gross, Hyman (1971), ʻPrivacy and Autonomyʼ, in J. Rowland. Pennock and John W. Chapman (eds), Privacy: Nomos XIII (New
York: Atherton Press), 375–385.
Google Scholar Google Preview WorldCat COPAC
Hadjimatheou, Katerina (2014), ʻThe Relative Moral Risks of Untargeted and Targeted Surveillanceʼ, Ethical Theory and Moral
Practice 17, 187–207.
Google Scholar WorldCat
Hadjimatheou, Katerina (2017), ʻSurveillance Technologies, Wrongful Criminalisation, and the Presumption of Innocenceʼ,
Philosophy and Technology 30, 39–54.
Google Scholar WorldCat
Helm, Toby (2019), ʻPatient Data from GP Surgeries Sold to US Companiesʼ, Observer, 7 December.
Hill, Kashmir (2021), ʻA Fire in Minnesota. An Arrest in Mexico. Cameras Everywhereʼ, New York Times, 28 September.
Hwang, Tim (2020), Subprime Attention Crisis (New York: Farrar, Straus and Giroux).
Google Scholar Google Preview WorldCat COPAC
ICO (2019), Update Report Into Adtech and Real Time Bidding (London: Information Commissionerʼs Oice).
Google Scholar Google Preview WorldCat COPAC
Isiko, Michael (2013), ʻNSA Program Stopped No Terror Attacks, Says White House Panel Memberʼ, NBC News, 20 December.
Jonas, Je, and Harper, Jim (2006), ʻEective Counterterrorism and the Limited Role of Predictive Data Miningʼ, Cato Institute,
Policy Analysis, 584.
Google Scholar WorldCat
Koehler, John O. (1999), Stasi: The Untold Story of the East German Secret Police (Boulder, CO: Westview Press).
Google Scholar Google Preview WorldCat COPAC
Kosinski, Michal, Stillwell, David, and Graepel, Thore (2013), ʻPrivate Traits and Attributes Are Predictable from Digital Records of
Human Behaviorʼ, Proceedings of the National Academy of Sciences of the United States of America 110, 5802–5805.
Google Scholar WorldCat
Lakhani, Nina (2020), ʻMexico Worldʼs Deadliest Country for Journalists, New Report Findsʼ, The Guardian, 22 December.
Lever, Annabelle (2015), ʻPrivacy and Democracy: What the Secret Ballot Revealsʼ, Law, Culture and the Humanities 11, 164–183.
Google Scholar WorldCat
Levin, Sam (2018), ʻTech Firms Make Millions from Trumpʼs Anti-Immigrant Agenda, Report Findsʼ, The Guardian, 23 October.
Levy, Steven (2014) ʻI Spent Two Hours Talking with the NSAʼs Bigwigs. Hereʼs What Has Them Madʼ, Wired, 13 January.
Macnish, Kevin (2015), ʻAn Eye for an Eye: Proportionality and Surveillanceʼ, Ethical Theory and Moral Practice 18, 529–548.
Google Scholar WorldCat
Macnish, Kevin (2016), ʻGovernment Surveillance and Why Defining Privacy Matters in a Post-Snowden Worldʼ, Journal of Applied
Downloaded from https://academic.oup.com/edited-volume/37078/chapter/387347620 by dennis sarah user on 19 December 2022
Philosophy 35(2), 417–432.
Google Scholar WorldCat
Marcus, Gary, and Davis, Ernest (2020), Rebooting AI. Building Artificial Intelligence We Can Trust (New York: Vintage).
Google Scholar Google Preview WorldCat COPAC
Marmor, Andrei (2015), ʻWhat is the Right to Privacy?ʼ, Philosophy and Public Aairs 43, 3–26.
Google Scholar WorldCat
Marr, Bernard (2018), ʻHow Much Data Do We Create Every Day? The Mind-Blowing Stats Everyone Should Readʼ, Forbes, 21 May.
McMahan, Je (2009), Killing in War (Oxford: Oxford University Press).
Google Scholar Google Preview WorldCat COPAC
Melendez, Steven, and Pasternack, Alex (2019), ʻHere Are the Data Brokers Quietly Buying and Selling Your Personal Informationʼ,
Fast Company, 2 March.
Morrison, Sara (2021), ʻHereʼs How Police Can Get Your Data—Even If You Arenʼt Suspected of a Crimeʼ, Vox, 31 July.
Muller, Jerry Z. (2018), The Tyranny of Metrics (Princeton, NJ: Princeton University Press).
Google Scholar Google Preview WorldCat COPAC
Nagel, Thomas (1998), ʻConcealment and Exposureʼ, Philosophy and Public Aairs 27, 3–30.
Google Scholar WorldCat
Ng, Alfred (2020), ʻGoogle is Giving Data to Police Based on Search Keywords, Court Docs Showʼ, CNET, 8 October.
Nissenbaum, Helen (2010), Privacy in Context. Technology, Policy, and the Integrity of Social Life (Stanford, CA: Stanford University Press).
Google Scholar Google Preview WorldCat COPAC
Omand, David, and Phythian, Mark (2018), Principled Spying (Oxford: Oxford University Press).
Google Scholar Google Preview WorldCat COPAC
Parent, William A. (1983), ʻRecent Work on the Concept of Privacyʼ, American Philosophical Quarterly 20, 341–355.
Google Scholar WorldCat
Parker, Richard (1974), ʻA Definition of Privacyʼ, Rutgers Law Review 27, 275–297.
Google Scholar WorldCat
Rachels, James (1975), ʻWhy Privacy is Importantʼ, Philosophy and Public Aairs 4, 323–333.
Google Scholar WorldCat
Reiman, Jerey (1976), ʻPrivacy, Intimacy and Personhoodʼ, Philosophy and Public Aairs 6, 26–44.
Google Scholar WorldCat
( 2009), ʻReport on the Presidentʼs Surveillance Programʼ. Washington DC.
Rumbold, Benedict, and Wilson, James (2019), ʻPrivacy Rights and Public Informationʼ, Journal of Political Philosophy 27, 3–25.
Google Scholar WorldCat
Savage, Charlie (2015a), ʻDeclassified Report Shows Doubts about Value of N.S.A.ʼs Warrantless Spyingʼ, New York Times, 25 April.
Savage, Charlie (2015b), Power Wars. Inside Obamaʼs Post-9/11 Presidency (New York: Little, Brown and Company).
Google Scholar Google Preview WorldCat COPAC
Schneier, Bruce (2015), Data and Goliath (London: Norton).
Google Scholar Google Preview WorldCat COPAC
Schneier, Bruce (2018), Click Here to Kill Everybody. Security and Survival in a Hyper-Connected World (New York: W.W. Norton & Company).
Google Scholar Google Preview WorldCat COPAC
Downloaded from https://academic.oup.com/edited-volume/37078/chapter/387347620 by dennis sarah user on 19 December 2022
Schneier, Bruce, and Waldo, James (2019), ʻAI Can Thrive in Open Societiesʼ, Foreign Policy, 13 June.
Schwartz, Leo (2021), ʻMexicoʼs Shockingly Broad Use of Spyware is a Revelation. Nothing Will Changeʼ, Washington Post, 28 July.
Seltzer, William, and Anderson, Margo (2001), ʻThe Dark Side of Numbers: The Role of Population Data Systems in Human Rights
Abusesʼ, Social Research 68, 481–513.
Google Scholar WorldCat
Sheridan, Mary Beth (2021), ʻHow Mexicoʼs Traditional Political Espionage Went High-Techʼ, Washington Post, 21 July.
Singel, Ryan (2009), ʻNetflix Spilled Your Brokeback Mountain Secret, Lawsuit Claimsʼ, Wired, 17 December.
Solove, Daniel J. (2001), ʻPrivacy and Power: Computer Databases and Metaphors for Information Privacyʼ, Stanford Law Review 53, 1393–1462.
Google Scholar WorldCat
Solove, Daniel J. (2011), Nothing to Hide (New Haven: Yale University Press).
Google Scholar Google Preview WorldCat COPAC
Statista (2020), ʻWorldwide Data Creationʼ, https://www.statista.com/statistics/871513/worldwide-data-created, accessed 6 September 2022.
WorldCat
Thompson, Stuart A., and Warzel, Charlie (2019), ʻHow to Track President Trumpʼ, New York Times, 20 December.
Traon, Anne (2020), ʻArtificial Intelligence Yields New Antibioticʼ, MIT News Oice, 20 February.
Véliz, Carissa (2017), On Privacy (Oxford: Oxford University Press).
Google Scholar Google Preview WorldCat COPAC
Véliz, Carissa (2019), ʻMedical Privacy and Big Data: A Further Reason in Favour of Public Universal Healthcareʼ, in
Andelka Phillips, ed., Philosophical Foundations of Medical Law (Oxford: Oxford University Press), 306–319.
Google Scholar Google Preview WorldCat COPAC
Véliz, Carissa (2020), Privacy is Power (London: Bantam Press).
Google Scholar Google Preview WorldCat COPAC
Véliz, Carissa (2021), ʻSelf-Presentation and Privacy Onlineʼ, Journal of Practical Ethics 7(2), 30–43.
Google Scholar WorldCat
Véliz, Carissa (forthcoming), The Ethics of Privacy and Surveillance (Oxford: Oxford University Press).
Google Scholar Google Preview WorldCat COPAC
Wasserstrom, Richard (1978), ʻPrivacy: Some Arguments and Assumptionsʼ, in Richard Bronaugh, ed., Philosophical Law
(Westport, CT: Greenwood Press), 317–332.
Google Scholar Google Preview WorldCat COPAC
Westin, Alan F. (1970), Privacy and Freedom (London: Bodley Head).
Google Scholar Google Preview WorldCat COPAC
Wilson, James H., Daugherty, Paul R., and Davenport, Chase (2019), ʻThe Future of AI Will Be about Less Data, Not Moreʼ, Harvard
Business Review, https://hbr.org/2019/01/the-future-of-ai-will-be-about-less-data-not-more, accessed 14 January 2019.
Wooldridge, Michael (2020), The Road to Conscious Machines: The Story of AI (London: Pelican Books).
Google Scholar Google Preview WorldCat COPAC
Wright, Lawrence (2008), ʻThe Spymasterʼ, The New Yorker, 21 January.
Wylie, Christopher (2019), Mindf*ck. Inside Cambridge Analyticaʼs Plot to Break the World (London: Profile).
Google Scholar Google Preview WorldCat COPAC
Yadron, Danny (2016), ʻ“Worth It”: FBI Admits It Paid $1.3 to Hack into San Bernardino iPhoneʼ, The Guardian, 21 April.
Downloaded from https://academic.oup.com/edited-volume/37078/chapter/387347620 by dennis sarah user on 19 December 2022
Σημειώσεις
1 Bernard Marr estimated in 2018 that 90 per cent of the data in the world had been generated in the previous two years (Marr 2018). According to Statista, data creation has continued its steady growth in the past few years (Statista 2020).
2 For more on the ethics of inferring sensitive information from public information, see Rumbold and Wilson (2019). For more on the ethics of taking personal information outside of the context it was given in, see Helen Nissenbaumʼs theory of contextual integrity (Nissenbaum 2010).
3 While some countries tend to define harm in utilitarian terms (e.g. psychological, physical, financial, reputational, etc.), other countries tend to focus on rights violations. On both frameworks, however, it is thought that consent can make an otherwise unethical case of data collection ethical (as exemplified by the General Data Protection Regulation in Europe and the California Consumer Privacy Act in the United States).
4 For more on the challenges of consent in the context of big data, see Cuters (2016), Andreotta et al. (2021), and Véliz (2019).
5 Control theories of privacy include Fried (1970), Bezanson (1992), Parker (1974), Beardsley (1971), Gerstein (1978), Rachels (1975), Reiman (1976), Marmor (2015), Wasserstrom (1978), and Westin (1970).
6 Access-based theories of privacy include Allen (1988), Garrett (1974), Gavison (1980), Gross (1971), and Parent (1983).
7 For an authoritative account of this unfolding, see Wooldridge (2020).
Αν σας άρεσε αυτό το άρθρο, μοιραστείτε το, εγγραφείτε για να λαμβάνετε περισσότερο περιεχόμενο και αν θέλετε να στηρίξετε το συνεχές έργο μου, μπορείτε να χρησιμοποιήσετε τον παρακάτω σύνδεσμο.
---Δικτυογραφία :
The Surveillance Delusion | Carissa Véliz
https://iaindavis.com/pdfs/CV-TSD.pdf?utm_source=substack&utm_medium=email