Ποιος αποφασίζει τι βλέπουμε στο διαδίκτυο;

Αν δεχθούμε ότι η γνώση είναι δύναμη, τότε ένα καλό ερώτημα είναι το ποιος ορίζει τη δική μας γνώση και κατ’ επέκταση τη δική μας δύναμη την εποχή της 4ης Βιομηχανικής Επανάστασης;

Οι ζωές μας είναι στενά συνυφασμένες με την τεχνολογία. Ένα χαρακτηριστικό παράδειγμα είναι ο τρόπος με τον οποίο περιηγούμαστε, διαβάζουμε και επικοινωνούμε στο διαδίκτυο. Οι διαδικτυακές πλατφόρμες αξιολογούν και συντονίζουν την προβολή του περιεχομένου που αναρτούν οι χρήστες αυτών (λ.χ. βίντεο, άρθρα κ.ο.κ.), χωρίς να παρέχουν καμία πληροφορία ως προς τα κριτήρια στα οποία βασίζονται για την κατηγοριοποίηση τους και την «προτεινόμενη» προβολή τους στο κοινό. Εξ’ αιτίας αυτού, η «αξία» του περιεχομένου αυτού μπορεί να αυξομειωθεί δραματικά. Προκύπτει λοιπόν με σαφήνεια ως επιτακτική ανάγκη η διασφάλιση επαρκούς επιπέδου διαφάνειας των πρακτικών και των πολιτικών που εφαρμόζουν οι διαδικτυακές πλατφόρμες κατά την αξιολόγηση και προτεραιοποίηση του περιεχομένου που προβάλλουν.

Του Στέργιου Κωνσταντίνου *

Σε αυτό το άρθρο εξετάζουμε δύο μεθόδους που χρησιμοποιούν οι πάροχοι των διαδικτυακών πλατφόρμων για την παροχή περιεχομένου: (α)την κατάταξη και (β) τον συντονισμό.

Κατάταξη του περιεχομένου

Οι διαδικτυακές πλατφόρμες χρησιμοποιούν αυτοματοποιημένα μέσα για την κατάταξη και τον έλεγχο του περιεχομένου που ανεβάζουμε ως χρήστες. Π.χ. όταν αναζητάμε βίντεο ενός συγκεκριμένου περιεχομένου, λ.χ. μαγειρικής, το αποτέλεσμα αναζήτησης δεν θα μας προσφέρει όλα τα υπάρχοντα βίντεο μαγειρικής που υπάρχουν στο διαδίκτυο ή στη βάση δεδομένων της εν λόγω πλατφόρμας σε τυχαία σειρά. Το προβαλλόμενο αποτέλεσμα θα εξαρτηθεί από πολλούς παράγοντες, όπως η τοποθεσία μας, οι γλωσσικές μας ρυθμίσεις, οι πρόσφατες αναζητήσεις μας και όλα τα στοιχεία που γνωρίζει η μηχανή αναζήτησης για εμάς και τα οποία προκύπτουν από τη χρήση της πλατφόρμας.

Πιο συγκεκριμένα, οι πάροχοι διαδικτυακής πλατφόρμας επιμελούνται και αξιολογούν το περιεχόμενο που προβάλλουν, ενώ προβλέπουν τις προσωπικές προτιμήσεις και τη διαδικτυακή συμπεριφορά του χρήστη. Με αυτόν τον τρόπο, επηρεάζουν όχι μόνο την πρόσβασή μας σε πληροφορίες αλλά και τον τρόπο με τον οποίο διαμορφώνουμε τις απόψεις μας και συμμετέχουμε στο δημόσιο διάλογο. Προβλέποντας τις προτιμήσεις μας, συμμετέχουν ταυτόχρονα και στη διαμόρφωσή τους και αλλάζουν σιγά-σιγά τη διαδικτυακή μας συμπεριφορά.

Οι πάροχοι διαδικτυακής πλατφόρμας αποφασίζουν τι διαβάζουμε και τι παρακολουθούμε. Είναι σαν να βρισκόμαστε σε μια χώρα του εξωτερικού όπου μόνο ο ξεναγός γνωρίζει τη γλώσσα και είναι ο μόνος που αποφασίζει τι θα δούμε και με ποιον θα μιλήσουμε. Με τον ίδιο τρόπο οι πλατφόρμες αποφασίζουν τι θα δούμε στο διαδίκτυο. Ενισχύοντας και ποσοτικοποιώντας τη δημοτικότητα ορισμένων τύπων εντυπωσιακού περιεχομένου που ενισχύει το engagement¹, συνοδευόμενη από τις συχνά απρόβλεπτες παρενέργειες της αλγοριθμικής εξατομίκευσης, η κατάταξη του περιεχομένου έχει γίνει ένα εμπόρευμα από το οποίο οι πλατφόρμες αποκτούν κέρδος. Ωστόσο, αυτό μπορεί να οδηγήσει στη χειραγώγηση της ελευθερίας μας στο να σχηματίζουμε ελεύθερη γνώμη, καθώς επηρεάζει τις προσλαμβάνουσες μας. Όμως, η ελευθερία διαμόρφωσης γνώμης αποτελεί απόλυτο δικαίωμα του χρήστη, πράγμα που σημαίνει ότι καμία παρέμβαση στην ελευθερία αυτή δεν επιτρέπεται από το νόμο και δεν πρέπει να γίνεται αποδεκτή από καμία δημοκρατική κοινωνία.

Η αυτοματοποιημένη επιμέλεια του περιεχομένου στις διαδικτυακές πλατφόρμες καθορίζει το είδος των πληροφοριών που λαμβάνουμε και τον χρόνο που αφιερώνουμε για την περιήγηση της πλατφόρμας. Οι περισσότεροι από εμάς δεν έχουμε αρκετές πληροφορίες για το πώς οι αλγόριθμοι συστάσεων διαμορφώνουν την ιεράρχηση του περιεχομένου στο διαδίκτυο. Για ένα κομμάτι του πληθυσμού δεν είναι καν γνωστή η ύπαρξη ιεράρχησης. Η ουσιαστική διαφάνεια στους μηχανισμούς επιμέλειας αποτελεί προϋπόθεση για να καταστεί δυνατή η εξουσία των χρηστών επί των εργαλείων που συμβάλλουν στη διαμόρφωση του πληροφοριακού μας τοπίου. Πρέπει να γνωρίζουμε πότε υποβαλλόμαστε σε αυτοματοποιημένη λήψη αποφάσεων- συμπεριλαμβανομένης της κατάρτισης προφίλ- και έχουμε το δικαίωμα όχι μόνο σε εξηγήσεις αλλά και σε αντιρρήσεις. Αυτό άλλωστε προβλέπει ρητά και το ενωσιακό και εθνικό ρυθμιστικό πλαίσιο για την προστασία των προσωπικών δεδομένων.

Προκειμένου να ανακτήσουμε την εξουσία επί της επιμέλειας του περιεχομένου, απαιτούνται ουσιαστικές απαιτήσεις διαφάνειας που πρέπει να εφαρμόζονται από τις διαδικτυακές πλατφόρμες. Η διαφάνεια και η επεξηγηματικότητα της λογικής επί της οποίας βασίζονται τα αυτοματοποιημένα μέσα αποτελούν προϋποθέσεις για την άσκηση των θεμελιωδών δικαιωμάτων μας, όπως η ελευθερία του λόγου, ώστε να μπορούμε να προσφύγουμε αποτελεσματικά κατά των αδικαιολόγητων περιορισμών επί του περιεχομένου.

Συντονισμός περιεχομένου

Οι διαδικτυακές πλατφόρμες επιμελούνται και συντονίζουν την παροχή πληροφοριών, κυρίως γιατί οι νομοθέτες της ΕΕ και των κρατών μελών τους επιβάλλουν όλο και μεγαλύτερη ευθύνη για την αστυνόμευση του περιεχομένου που ανεβάζουν οι χρήστες, συχνά υπό την απειλή υψηλών προστίμων.

Σύμφωνα με το ενωσιακό ρυθμιστικό πλαίσιο, οι πάροχοι διαδικτυακών πλατφόρμων είναι υποχρεωμένοι να αφαιρούν άμεσα παράνομο περιεχόμενο, όπως υλικό κακοποίησης παιδιών ή περιεχόμενο τρομοκρατικής φύσης, καθώς και κάθε περιεχόμενο που αποτελεί προϊόν παραβίασης πνευματικής ιδιοκτησίας.

Είναι αυτονόητο ότι η πρόσβαση σε παράνομο περιεχόμενο πρέπει να απαγορεύεται. Ωστόσο, σε ορισμένες περιπτώσεις, η παρανομία ενός περιεχομένου είναι πολύ δύσκολο να εκτιμηθεί και απαιτεί κατάλληλη νομική αξιολόγηση. Για παράδειγμα, ένα βίντεο μπορεί είτε να αποτελεί παραβίαση πνευματικής ιδιοκτησίας, είτε να μπορεί να αναρτηθεί ελεύθερα αν χρησιμοποιηθεί ως παρωδία, ή εάν έχει λάβει συγκεκριμένη άδεια.

Η εύρεση της διαχωριστικής γραμμής μεταξύ παράνομου και νόμιμου μπορεί να είναι δύσκολη. Εντούτοις, λόγω της κλίμακας της διαχείρισης του διαδικτυακού περιεχομένου, οι διαδικτυακές πλατφόρμες βασίζονται σε αυτοματοποιημένα εργαλεία λήψης αποφάσεων ως τελική λύση σε αυτό το πολυσύνθετο έργο. Για την αποφυγή ευθυνών, οι πάροχοι διαδικτυακής πλατφόρμας χρησιμοποιούν την αυτοματοποίηση για να φιλτράρουν τυχόν παράνομο περιεχόμενο. Ωστόσο, είναι επιτακτικό να διασφαλιστεί η ανθρώπινη παρέμβαση στην όλη διαδικασία και να ληφθούν τα απαραίτητα μέτρα ασφαλείας, ώστε να ελεγχθούν οι αυτοματοποιημένες αποφάσεις και ο αντίκτυπος τους.

Ποια μπορεί να είναι τα μέτρα ασφαλείας

Αναμφίβολα, ο συντονισμός του περιεχομένου είναι ένα εξαιρετικά απαιτητικό έργο. Καθημερινά, οι πάροχοι διαδικτυακής πλατφόρμας πρέπει να κάνουν δύσκολες επιλογές και να αποφασίζουν ποια κομμάτια περιεχομένου θα παραμείνουν στο διαδίκτυο και πώς θα τα βρίσκει ο χρήστης. Η διαδικασία αυτοματοποιημένης λήψης αποφάσεων δεν δύναται να λύσει ποτέ τα κοινωνικά προβλήματα της ρητορικής μίσους ή της παραπληροφόρησης, πολλώ δε μάλλον το ζήτημα της τρομοκρατίας. Αν και η αυτοματοποίηση μπορεί να λειτουργήσει καλά για το διαδικτυακό περιεχόμενο που είναι προφανώς παράνομο ανεξαρτήτως του πλαισίου του, όπως το υλικό κακοποίησης παιδιών, συνεχίζει να αποτυγχάνει σε κάθε τομέα που δεν είναι αυστηρά ασπρόμαυρος. Κανένα εργαλείο δεν θα μας σώσει από τα κοινωνικά προβλήματα και κανένα από αυτά δεν θα πρέπει να έχει τον τελικό λόγο για την προστασία της ελευθερίας του λόγου ή της ιδιωτικής μας ζωής.

Όπως είμαστε τώρα, οι διαδικτυακές πλατφόρμες κατατάσσουν και συντονίζουν το περιεχόμενο χωρίς να μας ενημερώνουν για το πώς και με ποια κριτήρια αποφασίζουν. Υπάρχει επιτακτική ανάγκη για διαφάνεια των πρακτικών και των πολιτικών σε κάθε διαδικτυακή πλατφόρμα. Πρέπει να διατίθενται ουσιαστικές πληροφορίες σχετικά με το πώς γίνεται σεβαστή η ελευθερία του λόγου και ποιοι μηχανισμούς δέουσας επιμέλειας εφαρμόζονται. Απαιτείται διαφάνεια αναφορικά με την καθημερινή τους λειτουργία, τη διαδικασία λήψης αποφάσεων, καθώς και τα μέτρα που έχουν ληφθεί για να μετριάσουν τον αντίκτυπο που πολλές επεξεργασίες τους έχουν στα θεμελιώδη ανθρώπινα δικαιώματά μας.

Εκτός από τη διαφάνεια, χρειαζόμαστε επίσης κατάλληλους μηχανισμούς υποβολής καταγγελιών καθώς και δυνατότητα ανθρώπινης παρέμβασης κάθε φορά που υπάρχει αυτοματοποιημένη διαδικασία λήψης αποφάσεων. Χωρίς προσβάσιμους και διαφανείς μηχανισμούς καταγγελιών, ουσιαστικά χωρίς ανθρώπους που να είναι υπόλογοι για τις αυτοματοποιημένες αποφάσεις, δεν μπορεί να υπάρξουν αποτελεσματικά διορθωτικά μέτρα. Αν υπάρχει περίπτωση να έχει αφαιρεθεί περιεχόμενο λανθασμένα, τότε αυτό πρέπει να ελεγχθεί από ένα πραγματικό πρόσωπο που μπορεί να αποφασίσει αν το περιεχόμενο ήταν νόμιμο ή όχι και σε κάθε περίπτωση να είναι δυνατή η προσφυγή στη δικαστική προστασία από μια τέτοια απόφαση.

¹ Ως «social media engagement» ορίζεται ο ρυθμός διάδρασης με με μία δημοσίευση (Μέτρηση των σχολίων, των συμπαθειών και των κοινοποιήσεων)

* Ο κ. Στέργιος Κωνσταντίνου είναι Δικηγόρος – Υπεύθυνος Προστασίας Δεδομένων (DPO) Κίνημα Αλλαγής & ΠΑΣΟΚ