Mr GDPR: Εγώ θα σώσω την χώρα;

Γράφει o Δημοσθένης Κωστούλας ΜΒΑ, MSc, BSc*

Ο μεσημεριανός μου ύπνος βρισκόταν ήδη σε εξέλιξη και τα πρώτα χαλαρωτικά όνειρα άρχισαν να με συντροφεύουν. Άλλωστε, σπάνια πλέον βρίσκω χρόνο για μεσημεριανή siesta, αλλά αυτήν την Κυριακή επιτέλους τα κατάφερα!

Ο βαθύς ύπνος διακόπτεται βιαίως από μια εισερχόμενη κλήση στο κινητό μου… «Παρακαλώ;», απάντησα νυσταγμένα και κάπως τρομαγμένα από το ξαφνικό εγερτήριο. «Καλησπέρα σας. Κ. Κωστούλα, σας καλούμε από το γραφείο του υποψηφίου για τις περιφερειακές εκλογές κ.Τάδε Ταδόπουλου για να σας ενημερώσουμε για τις θέσεις και τις απόψεις του για την Περιφέρεια στην οποία ψηφίζετε. Θα μπορούσα να σας απασχολήσω για λίγα λεπτά;», ανέφερε από την άλλη γραμμή μια ευγενική φωνή. Προς στιγμήν τα έχασα… Κοιμόμουνα, ήταν Κυριακή τρεις και μισή το μεσημέρι, κάποιος κ. Ταδόπουλος και η παρέα του με γνώριζε, ενώ γνώριζε και σε ποια περιφέρεια ψηφίζω.. Μα που με γνώριζαν ο κ.Ταδόπουλος και η ευγενική βοηθός του; Να ήμουνα και κανένας διάσημος… «Εμμ, συγνώμη ευγενική μου κυρία, αλλά πως γνωρίζετε το επίθετο μου, τον αριθμό του τηλεφώνου μου και το μέρος που ψηφίζω;», ρώτησα ευγενικά. «Όσο για το ακατάλληλων της ώρας, δεν θα το σχολιάσω». «Συγνώμη για την ενόχληση. Τα στοιχεία σας υπάρχουν από παλαιότερα», απάντησε κάπως σαστισμένη η συνομιλήτρια μου, για να κληθεί να απαντήσει στο επόμενο ερώτημα μου: «Από πού και από πότε ακριβώς υπάρχουν τα στοιχεία μου; Δεν θυμάμαι να έχω δώσει ποτέ την συγκατάθεση μου στον κ. Ταδόπουλο για να τηρεί τα προσωπικά μου δεδομένα στο αρχείο του.». Δεν ανέμενα να λάβω καμία πειστική απάντηση, όπως έτσι και έγινε. Δεν υπήρχε τίποτα παραπάνω να αναφέρει η συνομιλήτρια μου, πριν ολοκληρώσει βιαστικά την τηλεφωνική μας συνομιλία. «Δεν θα ήταν σωστό να καταγγείλω την παράνομη επεξεργασία στην Αρχή Προστασίας Δεδομένων;», αναρωτήθηκα. Αλλά ακριβώς εκείνη την στιγμή, με διαπέρασε το… ελληνικό σύνδρομο: «Ωχ αδερφέ… εγώ θα σώσω την χώρα;… Δεν μπορεί μόνο εγώ να προσπαθώ να διορθώνω τα πράγματα και τελικά να μην αλλάζει τίποταΆλλωστε, ποιος τα βάζει με τους υποψήφιους πολιτικούς άρχοντες!».

Την επόμενη ημέρα το απόγευμα, ήρθε η ώρα να επισκεφτώ τον ιατρό μου. Στα ράφια του σαλονιού αναμονής του ιατρείου, μπορούσε κάποιος να δει όλους τους φακέλους των υπόλοιπων πελατών / ασθενών, με φαρδιά πλατιά γραμμένα τα ονοματεπώνυμα τους επάνω στους φακέλους και τις ημερομηνίες επίσκεψης τους. «Γιατί πρέπει να γνωρίζω ποιοι και πότε έχουν επισκεφτεί τον ιατρό και, μάλιστα, να μου δίνεται η δυνατότητα να ξεφυλλίσω κάποιους από τους φακέλους, αν ήμουν περίεργος ή/και κακοπροαίρετος;», σκέφτηκα, για να διακόψει την σκέψη μου η τσιριχτή φωνή της γραμματέως: «Ο κ. Κωστούλας να περάσει μέσα»! Ξάφνου, με κοιτούσαν 4 ζευγάρια μάτια από τους υπόλοιπους επισκέπτες του ιατρείου. «Τώρα που γνωρίζουν πως ονομάζομαι, πιθανότατα να προσπαθούν να μαντέψουν από τι πάσχω ή τι εξέταση θα μου κάνει ο ιατρός..», σκέφτηκα εκνευρισμένος ενώ κατευθυνόμουνα με σκυμμένο το κεφάλι προς το γραφείο του ιατρού. Στην πραγματικότητα, κανείς δεν ασχολούνταν μαζί μου… Όπως πιθανότατα δεν θα ασχολήθηκαν όταν λάβανε πριν δύο ημέρες ένα ενημερωτικό email από το ίδιο ιατρείο, με κοινή θέα όλους τους παραλήπτες, οι οποίοι προφανώς αποτελούσαν το σύνολο των πελατών / ασθενών του συγκεκριμένου ιατρού… Αλλά ακριβώς εκείνη την στιγμή, με διαπέρασε το… ελληνικό σύνδρομο: «Ωχ αδερφέ… εγώ θα σώσω την χώρα;… Δεν μπορεί μόνο εγώ να προσπαθώ να διορθώνω τα πράγματα και τελικά να μην αλλάζει τίποτα… Άλλωστε ποιος τα βάζει με τον ιατρό του, που τον γνωρίζει τόσα χρόνια;!».

Έφτασε η Κυριακή. Επιτέλους, μόλις κάθισα στην θέση του γηπέδου για να δω την αγαπημένη μου ομάδα! Τι ντέρμπι θα είναι και αυτό! «Είναι η κατάλληλη ώρα να απολαύσω το παγωτό μου, πριν ξεκινήσει ο αγώνας», σκέφτηκα και ξεκίνησα να το απολαμβάνω «μπουκιά – μπουκιά». Ξαφνικά, άρχισα να ακούω από τριγύρω μου χαριτωμένα σχόλια για το τι γεύση μπορεί να έχει το παγωτό κλπ., για να σηκώσω το κεφάλι μου και να δω τον εαυτό μου στο τεράστιο video wall του γηπέδου, να κρατάει το λαχταριστό παγωτό! Πλέον των 20.000 φιλάθλων με… θαύμαζε στους ηλεκτρονικούς πίνακες του γηπέδου και εγώ κοιτούσα αποσβολωμένος, με ένα απροσδιόριστο αίσθημα ενοχής! «Μα γιατί πρέπει να με βλέπουν όλοι στις τεράστιες οθόνες και να με σχολιάζουν;», αναρωτήθηκα από μέσα μου. Να ήμουνα και κανένας διάσημος Να ήμουνα και κανένας όμορφος «Θα έπρεπε να με ρωτούσε ο σκηνοθέτης και ο κάμεραμαν ή είναι δεδομένο ότι, όταν εμφανίζεσαι σε δημόσιες εκδηλώσεις και δημόσιους χώρους, είσαι «έρμαιο» του καθενός να σε αποθανατίζει όποια ώρα επιθυμεί και σε όποια φάση και αν σε βρει;».

Η συγκεκριμένη στιγμή μου θύμισε ένα παρόμοιο συμβάν της προηγούμενης χρονιάς, όταν σε ένα νυχτερινό δελτίο ειδήσεων υψηλής ακροαματικότητας, είχα δει έκπληκτος τον εαυτό μου να κολυμπάει στην παραλία με ένα σωσίβιο σε σχήμα μονόκερου ροζ χρώματος (της κόρης μου!), με αποτέλεσμα την επόμενη μέρα να είμαι ο περίγελος στον χώρο εργασίας μου… «Τι σχέση είχα εγώ με το γενικό ρεπορτάζ για τις γεμάτες παραλίες τις ζεστές ημέρες του καλοκαιριού;», είχα αναρωτηθεί τότε… Να ήμουνα και κανένας διάσημος.. Να ήμουνα και κανένας όμορφος

«Ουφ! Τα βαρέθηκα όλα», σκέφτηκα. «Θα σηκωθώ να φύγω διακοπές με το αεροπλάνο, θα πάω μακριά από όλες αυτές τις σκέψεις περί μη σεβασμού των προσωπικών μου δεδομένων.. θα πάω να χαλαρώσω..»!

«Ο κ. Δ. Κωστούλας να εμφανιστεί αμέσως στην πύλη 9 γιατί η πτήση ΟΑ 935 είναι έτοιμη να αναχωρήσει. Επαναλαμβάνω, ο κ. Δ. Κωστούλας….». Εκεί που έτρεχα λαχανιασμένος με την βαλίτσα μου για να προλάβω την πτήση μου προς… την χαλάρωση, άκουγα αριστερά και δεξιά πειράγματα του τύπου «Τρέξε Κωστούλα, τρέξε», με ευθεία παραπομπή στο αγαπημένο μου έργο Forest Gump και την αείμνηστη φράση «Run Forest, run!». Μέσα στην αγωνία και τον πανικό μου, βρήκα τον χρόνο να αναρωτηθώ γιατί έπρεπε να γνωρίζουν όλοι οι επισκέπτες του αεροδρομίου το όνομα του φουκαρά που καθυστέρησε και τρέχει αλλόφρων για να προλάβει την πτήση του… Να ήμουνα και κανένας διάσημος!

«Ωχ αδερφέ… εγώ θα σώσω την χώρα;… Δεν μπορεί μόνο εγώ να προσπαθώ να διορθώνω τα πράγματα και τελικά να μην αλλάζει τίποτα… Άλλωστε ποιος τα βάζει με τους πάντες… ποιος τα βάζει με το σύστημα»!

 

*Ο Δημοσθένης Κ. Κωστούλας, GDPR Expert / certified DPO, CQI IRCA Certified Lead Auditor ISO 9001:2015, ISO 27001:2013, είναι απόφοιτος του Τμήματος Διεθνών & Ευρωπαϊκών Οικονομικών και Πολιτικών Σπουδών του Πανεπιστημίου Μακεδονίας και κάτοχος των τίτλων MBΑ, MSc in International Business and Finance και Diploma in Digital & Social Media Marketing (ACT). Είναι ένας εκ των δύο συγγραφέων του βιβλίου με τίτλο «Η Συμμόρφωση με τον Γενικό Κανονισμό Προστασίας Δεδομένων – Πρακτικά Ζητήματα – Υποδείγματα» (Ιανουάριος 2020, Εκδόσεις ΝΟΜΟΡΑΜΑ.ΝΤ), ενώ ταυτόχρονα, είναι εκπαιδευτής και αρθρογράφος για θέματα προστασίας δεδομένων. Είναι μέλος Δ.Σ. του European Association of Data Protection Professional (EADPP) και γενικός γραμματέας και επικεφαλής της επιτροπής επικοινωνίας & εκδηλώσεων  του Ελληνικού παραρτήματος EADPP, επιστημονικός συνεργάτης του Ευρωμεσογειακού Ινστιτούτου Ποιότητας & Ασφάλειας στις Υπηρεσίες Υγείας Avedis Donabedian (EIQSH) και μέλος της Homo Digitalis.


Φίλτρα Προσώπου στα Μέσα Κοινωνικής Δικτύωσης

Γράφει η Αυγή Σαουλίδου*

Στο πλαίσιο της ψηφιακής επανάστασης που χαρακτηρίζει την εποχή μας, τα μέσα κοινωνικής δικτύωσης έχουν αναδειχθεί σε ένα ισχυρό μέσο που διαμορφώνει τον τρόπο με τον οποίο συνδεόμαστε, μοιραζόμαστε εμπειρίες και εκφραζόμαστε στην καθημερινότητά μας. Εντός αυτού του δυναμικού και συνεχώς εξελισσόμενου τοπίου, όπου η εικόνα πρωταγωνιστεί, έχουν γίνει εξαιρετικά δημοφιλή και χρησιμοποιούντα  μαζικά από τους χρήστες των social media τα φίλτρα προσώπου (AR Filters). Ενώ αυτά τα φίλτρα συχνά προσδίδουν μία ανάλαφρη και διασκεδαστική διάθεση στις ψηφιακές μας αλληλεπιδράσεις, οι συνέπειες της χρήσης τους δημιουργούν ένα πολύπλευρο ζήτημα που χρήζει προσεκτικής εξέτασης.

Η χρήση των φίλτρων προσώπου (AR Filters) στα μέσα κοινωνικής δικτύωσης

Η ταχύτητα με την οποία εναλλάσσονται οι πληροφορίες σήμερα, έχει αναδείξει σε βασικό στοιχείο επικοινωνίας την εικόνα. Μια εικόνα είναι ικανή να εκφράσει συναισθηματικές καταστάσεις, να αναδείξει μηνύματα και να προκαλέσει συναισθήματα πολύ πιο άμεσα και έντονα από ένα κείμενο. Ενώ οι λέξεις λοιπόν μπορούν να μεταδώσουν συγκεκριμένες πληροφορίες, η εικόνα υπερέχει στην απεικόνιση σύνθετων εννοιών προσφέροντας μια ολοκληρωμένη εμπειρία. Όπως συνηθίζουμε να λέμε «μία εικόνα, χίλιες λέξεις». Επιπλέον, η ανάγκη για αποδοχή στα social media, η οποία αποτυπώνεται μέσω των likes στις αναρτήσεις των χρηστών, δημιούργησε την ανάγκη για ψηφιακή επεξεργασία των εικόνων/φωτογραφιών με σκοπό τη βελτίωσή τους. Έτσι οδηγηθήκαμε στην εκτεταμένη χρήση των εργαλείων ψηφιακής επεξεργασίας εικόνας και αργότερα η τάση αυτή επεκτάθηκε στην ευρεία χρήση φίλτρων επαυξημένης πραγματικότητας (AR Filters) που εφαρμόζουν στο πρόσωπο των χρηστών στα μέσα κοινωνικής δικτύωσης (Facebook, Instagram, TikTok κ.α.). Η μαζική χρήση των φίλτρων προσώπου όμως έχει πολλαπλές συνέπειες, αρχικά στην ιδιωτικότητα των χρηστών και αν προχωρήσουμε λίγο βαθύτερα, έχει κοινωνικές και ψυχολογικές επιπτώσεις τόσο στους ίδιους τους χρήστες των φίλτρων προσώπου, όσο και στους αποδέκτες των ψηφιακά αλλοιωμένων εικόνων.

Οι επιπτώσεις στην ιδιωτικότητα και στην ψυχική υγεία των χρηστών

Η χρήση των φίλτρων προσώπου συνιστά μία νέα πρόκληση για την προστασία της ιδιωτικότητας. Οι εφαρμογές φίλτρων προσώπου, αξιοποιώντας προηγμένη τεχνολογία αναγνώρισης προσώπου, ανιχνεύουν χαρακτηριστικά προσώπου και τα τροποποιούν. Σε πρώτο επίπεδο, η συλλογή δεδομένων προσώπου εγείρει βάσιμες ανησυχίες που αφορούν τον τρόπο διαχείρισης, δυνητικής εκμετάλλευσης ή ακόμη και κατάχρησης αυτών των δεδομένων, χωρίς την ενημέρωση και συγκατάθεση των χρηστών. Οι χρήστες, λόγω μη επαρκούς πληροφόρησης και παρασυρμένοι από την παιγνιώδη διάθεση που τους καταλαμβάνει όταν χρησιμοποιούν τέτοιου είδους εφαρμογές, είναι πιθανό να εκθέσουν ακούσια τα προσωπικά τους δεδομένα. Ακόμη, οι επιπτώσεις της ευρείας χρήσης τεχνολογίας αναγνώρισης προσώπου επεκτείνονται πέρα από το άτομο, συμβάλλοντας στην ανάπτυξη και αποδοχή μίας κουλτούρας παρακολούθησης.

Σε δεύτερο επίπεδο, ενώ τα φίλτρα προσώπου στοχεύουν είτε να βελτιώσουν αισθητικά τις εικόνες είτε να διασκεδάσουν τους χρήστες, συμβάλλουν επίσης στην ανάπτυξη ενός ψηφιακού τοπίου, όπου διαστρεβλώνονται ολοένα και περισσότερο οι αντιλήψεις για την ταυτότητα και την ομορφιά. Η συνεχής έκθεση των χρηστών των μέσων κοινωνικής δικτύωσης σε εξιδανικευμένες, ψηφιακά αλλοιωμένες εικόνες έχει παρατηρηθεί ότι επηρεάζει σημαντικά την αυτοεκτίμηση και δημιουργεί στρεβλή αντίληψη για την εικόνα των ατόμων. Ιδίως οι χρήστες νεότερων ηλικιών συνιστούν πιο ευάλωτες και επιρρεπείς ομάδες. Μάλιστα έρευνες των τελευταίων ετών έχουν συσχετίσει την εκτεταμένη χρήση φίλτρων προσώπου με την αύξηση των αισθητικών επεμβάσεων στις νεαρές ηλικίες. Ενδεικτικός του φαινομένου είναι ο όρος “Snapchat Dysmorphia”, ο οποίος περιγράφει την αίσθηση αποσύνδεσης που βιώνουν κάποιοι χρήστες μεταξύ της πραγματικής τους εμφάνισης και των εικόνων που μοιράζονται με τον κόσμο.  Οι σημαντικές αυτές κοινωνικές επιπτώσεις της καθιέρωσης μη ρεαλιστικών προτύπων ομορφιάς αναδεικνύουν την ευθύνη των μέσων κοινωνικής δικτύωσης αναφορικά με την χρήση νέων τεχνολογιών.

Νομοθετικές Ρυθμίσεις και Εταιρική Κοινωνική Ευθύνη

Σε απάντηση στις προκλήσεις που θέτουν τα φίλτρα προσώπου, κυβερνήσεις και φορείς ενεργούν για την καθιέρωση νομοθεσίας που αφορά στην τους στο διαδίκτυο, στην χρήση τεχνολογίας αναγνώρισης προσώπου και στην προστασία των προσωπικών δεδομένων. Αυτή η νομοθεσία αντικατοπτρίζει την αναγνώριση της ανάγκης ισορροπίας μεταξύ της καινοτομίας και της προστασίας των ψηφιακών δικαιωμάτων.

Ενδεικτικά, σύμφωνα με τον Γενικό Κανονισμό για την Προστασία Δεδομένων (GDPR), τα βιομετρικά δεδομένα, τα οποία συλλέγονται κατά τη χρήση τεχνολογίας αναγνώρισης προσώπου, συνιστούν ευαίσθητα δεδομένα, η επεξεργασία των οποίων επιτρέπεται μόνο κατ’ εξαίρεση. Επιπλέον, σχετικά με την χρήση τεχνολογίας αναγνώρισης προσώπου, η  Συμβουλευτική Επιτροπή της Σύμβασης για την προστασία των φυσικών προσώπων έναντι της αυτόματης επεξεργασίας δεδομένων προσωπικού χαρακτήρα έχει εκδώσει σχετικές κατευθυντήριες γραμμές το 2021 (Guidelines on facial recognition, 2021). Σχετικά με τον αντίκτυπο στην ψυχική υγεία των χρηστών, κάποιες ευρωπαϊκές χώρες όπως η Νορβηγία και η Γαλλία έχουν θεσπίσει ήδη νομοθεσία, σύμφωνα με την οποία  οι influencers, εφόσον χρησιμοποιούν φίλτρα προσώπου, είναι υποχρεωμένοι/ες να κάνουν σχετική αναφορά στις αναρτήσεις τους προκειμένου να μην παραπλανούν τους αποδέκτες του περιεχομένου τους.

Ωστόσο, τα μέσα κοινωνικής ως κύριοι πάροχοι αυτών των τεχνολογιών έχουν σημαντική ευθύνη και οφείλουν να αναλάβουν ενεργό ρόλο για τη διασφάλιση της ενημέρωσης των χρηστών και της υπεύθυνης χρήσης των φίλτρων προσώπου, υιοθετώντας διαφανείς πολιτικές, ισχυρούς μηχανισμούς συναίνεσης και διασφαλίσεις κατά της κατάχρησης. Στόχος θα πρέπει να είναι η επαρκής ενημέρωση των χρηστών και η προώθηση ενός ψηφιακού περιβάλλοντος που δίνει προτεραιότητα στην ευημερία των χρηστών.

Συμπέρασμα

Παρά το γεγονός ότι τα φίλτρα προσώπου των μέσων κοινωνικής δικτύωσης έχουν αδιαμφισβήτητα φέρει επανάσταση στην ψηφιακή αυτοέκφραση, ο αντίκτυπός τους στα ψηφιακά δικαιώματα δεν μπορεί να υποτιμηθεί. Η προστασία της ιδιωτικής ζωής, η συναίνεση, η παραπλάνηση, η ανάπτυξη μη ρεαλιστικών προτύπων ομορφιάς και η επίδραση αυτών στην ψυχολογία των χρηστών συνιστούν περίπλοκα ζητήματα με πολλές προεκτάσεις, τα οποία απαιτούν ανάλυση και αντιμετώπιση.

Η εύρεση ισορροπίας μεταξύ της προώθησης της καινοτομίας και της εφαρμογής αποτελεσματικών κανονιστικών μέτρων είναι κρίσιμη κατά την περιήγησή μας στον δυναμικό χώρο των μέσων κοινωνικής δικτύωσης. Καθώς εξερευνούμε τις δυνατότητες της επαυξημένης πραγματικότητας και της ψηφιακής αυτοέκφρασης, είναι επιτακτικό να δοθεί προτεραιότητα στην προστασία των ατομικών δικαιωμάτων αλλά και στην διαφύλαξη της ψυχικής υγείας των χρηστών. Έτσι θα διασφαλιστεί ότι ο ψηφιακός χώρος παραμένει ένας τόπος όπου οι χρήστες μπορούν ελεύθερα να εκφράζονται χωρίς να θέτουν σε κίνδυνο την ιδιωτικότητά, την αυτονομία και την ευημερία τους.

*Η Αυγή Σαουλίδου είναι Νομικός και Υπεύθυνη Προστασίας Δεδομένων στο Ελληνικό Ίδρυμα Έρευνας και Καινοτομίας.


Η νέα Πράξη για την Τεχνητή Νοημοσύνη: οι απαγορευμένες πρακτικές στον τομέα της τεχνητής νοημοσύνης

Γράφει η Κατερίνα Μεζίνη*

Τα συστήματα τεχνητής νοημοσύνης («συστήματα ΤΝ») μπορούν εύκολα να χρησιμοποιηθούν σε πολλούς τομείς της οικονομίας και της κοινωνίας, μεταξύ άλλων και σε διασυνοριακό επίπεδο, και να κυκλοφορούν σε ολόκληρη την Ένωση. Η Τεχνητή Νοημοσύνη αποτελεί μία διαρκώς εξελισσόμενη τεχνολογία που μπορεί να αποφέρει πολλά κοινωνικά και οικονομικά οφέλη. Παράλληλα όμως, ανάλογα με τον τρόπο και τον σκοπό για τον οποίον χρησιμοποιείται μπορεί να χρησιμοποιηθεί καταχρηστικά, να δημιουργήσει κινδύνους και να παραβιάσει τα προστατευόμενα ατομικά δικαιώματα. Για παράδειγμα, η ΤΝ μπορεί να χρησιμοποιηθεί- και έχει χρησιμοποιηθεί- προκειμένου να εντείνει τη διαρκή παρακολούθηση των πολιτών, την καταστολή, τον κοινωνικό έλεγχο, τη χειραγώγηση, τη λογοκρισία και την εκμετάλλευση ανθρώπου από άνθρωπο  παραβιάζοντας με αυτό τον τρόπο θεμελιώδη δικαιώματα των πολιτών όπως την ανθρώπινη αξιοπρέπεια, την προστασία της ιδιωτικής ζωής, των προσωπικών δεδομένων και την ελευθερία της έκφρασης.

Ως μέρος της ψηφιακής στρατηγικής της, η ΕΕ θέλησε να ρυθμίσει την τεχνητή νοημοσύνη (AI) για να εξασφαλίσει καλύτερες συνθήκες για την ανάπτυξη και τη χρήση αυτής της τεχνολογίας. Τον Απρίλιο του 2021, η Ευρωπαϊκή Επιτροπή υπέβαλε Πρόταση Κανονισμού  για την τεχνητή νοημοσύνη. Στις 9 Δεκεμβρίου 2023, το Κοινοβούλιο κατέληξε σε προσωρινή συμφωνία με το Συμβούλιο σχετικά με την πράξη Τεχνητής Νοημοσύνης. Το συμφωνηθέν κείμενο θα πρέπει τώρα να εγκριθεί επίσημα τόσο από το Κοινοβούλιο όσο και από το Συμβούλιο για να γίνει δίκαιο της ΕΕ.

Σύμφωνα με τον ορισμό που περιλαμβάνει στο κείμενο της πρότασης ως Σύστημα Τεχνητής Νοημοσύνης ορίζεται: «το λογισμικό που αναπτύσσεται με μία ή περισσότερες από τις τεχνικές και προσεγγίσεις που παρατίθενται στο παράρτημα I και μπορεί, για ένα δεδομένο σύνολο στόχων που έχουν καθοριστεί από τον άνθρωπο, να παράγει στοιχεία εξόδου όπως περιεχόμενο, προβλέψεις, συστάσεις ή αποφάσεις που επηρεάζουν τα περιβάλλοντα με τα οποία αλληλεπιδρά».

Η ΕΕ επέλεξε να ρυθμίσει τα ζητήματα με μορφή Κανονισμού προκειμένου οι κανόνες του να έχουν άμεση ισχύ σε όλα τα κράτη-μέλη, συνεπής προς το στόχο της δημιουργίας «ενιαίας ψηφιακής αγοράς». Ο Κανονισμός περιλαμβάνει εν ολίγοις κανόνες που ρυθμίζουν τη διάθεση στην αγορά και τη θέση σε λειτουργία ορισμένων συστημάτων ΤΝ. Ο Κανονισμός ακολουθεί μία προσέγγιση «βάσει κινδύνου». Μέσω αυτής της προσέγγισης, το είδος και το περιεχόμενο των εν λόγω κανόνων αναμένεται να προσαρμοστούν στην ένταση και την έκταση των κινδύνων που μπορούν να δημιουργήσουν τα εκάστοτε συστήματα ΤΝ.

Η Ευρωπαϊκή Επιτροπή, μέσω της πρότασης Κανονισμού και σε σχέση με τις πρακτικές ΤΝ, διακρίνει τέσσερα διαφορετικά επίπεδα κινδύνου και ειδικότερα τον i) μη αποδεκτό κίνδυνο, ii) τον υψηλό κίνδυνο, iii) τον περιορισμένο κίνδυνο και iv) τον ελάχιστο κίνδυνο. Τα συστήματα ΤΝ που εντάσσονται στην κατηγορία μη αποδεκτού κινδύνου απαγορεύονται πλήρως, τα συστήματα υψηλού κινδύνου πρέπει να συμμορφώνονται με ειδικές απαιτήσεις ενώ τα συστήματα περιορισμένου ή χαμηλού κινδύνου πρέπει να συμμορφώνονται με λιγότερες ή καθόλου απαιτήσεις.

Το άρθρο 5 (τίτλος ΙΙ) καθορίζει τις «απαγορευμένες πρακτικές στον τομέα της τεχνητής νοημοσύνης», δηλαδή περιλαμβάνει όλα τα συστήματα ΤΝ των οποίων η χρήση θεωρείται μη αποδεκτή διότι αντιβαίνει στις αξίες της Ένωσης, για παράδειγμα παραβιάζοντας θεμελιώδη δικαιώματα. Σύμφωνα λοιπόν με το άρθρο 5 απαγορεύονται οι ακόλουθες πρακτικές στον τομέα της τεχνητής νοημοσύνης:

  • Η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστημάτων ΤΝ που αποσκοπούν στη στρέβλωση της ανθρώπινης συμπεριφοράς, με την οποία είναι πιθανόν να προκληθούν σωματικές ή ψυχολογικές βλάβες. Αυτά τα συστήματα ΤΝ χρησιμοποιούν κατασκευαστικά στοιχεία που απευθύνονται στο υποσυνείδητο και τα οποία τα άτομα δεν μπορούν να αντιληφθούν, ή εκμεταλλεύονται ευάλωτα χαρακτηριστικά παιδιών και ανθρώπων λόγω της ηλικίας τους ή λόγω της σωματικής ή της διανοητικής αναπηρίας τους.
  • Η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση ορισμένων συστημάτων ΤΝ που παρέχουν κοινωνική βαθμολόγηση των φυσικών προσώπων για γενική χρήση από τις δημόσιες αρχές ή για λογαριασμό τους. Τα συστήματα αυτά μπορεί να οδηγήσουν σε διακρίσεις και στον αποκλεισμό ορισμένων ομάδων. Αυτά τα συστήματα αξιολογούν ή ταξινομούν την αξιοπιστία των φυσικών προσώπων με βάση την κοινωνική τους συμπεριφορά ή με βάση τα γνωστά ή προβλεπόμενα προσωπικά χαρακτηριστικά τους ή χαρακτηριστικά της προσωπικότητάς τους.
  • Η χρήση συστημάτων ΤΝ για την εξ αποστάσεως βιομετρική ταυτοποίηση φυσικών προσώπων σε «πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου. Ο Κανονισμός προβλέπει εξαίρεση σε τρεις εξαντλητικά απαριθμούμενες και αυστηρά καθορισμένες περιπτώσεις: σε περίπτωση αναζήτησης δυνητικών θυμάτων εγκληματικών πράξεων, συμπεριλαμβανομένων των αγνοούμενων παιδιών, σε ορισμένες απειλές κατά της ζωής ή της σωματικής ακεραιότητας φυσικών προσώπων ή απειλές τρομοκρατικής επίθεσης και στον εντοπισμό, την ταυτοποίηση ή τη δίωξη δραστών ή υπόπτων για τα ποινικά αδικήματα που αναφέρονται στην απόφαση-πλαίσιο 2002/584/ΔΕΥ του Συμβουλίου, εφόσον τα εν λόγω ποινικά αδικήματα τιμωρούνται στο οικείο κράτος μέλος με στερητική της ελευθερίας ποινή ή στερητικό της ελευθερίας μέτρο ασφάλειας ανώτατης διάρκειας τουλάχιστον τριών ετών και όπως ορίζονται στο δίκαιο του εν λόγω κράτους μέλους.

Επισημαίνεται ότι κάθε χρήση συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου θα πρέπει να υπόκειται σε ρητή και ειδική άδεια που χορηγείται από δικαστική αρχή ή από ανεξάρτητη διοικητική αρχή κράτους μέλους. Επιπρόσθετα, ο Κανονισμός ορίζει ότι η εν λόγω χρήση στην επικράτεια κράτους μέλους θα πρέπει να είναι δυνατή μόνο εφόσον το εν λόγω κράτος μέλος έχει αποφασίσει να προβλέψει ρητά τη δυνατότητα να επιτρέπεται η χρήση αυτή στο πλαίσιο των ειδικότερων κανόνων του εθνικού του δικαίου. Συνεπώς, τα κράτη μέλη έχουν την ευχέρεια να μην προβλέψουν καθόλου αυτή τη δυνατότητα.

Οι παραπάνω πρακτικές είναι ιδιαίτερα επιβλαβείς και απαγορεύτηκαν διότι έρχονται σε αντίθεση με τις ενωσιακές αξίες του σεβασμού της ανθρώπινης αξιοπρέπειας, της ελευθερίας, της ισότητας, της δημοκρατίας και του κράτους δικαίου, καθώς και με τα θεμελιώδη δικαιώματα της Ένωσης, συμπεριλαμβανομένου του δικαιώματος στη μη διακριτική μεταχείριση, στην προστασία των δεδομένων και της ιδιωτικότητας, καθώς και στα δικαιώματα του παιδιού.

Ωστόσο, ο Κανονισμός αφήνει μεγάλα περιθώρια στα Κράτη Μέλη να «νομιμοποιήσουν» τη χρήση συστημάτων βιομετρικής ταυτοποίησης για σκοπούς επιβολής του νόμου. Οι «εξαιρέσεις» που προβλέπει ο Κανονισμός στην πραγματικότητα είναι ευρείες και ανοίγουν τον δρόμο για τη χρήση των συστημάτων για σκοπούς μαζικής παρακολούθησης. Όπως πολύ εύστοχα παρατήρησε και η Access Now, οι εξαιρέσεις που θέτει θυμίζουν περισσότερο έναν «Οδηγό χρήσης μίας τεχνολογίας που δεν έχει θέση σε μία δημοκρατική και βασισμένη στα δικαιώματα κοινωνία». Επιπρόσθετα, προβληματικό είναι το γεγονός ότι τα συστήματα που χρησιμοποιούνται για «προβλεπτική» ή «προληπτική» αστυνόμευση (predictive policing) εντάσσονται στα συστήματα «υψηλού κινδύνου» και όχι στις απαγορευμένες πρακτικές. Συνεπώς, επιτρέπεται- υπό ορισμένες μόνο προϋποθέσεις- η χρήση συστημάτων τα οποία αξιολογούν ορισμένα ατομικά χαρακτηριστικά ή καταστάσεις και καταλήγουν σε ένα συμπέρασμα σχετικά με την πιθανότητα διάπραξης εγκλήματος από ορισμένο πρόσωπο ή σε ορισμένη γεωγραφική περιοχή, δίνοντας τη δυνατότητα στις αστυνομικές αρχές να παρακολουθούν προληπτικά ορισμένα πρόσωπα ή περιοχές [1]. Τα συστήματα αυτά, όπως έχει αποδειχθεί από πολλές έρευνες, αναπαράγουν διακρίσεις και διαιωνίζουν στερεότυπα και προκαταλήψεις έναντι κοινωνικών ομάδων, είναι επικίνδυνα για τις ατομικές ελευθερίες των πολιτών και θα έπρεπε να απαγορευτούν.

Αναμένεται να δούμε τον τρόπο με τον οποίον θα εφαρμοστούν οι κανόνες που περιλαμβάνει ο νέος Κανονισμός καθώς και εάν θα επιτευχθεί αποτελεσματική εποπτεία από τις αρμόδιες αρχές των κρατών μελών προκειμένου να προστατευτούν πραγματικά και στην ουσία τους τα δικαιώματα των πολιτών από την τεχνολογική αυτή δυνατότητα.

 

[1]Βλ. παράρτημα ΙΙΙ του Κανονισμού όπου εντάσσει στα συστήματα υψηλού κινδύνου: «Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από αρχές επιβολής του νόμου για τη διενέργεια ατομικών εκτιμήσεων κινδύνου όσον αφορά φυσικά πρόσωπα, προκειμένου να εκτιμηθεί ο κίνδυνος διάπραξης αδικήματος ή υποτροπής ή ο κίνδυνος για δυνητικά θύματα ποινικών αδικημάτων», «Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από αρχές επιβολής του νόμου για την πρόβλεψη της τέλεσης ή εκ νέου τέλεσης ποινικού αδικήματος, πραγματικού ή δυνητικού, με βάση την κατάρτιση προφίλ φυσικών προσώπων όπως αναφέρεται στο άρθρο 3 σημείο 4) της οδηγίας (ΕΕ) 2016/680 ή την αξιολόγηση των γνωρισμάτων και χαρακτηριστικών της προσωπικότητας ή προηγούμενης εγκληματικής συμπεριφοράς φυσικών προσώπων ή ομάδων, «Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από αρχές επιβολής του νόμου για την κατάρτιση προφίλ φυσικών προσώπων όπως αναφέρεται στο άρθρο 3 σημείο 4) της οδηγίας (ΕΕ) 2016/680 στο πλαίσιο της ανίχνευσης, της διερεύνησης ή της δίωξης ποινικών αδικημάτων»

ΠΗΓΕΣ:

https://edri.org/our-work/eu-ai-act-deal-reached-but-too-soon-to-celebrate/

https://europeanaifund.org/newspublications/european-civil-society-on-the-ai-act-deal/

https://www.amnesty.org/en/latest/news/2023/12/eu-blocs-decision-to-not-ban-public-mass-surveillance-in-ai-act-sets-a-devastating-global-precedent/

https://www.europarl.europa.eu/news/el/press-room/20210930IPR13925/techniti-noimosuni-kai-astunomeusi-to-ek-kata-tis-mazikis-parakolouthisis

*Η Κατερίνα Μεζίνη είναι Δικηγόρος, απόφοιτη του τμήματος Νομικής του ΕΚΠΑ και του ΠΜΣ «Δίκαιο και Τεχνολογίες Πληροφορικής και Επικοινωνιών» του Πανεπιστημίου Πειραιώς.


Η Επίδραση της Συμπεριφορικής Διαφήμισης στην Ελευθερία της Έκφρασης: Αυτολογοκρισία Υπό την Πίεση της Παρακολούθησης

Γράφει η Αυγή Σαουλίδου*

Στην ψηφιακή εποχή η εξέλιξη της διαφήμισης έχει αναδείξει νέες προκλήσεις όσον αφορά την ελευθερία της έκφρασης στον δημόσιο διάλογο. Οι διαδικτυακές μας δραστηριότητες αφήνουν πίσω τους ίχνη δεδομένων, τα οποία συλλέγονται και αναλύονται ενδελεχώς με στόχο τη στοχευμένη διαφήμιση μέσω της διαδικτυακής συμπεριφορικής διαφήμισης (OBA). Ενώ η συμπεριφορική διαφήμιση προσφέρει εξατομικευμένες εμπειρίες και αυξάνει σημαντικά την αποδοτικότητα του μάρκετινγκ, εγείρει ανησυχίες σχετικά με τον αντίκτυπό της στην ελευθερία της έκφρασης. Ας εξετάσουμε τον τρόπο με τον οποίο η διάχυτη παρακολούθηση λόγω της συμπεριφορικής διαφήμισης ενσταλάζει φόβο στα άτομα, οδηγώντας τα στην αυτολογοκρισία και τις επιπτώσεις της τελευταίας στις δημοκρατικές αξίες.

Συμπεριφορική Διαφήμιση

Η συμπεριφορική διαφήμιση χρησιμοποιεί ως βάση την παρακολούθηση και ανάλυση των διαδικτυακών δραστηριοτήτων των χρηστών, συμπεριλαμβανομένου του ιστορικού περιήγησης, των ερωτημάτων αναζήτησης και των αλληλεπιδράσεων με το online περιεχόμενο. Μέσω εξελιγμένων αλγορίθμων, δημιουργούνται ολοκληρωμένα προφίλ χρηστών, που περιλαμβάνουν πληροφορίες σχετικά με τις προτιμήσεις, τα ενδιαφέροντα και τις δημογραφικές πληροφορίες τους. Στη συνέχεια τα δεδομένα αυτά αξιοποιούνται για την εξατομικευμένη προβολή στοχευμένων διαφημίσεων σε μεμονωμένους χρήστες. Έτσι αφενός βελτιώνεται η εμπειρία των χρηστών καθώς οι διαφημίσεις που τους προβάλλονται είναι σχετικές με τις ανάγκες και τα ενδιαφέροντα τους, αφετέρου ενισχύεται η αποτελεσματικότητα των διαφημίσεων καθώς, η συνεχής πληροφόρηση σχετικά με τις προτιμήσεις και τις συμπεριφορές των καταναλωτών, επιτρέπει στις εταιρίες να προσαρμόσουν αναλόγως τις στρατηγικές τους.

Ο φόβος της Παρακολούθησης

Παρά τα οφέλη που αναφέρθηκαν, η συστηματική συλλογή δεδομένων για σκοπούς κατάρτισης προφίλ εγείρει σημαντικές ανησυχίες όσον αφορά στην προστασία της ιδιωτικής ζωής και την ελευθερία των προσώπων. Οι χρήστες αντιλαμβανόμενοι ότι η διαδικτυακή τους συμπεριφορά παρακολουθείται συνεχώς, συχνά αισθάνονται ότι παραβιάζεται η ιδιωτικότητά τους. Επιπλέον, η λεπτομερής κατάρτιση προφίλ μπορεί να έχει ως αποτέλεσμα την κατάταξη των χρηστών σε συγκεκριμένες κατηγορίες και την αναπαραγωγή στερεοτύπων, η οποία με τη σειρά της οδηγεί στον περιορισμό της αυτοδιάθεσής τους να εξερευνούν ποικίλο περιεχόμενο χωρίς να περιορίζονται σε προκαθορισμένες προτιμήσεις.

Δημοκρατικές αξίες σε κίνδυνο

Υπό το φόβο της παρακολούθησης λοιπόν, συχνά αποφεύγεται η παρουσίαση πραγματικών απόψεων στο διαδίκτυο, με αποτέλεσμα ο ψηφιακός χώρος να καταλαμβάνεται από ένα μόνο ποσοστό των απεριόριστων προοπτικών που θα μπορούσαν να συμβάλουν σε έναν εύρωστο δημόσιο διάλογο. Η αυτολογοκρισία που απορρέει από τη συμπεριφορική διαφήμιση επηρεάζει σημαντικά την ελευθερία της έκφρασης σε κοινωνικό αλλά και σε πολιτικό επίπεδο.

Στην κοινωνική σφαίρα, η απροθυμία να εκφραστεί κανείς αυθεντικά οδηγεί στον περιορισμό της πολυφωνίας και στη φίμωση ιδίως των αντισυμβατικών φωνών. Έτσι εμποδίζεται η ανταλλαγή ιδεών και την προώθηση ενός υγιούς και συμπεριληπτικού διαλόγου. Αυτή η καταστολή των διαφορετικών απόψεων μπορεί να οδηγήσει στη διαιώνιση στερεοτύπων και στην ενίσχυση των υφιστάμενων προκαταλήψεων, περιορίζοντας τελικά το βάθος και την ποιότητα των δημόσιων συζητήσεων και τη συλλογική κατανόηση πολύπλοκων κοινωνικών ζητημάτων.

Σε πολιτικό επίπεδο, η αυτολογοκρισία η οποία καταστέλλει την έκφραση διαφορετικών απόψεων και οπτικών, εμποδίζει τη διαμόρφωση ενός ενημερωμένου εκλογικού σώματος και υπονομεύει τελικά την ίδια τη δημοκρατική διαδικασία. Οι ευρύτερες επιπτώσεις αυτής της δυσμενούς επίδρασης στη δημοκρατία είναι εκτεταμένες, καθώς η ανεμπόδιστη ανταλλαγή ιδεών συνιστά θεμελιώδες συστατικό μίας σύγχρονης υπεύθυνης κοινωνίας. Όταν τα άτομα απέχουν από την έκφραση των αυθεντικών απόψεών τους λόγω της παρακολούθησης και του φόβου των συνεπειών αυτής, ο δημοκρατικός ιστός αποδυναμώνεται με αποτέλεσμα συνήθως την πόλωση, την ανικανότητα συλλογικής επίλυσης προβλημάτων και την αναχαίτιση της προόδου.

Η ισορροπία μεταξύ εξατομίκευσης και επιτήρησης

Όπως προκύπτει από όσα αναφέρθηκαν, η τήρηση της ισορροπίας μεταξύ της δημιουργίας εξατομικευμένου περιεχομένου και της προστασίας της ιδιωτικής ζωής συνιστά πρόκληση στο πεδίο της διαδικτυακής συμπεριφορικής διαφήμισης. Η επίτευξη αυτής της ισορροπίας απαιτεί δεοντολογικές πρακτικές και διαφανείς διαδικασίες χειρισμού των δεδομένων που δίνουν προτεραιότητα στη συγκατάθεση των χρηστών και στον έλεγχο των προσωπικών τους πληροφοριών, διασφαλίζοντας ότι τα οφέλη της εξατομίκευσης δεν θέτουν σε κίνδυνο τα ατομικά δικαιώματα προστασίας της ιδιωτικής ζωής.

Προστασία της Ιδιωτικότητας και της Ελευθερίας της Έκφρασης

Στη συνετή χρήση της συμπεριφορικής διαφήμισης θα μπορούσαν να συμβάλλουν μέτρα όπως η συλλογή ρητής συγκατάθεσης των χρηστών ως προϋπόθεση για την επεξεργασία των δεδομένων τους, η εφαρμογή διαφανών διαδικασιών χειρισμού των δεδομένων, και οι ισχυρές ρυθμίσεις απορρήτου. Αντί της παρεμβατικής σκιαγράφησης προφίλ, θα πρέπει να δίδεται έμφαση στην πλαισιωμένη διαφήμιση που σέβεται τα όρια και τις προτιμήσεις των χρηστών και προωθεί ένα πιο ηθικό διαδικτυακό περιβάλλον. Η τήρηση κανονισμών περί προστασίας της ιδιωτικής ζωής και διαφανών διαδικασιών χρήσης δεδομένων, μαζί με την ενημέρωση των χρηστών θα βοηθήσει στην καλλιέργεια κουλτούρας ελεύθερης έκφρασης. Με την υποστήριξη αυτών των στρατηγικών, ο ψηφιακός κόσμος μπορεί να γίνει ένας πιο συμπεριληπτικός και ανοιχτός χώρος που σέβεται την αυτονομία των χρηστών και προωθεί την ανταλλαγή ιδεών.

Ενδυνάμωση των χρηστών

Οι ίδιοι οι χρήστες θα πρέπει επίσης να ενδυναμώσουν τη θέση τους στον ψηφιακό κόσμο μέσω της ενημέρωσης και της διεκδίκησης και άσκησης των δικαιωμάτων τους. Για την προστασία της ιδιωτικότητάς τους διαδίκτυο θα πρέπει να χρησιμοποιούν ασφαλείς πλατφόρμες επικοινωνίας, να ενημερώνονται για τις ρυθμίσεις απορρήτου και να αποφεύγουν την υπερκοινοποίηση πληροφοριών. Μέσω της ενημέρωσης και της σχετική εκπαίδευση θα βρίσκονται σε θέση να εντοπίζουν τους πιθανούς κινδύνους και να λαμβάνουν τεκμηριωμένες αποφάσεις αναφορικά με τη διαδικτυακή τους παρουσία. Με την ενθάρρυνση της κριτικής σκέψης και της συνειδητής προσέγγισης των διαδικτυακών δραστηριοτήτων, είναι δυνατόν να δημιουργηθεί ένα ψηφιακό περιβάλλον το οποίο θα σέβεται την ιδιωτικότητα και την πολυφωνία.

Συμπέρασμα

Η συμπεριφορική διαφήμιση, παρά τα οφέλη της, επηρεάζει την ελευθερία της έκφρασης των χρηστών του Διαδικτύου οδηγώντας τους σε αυτολογοκρισία. Προκειμένου να τηρηθεί ισορροπία μεταξύ της χρήσης της διαδικτυακής συμπεριφορικής διαφήμισης και της ελευθερίας της έκφρασης στο διαδίκτυο, είναι ιδιαιτέρως σημαντική η αναγνώριση της συλλογικής ευθύνης, η διαφάνεια των πρακτικών επεξεργασίας δεδομένων, η εκπαίδευση των χρηστών και η επιβολή αυστηρών ρυθμιστικών πλαισίων. Έτσι είναι δυνατόν να διαμορφωθεί μια διαδικτυακή σφαίρα, η οποία όχι μόνο παρέχει εξατομικευμένες εμπειρίες, αλλά εναρμονίζεται επίσης με τις θεμελιώδεις αρχές της ελεύθερης έκφρασης και της προστασίας της ιδιωτικότητας.

*Η Αυγή Σαουλίδου είναι Νομικός και Υπεύθυνη Προστασίας Δεδομένων στο Ελληνικό Ίδρυμα Έρευνας και Καινοτομίας.


«Ενεργήστε 113» : Γιατί η καταγραφή των αστυνομικών επικοινωνιών μας αφορά;

Γράφει ο Σπύρος Τζουανόπουλος*

Την δεκαετία του 1920 η Αστυνομία του Los Angeles εισήγαγε για πρώτη φορά στην υπηρεσία της ασυρμάτους σε οχήματα-περιπολικά, αντικαθιστώντας τις μέχρι τότε έφιππες ή πεζές περιπολίες. Η εξέλιξη αυτή αποτέλεσε μια αλλαγή παραδείγματος στην αστυνόμευση[1], καθώς για πρώτη φορά οι επικεφαλής αξιωματικοί μπορούσαν να διαμορφώνουν μια συνολική εικόνα από τα πληρώματα των περιπολικών σχεδόν σε πραγματικό χρόνο και να συντονίζουν τις δυνάμεις ανάλογα. Οι επόμενες δεκαετίες ανέδειξαν τις ασύρματες επικοινωνίες ως κομβικό εργαλείο των αστυνομικών υπηρεσιών αιχμής. Ταυτόχρονα, λόγω της εξ ορισμού εμπλοκής των υπηρεσιών αυτών σε γεγονότα με δικαστικό ενδιαφέρον, κατέστη κοινή πρακτική η καταγραφή των επικοινωνιών των αστυνομικών-χειριστών των ασυρμάτων με το κέντρο επιχειρήσεων, αφενός για την παραγωγή αποδεικτικού υλικού προς χρήση ενώπιον των δικαστικών αρχών, αφετέρου για τον καλύτερο υπηρεσιακό έλεγχο των αστυνομικών ενεργειών.

Εξάλλου, σχεδόν παράλληλα με τη γέννηση της αστυνόμευσης αναδύθηκε και το φαινόμενο της αστυνομικής διαφθοράς-κατάχρησης της αστυνομικής εξουσίας[2]. Η καταγεγραμμένη στην εγκληματολογία νοοτροπία του “Εμείς εναντίον των Άλλων” όχι μόνο διαχωρίζει τους αστυνομικούς από τους απλούς πολίτες, αλλά έχει επίσης βαθύ αντίκτυπο στην απονομή της δικαιοσύνης[3]. Πρακτικές που αποφεύγουν την καταγραφή των επικοινωνιών που σχετίζονται με αστυνομικές πρακτικές αμφισβητούμενης νομιμότητας σε συνδυασμό με αναποτελεσματικούς θεσμούς λογοδοσίας, αποτελούν διαχρονικές παθογένειες των σωμάτων ασφαλείας με πολύ σοβαρές κοινωνικές επιπτώσεις.

Ειδικότερα στο πεδίο του ελέγχου της νομιμότητας των αστυνομικών επιχειρήσεων, η είσοδος ψηφιακών τεχνολογιών δημιούργησε πλήθος νέων τρόπων επικοινωνίας και νέων προκλήσεων ρύθμισής τους.  Η καταγραφή των αστυνομικών επικοινωνιών, η ασφάλειά τους και ο έλεγχος έχει αναδειχθεί σε ιδιαίτερα δύσκολη υπόθεση. Κινητά τηλέφωνα, μέσα κοινωνικής δικτύωσης, ψηφιακές εφαρμογές τηλεπικοινωνίας, ιδιωτικές επικοινωνίες, mails,  συχνά από το ίδιο μέσο (πχ ένα smartphone) καθιστούν τον έλεγχο και την καταγραφή ένα δυσεπίλυτο πρόβλημα δημοκρατίας, που χρήζει όμως επείγουσας και αποτελεσματικής ρύθμισης. Γιατί όμως είναι τόσο σημαντικό;

  • Οι υπηρεσίες πρώτης γραμμής των σωμάτων ασφαλείας συντονίζονται από θαλάμους επιχειρήσεων, κέντρα έρευνας και διάσωσης, τοπικά αστυνομικά τμήματα και φορητούς αστυνομικούς ασυρμάτους. Όταν καλούνται προς επέμβαση συνήθως λαμβάνει χώρα κάτι νομικά σημαντικό που θα καταστήσει κάποιους πολίτες θύματα, κάποιους άλλους κατηγορούμενους και κάποιους άλλους μάρτυρες. Συχνά, το πεδίο των περιστατικών αφορά σημεία δυσπρόσιτα, σκοτεινά, χωρίς μάρτυρες, μέρη όπου πολλές φορές το αρχείο των επικοινωνιών που έλαβαν χώρα είναι το μοναδικό στοιχείο και έτσι η διατήρησή του αποκτά καταλυτική σημασία.
  • Τα αρχεία επικοινωνιών είναι πολλές φορές το νήμα που συνδέει όλα τα υπόλοιπα αποδεικτικά στοιχεία μαζί. Τοποθετούν τα περιστατικά στο χρόνο, αποκαλύπτουν μοτίβα, εξηγούν την αλληλουχία των γεγονότων και δημιουργούν τις συνδέσεις αποκαλύπτοντας την αλήθεια.
  • Με την καταγραφή των επικοινωνιών που έλαβαν χώρα κατά τη διάρκεια αστυνομικών επιχειρήσεων,  διασφαλίζεται το σύννομο της δράσης των σωμάτων ασφαλείας και καθίσταται δυνατός ο διοικητικός και δικαστικός έλεγχος, η απόδοση ευθυνών και η ποινική δίωξη τυχόν εγκληματικών πράξεων των αστυνομικών-δραστών.

Η σημασία της καταγραφής των αστυνομικών ενεργειών και των γεγονότων σε καθημερινή βάση έχει απασχολήσει  την ελληνική νομοθεσία από παλιά. Χαρακτηριστικό είναι το αρ. 83 του Π.Δ. 141/1991 (κομβικό νομοθέτημα που ρυθμίζει ζητήματα οργάνωσης της ΕΛ.ΑΣ και τις καθημερινές αστυνομικές επιχειρήσεις) όπου τίθενται κανόνες τήρησης και αρχειοθέτησης για το «αστυνομικό σημειωματάριο»[4]. Το Π.Δ.75/1987 ρυθμίζει συστηματικά την διεξαγωγή της αλληλογραφίας και την τήρηση των αρχείων των εγγράφων (αναφορές, διαταγές, σήματα κα), τα καθήκοντα και τις υποχρεώσεις των χειριστών και θέτει κανόνες για τη διαβάθμιση τους, από αδιαβάθμητα έως άκρως απόρρητα. Τον Οκτώβριο του 2023 με Κοινή Υπουργική Απόφαση των υπουργών Ψηφιακής Διακυβέρνησης και Προστασίας του Πολίτη ανακοινώθηκαν έξι νέες ηλεκτρονικές υπηρεσίες,  μεταξύ αυτών και η λήψη αντιγράφου τηλεφωνικής κλήσης στην Άμεση Δράση[5], γεγονός που αναδεικνύει τη σημασία της καταγραφής αυτών για χρήση σε δικαστικές ή άλλες διαδικασίες. Είναι χαρακτηριστικό ότι η υπηρεσία παρέχεται για κλήσεις που έχουν διενεργηθεί μέχρι και το 2010, γεγονός που  σημαίνει ότι πιθανά υφίσταται ψηφιακό αρχείο σε βάθος δεκατριών ετών.

Ενώ λοιπόν υφίστανται διατάξεις που ορίζουν τον τρόπο και την αρχειοθέτηση καταγραφών περιστατικών, η καταγραφή των επικοινωνιών των χρηστών ασυρμάτων με τα κέντρα επιχειρήσεων δεν έχει τύχει αναλυτικής νομοθετικής ρύθμισης. Τα ζητήματα γύρω από τα κέντρα επιχειρήσεων και τις επικοινωνίες τους με τα πληρώματα που επιχειρούν «στο πεδίο» ρυθμίζονται με Διαταγές διαφόρων υπηρεσιών της Αστυνομίας, γραπτές και προφορικές.

Παράλληλα, είναι κοινή παραδοχή ότι η Ελληνική Αστυνομία αντιμετωπίζει συστημικό πρόβλημα περιστατικών αστυνομικής αυθαιρεσίας και διαφθοράς τα οποία μένουν στην συντριπτική τους πλειοψηφία ατιμώρητα. Ενδεικτικά, η έκθεση του Εθνικού Μηχανισμού Διερεύνησης Περιστατικών Αυθαιρεσίας (Ε.ΜΗ.ΔΙ.Π.Α.) για το 2022 κατέγραψε 182 καταγγελίες διαφόρων ειδών (προσβολή σωματικής ακεραιότητας/υγείας, βασανιστήρια, αδικήματα με ρατσιστικό κίνητρο κ.α.). Όπως χαρακτηριστικά αναφέρεται στην ίδια έκθεση, «οι πειθαρχικές πορισματικές εκθέσεις της ΕΛ.ΑΣ., στις οποίες η πρόταση αρχειοθέτησης προβάλλεται ως μόνιμη, σχεδόν, επωδός για τη συντριπτική πλειοψηφία των διεξαχθέντων πειθαρχικών ελέγχων». «Σε μόλις 16 εκ του συνόλου των 113 υποθέσεων που επεξεργάστηκε ο Μηχανισμός κατά το 2022, αναγνωρίστηκε πειθαρχική ευθύνη». Πώς συνδέεται όμως το ζήτημα των επικοινωνιών με τα παραπάνω;

Οι επικοινωνίες συνδέονται άρρηκτα με πρακτικές αμφισβητούμενης νομιμότητας ή και καταφανώς παράνομες, αφού η αποφυγή της καταγραφής αποτελεί την πρώτη μέριμνα αυτού που θα θελήσει να παρανομήσει. Πολλές φορές, οι επιτελείς των αστυνομικών επιχειρήσεων επιλέγουν να δίνουν εντολές που δεν έχουν καταγραφεί, όταν αυτές αφορούν ζητήματα που ενδέχεται να προκαλέσουν προβλήματα σε αυτούς που τις έδωσαν και αυτούς που τις ακολούθησαν. Χαρακτηριστικά, το 2011, μετά από καταγγελία συνδικαλιστικής παράταξης αστυνομικών, αναδείχθηκε το ζήτημα της «Συχνότητας 83» [6]( η τελευταία χρησιμοποιούνταν από το Κέντρο Επιχειρήσεων αποκλειστικά στη διάρκεια διαδηλώσεων για την επικοινωνία με διμοιρίες των ΜΑΤ). Σύμφωνα με την καταγγελία, η συχνότητα ενεργοποιούνταν, ενώ βρίσκονταν σε εξέλιξη επεισόδια, χωρίς όμως να καταγράφονται οι οδηγίες προς τους επικεφαλής των διμοιριών, ώστε να καθίστανται οι εντολές ανέλεγκτες μεταγενέστερα.

Το 2017, δημοσιογραφική έρευνα ανέδειξε την πρακτική της εντολής «Ενεργήστε 113»[7]. Πρόκειται για  αστυνομική εντολή που ακούγεται από το κέντρο διαβιβάσεων της αστυνομίας και σημαίνει «πάρτε τηλέφωνο» . Αφορούσε εντολές που δέχονταν επικεφαλής αξιωματικοί, πληρώματα περιπολικών και αναβάτες αστυνομικών μοτοσυκλετών προκειμένου να εκτελέσουν διαταγές που έρχονται σε αντίθεση με την  υπηρεσία τους ή θα προκαλούσαν πιθανά πειθαρχικό έλεγχο. Οι διαταγές που δίνονται μέσω των κινητών τηλεφώνων δεν καταχωρούνταν στο αρχείο του Κέντρου επιχειρήσεων και έτσι δεν μπορούσαν να τύχουν ελέγχου.

Εξάλλου, το φως της δημοσιότητας έχουν δει τουλάχιστον δύο περιπτώσεις όπου αντί των καταγραφόμενων συσκευών ασυρμάτου χρησιμοποιήθηκαν εφαρμογές κοινωνικής δικτύωσης από τα ιδιωτικά τηλέφωνα των αστυνομικών υπαλλήλων. Συγκεκριμένα, τις ημέρες που ακολούθησαν το περιστατικό του θανάσιμου τραυματισμού του 18χρονου Ρομά Νίκου Σαμπάνη αναδείχθηκε η γενικευμένη χρήση της εφαρμογής viber από αστυνομικούς κατά τη διάρκεια επιχειρήσεων. Σύμφωνα με δημοσιεύματα, αξιωματικοί έδιναν εντολές σε αστυνομικούς της Άμεσης Δράσης και της ομάδας ΔΙΑΣ  με μαζική αποστολή μηνυμάτων-διαταγών[8]. Στα πλαίσια της διερεύνησης του θανάτου του 18χρονου από καταιγισμό αστυνομικών πυρών, αποκαλύφθηκε ότι συχνά διαταγές με ευαίσθητο περιεχόμενο ή αμφιβόλου νομιμότητας δίνονταν με αυτόν τον τρόπο. Χαρακτηριστικά παραδείγματα τέτοιων εντολών ήταν :

  • «Καλημέρα. Λόγω της επετείου από τον θάνατο του Ζακ Κωστόπουλου, δεν θα έλθετε καμία ομάδα σε αντιπαράθεση για το θέμα αυτό με πολίτες προκειμένου να αποφευχθούν οι εντάσεις και δυσφήμηση της υπηρεσίας. Επιπλέον, λόγω της κατάστασης που επικρατεί με τους διανομείς (delivery), θα αποφεύγετε το επόμενο διάστημα βεβαίωση τροχονομικών παραβάσεων και κλιμάκωση επεισοδίων με τους εν λόγω οδηγούς»
  • «Τέλος με αφορμή θανατηφόρο ατύχημα με μοτοσικλετιστή που έλαβε χώρα χθες στην Αθήνα ύστερα από καταδίωξή του με αστυνομικούς δεν θα ενεργούνται καταδιώξεις αν δεν έχει ενημερωθεί πρώτα το κέντρο Άμεσης Δράσης»

Λίγους μήνες αργότερα, δημοσιεύματα στον Τύπο αναφέρθηκαν σε περιστατικό σύλληψης ατόμου- συγγενή πολιτικού προσώπου για κατοχή ναρκωτικών. Σύμφωνα με τα δημοσιεύματα αυτά, οι αστυνομικοί που διενήργησαν τον έλεγχο επικοινώνησαν μέσω της εφαρμογής viber με ανώτατο αξιωματικό, ενώ παράλληλα απέστειλαν φωτογραφίες σχετικές με τον έλεγχο. Οι φωτογραφίες και οι συνομιλίες των αστυνομικών διέρρευσαν στον Τύπο.

Παράλληλα, η Ελληνική Αστυνομία αντιμετωπίζει χρόνιο πρόβλημα αναφορικά με την προμήθεια, λειτουργία και συντήρηση συστημάτων κρυπτογραφημένης ασύρματης επικοινωνίας. Οι υπηρεσίες εναλλάσσουν τη χρήση ενός ήδη παρωχημένου συστήματος ασυρμάτων (Τetra) με τη χρήση αναλογικών, μη κρυπτογραφημένων, οι οποίοι είναι ιδιαίτερα ευάλωτοι σε συνακρόαση[9]. Μια ομάδα Ολλανδών ερευνητών ανακάλυψε τα τρωτά σημεία του TETRA στα τέλη του 2021[10], παρόλα αυτά το Ελληνικό Δημόσιο σύναψε νέα σύμβαση για το ίδιο σύστημα το 2022.  Το ελλαττωματικό σήμα και οι ευαλωτότητες των Tetra και των απλών αναλογικών ασυρμάτων αποτελούν άλλον ένα λόγο που οδήγησε τις υπηρεσίες στη χρήση κινητών τηλεφώνων κατά τη διάρκεια επιχειρήσεων.

Είναι προφανές ότι η γενικευμένη χρήση κινητών τηλεφώνων κατά τη διάρκεια της υπηρεσίας γεννά μια γκρίζα ζώνη που προσφέρεται για αυθαιρεσίας. Μέσω των κινητών τηλεφώνων διεξάγονται επικοινωνίες μεταξύ αστυνομικών που δεν υπόκεινται σε κανέναν μεταγενέστερο έλεγχο, πειθαρχικό ή ποινικό. Η επικοινωνία με εφαρμογές ιδιωτικής συνομιλίας επιτρέπει την «ιδιωτικοποίηση» των πληροφοριών που προκύπτουν κατά τη διάρκεια της υπηρεσίας και την εκμετάλλευσή τους προς ίδιον όφελος για εκβιασμούς, διαρροές στον Τύπο και άλλα αδικήματα. Παράλληλα, καθιστά τις πληροφορίες αυτές, που συνήθως περιέχουν προσωπικά δεδομένα πολιτών, εξαιρετικά ευάλωτες σε διαρροή και παραβίαση, υπονομεύοντας την ασφάλεια των δεδομένων.  Με την αποφυγή της καταγραφής παρατηρείται συγκάλυψη εγκλημάτων, παράνομη επεξεργασία δεδομένων-τήρηση αρχείου σε ιδιωτικά τηλέφωνα υλικού που στη συνέχεια μπορεί να χρησιμοποιηθεί παράνομα. Ιδιαίτερα ευαίσθητα προσωπικά δεδομένα και διαβαθμισμένες πληροφορίες καθίστανται ευάλωτες σε hacking υπονομεύοντας την ασφάλεια δεδομένων που παρέχουν κρυπτογραφημένες ασύρματες επικοινωνίες.

Το πρόβλημα της χρήσης κινητών από αστυνομικούς καθίσταται εντονότερο αν λάβουμε υπόψιν το Project Smart Policing που υλοποιείται από το 2019. Πρόκειται για σύμβαση μεταξύ της εταιρείας Intracom και της ΕΛ.ΑΣ. που  προβλέπει την προμήθεια τουλάχιστον χιλίων (1.000) έξυπνων κινητών (smartphones) με τα οποία θα πραγματοποιείται επεξεργασία βιομετρικών δεδομένων (αποτυπώματα και φωτογραφίες). Πώς άραγε θα μπορεί να γνωρίζει ο ελεγχόμενος πολίτης ότι η συσκευή που διενεργείται ο έλεγχος δεν είναι ιδιωτική; Πώς εξασφαλίζεται η τήρηση της νομοθεσίας των προσωπικών δεδομένων και η εξασφάλιση ότι τα δεδομένα αυτά δεν θα χρησιμοποιηθούν για σκοπούς πολύ διαφορετικούς από αυτούς της νόμιμης επεξεργασίας για την διασφάλισης της τάξης και της ασφάλειας ; Για το συγκεκριμένο ζήτημα η Homo Digitalis έχει ήδη παρέμβει με επιστολή στον Υπουργό Προστασίας του Πολίτη του 2019 και με αίτηση στην Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα με την οποία ζήτησε γνωμοδότηση επί της σύμβασης[11].

Όπως γίνεται κατανοητό, η καταγραφή των επικοινωνιών των αστυνομικών επιχειρήσεων και η τήρηση αρχείου αναδεικνύεται σε κρίσιμο ζήτημα δημοκρατίας.

Ήδη με το υπάρχον πλαίσιο οι πρακτικές που αναφέρθηκαν στο παρόν άρθρο ρυθμίζονται στην ελληνική νομοθεσία επισείοντας κυρώσεις. Εάν αστυνομικός προβεί σε δημοσιεύσεις παραβιάζοντας την υπηρεσιακή εχεμύθεια, τα απόρρητα, ή άλλους νόμους του κράτους (π.χ.προσωπικά δεδομένα), υπέχει πειθαρχική, αστική και ποινική ευθύνη, ανάλογα με τη βαρύτητα της κάθε περίπτωσης.  Παρόλα αυτά, λείπει ένα πλαίσιο ρύθμισης των αστυνομικών επικοινωνιών που θα επιβάλλει συγκεκριμένες υποχρεώσεις στη χρήση των μέσων επικοινωνίας, στις καταγραφές των επικοινωνιών και στην  πρόσβαση των διοικουμένων-θιγομένων-θυμάτων.

Είναι επίσης κρίσιμο να οριστούν διατάξεις που θα προβλέπουν αποτελεσματικές διοικητικές και ποινικές κυρώσεις αυτοτελώς για τη χρήση ιδιωτικών μέσων συνομιλίας και την παράνομη επεξεργασία δεδομένων από αστυνομικούς που τα έχουν αποκτήσει στα πλαίσια της υπηρεσίας τους. Η αρχή της σκοπιμότητας δεν έχει θέση στην άσκηση της αστυνομικής εξουσίας όσον αφορά τις επικοινωνίες και τα δεδομένα τους. Αντίθετα, η τήρηση της αρχής της νομιμότητας στις διαδικασίες αυτές συνιστά κρίσιμο διακύβευμα Δημοκρατίας.

[1] Bλ. Mike Davis , City of Quartz, Verso, 1990 σελ. 225

[2] Bλ. Crank John, Understanding police culture, Anderson publishing company Cincinnati Ohio, 1998

[3] Bλ. Kevin Αmendola, Αssessing law enforcement ethics, Police foundation, Washington DC

[4] «1. Στους Αστυφύλακες, Υπαρχιφύλακες και Αρχιφύλακες των Υπηρεσιών που ασκούν άμεση αστυνόμευση χορηγείται από την Υπηρεσία Αστυνομικό σημειωματάριο, στο οποίο καταχωρίζουν σημειώσεις για εγκλήματα, δυστυχήματα, πυρκαγιές, δημόσιες συναθροίσεις, βλάβες οδών ή διαφόρων εγκαταστάσεων, παραβάσεις διαφόρων νόμων ή αστυνομικών διατάξεων, παράπονα πολιτών, πληροφορίες και οποιοδήποτε άλλο γεγονός ή περιστατικό αστυνομικής φύσης”. Με βάση τα σημειωματάρια αυτά γίνεται η σχετική εγγραφή στο βιβλίο αδικημάτων και συμβάντων και συντάσσονται οι σχετικές μηνύσεις όταν απαιτείται. Το Αστυνομικό σημειωματάριο αποτελεί επίσημο στοιχείο και όταν εξαντλείται παραδίδεται στην Υπηρεσία. Μετά πάροδο πενταετίας από την εξάντλησή του καταστρέφεται, εφόσον ο κάτοχός του δεν πρόκειται να εξετασθεί σε δικαστήρια για υποθέσεις, που έχουν καταχωρηθεί σ` αυτό.»

[5] https://www.gov.gr/ipiresies/polites-kai-kathemerinoteta/bebaioseis-kai-antigrapha/antigrapho-telephonikes-kleses-sten-amese-drase

[6] Βλ. https://www.tovima.gr/2011/12/09/society/aorates-entoles-apo-ti-gada-sta-mat-stis-diadilwseis/

[7] Βλ. https://eleftherostypos.gr/ellada/111356-apokleistiko-kryfes-entoles-meso-kiniton-se-astynomikoys-gia-epembaseis-se-vip-ekdiloseis

[8] https://www.alfavita.gr/koinonia/361563_meso-viber-oi-entoles-tis-elas-sti-dias

[9] Βλ. https://eleftherostypos.gr/ellada/388769-omologoyn-oti-oi-asyrmatoi-tis-el-as-einai-boyboi

[10] Bλ. https://insidestory.gr/article/eyalotoi-se-epitheseis-oi-asyrmatoi-tis-ellinikis-astynomias

[11] Βλ. επιστολή σε Υπουργό https://homodigitalis.gr/posts/5125/ και αίτηση σε ΑΠΔΠΧ https://homodigitalis.gr/posts/5260/

*Ο Σπύρος Τζουανόπουλος είναι δικηγόρος και ανεξάρτητος ερευνητής. Το ερευνητικό του ενδιαφέρον εστιάζεται σε ζητήματα ποινικής καταστολής και τεχνολογιών επιτήρησης-διαχείρισης της ζωής στην πόλη.


Λογισμικά κατασκοπείας: μία νέα απειλή για το απόρρητο της επικοινωνίας

Γράφει η Σοφία-Δέσποινα Φεϊζίδου

Η εξέγερση του Πολυτεχνείου, τον Νοέμβριο του 1973, αποτέλεσε την μαζικότερη αντιδικτατορική εκδήλωση και τον προάγγελο της πτώσης του καθεστώτος της στρατιωτικής δικτατορίας, που είχε επιβληθεί στην Ελλάδα από τις 21 Απριλίου 1963 και, μεταξύ άλλων, είχε καταργήσει τις ατομικές ελευθερίες.

Μία από τις σημαντικότερες ατομικές ελευθερίες είναι το δικαίωμα στην προστασία της επικοινωνίας, και δη του απορρήτου αυτής. Το δικαίωμα του ατόμου να μοιράζεται και να ανταλλάσσει σκέψεις, ιδέες, συναισθήματα, ειδήσεις και γνώμες, εντός πλαισίου οικειότητας και εμπιστευτικότητας, με πρόσωπα της επιλογής του, χωρίς τον φόβο ότι η ιδιωτική επικοινωνία του παρακολουθείται και κάθε έκφρασή του μπορεί να αποκαλυφθεί σε τρίτους ή/και να χρησιμοποιηθεί εναντίον του, είναι όρος εκ των ων ουκ άνευ του δημοκρατικού πολιτεύματος. Πρόκειται, επομένως, για θεμελιώδες ατομικό δικαίωμα, το οποίο κατοχυρώνεται τόσο στην διεθνή και ευρωπαϊκή νομοθεσία όσο και στα εθνικά Συντάγματα – η διάταξη του άρθρου 19 του Ελληνικού Συντάγματος χρονολογείται από το 1975 (τυχαίο; Δεν νομίζω!).

Ωστόσο, η αποκάλυψη των παρακολουθήσεων πολιτικών προσώπων ή συγγενών τους, ηθοποιών, δημοσιογράφων, επιχειρηματιών και άλλων, ένα χρόνο νωρίτερα, καταδεικνύει ότι η προστασία του απορρήτου της επικοινωνίας ήταν, είναι και παραμένει ευάλωτη, πολλώ δε μάλλον, στη σύγχρονη ψηφιακή εποχή.

Λογισμικά κατασκοπείας: ένα νέο εργαλείο στα χέρια των κρατικών υπηρεσιών και των εταιρειών

Το λογισμικό κατασκοπείας, ευρύτερα γνωστό ως «spyware», είναι ένα είδος κακόβουλου λογισμικού, κατάλληλα σχεδιασμένου για την κρυφή παρακολούθηση των δραστηριοτήτων ενός ατόμου στις ηλεκτρονικές του συσκευές, τον ηλεκτρονικό υπολογιστή ή το κινητό τηλέφωνο, εν αγνοία ή χωρίς τη συγκατάθεση του χρήστη. Το συγκεκριμένο λογισμικό εγκαθίσταται στις συσκευές με το άνοιγμα ενός μηνύματος ηλεκτρονικού ταχυδρομείου ή συνημμένου αρχείου, και, μετά την εγκατάστασή του, εντοπίζεται με δυσκολία, και, αν ακόμη εντοπιστεί, πολύ δύσκολα αποδεικνύεται ποιος ήταν υπεύθυνος για την επίθεση. Μέσω αυτού, παρέχεται πλήρης και αναδρομική πρόσβαση σε δεδομένα και συλλέγονται προσωπικά στοιχεία λ.χ. αρχεία και μηνύματα που δημιουργήθηκαν στο παρελθόν, μεταδεδομένα χρονικά προγενέστερων επικοινωνιών, κωδικοί πρόσβασης, ιστορικό περιήγησης ή αριθμοί πιστωτικών καρτών, ενώ είναι δυνατή η καταγραφή στιγμιοτύπου οθόνης ή συνομιλιών και η παρακολούθηση ήχου και βίντεο μέσω της ενεργοποίησης του μικροφώνου ή της κάμερας της συσκευής.

Τα πιο γνωστά λογισμικά κατασκοπείας, τα οποία έχουν σχεδιαστεί για να διεισδύουν και να ελέγχουν κινητές συσκευές εξ αποστάσεως, είναι τα ακόλουθα:

1.Predator: Για την εγκατάσταση του συγκεκριμένου λογισμικού αποστέλλεται μέσω μηνύματος στο κινητό τηλέφωνο του χρήστη ένας σύνδεσμος (link), ο οποίος φαίνεται απόλυτα φυσιολογικός, μαζί με μια δελεαστική περιγραφή, ικανή να παραπλανήσει τον χρήστη και να τον πείσει να πατήσει το link. Τότε, το λογισμικό εγκαθίσταται αυτόματα, παρέχοντας πλήρη πρόσβαση στη συσκευή, σε μηνύματα και αρχεία αλλά και στην κάμερα και το μικρόφωνο.

2.Pegasus: Το συγκεκριμένο λογισμικό αποσκοπεί να πείσει το χρήστη να επιλέξει τον σύνδεσμο που θα εγκαταστήσει το λογισμικό στη συσκευή, αλλά μπορεί να εγκαθίσταται στη συσκευή του υποψήφιου θύματος και χωρίς να απαιτείται καμία ενέργεια εκ μέρους του για την ενεργοποίησή του (μία αναπάντητη κλήση στο WhatsApp αρκεί για να κάνει το λογισμικό ό,τι καλύτερο μπορεί!).Αμέσως μετά την εγκατάστασή του, το λογισμικό εκτελεί τις εντολές του χειριστή του και παρέχει τη δυνατότητα συλλογής τεράστιου όγκου προσωπικών δεδομένων, όπως κωδικούς πρόσβασης, καταγραφή μηνυμάτων κειμένου ή κλήσεων, συλλογή αρχείων και εντοπισμό της θέσης μέσω GPS, χωρίς να καταλείπεται κανένα ίχνος της ύπαρξής του στη συσκευή.

Τον Ιούνιο του 2023, ο Πρόεδρος της Εξεταστικής Επιτροπής του Ευρωπαϊκού Κοινοβουλίου για τη διερεύνηση της χρήσης του λογισμικού Pegasus και αντίστοιχου κατασκοπευτικού λογισμικού παρακολούθησης δήλωσε: «Τα λογισμικά κατασκοπείας μπορεί να αποτελέσουν πολύτιμο εργαλείο για την καταπολέμηση του εγκλήματος, αλλά όταν τα χρησιμοποιούν λανθασμένα οι κυβερνήσεις γίνονται τεράστιος κίνδυνος για το κράτος δικαίου και τα θεμελιώδη δικαιώματα». Πράγματι, οι τεχνολογικές δυνατότητες των κατασκοπευτικών λογισμικών επιτρέπουν την μη εξουσιοδοτημένη πρόσβαση σε προσωπικά δεδομένα και παρακολούθηση των δραστηριοτήτων των ατόμων χωρίς τη γνώση και τη συγκατάθεσή τους. Κατά συνέπεια, η εκτεταμένη και ανεξέλεγκτη χρήση τους οδηγεί στην παραβίαση του δικαιώματος στο απόρρητο της επικοινωνίας καθώς και του δικαιώματος στην προστασία των προσωπικών δεδομένων, στην προσβολή του δικαιώματος της προστασίας της ιδιωτικής ζωής εν γένει.

Σύμφωνα με τα πορίσματα της επιτροπής, η κατάχρηση λογισμικών παρακολούθησης είναι γενικευμένη στην Ευρωπαϊκή Ένωση, καθώς, εκτός από την Ελλάδα, διαπιστώθηκε χρήση αντίστοιχων λογισμικών και στην Πολωνία, την Ουγγαρία, την Ισπανία και την Κύπρο, και φυσικά κατακριτέα. Η ανάγκη θέσπισης ενός ρυθμιστικού πλαισίου για την αντιμετώπιση των φαινομένων κατάχρησης βρίσκεται πλέον στο προσκήνιο, όχι μόνο σε εθνικό, αλλά πρωτίστως, σε ενωσιακό επίπεδο.

Τι χρειαζόμαστε λοιπόν;

  1. Σαφείς κανόνες κατά της κατάχρησης λογισμικών κατασκοπείας: Οι ευρωπαϊκοί κανόνες πρέπει να καθορίζουν με σαφήνεια τον τρόπο χρήσης των λογισμικών από τις αρχές επιβολής του νόμου. Πρέπει να προβλέπονται εξαιρετικές περιπτώσεις, κατά τις οποίες και μόνον θα επιτρέπεται η χρήση τους, για προκαθορισμένο σκοπό και για περιορισμένο χρονικό διάστημα, και ένας κοινός νομικός ορισμός της έννοιας των «λόγων εθνικής ασφάλειας». Επίσης, πρέπει να κατοχυρώνεται η υποχρέωση ειδοποίησης των προσώπων που παρακολουθήθηκαν με τη χρήση τέτοιων λογισμικών ή των υποκειμένων των δεδομένων που διέρρευσαν στο πλαίσιο της παρακολούθησης άλλων προσώπων, καθώς και διαδικασίες εποπτείας και ανεξάρτητου ελέγχου μετά από κάθε περιστατικό παράνομης χρήσης τέτοιων λογισμικών.
  2. Συμμόρφωση της εθνικής νομοθεσίας με τη νομολογία του Ευρωπαϊκού Δικαστηρίου των Δικαιωμάτων του Ανθρώπου: Το Δικαστήριο καταλείπει μεν ευρεία διακριτική ευχέρεια στις εθνικές αρχές σε ζητήματα στάθμισης του δικαιώματος στην ιδιωτική ζωή με τους λόγους εθνικής ασφάλειας, πλην όμως έχει αναπτύξει και ερμηνεύσει σε πληθώρα αποφάσεων, από το 1978 έως και σήμερα, τα κριτήρια που εισάγει η ΕΣΔΑ και τα οποία πρέπει να πληρούνται για να θεωρηθεί νόμιμος ο περιορισμός του δικαιώματος της απόρρητης, ελεύθερης επικοινωνίας.
  3. Σύσταση του «Εργαστηρίου Τεχνολογίας της Ευρωπαϊκής Ένωσης»: Πρόκειται για ένα ανεξάρτητο ινστιτούτο έρευνας, το οποίο θα είναι αρμόδιο να διερευνά υποθέσεις παρακολούθησης και να παρέχει τεχνολογική υποστήριξη, όπως έλεγχο συσκευών και εγκληματολογικές μελέτες.
  4. Αναθεώρηση της εξωτερικής πολιτικής και των αδειών εξαγωγής: Οι ευρωβουλευτές ζήτησαν την διεξοδική επανεξέταση των αδειών εξαγωγής λογισμικών κατασκοπείας και την αποτελεσματικότερη εφαρμογή των ενωσιακών κανόνων για τον έλεγχο των εξαγωγών τους. Η Ευρωπαϊκή Ένωση οφείλει, ακόμη, να χαράξει κοινή στρατηγική με τις ΗΠΑ για τα λογισμικά κατασκοπείας αλλά και να έρθει σε επαφή με χώρες εκτός ΕΕ σχετικά με τους κανόνες πώλησης και εξαγωγής κατασκοπευτικών λογισμικών, προκειμένου να διασφαλιστεί ότι η αναπτυξιακή βοήθεια που παρέχει δεν θα χρησιμοποιείται για την αγορά και τη χρήση τέτοιων λογισμικών.

Συμπέρασμα

Εν κατακλείδι, καθώς αναλογιζόμαστε τα διδάγματα της ιστορίας και τον διαρκή αγώνα για τη δημοκρατία και τα θεμελιώδη δικαιώματα, η διαχρονική σοφία του Βενιαμίν Φραγκλίνου αντηχεί με βαθιά σημασία: “ Όσοι θυσιάζουν στοιχειώδεις ελευθερίες για λίγη ασφάλεια, δεν αξίζουν ούτε ελευθερία ούτε ασφάλεια “. Οι πρόσφατες αποκαλύψεις για την κατάχρηση του λογισμικού κατασκοπείας κατέδειξαν τη λεπτή ισορροπία μεταξύ ασφάλειας και ατομικών ελευθεριών. Παρόλο που το λογισμικό κατασκοπείας μπορεί να χρησιμοποιείται ως εργαλείο για την καταπολέμηση του εγκλήματος, η πιθανότητα κατάχρησής του αποτελεί σοβαρή απειλή για το κράτος δικαίου και τις ίδιες τις αρχές πάνω στις οποίες θεμελιώνονται οι δημοκρατικές μας κοινωνίες.

 

*H Σοφία-Δέσποινα Φεϊζίδου, είναι δικηγόρος, απόφοιτος της Νομικής Σχολής Αθηνών και κάτοχος μεταπτυχιακού με ειδίκευση στο “Δίκαιο & Τεχνολογίες Πληροφορικής και Επικοινωνιών” του Τμήματος Ψηφιακών Συστημάτων του Πανεπιστημίου Πειραιώς. Η διπλωματική της είχε θέμα τη συγκριτική επισκόπηση της νομολογίας των ευρωπαϊκών δικαστηρίων (ΕΔΔΑ και ΔΕΕ) για τις μαζικές παρακολουθήσεις.


Πράξη για την Τεχνητή Νοημοσύνη: μια θετική νομοθετική εξέλιξη για την προστασία των πολιτών;

Γράφει η Δανάη Σκεύη*

Καθημερινά ερχόμαστε, εκούσια ή ακουσία, σε επαφή με συστήματα τεχνητής νοημοσύνης (ΤΝ) για ποικίλους σκοπούς∙ από την καθαριότητα του σπιτιού με αυτόνομο ρομποτικό βοηθό, την εξυπηρέτηση πελατών με ψηφιακά bots, την αυτοματοποιημένη αξιολόγηση βιογραφικών, μέχρι τη λήψη ασφάλειας ζωής βάσει συστήματος κατάταξης ασφαλειοληπτών. Στις σταδιακά αυξανόμενες περιπτώσεις πρόκλησης σωματικής βλάβης, βλάβης της υγείας, οικονομικής ζημίας, δυσμενούς μεταχείρισης ή άλλης προσβολής της προσωπικότητας, το ερώτημα που προβάλλει επιτακτικό έχει να κάνει με την επαρκή (ή μη) προστασία των πολιτών κατά την επαφή τους με συστήματα ΤΝ.

Μπορούν να εμπιστεύονται οι πολίτες τα συστήματα ΤΝ; Το θέμα είναι πραγματικά εκτενές και δεν μπορεί να δοθεί μια μονοδιάστατη απάντηση. Ενόψει των κανόνων που αναμένονται να τεθούν σε ισχύ σε λίγο καιρό στην Ευρωπαϊκή Ένωση, στο άρθρο σκιαγραφείται μια πρώτη απάντηση μέσα από τις ρυθμίσεις της Πράξης για την Τεχνητή Νοημοσύνη (εν συντομία Πράξη ΤΝ), αφού πρώτα δοθούν μερικές διευκρινίσεις για τη νέα νομοθεσία.

(i) Τι είναι η Πράξη ΤΝ;

Η Πράξη ΤΝ είναι το νομοθετικό πλαίσιο που πρότεινε η Ευρωπαϊκή Επιτροπή για να αντιμετωπίσει «ολιστικά» τα συστήματα τεχνητής νοημοσύνης ώστε να θεωρούνται ασφαλή και αξιόπιστα. Η Πράξη ΤΝ αποτελεί το επιστέγασμα μιας μακριάς νομοθετικής προσπάθειας, κατά την οποία έλαβαν χώρα πολλές διαβουλεύσεις, πολιτικές πιέσεις και αλληλουποχωρήσεις προκειμένου να επιτευχθεί ο πολιτικός στόχος της δημιουργίας ενός οικοσυστήματος εμπιστοσύνης των πολιτών στην τεχνητή νοημοσύνη (ecosystem of trust) και ενός οικοσυστήματος επιχειρηματικής αριστείας στην τεχνητή νοημοσύνη (ecosystem of excellence). Στις 8 Δεκεμβρίου 2023, μετά από έναν τριήμερο μαραθώνιο διαβουλεύσεων, επιτεύχθηκε η πολιτική συμφωνία για το περιεχόμενο της Πράξης ΤΝ. Τα αρμόδια όργανα, δηλαδή το Συμβούλιο της Ε.Ε. και το Ευρωκοινοβούλιο, πέτυχαν συμφωνία πάνω σε εριζόμενα άρθρα και πλέον έχει ανοίξει ο δρόμος για τη νομοτεχνική επεξεργασία του νόμου και την τελική ψήφιση. Μόλις η Πράξη ψηφισθεί, θα χρειαστούν ακόμα δύο χρόνια για να αποτελέσει δεσμευτικό δίκαιο.

(ii) Σε ποιους απευθύνεται η Πράξη ΤΝ;

Η Πράξη ΤΝ επιβάλλει κανόνες για την ανάπτυξη, κυκλοφορία και χρήση συστημάτων ΤΝ στην Ευρωπαϊκή αγορά. Οι κανόνες απευθύνονται σε όλα τα πρόσωπα που συμμετέχουν στην αλυσίδα αξίας (AI value chain), δηλαδή στα πρόσωπα που είναι υπεύθυνα για την ανάπτυξη, εμπορία, εισαγωγή, διανομή και χρήση συστημάτων ΤΝ, αποκαλούμενα εν συνόλω «φορείς εκμετάλλευσης». Ακριβώς επειδή ο στόχος είναι η Πράξη να ρυθμίσει την ανάπτυξη και εποπτεία των συστημάτων, οι κανόνες επιβάλλονται στους φορείς εκμετάλλευσης επειδή αυτοί έχουν τον έλεγχο των συστημάτων καθόλη τη διάρκεια του κύκλου ζωής τους (AI lifecycle).

(iii) Ποια η προστασία των πολιτών βάσει της Πράξης ΤΝ;

Το ότι οι κανόνες της Πράξης ΤΝ στοχεύουν να ρυθμίσουν τις υποχρεώσεις των φορέων εκμετάλλευσης δεν σημαίνει ότι το νέο νομοθετικό πλαίσιο είναι μικρής σημασίας για πολίτες. Παραμένει εξαιρετικά σημαντικό να υπάρξει εξοικείωση με τις καινούργιες ρυθμίσεις. Τούτο διότι οι πολίτες είναι, εν τέλει,  οι τελικοί αποδέκτες που θα κάνουν χρήση όλων αυτών των καινούργιων εφαρμογών. Αν κάποιος φορέας εκμετάλλευσης δεν συμμορφώνεται πλήρως με τις υποχρεώσεις ασφάλειας ή δεν εποπτεύει επαρκώς το σύστημα που αναπτύσσει, οι τελικά ζημιωθέντες – ηθικά και υλικά –  θα είναι όσοι πολίτες έλθουν σε επαφή με το εν λόγω σύστημα. Κατά δεύτερον, με το να γνωρίζουν οι πολίτες τις υποχρεώσεις των φορέων εκμετάλλευσης θα είναι προετοιμασμένοι για τα χαρακτηριστικά που αναμένουν να δουν κατά την αγορά ή με άλλο τρόπο επαφή με συστήματα ΤΝ. Θα γνωρίζουν και άρα θα μπορούν να ασκήσουν αποτελεσματικά τα δικαιώματα τους, τα οποία θα βασίζουν είτε στην Πράξη ΤΝ (ανάλογα με το τελικό της περιεχόμενο), είτε σε συναφείς προστατευτικούς νόμους όπως τον Γενικό Κανονισμό Προστασίας Προσωπικών Δεδομένων (ΓΚΠΔ) και τους νόμους που παρέχουν αποζημίωση για την πρόκληση ζημίας (άρθρο 6 Ν. 2251/1994, ΑΚ 914 επ.).

Τούτων λεχθέντων, ποιες είναι οι σημαντικότερες ρυθμίσεις της Πράξης ΤΝ;

  1. Απαγορεύσεις: Η Πράξη ΤΝ απαγορεύει εντελώς ορισμένες πρακτικές οι οποίες αντίκεινται στις κοινές Ευρωπαϊκές αξίες. Έτσι, απαγορεύονται συστήματα που απευθύνονται στο υποσυνείδητο των ανθρώπων και συστήματα που εκμεταλλεύονται τρωτά σημεία ευάλωτων ομάδων, όπως των παιδιών και των ηλικιωμένων. Ακόμη, απαγορεύονται  πρακτικές που προβαίνουν σε κοινωνική ταξινόμηση των πολιτών (socialscoring) και πρακτικές βιομετρικής ταυτοποίησης προσώπων (biometrical identification). Ωστόσο, οι τελευταίες απαγορεύσεις δεν θα είναι απόλυτες, αφού προβλέπονται εξαιρέσεις όπως, για παράδειγμα, η βιομετρική ταυτοποίηση σε δημόσιους χώρους για τη διακρίβωση βαρύτατων αδικημάτων (π.χ. τρομοκρατία).
  2. Υποχρεώσεις για συστήματα υψηλού κινδύνου: Η Πράξη ΤΝ επιβάλλει ένα πλέγμα εκτενών υποχρεώσεων στους φορείς εκμετάλλευσης που αναπτύσσουν αρκετά επικίνδυνα συστήματα (high-riskAIsystems). Περιληπτικά, επιβάλλονται υποχρεώσεις διενέργειας εκτίμησης επιπτώσεων στα θεμελιώδη δικαιώματα, διαχείρισης κινδύνου, διακυβέρνησης δεδομένων, τήρησης διαφάνειας, πληροφόρησης χρηστών, ανθρώπινης εποπτείας, τεχνικής ασφάλειας καθώς και άλλες υποχρεώσεις που εξειδικεύονται σε επιμέρους άρθρα της Πράξης.
  3. Υποχρεώσεις για συστήματα γενικού σκοπού και για μοντέλα θεμελίωσης: Νομοθετικό «πονοκέφαλο» έχει προκαλέσει η εμπορική κυκλοφορία συστημάτων που χρησιμοποιούνται για πολλαπλούς σκοπούς και τα οποία μπορεί να ενσωματώνονται σε άλλα συστήματα υψηλού κινδύνου [general-purposeAI (GPAI) systems], με αποτέλεσμα να εμφανίζουν διαφοροποιημένους – και όχι μονοδιάστατους – κινδύνους. Παρόμοιο προβληματισμό έχουν προκαλέσει και τα λεγόμενα μοντέλα θεμελίωσης (foundationmodels), δηλαδή μεγάλα συστήματα ικανά να εκτελούν με επάρκεια ένα ευρύ φάσμα διακριτών εργασιών, όπως το γνωστό πλέον παράδειγμα του ChatGPT. Το τελικό κείμενο της Πράξης αναμένεται να περιέχει υποχρεώσεις διαφάνειας για αυτά τα συστήματα προτού διατεθούν στην αγορά, αλλά και πιο αυστηρούς κανόνες για τα μοντέλα θεμελίωσης με υψηλό αντίκτυπο (high impact) που μπορούν να διαδίδουν συστημικούς κινδύνους κατά μήκος της αλυσίδας αξίας [1].

 

(iv) Πώς αποτιμάται η Πράξη ΤΝ σε σχέση με την προστασία των πολιτών;

Η Πράξη ΤΝ αποτελεί σίγουρα μια θετική νομοθετική εξέλιξη για την κοινή Ευρωπαϊκή αγορά. Αν μάλιστα ανατρέξουμε στις πρωτοβουλίες που έχουν λάβει χώρα παγκοσμίως για τη ρύθμιση της τεχνητής νοημοσύνης θα διαπιστώσουμε ότι η Ε.Ε. είναι η πρώτη χώρα – ή κατ’ ακριβολογία δικαιοδοσία – που θα ψηφίσει δεσμευτικούς κανόνες για την τεχνητή νοημοσύνη καθορίζοντας την «τύχη» 440 εκατομμύρια πολιτών. Η Ε.Ε. έχει, αναμφίβολα, δείξει αποφασιστικότητα σε σύγκριση με άλλες ηγέτιδες χώρες στην τεχνητή νοημοσύνη, όπως οι ΗΠΑ και η Κίνα, με το να απαγορεύσει ρητά ορισμένες αμφιλεγόμενες πρακτικές και να επιβάλλει ένα διαφοροποιημένο πλέγμα κανόνων βάσει του κινδύνου που προκαλούν τα συστήματα ΤΝ. Φαίνεται να αξιοποιεί την ήπια δύναμη (soft power) που διαθέτει στον τομέα της ρύθμισης, λειτουργώντας ως ρυθμιστική κοιτίδα για τρίτες χώρες και αγορές.

Απεναντίας, όταν η συζήτηση στρέφεται στην προστασία των πολιτών, η Πράξη ΤΝ θα πρέπει να αξιολογηθεί υπό το φως της επαρκούς (ή μη) προστασίας των δικαιωμάτων των πολιτών. Σχετικά με αυτό το ζήτημα, οι ενώσεις καταναλωτών έχουν εκφραστεί με επιφυλάξεις. Η Ursula Pachl, αναπληρώτρια γενική διευθύντρια της Ευρωπαϊκής Οργάνωσης Καταναλωτών (BEUC), τον Δεκέμβριο 2023 δήλωσε: «Ο νόμος για την τεχνητή νοημοσύνη περιέχει τόσο καλά όσο και κακά σημεία, αλλά συνολικά τα μέτρα για την προστασία των καταναλωτών δεν είναι ικανοποιητικά […] Πάρα πολλά ζητήματα έχουν αφεθεί υπορυθμιζόμενα, με υπερβολική εξάρτηση από την καλή θέληση των εταιρειών για αυτορρύθμιση. Για παράδειγμα, οι εικονικοί βοηθοί ή τα παιχνίδια που λειτουργούν με τεχνητή νοημοσύνη δεν θα ρυθμιστούν επαρκώς, καθώς δεν θεωρούνται συστήματα υψηλού κινδύνου. Επίσης, συστήματα όπως το ChatGPT ή το Bard δεν θα αποκτήσουν τις προστατευτικές δικλείδες που απαιτούνται για να τα εμπιστευτούν οι καταναλωτές. Υπάρχουν, ωστόσο, ορισμένες σημαντικές διατάξεις που θα επιτρέψουν στους καταναλωτές να αναλάβουν δράση εάν έχουν υποστεί αθέμιτη μεταχείριση ή έχουν υποστεί ζημία» [2].

Συνοψίζοντας, αν και φαίνεται ότι η Πράξη ΤΝ αποτελεί θετική εξέλιξη για την προστασία των πολιτών θα ήταν μάλλον βιαστική η οριστική απάντηση στο ερώτημα του τίτλου. Η κρίση για την επάρκεια (ή μη) του ρυθμιστικού πλαισίου θα περάσει από τριπλή βάσανο. Πρώτον, αναμένουμε την τελική μορφή της Πράξης ΤΝ για την αξιολόγηση των αλλαγών που έχουν μεσολαβήσει από τη στιγμή της αρχικής πρότασης τον Απρίλιο 2021 μέχρι την τελική ψήφιση. Δεύτερον, ελλείψεις προστασίας ενδεχομένως να μπορεί επιλυθούν από τη λοιπή προστατευτική νομοθεσία, κυρίως το δίκαιο προστασίας καταναλωτή, προστασίας προσωπικών δεδομένων και αστικής ευθύνης, τα οποία θα κληθούν να καλύψουν – στο βαθμό του εφικτού – τυχόν ελλείψεις. Τρίτον, η προστασία των πολιτών θα εξαρτηθεί και από την έκταση και την αποτελεσματική εποπτεία της αγοράς συστημάτων ΤΝ από τις Αρχές. Στο μέτρο που ο ρόλος των εποπτικών Αρχών θα είναι περιορισμένος, θα πρέπει οι πολίτες να εξοπλιστούν με επαρκή δικαιώματα για να καλυφθεί το έλλειμμα προστασίας που θα δημιουργηθεί.

 

[1]Council of Europe, Press Release 986/23, Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world, 9/12/2023; European Parliament, Press Release, 20231206IPR15699, Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI, 9/12/2023.

[2]The European Consumer Organization (BEUC),  BEUC-PR-2023-057, EU rules on AI lack punch to sufficiently protect consumers, 9/12/2023

*Η Δανάη Σκεύη είναι Υποψήφια Διδάκτορας της Νομικής Σχολής του Εθνικού Καποδιστριακού Πανεπιστημίου Αθηνών.


«State Surveillance»: Πόσο αυτό απέχει από τις μαύρες μέρες της περιόδου της Χούντας των Συνταγματαρχών.

Γράφει η Μαρία Μεν. Φουλεδάκη

Στις 17 Νοεμβρίου κάθε χρόνου, τιμούμε τους αγώνες του Πολυτεχνείου, οι οποίοι αποδεδειγμένα συνέβαλαν στην πτώση της Χούντας των Συνταγματαρχών.

Οι ενέργειες της ομάδας των Συνταγματαρχών είναι γνωστές σε όλους, ειδικότερα στις παλαιότερες γενιές. Σημαντική βοήθεια στο έργο τους παρείχε και η εμπνευσμένη από άλλα καθεστώτα παρακολούθηση των πολιτικών προσώπων και συγκεκριμένα πολιτικών οι οποίοι ήταν γνωστοί στην ομάδα των Συνταγματαρχών για την αντιδιδακτορική τους δράση και ιδεολογία. Πρόκειται ίσως για την πιο έντονη έκφανση του «state surveillance» του πρόσφατου παρελθόντος στη Χώρα μας.

Η κρατική παρακολούθηση, γνωστή και ως state surveillance, αναφέρεται κυρίως στην παρακολούθηση δραστηριοτήτων φυσικών προσώπων από το κράτος και τις κρατικές υπηρεσίες.

Στην εποχή της ραγδαίας εξέλιξης της τεχνολογίας, η ως άνω παρακολούθηση πραγματοποιείται μέσω τεχνολογικών μέσων, όπως την παρακολούθηση των τηλεφωνικών επικοινωνιών, ιδίως αυτών που πραγματοποιούνται με τα πλήρως διαδομένα στο σύνολο του πληθυσμού «smart phones», τη χρήση του διαδικτύου αλλά και τις κάμερες παρακολούθησης, που αποτελούν πλέον συνήθη πρακτική του κράτους για την προστασία των δημοσίων χώρων από παράνομες ενέργειες.

Γίνεται εύκολα αντιληπτό, ότι οι παραπάνω ενέργειες αν και φέρουν τον μανδύα της διαφύλαξης και προστασίας των δημοσίων και κρατικών συμφερόντων, εντούτοις η μη σύννομη και σίγουρα μη αναλογική χρήση τους, κυρίως από άτομα ή οργανώσεις «μη διαφανών» συμφερόντων μπορούν με σιγουριά να οδηγήσουν σε σημαντικό κίνδυνο των ατομικών ελευθεριών και τις ιδιωτικής ζωής.

Η εξέλιξη της τεχνολογίας και η σημαντική διάδοση του διαδικτύου που αυτό παρέχει δυνατότητες και ευκαιρίες στο σύνολο του πληθυσμού ανά την υφήλιο σε τομείς όπως η ενημέρωση, η εκπαίδευση, η οικονομία και η κοινωνικοποίηση, ωστόσο αν συνδυαστεί με «σκοτεινές ενέργειες» όπως το cyber Bullyning, το grooming και μη νομότυπων παρακολουθήσεων, όπως τις υποκλοπές αλλά και το phising καταδεικνύουν με τον πιο εμφατικό τρόπο τους κινδύνους για την ασφάλεια αλλά και την Ιδιωτικότητα των φυσικών προσώπων, τόσο αυτών που ασχολούνται με τον δημόσιο βίο όσο και για τον απλό πολίτη- χρήστη των νέων αυτών τεχνολογιών.

Τις μέρες αυτές, σε όλες τις εκπαιδευτικές μονάδες, σε οργανισμούς και στις πλατείες πραγματοποιούνται εκδηλώσεις για να τιμήσουν οι συμμετέχοντες τα 50 χρόνια από την εξέγερση του Πολυτεχνείου.

Τιμάται η μέρα που οι φοιτητές με την στήριξη του ελληνικού λαού, αντέδρασαν και διεκδίκησαν εκτός από την πτώση της Χούντας, τον σεβασμό στις ανθρώπινες ελευθερίες και την ιδιωτική ζωή, αξίες και έννοιες που καταπατήθηκαν βάναυσα την μαύρη εκείνη επταετία για τη χώρα μας.

Οι Συνταγματάρχες, το δικό τους «Σύνταγμα» και η δική τους «Επανάσταση» στηρίχτηκαν στον φόβο του λαού. Η λογοκρισία οποιοδήποτε μέσου, η προπαγάνδα και η παρακολουθήσεις κάθε είδους και με κάθε αποδέκτη αποτέλεσαν το ισχυρότερο όπλο στα χέρια των Συνταγματαρχών.

Από την έναρξη της επικράτησης των Συνταγματαρχών, ο ΟΤΕ εκσυγχρονίστηκε ώστε παρακολουθείται με ευκολία το σύνολο του ελληνικού λαού μέσω των τηλεφωνικών επικοινωνιών. Την θέση του διαδικτύου την περίοδο της Χούντας είχαν αναλάβει οι θυρωροί μεγάλου αριθμού των πολυκατοικιών, οι οποίοι ήλεγχαν τις κινήσεις των κατοίκων των οικημάτων αλλά και των επισκεπτών αυτών στην οικία τους, παραβιάζοντας καταφανώς την Ιδιωτικότητα των πολιτών.

Τα email εκείνης της εποχής, που δεν είναι άλλα από την αλληλογραφία τέθηκαν υπό τον πλήρη έλεγχο της Χούντας, καθώς γράμματα που απευθύνοντας κυρίως σε φοιτητές ή είχαν κατεύθυνση προς τις ανατολικές χώρες ελέγχονταν από άτομα που είχαν παρεισφρήσει στα ελληνικά ταχυδρομεία.

Οι πλατφόρμες κοινωνικής δικτύωσης της εποχής, ήταν τα καφενεία και οι συναθροίσεις με αποτέλεσμα το καθεστώς να αποστέλλει σε κάθε γωνιά της χώρας καταδότες ώστε να ενημερώνουν για τυχόν ύποπτες συζητήσεις που θα μπορούσαν να βλάψουν το καθεστώς.

Βασικά θύματα της παραφωνίας αυτής, ήταν οι πολιτικοί, εξάλλου με τις πρακτικές τους οι Συνταγματάρχες είχαν καταστήσει σαφές δεν θα υπήρχε καμία ανοχή σε οτιδήποτε αναδείκνυε πολιτική αντίθεση ή δραστηριότητα ενάντια στο καθεστώς

Τα πολιτικά πρόσωπα της χώρας που τόλμησαν να εκφράσουν τις απόψεις τους κατά του καθεστώτος ή να συμμετάσχουν με οποιοδήποτε τρόπο σε πράξεις και δράσεις αντίδρασης, βίωσαν την ύψιστη μορφή κρατικής παρακολούθησης, η οποία είχε ως αποτέλεσμα την σύλληψη και φυλάκιση τους, ακόμα και την εξορία τους. Ακόμη όμως και εκείνοι που δεν συνελήφθησαν παρέμειναν θύματα της παρακολούθησης από τις αρχές, που περιλάμβανε κατασκοπεία, παρακολούθηση επικοινωνιών και απειλές.

Το state surveillance της περιόδου εκείνης, αποτέλεσε την βία του έρποντος φασισμού της καθημερινότητας με διαρκή παραβίαση της ιδιωτικής ζωής.

Κι αν σήμερα θεωρούμε ότι κλείνουμε αισίως πενήντα έτη από την εγκαθίδρυση του δημοκρατικού πολιτεύματος, που συνταγματικά κατοχυρώνει με σθένος τις ανθρώπινες ελευθερίες και τον σεβασμό στην ιδιωτική ζωή, εντούτοις οι παρακολουθήσεις πολιτικών και ατόμων που επηρεάζουν την δημόσια σφαίρα, αμαυρώνουν την αίσθηση ελευθερίας που οφείλει να υπερασπίζεται ένα δημοκρατικό κράτος.

Η αντιμετώπιση τόσο από τους πολίτικους όσο και από τους απλούς πολίτες, οφείλει να είναι άμεση και αποτελεσματική καθώς υπάρχει μεγάλος κίνδυνος, οι ανθρώπινες ελευθερίες και ο σεβασμός στην ιδιωτική ζωή να αντιμετωπιστούν από κάποιους σαν τους νεκρούς του Πολυτεχνείου, δηλαδή να «μην υπάρχουν».

 

*Μαρία Μεν. Φουλεδάκη, Δικηγόρος Ηρακλείου, LLM Δίκαιο της Οικονομίας και των Επιχειρήσεων, Υπεύθυνη Προστασίας Δεδομένων”.


O CSAM ως Δούρειος Ίππος για μαζική παρακολούθηση;

Γράφει η Νίκη Γεωργακοπούλου*

Τον Μάιο  του 2022, η Ευρωπαϊκή Επιτροπή κατέθεσε μια Πρόταση Κανονισμού, γνωστή ως CSAR ( Child Sexual Abuse Regulation) ή CSAM (Child Sexual Abuse Material) και αφορά – όπως προδίδει και το όνομά της- την σεξουαλική κακοποίηση παιδιών.  Ειδικότερα, ο εν λόγω Κανονισμός αποσκοπεί στην πρόληψη και την καταπολέμηση της σεξουαλικής κακοποίησης των παιδιών είτε μέσω της διάδοσης υλικού σεξουαλικής εκμετάλλευσης  είτε μέσω της άγρας ανηλίκων (grooming).  Σε αυτό το σημείο, αξίζει να σημειωθεί πώς η Πρόταση αυτή αφορά τα πάσης φύσεως διαδικτυακά μέσα (πλατφόρμες, ιστότοπους, εφαρμογές, εφαρμογές ανταλλαγής μηνυμάτων,  μέσα κοινωνικής δικτύωσης). Ωστόσο, υπάρχει έντονη υπόνοια ότι η εφαρμογή του συγκεκριμένου  Κανονισμού θα δημιουργήσει περισσότερα και δυσκολότερα προβλήματα από αυτά που προσπαθεί να λύσει.

Οι συζητήσεις για την συγκεκριμένη Πρόταση Κανονισμού έχουν ξεκινήσει από τον Οκτώβριο του 2021, ωστόσο λόγω διάφορων καθυστερήσεων εν τέλει ο “φάκελος” υιοθετήθηκε και προτάθηκε στις 11 Μαϊου του 2022.

Ο προτεινόμενος αυτός Κανονισμός CSA διαφαίνεται ότι θα  αντικαταστήσει τον Kανονισμό (ΕΕ) 2021/1232 , ως «ενδιάμεση διάταξη για την προστασία της ιδιωτικής ζωής των ηλεκτρονικών επικοινωνιών». Η προαναφερθείσα διάταξη έχει ισχύ μέχρι τις 3 Αυγούστου 2024, αλλά η Ευρωπαϊκή Επιτροπή επιβεβαίωσε ότι, εάν καταστεί  απαραίτητο και προς  αποφυγή νομοθετικού κενού, μπορεί να παραταθεί. Η Ευρωπαϊκή Επιτροπή προέβη σε αυτή τη διαβεβαίωση έπειτα από πιέσεις που ασκούνται για την ψήφιση του προτεινόμενου Κανονισμού εν όψει των επικείμενων Ευρωεκλογών. Πιο συγκεκριμένα, το νέο Ευρωπαϊκό Κοινοβούλιο θα εκλεγεί τον Ιούνιο του 2024 και η νέα Ευρωπαϊκή Επιτροπή θα διοριστεί λίγο αργότερα. Εάν ο κανονισμός CSA δεν έχει πλήρως εγκριθεί πριν από τις εκλογές, η νομοθετική διαδικασία θα συνεχιστεί αυτόματα στη συνέχεια, εάν υπάρξει προηγούμενη θέση σε πρώτη ανάγνωση. Διαφορετικά, η θέση του Κοινοβουλίου θα καταστεί άκυρη και η Διάσκεψη των Προέδρων πρέπει να αποφασίσει εάν θα συνεχίσει ή όχι τις ημιτελείς εργασίες (άρθρο 240 Κανονισμού του Ευρωπαϊκού Κοινοβουλίου).Επομένως, υπάρχει χρόνος για προσεκτική μελέτη κάθε πιθανού σεναρίου σε περίπτωση ψήφισης της εν λόγω Πρότασης.

Η εν λόγω Πρόταση Κανονισμού έχει αναταράξει τα νερά και έχει προκαλέσει πολλές αντιδράσεις. Μια πρόσφατα δημοσιευμένη ανεξάρτητη έρευνα αποκάλυψε ότι τμήματα της Ευρωπαϊκής Επιτροπής, και συγκεκριμένα η Γενική Διεύθυνση Μετανάστευσης και το τμήμα Εσωτερικών Υποθέσεων , προωθούν τα συμφέροντα της βιομηχανίας μέσω του προτεινόμενου κανονισμού.  Στις 25 Σεπτεμβρίου 2023 , 7 κορυφαία ειδησεογραφικά πρακτορεία (Balkan Insight (στα αγγλικά), Zeit (στα γερμανικά), Le Monde (στα γαλλικά), De Groene Amsterdammer (στα Ολλανδικά), El Diario (στα Ισπανικά), IRPI Media (στα ιταλικά) και Solomon (στα ελληνικά) ) δημοσίευσαν μια κοινή έρευνα στην οποία αποκάλυψαν στενούς δεσμούς μεταξύ της βιομηχανίας τεχνολογίας (εταιρεία Thorn) και κορυφαίων εκπροσώπων του προσωπικού της Ευρωπαϊκής Επιτροπής που είναι υπεύθυνοι για τον Κανονισμό για τη σεξουαλική κακοποίηση παιδιών (CSA) – συμπεριλαμβανομένης της Επιτρόπου Εσωτερικών Υποθέσεων, Ylva Johansson ( Ίλβα Γιόχανσον ) και της Προέδρου της Επιτροπής Ursula Gertrud von der Leyen (Ούρσουλα φον ντερ Λάιεν) . Προς επίρρωση των ανωτέρω, στην έρευνα υπογραμμίζεται ότι η Johansson, η κορυφαία Επίτροπος για τον Κανονισμό CSA, αρνήθηκε να συναντηθεί με εκπροσώπους της κοινωνίας των πολιτών και απέτυχε να συνεργαστεί με ειδικούς της τεχνολογίας – ενώ δέχθηκε να επικοινωνήσει με  εταιρείες τεχνολογίας επιτήρησης. Επιπρόσθετα, στο φως της δημοσιότητας ήρθε/αποκαλύφθηκε ότι το τμήμα των Εσωτερικών Υποθέσεων της Επιτροπής  φέρεται να έχει χρησιμοποιήσει απαγορευμένη στόχευση ατόμων με βάση τις θρησκευτικές και πολιτικές απόψεις τους , σε μια προσπάθεια χειραγώγησης της κοινής και πολιτικής γνώμης στα κράτη μέλη όπου οι κυβερνήσεις αντιτάχθηκαν στον νόμο.

Ο CSAR ως Δούρειος Ίππος για μαζική παρακολούθηση;

Οι υποστηρικτές του CSAR υποστηρίζουν πως ο προτεινόμενος κανονισμός αποσκοπεί στην πάταξη της σεξουαλικής εκμετάλλευσης ανηλίκων. Προς επίτευξη του συγκεκριμένου-ανώτερου- σκοπού, θα πρέπει να ελέγχονται όλες οι ιδιωτικές επικοινωνίες (από το Facebook και το TikTok μέχρι το Telegram, Signal ακόμα και οι επικοινωνίες από το προσωπικό κινητό έκαστου πολίτη) προκειμένου να εντοπιστεί τυχόν ύποπτο υλικό. Η πρακτική αυτή έρχεται σε αντίθεση με κατοχυρωμένα και θεμελιώδη ανθρώπινα δικαιώματα καθώς και τον Γενικό Κανονισμό Προστασίας Προσωπικών Δεδομένων (GDPR). Επιπλέον, για να επιτευχθεί κάτι τέτοιο, θα πρέπει να μην εφαρμόζεται η κρυπτογραφία στην ανταλλαγή μηνυμάτων στο διαδίκτυο, η κατάργηση της οποίας θα καταστήσει το διαδίκτυο ένα ανοικείο και ανασφαλές περιβάλλον.

Παράλληλα, η μαζική παρακολούθηση θα δημιουργήσει ποικίλα προβλήματα χωρίς ταυτόχρονα να λύνει αυτό που υπόσχεται. Ενδεικτικά, θα εκτοξευθεί ο όγκος  των ψευδώς “ύποπτων” μηνυμάτων προς έλεγχο, κάτι που δυσχεράνει ιδιαίτερα το ουσιαστικό έργο των Αρχών. Περαιτέρω, οι άνθρωποι και ιδίως οι νέοι- υπό τη δαμόκλειο σπάθη της παρακολούθησης- θά χάσουν τον αυθορμητισμο και την ελευθερία στην επικοινωνία, κάτι που θα οδηγήσει σε αποξένωση και απομόνωση. Επιπρόσθετα, τα Ηνωμένα Έθνη, η Unicef καθώς και το Παγκόσμιο Δίκτυο Δικαιωμάτων του Παιδιού κρούουν των κώδωνα για προβλήματα στην ανάπτυξη και την αυτοέκφραση τους. Επιπλέον, ομάδες LGBTQI+ ατόμων, θρησκευτικές μειονότητες καθώς και κάθε άλλη ομάδα πιθανότατα θα αισθάνεται το φόβο της υπονόμευσης και της παρακολούθησης.

Σε κάθε περίπτωση, ο σκοπός της προστασίας των παιδιων και της πάταξης της παιδικής πορνογραφίας μπορεί να επιτευχθεί και με άλλους τρόπους, οπως:

  1. Διευκόλυνση της πρόσβασης στην Δικαιοσύνη
  2. Εφαρμογή του DSA (Digital Service Act)
  3. Ευαισθητοποίηση και εκπαίδευση των παιδιών καθώς και των φροντιστών τους αναφορικά με την παιδική πορνογραφία
  4. Δημιουργία κατάλληλης ομάδας ψυχολογικής υποστήριξης
  5. Δημιουργία και προώθηση ειδικών τηλεφωνικών γραμμών (hotlines)

Η εν λόγω Πρόταση φαίνεται πως ενισχύει μια  αγορά μαζικής επιτήρησης στην οποία  το απόρρητο των επικοινωνιών  θα χρησιμοποιείται για την αποκόμιση  κέρδους. Περαιτέρω δε, παρόλο που ο Κανονισμός CSA προορίζεται αποκλειστικά για την αντιμετώπιση της διαδικτυακής σεξουαλικής κακοποίησης παιδιών, φαίνεται ότι η Επιτροπή είναι ανοιχτή στο να επιτρέψει τη μαζική παρακολούθηση για περαιτέρω πεδία εγκληματικότητας. Όταν αξιωματούχοι της Europol πρότειναν τη χρήση του προτεινόμενου Κέντρου ΕΕ για τη σάρωση για έτερα εγκλήματα  από του  CSAM, η Επιτροπή δεν απέρριψε την ιδέα.

Ωστόσο, έντονες  αντιδράσεις  γεννώνται από εμπειρογνώμονες παιδικής προστασίας ,  επιζώντες  σεξουαλικής κακοποίησης ,  την  αστυνομία , πολλές εθνικές κυβερνήσεις (Γερμανία, Αυστρία, Πολωνία, Σουηδία και Ολλανδία) ,  αξιωματούχοι του ΟΗΕ, ΜΚΟ, έχουν προειδοποιήσει ότι τα προτεινόμενα μέτρα θα μπορούσαν να κάνουν περισσότερο κακό παρά καλό στα ίδια τα παιδιά που υποτίθεται ότι προστατεύουν. και θα είχε άνευ προηγουμένου αντίκτυπο στην ασφάλεια και το απόρρητο των επικοινωνιών σε παγκόσμια κλίμακα.

Επιπροσθέτως, ορισμένοι ευρωβουλευτές που εξέφρασαν επιφυλάξεις για τον προτεινόμενο κανονισμό και τάχθηκαν υπερ της κρυπτογράφησης ήταν οι Patrick Breyer (Πειρατικό Κόμμα, Πράσινοι/EFA), Saskia Bricmont (Πράσινοι/EFA), Alex Agius Saliba (S&D), Birgit Sippel (S&D) και Tiemo Wolken. (S&D).

Επιλογικά, στο πλαίσιο της εκστρατείας «Stop Scanning Me» της EDRi (European Digital Rights) στην οποία αποτελεί μέλος και η Homo Digitalis και η οποία έχει ως βασική αποστολή την υπεράσπιση της κρυπτογράφησης και της ιδιωτικής ασφαλούς επικοινωνίας, η EDRi υποστήριξε  το ταξίδι 23 εθελοντών από όλη την Ευρώπη σε μια δράση στο Ευρωπαϊκό Κοινοβούλιο. Σε διάστημα τριών ημερών, ακτιβιστές προερχόμενοι από την Ελλάδα (Homo Digitalis), την Ιταλία, την Tσεχία, την Αυστρία, τη Σουηδία, τη Φινλανδία, τη Νορβηγία, τη Ρουμανία, τη Γερμανία και την Ισπανία είχαν συναντήσεις με ευρωβουλευτές από όλες τις πολιτικές ομάδες. Μίλησαν  για τον κανονισμό CSA και τις σοβαρές συνέπειες που θα είχαν τα προτεινόμενα μέτρα στις ζωές  και την καθημερινότητα των ανθρώπων.

*Η Νίκη Γεωργακοπούλου είναι απόφοιτη της Νομικής Σχολής του ΕΚΠΑ και κάτοχος MSc “Δικαιο και Πληροφορική” του ΠΑΜΑΚ. Στη διπλωματική της εργασία ασχολήθηκε με το Βlockchain και τα Smart Legal Contracts.