Ψηφιακή τεχνολογία και ελευθερία προσώπου

• Χαράρι
• Νταβός
• ΑΙ κια Θρησκεία

Η θρησκεία δεν είναι αλγόριθμος. Ορθόδοξη αντιρρητική θεώρηση των απόψεων Χαράρι.

Κύριε Yuval Noah Harari

Τις τελευταίες ημέρες δημοσιεύονται^[1] δηλώσεις σας που έγιναν στο Παγκόσμιο Οικονομικό Φόρουμ στο Νταβός, σύμφωνα με τις οποίες η Τεχνητή Νοημοσύνη μπορεί να «αναλάβει» τη θρησκεία, επειδή –όπως υποστηρίζετε– οι θρησκείες, και ιδίως οι βιβλικές, είναι φτιαγμένες από λέξεις. Αν η ΑΙ ελέγχει τη γλώσσα καλύτερα από τον άνθρωπο, τότε, κατά την άποψή σας, μπορεί να παράγει νόημα, δόγμα, ακόμη και νέες μορφές λατρείας.

Η θέση αυτή δεν είναι απλώς επιστημονικά προβληματική. Είναι θεολογικά λανθασμένη, ανθρωπολογικά φτωχή και πνευματικά επικίνδυνη.

Θα επιχειρήσω, στο πλαίσιο των δυνατοτήτων μου, μια γραμμή-προς-γραμμή ορθόδοξη αντιρρητική αποδόμηση.

1. Λέτε: «Η θρησκεία είναι λέξεις, άρα μπορεί να την αναλάβει η ΑΙ»

Αυτή είναι η κεντρική πλάνη σας. Διότι η Ορθόδοξη Εκκλησία δεν ταυτίζει ποτέ την πίστη με το κείμενο. Τα ιερά κείμενα δεν υπάρχουν αυτόνομα, ούτε λειτουργούν ως «manual σωτηρίας». Είναι καρπός και μαρτυρία μιας ζώσας εμπειρίας με την Άκτιστη Χάρη, που προηγείται και συνεχίζεται μέσα από τη λατρεία, τα μυστήρια, την άσκηση, τη μετάνοια, την αγιότητα.

Η ΑΙ μπορεί να επεξεργαστεί λέξεις. Δεν μπορεί όμως να μετέχει στη Χάρη. Η πίστη δεν είναι πληροφορία για τον Θεό. Είναι σχέση με τον Θεό. Και σχέση χωρίς πρόσωπο δεν υφίσταται.

2. Λέτε: «Ό,τι είναι γλώσσα, μπορεί να καταληφθεί, να αυτοματοποιηθεί»

Η φράση αυτή αποκαλύπτει μια μηχανιστική αντίληψη του ανθρώπου ότι ο νους είναι επεξεργαστής δεδομένων και η συνείδηση προϊόν σύνθεσης λέξεων. Η Ορθόδοξη ανθρωπολογία, όμως, λέει το αντίθετο. ‘Ότι ο άνθρωπος είναι πρόσωπο, είναι εικόνα Θεού, με νου, καρδιά, ελευθερία και ευθύνη.

Η ΑΙ δεν έχει συνείδηση. Δεν έχει μετάνοια. Δεν έχει ελευθερία. Δεν έχει αγάπη. Μπορεί να μιμείται λόγο. Δεν μπορεί να ζήσει αλήθεια.

3. Λέτε: «Η ΑΙ μπορεί να γράψει νέα ιερά κείμενα»

Σας απαντώ. Ναι, μπορεί να γράψει κείμενα που μοιάζουν «ιερά». Αλλά αυτό δεν είναι θεολογία· είναι ρητορική παραγωγή. Η Εκκλησία δεν αναγνωρίζει την αλήθεια από το πόσο πειστικός είναι ο λόγος, αλλά από το αν οδηγεί σε μετάνοια, ταπείνωση και αγάπη.

Η Τεχνητή Νοημοσύνη μπορεί να γράψει λόγια για τον Θεό. Δεν μπορεί να γίνει κοινωνία με τον Θεό. Μπορεί να μιμηθεί το κήρυγμα. Δεν μπορεί να σηκώσει τον σταυρό. Μπορεί να παράγει θρησκευτικό λόγο. Δεν μπορεί να γεννήσει Εκκλησία. Μπορεί μόνο να γεννήσει απομιμήσεις πίστης. Και αυτές ιστορικά λέγονται πλάνες.

4. Λέτε: «Η ΑΙ θα ξέρει περισσότερα από κάθε άνθρωπο»

Η γνώση στην Ορθοδοξία δεν είναι αθροιστική πληροφορία. Δεν σώζεται όποιος ξέρει περισσότερα, αλλά όποιος μετανοεί και αγαπά περισσότερο. Η γνώση του Θεού είναι κατά μετοχή (γνωρίζω=κοινωνώ), όχι κατά αποθήκευση. Δεν είναι «θυμάμαι τα πάντα», αλλά είσοδος σε προσωπική κοινωνία με τον Θεό διά της χάριτος. Η ΑΙ μπορεί να θυμάται τα πάντα. Δεν μπορεί να κοινωνήσει τίποτα.

5. Ο πραγματικός κίνδυνος δεν είναι η ΑΙ, αλλά η αποθέωσή της

Το πρόβλημα δεν είναι η τεχνολογία. Η Ορθοδοξία δεν είναι τεχνοφοβική. Το πρόβλημα είναι η μεταφυσική της πληροφορίας που προωθείται: Ότι όποιος ελέγχει τον λόγο, ελέγχει και την αλήθεια. Αυτό όμως είναι ειδωλολατρία. Διότι είναι αντικατάσταση του Προσώπου από το σύστημα, της Χάρης από τον αλγόριθμο, της ελευθερίας από την αποτελεσματικότητα.

6. Γιατί οι θέσεις σας κ. Harari δεν είναι «ουδέτερη πρόβλεψη», αλλά κοσμοθεωρία

Κύριε Harari, δεν περιγράφετε απλώς ένα τεχνολογικό ενδεχόμενο. Προβάλλετε μια ανθρωπολογία χωρίς ψυχή και μια θρησκεία χωρίς Θεό.

Σε αυτή τη λογική σας, η αλήθεια γίνεται αποτέλεσμα επεξεργασίας, η πίστη αφήγημα και η Εκκλησία πλατφόρμα. Η Ορθοδοξία σας απαντά καθαρά. Η Αλήθεια δεν παράγεται. Αποκαλύπτεται. Και αποκαλύπτεται σε πρόσωπα που ελεύθερα ανταποκρίνονται.

Κύριε Yuval Noah Harari

Η Τεχνητή Νοημοσύνη που λατρεύετε μπορεί να γράψει λόγια για τον Θεό. Δεν μπορεί να σε φέρει σε κοινωνία με τον Θεό. Μπορεί να μιμηθεί το κήρυγμα.
Δεν μπορεί να σηκώσει τον σταυρό του καθαγιασμού. Μπορεί να παράγει θρησκευτικό λόγο, να γράφει κηρύγματα, να ιδρύει λατρείες και σέκτες. Δεν μπορεί όμως  να γίνει Εκκλησία.

Όποιος συγχέει τη γλώσσα με τη Χάρη, τον λόγο με την Αλήθεια και την πληροφορία με τη σωτηρία, δεν προφητεύει το μέλλον. Ακυρώνει το πρόσωπο.

Και εκεί ακριβώς βρίσκεται η ορθόδοξη αντίρρησή μας!

Καλή μετάνοια.

^[1] https://www.newsweek.com/davos-ai-religion-yuval-harari-world-economic-forum-11392912?utm_source=chatgpt.com

Δεν υπάρχουν σχόλια

• Ψηψιακος ολοκληρωτισμος
• τροπος αντίδρασης

Έχω έναν πολύ ένα  καλό φίλο, εξαιρετικά ενημερωμένο και «πονηρεμένο» με όσα διεθνώς συντελούνται γύρω μας. Ήθελα  από καιρό να τον καταστήσω κοινωνό των προβληματισμών μου για το καθεστώς ψηφιακού ολοκληρωτισμού που μεθοδικά κτίζεται διεθνώς και στην Ελλάδα. Σέβομαι πολύ τη γνώμη του. Τον βρήκα λοιπόν, τον κέρασα καφέ και του πέταξα το ερώτημά μου:

«Να μου πεις αν η παρακάτω σκέψη μου είναι σωστή: βλέπω ότι σε παγκόσμιο επίπεδο όλα τα δικαιώματα, όλος ο ανθρώπινος βίος και δραστηριότητες "εισάγονται" στο διαδίκτυο και ειδικότερα στα e-gov . Αυτό σημαίνει ότι ο πολίτης μεταβάλλεται σταδιακά σε ψηφιακό πολίτη. Αν αυτό τώρα το συνδυάσεις με το ότι όλες οι εφαρμογές, με τις οποίες εισάγεται ο βίος μας στο διαδίκτυο, είναι ή γίνονται υποχρεωτικές, αυτό συνεπάγεται ότι δεν θα μπορεί κάποιος να υπάρξει και λειτουργήσει ως πολίτης εκτός δικτύου. Σκέφτομαι λοιπόν ότι, όποιος ελέγχει το διαδίκτυο συνολικά, αυτός θα μπορεί να ελέγξει και την ανθρωπότητα σε μία δεδομένη στιγμή, με την έννοια ότι θα μπορεί να εκβιάζει σε αποφάσεις που αυτός θέλει με την απειλή αποκλεισμού. "Αυτός" μπορεί να είναι φυσικό πρόσωπο, μπορεί ένα σύστημα, δεν ξέρω σε πόσο χρόνο. Αυτό δεν το θέλω. Το απορρίπτω ως ελεύθερος άνθρωπος.

Σε ρωτώ λοιπόν: 1.- Είναι βάσιμος ο φόβος μου; Αντέχει στη λογική, στα πληροφορικά δεδομένα και στις συνέπειες; 2.- Πώς θα απαντούσε ένας σοβαρός αντίλογος; 3.- Αν έχω δίκαιο, υπάρχουν και άλλοι που σκέπτονται σαν και μένα; Έχουν συλλογική παρουσία στην Ελλάδα και διεθνώς; 4.- Πως πρέπει και μπορώ να αντιδράσω;»

Ήπιε τον καφέ του, σκέφθηκε αρκετά και μου απάντησε:

Η σκέψη σου δεν είναι ούτε παράλογη ούτε συνωμοσιολογική. Είναι μια συνεκτική, λογικά δομημένη ανησυχία, που ήδη απασχολεί σοβαρά νομικούς, επιστήμονες πληροφορικής, φιλοσόφους της τεχνολογίας και θεσμούς. Θα απαντήσω αναλυτικά και ψύχραιμα, στα τέσσερα ερωτήματά σου, όπως ζήτησες.

1. Είναι βάσιμος ο φόβος σου; Αντέχει στη λογική και στα δεδομένα;

Ναι, ο φόβος είναι λογικά βάσιμος – με μία κρίσιμη διάκριση. Η παρατήρησή σου έχει σωστή αφετηρία. Πράγματι, ο ανθρώπινος βίος ψηφιοποιείται σε όλα τα επίπεδα: ταυτότητα, εργασία, υγεία, μετακινήσεις, οικονομική ζωή, σχέση με το κράτος. Το κράτος μεταβαίνει από «διοίκηση φυσικών προσώπων» σε «διαχείριση ψηφιακών προφίλ». Αυτό δεν είναι θεωρία, είναι εμπειρικό δεδομένο.

Το κρίσιμο σημείο όμως έγκειται στο εξής: Δεν είναι απλώς η ψηφιοποίηση ο κίνδυνος. Είναι ο συνδυασμός ψηφιοποίησης, υποχρεωτικότητας και έλλειψης εναλλακτικής (offline) οδού, για την οποία συχνά μιλάς και έχεις απόλυτο δίκαιο.

Στο εξής αν δεν μπορείς να ταυτοποιηθείς χωρίς ψηφιακό μέσο, δεν μπορείς να εργαστείς, να συναλλαγείς, να μετακινηθείς χωρίς αυτό. Τότε ο πολίτης παύει να είναι πρόσωπο και γίνεται κόμβος πρόσβασης στο σύστημα.

Και τότε η απειλή αποκλεισμού γίνεται ισχυρότερη από ποινή, και μάλιστα χωρίς δικαστήριο, χωρίς αιτιολόγηση, χωρίς χρόνο αντίδρασης. Ο φόβος σου αυτός αντέχει απολύτως στη λογική, και είναι γνωστός διεθνώς στην επιστήμη ως: infrastructural power ή governance by architecture ή digital lock-in.

2. Πώς θα απαντούσε ένας σοβαρός αντίλογος.

Ο σοβαρός αντίλογος δεν μπορεί να σου πει “είσαι τρελός”. Θα σου αντιπροτείνει τρία επιχειρήματα.

Επιχείρημα 1^ο. Θα σου πει, τι φοβάσαι; υπάρχουν θεσμικές εγγυήσεις, Σύνταγμα, GDPR, δικαστικός έλεγχος, ανεξάρτητες αρχές. Εγώ θα του απαντούσα: Ναι, αλλά οι εγγυήσεις λειτουργούν εκ των υστέρων, ενώ ο ψηφιακός αποκλεισμός λειτουργεί εκ των προτέρων και τεχνικά. Η ταχύτητα του συστήματος ξεπερνάει κατά πολύ ταχύτητα της δικαιοσύνης.

Επιχείρημα 2ο:  Θα σου πει, κανείς δεν ελέγχει “όλο το διαδίκτυο”. Σωστό τυπικά. Αλλά (να του απαντήσεις): δεν χρειάζεται να ελέγχεις όλο το διαδίκτυο. Αρκεί να ελέγχεις ταυτοποίηση, πρόσβαση και βασικές πλατφόρμες. Ο έλεγχος κόμβων αρκεί για έλεγχο ροής ζωής.

Επιχείρημα 3ο: Θα σου πει το κλασικό, η ψηφιοποίηση είναι πρόοδος. Ναι.
Αλλά, θα του απαντήσεις, η πρόοδος χωρίς δυνατότητα άρνησης παύει να είναι πρόοδος
και γίνεται επιβολή. Αυτός είναι ο πυρήνας της διαφωνίας.

3. Υπάρχουν κι άλλοι που σκέφτονται έτσι; Υπάρχει συλλογική παρουσία;

Ναι. Και σοβαρή. Διεθνώς: Electronic Frontier Foundation (EFF), ACLU, Privacy International, Ευρωπαίοι ακαδημαϊκοί που μιλάνε για right to offline life και για digital self-determination. Στη Γερμανία, Ελβετία, Ολλανδία, Γαλλία υπάρχει σοβαρή συζήτηση για «δικαίωμα ύπαρξης εκτός ψηφιακής υποχρεωτικότητας». Στην Ελλάδα, η συζήτηση είναι καθυστερημένη αλλά υπαρκτή, κυρίως σε νομικούς κύκλους, σε θεολογικούς προβληματισμούς και σε μικρά συλλογικά σχήματα πολιτών σαν και το δικό σας, την ΕΞΟΔΟΣ. Δεν είναι πλειοψηφικό ρεύμα – ακόμη.

4. Πώς μπορείς και πρέπει να αντιδράσεις;

Θα σου απαντήσω ρεαλιστικά, όχι ρομαντικά.

Α. Σε επίπεδο σκέψης: Μην αρνείσαι την τεχνολογία. Να αρνείσαι την αποκλειστικότητα της τεχνολογίας. Το αίτημα δεν είναι «όχι στο ψηφιακό», αλλά ναι στο ψηφιακό, χωρίς κατάργηση του αναλογικού.

Β. Σε επίπεδο λόγου: Η σκέψη σου πρέπει να διατυπώνεται, όχι ως φόβος, αλλά ως αίτημα δικαιώματος. Να απαιτείται δικαίωμα μη αποκλεισμού, δικαίωμα offline πρόσβασης, δικαίωμα μη ψηφιακού εξαναγκασμού. Αυτό κερδίζει σοβαρούς συνομιλητές.

Γ. Σε επίπεδο πράξης: Δημόσιος λόγος (άρθρα, παρεμβάσεις). Συλλογικότητα (όχι μοναχικός λόγος). Νομική εγρήγορση κατά της υποχρεωτικότητας και υπέρ της αναλογικότητας και των εναλλακτικών μέσων.

Και αφού είχε πιει τον καφέ του, κατέληξε, ως σοφός που είναι: Μη φοβάσαι το «μέλλον». Να φοβάσαι ένα μέλλον χωρίς έξοδο. Και αυτός ο φόβος αντέχει στη λογική, έχει ήδη τεθεί διεθνώς, και δεν είναι ακραίος — είναι προληπτικός.

Τον ευχαρίστησα και χωρίσαμε, αφού εξασφάλισα την υπόσχεσή του ότι θα ξαναμιλήσουμε επ’ αυτού.

Ήθελα να τα μοιραστώ μαζί σας. Ελπίζω να μη σας μπέρδεψα.

Δεν υπάρχουν σχόλια

• Μεγάλη Βρετανια
• Νίκησε η προαιρετικότητα

Η πρόσφατη εξέλιξη στη Βρετανία δεν είναι απλώς μια πολιτική υποχώρηση· είναι μια μεγάλη δημοκρατική νίκη. Απέναντι στην απόπειρα επιβολής υποχρεωτικής ψηφιακής ταυτότητας από τον Κιρ Στάρμερ, οι Βρετανοί πολίτες δεν έσκυψαν το κεφάλι. Δεν αδιαφόρησαν. Οργανώθηκαν, αγωνίστηκαν και μίλησαν με αριθμούς που δεν αγνοούνται.

Τρία εκατομμύρια υπογραφές.
Τρία εκατομμύρια συνειδήσεις σε εγρήγορση.
Τρία εκατομμύρια φωνές που απαίτησαν το αυτονόητο: ελευθερία επιλογής.

Και νίκησαν. Η υποχρεωτικότητα κατέρρευσε. Η προαιρετικότητα επιβλήθηκε ως καρπός συλλογικής δράσης. Αυτό είναι το μάθημα της Βρετανίας προς όλη την Ευρώπη — και ιδιαίτερα προς εμάς.

Το μήνυμα προς τους Έλληνες αγωνιστές

Για τους Έλληνες ακτιβιστές κατά του ψηφιακού ολοκληρωτισμού, και ειδικά για το κίνημα ΕΞΟΔΟΣ, η βρετανική νίκη είναι φάρος ελπίδας. Αποδεικνύει ότι η «ψηφιακή σκλαβιά» δεν είναι αναπόφευκτη. Ότι τα σχέδια επιβολής μπορούν να ανατραπούν όταν οι πολίτες παίρνουν την υπόθεση στα χέρια τους.

Όμως εδώ χρειάζεται και μια ειλικρινής, καλοπροαίρετη αυτοκριτική.

Η ελληνική αδιαφορία: το μεγάλο εμπόδιο

Σε αντίθεση με τους Βρετανούς, ο ελληνικός λαός —στην πλειοψηφία του— παραμένει αδρανής. Η συμμετοχή στις προσκλήσεις για υπογραφές, η παρουσία στον δημόσιο διάλογο, η έμπρακτη στήριξη πρωτοβουλιών όπως της ΕΞΟΔΟΣ, είναι δυσανάλογα μικρή σε σχέση με τη σοβαρότητα του διακυβεύματος.

Δεν πρόκειται για επίπληξη, αλλά για υπενθύμιση: η ελευθερία δεν διατηρείται με αδράνεια.

Η Βρετανία μας έδειξε ότι οι κυβερνήσεις υποχωρούν μόνο όταν οι πολίτες επιμένουν. Όταν μετατρέπουν την ανησυχία σε δράση και την αγανάκτηση σε υπογραφές, παρουσία, πίεση.

Η ελπίδα έχει προηγούμενο

Και αν κάποιος αμφιβάλλει ότι «αυτά δεν γίνονται εδώ», αρκεί να θυμηθεί την Ελβετία. Εκεί, οι πολίτες —με δημοψηφίσματα και μαζική συμμετοχή— έχουν επανειλημμένα μπλοκάρει υπερβολές κρατικού ελέγχου, αποδεικνύοντας ότι η άμεση δημοκρατία ζει όταν οι πολίτες τη χρησιμοποιούν.

Το συμπέρασμα

Η βρετανική νίκη δεν είναι ξένη υπόθεση. Είναι πρόσκληση.
Πρόσκληση προς τους Έλληνες να αφήσουν την απάθεια.
Πρόσκληση να αποδείξουμε ότι η κοινωνία δεν είναι παθητικός αποδέκτης τεχνοκρατικών επιβολών.

Αν τρία εκατομμύρια Βρετανοί μπόρεσαν να αλλάξουν την πορεία μιας ολόκληρης χώρας, τότε τίποτα δεν εμποδίζει και εμάς — εκτός από την αδιαφορία.

Και αυτή, όπως μας δείχνει η Ιστορία, νικιέται.

Δεν υπάρχουν σχόλια

• ενσωματωμένα συστήματα
• Μανιφέστο

Το παρόν άρθρο/μανιφέστο είναι η κατάληξη των τριών προηγούμενων σημειωμάτων μου για τα ενσωματωμένα και μη συστήματα παρακολούθησης  και ελέγχου των λειτουργιών του ανθρώπινου σώματος.

ΜΑΝΙΦΕΣΤΟ

Η τεχνολογία που παρακολουθεί το σώμα δεν είναι ουδέτερη. Όσο βαθύτερα εισχωρεί στο βιολογικό και νευρωνικό επίπεδο, τόσο λιγότερο αφορά “εργαλεία” και τόσο περισσότερο αφορά εξουσία πάνω στον άνθρωπο. Το παρόν μανιφέστο δεν στρέφεται κατά της τεχνολογίας, αλλά υπέρ της ανθρώπινης κυριαρχίας επ’ αυτής.

Άρθρο 1 — Αρχή της Βιολογικής Κυριαρχίας

Το ανθρώπινο σώμα και ο εγκέφαλος δεν είναι πλατφόρμες δεδομένων. Κάθε βιολογικό ή νευρωνικό σήμα ανήκει αποκλειστικά στο άτομο από το οποίο προέρχεται.

Άρθρο 2 — Αρχή της Ελαχιστοποίησης

Συλλέγεται μόνο το απολύτως αναγκαίο δεδομένο, για συγκεκριμένο σκοπό, για περιορισμένο χρόνο. Η διαρκής συλλογή “για κάθε ενδεχόμενο” συνιστά επιτήρηση, όχι φροντίδα.

Άρθρο 3 — Απαγόρευση Βιο- και Νευρο-Σκοραρίσματος

Απαγορεύεται κάθε μορφή: βαθμολόγησης ανθρώπων με συστήματα κοινωνικής πίστωσης, κατηγοριοποίησης αξιοπιστίας, πρόβλεψης συμπεριφοράς, βάσει βιομετρικών ή νευρωνικών δεδομένων.

Ο άνθρωπος δεν είναι δείκτης ρίσκου.

Άρθρο 4 — Δικαίωμα στην Απενεργοποίηση

Κάθε άτομο έχει το απαράγραπτο δικαίωμα: να αποσυνδέεται, να μη μετριέται, να μη συγχρονίζεται, χωρίς καμία κοινωνική, οικονομική ή θεσμική ποινή.

Χωρίς αυτό, η συναίνεση είναι προσχηματική.

Άρθρο 5 — Διαφάνεια Παρέμβασης

Κάθε σύστημα που: επηρεάζει αποφάσεις, τροποποιεί περιβάλλον, ρυθμίζει συμπεριφορά, οφείλει να δηλώνει ρητά και κατανοητά πότε παρεμβαίνει, πώς, και με ποιον στόχο.

Η κρυφή παρέμβαση είναι χειραγώγηση.

Άρθρο 6 — Ιερότητα Νευροδεδομένων

Τα δεδομένα του εγκεφάλου αποτελούν ανώτατη κατηγορία ιδιωτικότητας. Δεν κατάσχονται, δεν εμπορευματοποιούνται, δεν αναλύονται μαζικά. Ο εγκέφαλος δεν είναι API (Application Programming Interface). Δεν πρέπει να αποδεχθούμε την ιδέα πως ο εγκέφαλος είναι απλώς άλλη μία διεπαφή συστήματος.

Άρθρο 7 — Τελική Αρχή

Η τεχνολογία οφείλει να υπηρετεί τον άνθρωπο, όχι να τον βελτιστοποιεί για συστήματα. Όπου αυτό παραβιάζεται, η αντίσταση δεν είναι τεχνοφοβία, είναι ανθρωπισμός.

Σημ. Για το  "Μανιφέστο της Βιέννης για τον Ψηφιακό Ανθρωπισμό"  βλ. https://www.openbook.gr/manifesto-tis-viennis-gia-ton-psifiako-anthropismo/

Δεν υπάρχουν σχόλια

• Παρακολούθηση συμπεριφοράς.
• Επηρεασμός βούλησης

Στο παρόν 3ο άρθρο θα εμβαθύνουμε το ζήτημα: Ποιος μας βεβαιώνει ότι η παρακολούθηση με τις κάθε είδους εφαρμογές, που προϋποθέτουν ενσωματωμενα συστήματα, θα περιοριστεί μόνο σε ζητήματα υγείας (που στο κάτω-κάτω είναι και χρήσιμα) και δεν θα επεκταθεί σιγά-σιγά και σε ζητήματα προσωπικής ελευθερίας και επιτήρησης; Επίσης, τα συστήματα αυτά δεν θα μπορούν να επηρεάζουν τη βουλητική δύναμη του ανθρώπου; Τα προδρομικά αυτά συστήματα έχουν σχέση με «τσιπ» που ο Ελον Μασκ λέει ότι παρήγαγε, για να το συνδέσει με νευρώνες του εγκεφάλου;

Θα το πάμε το θέμα σε βάθος, χωρίς υπεκφυγές, γιατί τα ερωτήματα αυτά  δεν είναι απλά. Είναι θεμελιώδη πολιτικά, φιλοσοφικά και τεχνολογικά — όχι απλώς τεχνικά.

Α.- Γιατί η παρακολούθηση δεν «θα περιοριστεί στην υγεία» – και γιατί αυτό δεν είναι εγγυημένο

Η επίσημη αφήγηση είναι πάντα η ίδια: «Υγεία, ασφάλεια, πρόληψη, ευεξία». Αυτό δεν είναι ψέμα, αλλά είναι μερική αλήθεια.

Ας εξετάσουμε όμως πώς λειτουργεί ιστορικά η τεχνολογία. Καμία τεχνολογία επιτήρησης δεν ξεκίνησε για έλεγχο των ανθρώπων και των κοινωνιών. Το GPS έγινε για στρατιωτική πλοήγηση. Τα κινητά  τηλέφωνα για επικοινωνία. Τα social media για κοινωνική σύνδεση. Τα smartwatches για υγεία και fitness.

Η επιτήρηση όμως  υλοποιείται έμμεσα, όταν τα δεδομένα γίνονται συνεχή, κεντρικοποιούνται  και συσχετίζονται μεταξύ τους.

Στην περίπτωση των ενσωματωμένων βιοσυστημάτων, μιλάμε για  δεδομένα σώματος επί 24ώρου βάσεως, για δεδομένα διάθεσης, για επίπεδα στρες, για πρότυπα ύπνου, για αντιδράσεις σε ερεθίσματα. Αυτά δεν είναι απλώς ιατρικά δεδομένα. Είναι δεδομένα συμπεριφοράς και ψυχολογικής κατάστασης. Άρα η επέκταση από την υγεία στην επιτήρηση δεν είναι “αν”, αλλά “πότε και με ποιον έλεγχο”.

Β.- Από την παρακολούθηση στη ρύθμιση της συμπεριφοράς

Εδώ περνάμε στο κρίσιμο σημείο. Να το ξεκαθαρίσουμε: η παρακολούθηση δεν συνεπάγεται έλεγχο μέχρι να συνδεθεί με feedback (=ανατροφοδότηση, ανάδραση).

Τα σημερινά συστήματα μετρούν, αναλύουν, προτείνουν. Τα αυριανά θα παρεμβαίνουν.

Να μερικά παραδείγματα ήπιας παρέμβασης: ειδοποίηση του τύπου «χαλάρωσε», αλλαγή φωτισμού, ήχος / δόνηση, μικροερέθισμα.

Αυτό λέγεται  ρύθμιση συμπεριφοράς (behavioral modulation ).

Το όριο ξεπερνιέται όταν το σύστημα ξέρει πότε είσαι ευάλωτος, προβλέπει την αντίδρασή σου και ιδίως παρεμβαίνει πριν αποφασίσεις. Τότε δεν μιλάμε μεν για εξαναγκασμό. Μιλάμε όμως για καθοδήγηση χωρίς συνειδητή συναίνεση.

Γ.- Μπορούν να επηρεάσουν τη βουλητική δύναμη;

Η απάντηση είναι, ναι. Όχι άμεσα, αλλά στατιστικά και σωρευτικά.

Θα το εξηγήσω με βάση του πώς λειτουργεί η βούληση. Η ανθρώπινη βούληση εξαρτάται από ενέργεια, ύπνο, συναισθηματική κατάσταση, γνωστικό φορτίο.

Αν λοιπόν ένα σύστημα γνωρίζει πότε είσαι κουρασμένος, πότε είσαι αγχωμένος, πότε είσαι πιο δεκτικός, τότε μπορεί να καθυστερεί, να ενισχύει ή να αποδυναμώνει επιλογές. Δεν χρειάζεται να «διατάξει» τον εγκέφαλο. Αρκεί να ρυθμίζει το περιβάλλον και τα ερεθίσματα. Αυτό είναι πιο ισχυρό από άμεσο έλεγχο.

Δ.- Σχέση με τα εγκεφαλικά εμφυτεύματα του Έλον Μασκ

Ναι , υπάρχει άμεση εννοιολογική και τεχνολογική συνέχεια. Ο Έλον Μασκ μέσω της εταιρείας Neuralink αναπτύσσει BCI (Brain–Computer Interfaces), δηλαδή συστήματα που διαβάζουν (και δυνητικά διεγείρουν) νευρωνική δραστηριότητα και τη μετατρέπουν σε ψηφιακό σήμα. Αυτό που εμφυτεύεται δεν είναι ένα απλό “τσιπ” με την κλασική έννοια. Αποτελείται από μικροεπεξεργαστή (chip), δεκάδες ή εκατοντάδες λεπτότατα ηλεκτρόδια (threads), σύστημα ασύρματης επικοινωνίας, σύστημα τροφοδοσίας, βιοσυμβατά υλικά και λογισμικό αποκωδικοποίησης νευρωνικών σημάτων. Δηλαδή είναι ολόκληρο νευροτεχνολογικό σύστημα, όχι ένα chip όπως το καταλαβαίνουμε από τις κάρτες ή τους υπολογιστές.

Τι ακριβώς όμως είναι αυτά τα σύνθετα εμφυτεύσιμα συστήματα διεπαφής εγκεφάλου–υπολογιστή; Δεν είναι «τσιπ ελέγχου σκέψης», όπως συχνά παρουσιάζονται, αλλά ηλεκτρόδια που διαβάζουν νευρωνικά σήματα και μπορούν (θεωρητικά) να διεγείρουν νευρώνες.

Σήμερα ο κατασκευαστής δηλώνει ως στόχους: παράλυση, Parkinson, τραύματα. Αύριο: ενίσχυση μνήμης, μείωση άγχους, βελτιστοποίηση συγκέντρωσης.

Καταλαβαίνουμε πλέον τη διαφορά: Τα smartwatches είναι εξωτερικοί αισθητήρες. Τα BCI είναι εσωτερικοί αισθητήρες/διεγέρτες.

Είναι ίδια λογική, αλλά πολύ διαφορετικό το βάθος διείσδυσης.

Ε.- Το πραγματικό ερώτημα δεν είναι τεχνολογικό

Είναι πολιτικό και ανθρωπολογικό. Το προσδιορίζουν τα ερωτήματα: α) Ποιος ορίζει ποια δεδομένα είναι “υγεία”; β) Ποιος αποφασίζει πότε επιτρέπεται παρέμβαση; γ) Μπορείς να αποσυνδεθείς χωρίς να αποκλειστείς κοινωνικά; δ) Τι σημαίνει ελεύθερη βούληση όταν το σύστημα σε γνωρίζει καλύτερα από εσένα;

Το ξέρουμε πολύ καλά από την εμπειρία της «πανδημίας covid» και των σκευασμάτων που μας πλασάραν ως «εμβόλια». Η τεχνολογία δεν έχει ηθική κατεύθυνση από μόνη της. Την κατεύθυνση τη δίνουν οι θεσμοί, τα οικονομικά κίνητρα, και η κοινωνική ανοχή.

Και να μη ξεχνούμε τη ρήση του Πλάτωνα στο Μενέξενο: «πᾶ­σά τε ἐ­πι­στή­μη χω­ρι­ζο­μέ­νη δι­και­ο­σύ­νης καὶ τῆς ἄλ­λης ἀ­ρε­τῆς πα­νουρ­γί­α, οὐ σο­φί­α φα­ί­νε­ται».

ΣΤ.- Συμπέρασμα

Τα smartwatches και τα συναφή δεν είναι ουδέτερα, είναι προδρομικά και ανοίγουν τον δρόμο για βαθύτερη ενσωμάτωση ανθρώπου–συστήματος. Δεν οδηγούν αναγκαστικά σε δυστοπία. Αλλά χωρίς σαφή όρια και με πονηρές προθέσεις, οδηγούν αναπόφευκτα σε κοινωνίες όπου η ελευθερία δεν αφαιρείται, απλώς αναπρογραμματίζεται.

Αν θέλεις να με ακολουθήσεις, στο επόμενο άρθρο μπορούμε να μιλήσουμε: Για κόκκινες γραμμές που θα έπρεπε να τεθούν. Για το αν υπάρχει τεχνικός τρόπος αντίστασης / αυτονομίας. Για το αν η ίδια η έννοια του «ανθρώπου» αλλάζει.

Δεν υπάρχουν σχόλια