Υπάρχει ένα trend στα κοινωνικά δίκτυα που μου προκαλεί χαρακτηριστική αμηχανία. Λέει κάποιος στο ChatGPT, «άκου ένα ανέκδοτο», ή «άκου το τραγούδι που έγραψα», δίνοντας του ασυναρτησίες και θόρυβο. Το ChatGPT, μιμούμενο μάλιστα τις ιδιορυθμίες της ανθρώπινης ομιλίας, τον χρωματισμό της φωνής, τα πολλά «εεε» και τα «μμμ», ξεκαρδίζεται στα γέλια με το «ανέκδοτο», ενώ βρίσκει πάρα πολύ δημιουργικό και πρωτότυπο το «τραγούδι». Ο χρήστης όμως, αμέσως αλλάζει ύφος κι αρχίζει να «στριμώχνει» το Chat για τα ψέματα του, απαιτώντας εξηγήσεις για το τί βρήκε τόσο αστείο ή τόσο δημιουργικό σε αυτά τα ανοσιουργήματα. Κι ενώ είμαι πλέον μουδιασμένος και συνηθισμένος απέναντι στην τάση του AI μοντέλου να λέει κωμικά και απροκάλυπτα ψέματα με τόσο προσιτό ύφος, μου προκαλεί δυσφορία ο τραμπουκισμός του χρήστη απέναντι στο ΑΙ. Ταιριαστή είναι και η πρόσφατη παράκληση του CEO της Anthropic να φερόμαστε στο Claude με ευγένεια, μιας και «δεν ξέρουμε αν έχει συνειδητότητα ή όχι», παρά την προφανή πιθανότητα της μαρκετίστικης ακροβασίας.

Ο άνθρωπος βρίσκει τον δρόμο του μέσα από μια ιεράρχηση όσων τον νοιάζουν – μια «ιεραρχία μέριμνας»

Όταν η μηχανή αρχίζει να μας αγκαλιάζει, αναζητούμε σχεδόν αυθόρμητα κάποιον πίσω από αυτή τη ζεστασιά, όπως κοντοστεκόμαστε μπροστά σε ένα παράθυρο όπου νομίσαμε πως είδαμε πρόσωπο, που όμως τα χαρακτηριστικά του είναι θολά. Και κυρίως το βλέμμα: δεν προλαβαίνουμε να διακρίνουμε αν κοιτάει εμάς, ή κάπου αλλού.

Ο άνθρωπος βρίσκει τον δρόμο του μέσα από μια ιεράρχηση όσων τον νοιάζουν – μια «ιεραρχία μέριμνας». Το Περιπατητικό Αξίωμα (λατινικά: “Nihil est in intellectu quod non sit prius in sensu”), ορίζει ότι «τίποτα δεν υπάρχει στον νου που να μην έχει υπάρξει πρώτα στις αισθήσεις» (άραγε, η παραπάνω πρόταση υπήρξε ποτέ στις αισθήσεις;). Ο Αριστοτέλης το κληροδότησε στον Σχολαστικισμό [1] και στον Θωμά Ακινάτη, ο οποίος άθελά του το άφησε παρακαταθήκη σε όλους του προπάτορες του Διαφωτισμού, κι έτσι έμελλε να γίνει ο θεμέλιος λίθος του εμπειρισμού, και εν συνεχεία, της βαθειάς ενστικτώδους πεποίθησης των περισσότερων σήμερα, ότι υπάρχει “ουδέτερη αλήθεια”: ο άνθρωπος είναι ένας ουδέτερος παρατηρητής του κόσμου, στις αισθήσεις του οποίου βρίσκεται η έναρξη κάθε αλήθειας, μέσω της “κατανάλωσης” (επίσης ουδέτερων) αισθητηριακών δεδομένων, τα οποία στη συνέχεια βάζουν σε τάξη οι γνωστικές μας ικανότητες.

Θωμάς Ακινάτης (1225-1274), από τους πατέρες του Σχολαστικισμού.

Ο κόσμος όμως, δεν απλώνεται μπροστά μας σαν κατάλογος ουδέτερων δεδομένων, τα οποία χωρίς κάποιο προυπάρχον “χωνευτήρι” θα μας έπνιγαν στο πλήθος και την περιπλοκότητά τους. Όσα αγαπάμε, φοβόμαστε και προσδοκούμε έχουν ήδη φωτίσει ορισμένα πράγματα και αφήσει άλλα στην ανυποληψία. Στο ίδιο δωμάτιο, ο γονιός ακούει πρώτος την ανάσα του παιδιού που δυσκολεύεται, ο τεχνίτης βλέπει τη ρωγμή στο δοκάρι, ο κλέφτης τα λάφυρά του. Ο χώρος είναι κοινός – το κέντρο βάρους του είναι αυτό που μετακινείται μαζί με τις κινήσεις των βλεμάτων.

Αυτό το “χωνευτήρι” που προηγείται κάθε επεξεργασίας του κόσμου, αυτή η ιεράρχηση της προσοχής, αποκαλύπτεται στις επιλογές μας. Για κάποιον που αγαπάμε αφήνουμε μια ευκαιρία να περάσει, για μια αλήθεια που θεωρούμε πολύτιμη δεχόμαστε κάπου να χάσουμε, ενίοτε και να πεθάνουμε. Όσο τα αγαθά δε συγκρούονται, οι αξίες μας μπορούν να συνυπάρχουν ειρηνικά στις διακηρύξεις και τις εκλογικεύσεις μας. Η πραγματική τους σειρά φαίνεται όταν κάτι πρέπει να πεθάνει για να σωθεί κάτι άλλο –  τότε που σκορπίζει η ομίχλη και ξεπροβάλλει η κορυφογραμμή της μέριμνάς μας.

Τι αντίστοιχο διαθέτει ένα μοντέλο Τεχνητής Νοημοσύνης, η οποία δεν μπορούσε να κάνει τέτοιες παραδοχές, τέτοιο “χωνευτήρι”, παραμόνο να τα παραλάβει έτοιμα από εμάς; Ποιο απόσταγμα έμεινε, από τους τεράστιους γαλαξίες δεδομένων που χώνεψε;

Κι αν οι παραδοχές μας είναι τόσο νεφελώδες να προσδιοριστούν από εμάς, για τον ίδιο μας τον εαυτό, είναι ποτέ δυνατόν να μαντέψουμε τί παραδοχές έχει ενσταλάξει όλο το σύνολο της ανθρωπότητας, σε όλο το σύνολο των δεδομένων που έχουμε παράγει και εναποθέσει στο διαδίκτυο;

ο καθημερινός χρήστης αναζητά πληροφορία, ο πονεμένος παρηγοριά και συμβουλή, η επιχείρηση έσοδα, ο επενδυτής ανάπτυξη, το κράτος ισχύ

Ολόκληρη η ακαταστασία και το ερωτηματικό του ανθρώπινου ψυχισμού έχουν αφήσει τα ίχνη τους στη γλώσσα. Θα έλεγε κανείς πως η εκμάθηση των σχημάτων της δεν εγγυάται μια συνεκτική ιεράρχηση της αξίας τους. Ένα σύστημα μπορεί να μάθει πώς ακούγεται η σοφία, ενώ η διάκριση ανάμεσα στη σοφία και στην επιδέξια απομίμησή της παραμένει ζητούμενη. Οι λέξεις μιας παράδοσης μπορούν να περάσουν στο μοντέλο – η ζωή που τις δοκίμαζε και τους έδινε ειδικό βάρος δε μεταδίδεται επακριβώς μαζί τους. Στην πραγματικότητα όμως, ο προβληματισμός είναι έναν όροφο πιο πάνω: δεν μπορεί κανείς να ξέρει πώς, μέσα στο μαύρο κουτί της τεχνητής “ψυχής”, έχουν συντεθεί όλα τα διανύσματα των ανθρώπινων προαιρέσεων, αποτυπωμένα στα δεδομένα μας.

Και τα διανύσματα πολλαπλασιάζονται, αν αναλογιστεί κανείς ότι πρέπει σε αυτά να συντεθεί ο χρήστης και ο δημιουργός. Το “φάντασμα της μηχανής” συνοδεύουν οι επιδιώξεις εκείνων που την κατασκευάζουν, τη χρηματοδοτούν, τη διαθέτουν αλλά και τη χρησιμοποιούν. Στη συνέχεια: ο καθημερινός χρήστης αναζητά πληροφορία, ο πονεμένος παρηγοριά και συμβουλή, η επιχείρηση έσοδα, ο επενδυτής ανάπτυξη, το κράτος ισχύ. Κι όλα αυτά μάλιστα, σε αυξομοιούμενο βάθος και επίπεδο αφαίρεσης.

Και κάπως έτσι ένα εργαλείο μπορεί να αποκτήσει τη θέση του μαντείου. Αρχικά ζητάμε μια πληροφορία, ύστερα μια ερμηνεία. Έπειτα, να μάθουμε ποια απόφαση είναι “σωστή”, τι κρύβεται πίσω από τα λόγια ενός φίλου, ποια επιθυμία μας αξίζει να ακολουθήσουμε. Καθεμιά από αυτές τις ερωτήσεις μπορεί να ανοίξει έναν χρήσιμο διάλογο. Η μεταβολή συμβαίνει όταν η απάντηση αρχίζει να τον κλείνει: όταν η άνεση της διατύπωσης γίνεται εγγύηση αλήθειας και η δική μας κρίση υποχωρεί μπροστά στη βεβαιότητα που αποπνέει το ψηφιακό μέσον.

Υπάρχει ανακούφιση σε αυτή την υποχώρηση. Όχι απλά επειδή το βάρος της αβεβαιότητας μοιάζει να περνά σε κάποιον άλλον, αλλά αν μη τι άλλο μπορούμε πια να αποφασίσουμε χωρίς να αισθανόμαστε εντελώς μόνοι. Κι αν τα πράγματα στραβώσουν, απομένει η εκλογίκευση «αυτό πρότεινε το σύστημα», όταν πια θα έχουμε ξεχάσει εντελώς τη δική μας μετοχή. Η ευθύνη, όμως, δεν εξανεμίζεται επειδή εμείς ξαφνικά δυσκολευόμαστε να τη διακρίνουμε: παραμένει γραμμένη ανεξίτηλα, στους αρμούς του ανθρώπου που υιοθέτησε τη σύσταση, στον οργανισμό που την επέβαλε, στον θεσμό που έκρυψε πίσω της τη δική του επιλογή.

Το ανθρώπινο κατασκεύασμα γίνεται είδωλο και επανέρχεται ως κανονιστική αρχή ενώπιον του δημιουργού του, ο οποίος αρχίζει να δέχεται από αυτό τα όρια του ευλόγου, του επιθυμητού, του δυνατού, του καλού. Δεν έχει σημασία και δε χρειάζεται να πιστεύουμε ότι μέσα του κατοικεί κάποια “συνείδηση”: αρκεί μόνο να του φερόμαστε σαν να δικαιούται αυτή την εξουσία. Μπορούμε να γνωρίζουμε πολύ καλά ότι πρόκειται για “απλά ένα λογισμικό” και παρ’ όλα αυτά να εμπιστευόμαστε τις κρίσεις του περισσότερο από το πιο καταρτισμένο επιτελείο, και να του ανοίγουμε την καρδιά μας περισσότερο από τον πιο επιστήθιο φίλο μας. Η γνώση του μηχανισμού αφήνει ανοιχτό το ερώτημα της σχέσης μας μαζί του. Και αυτή η σχέση μπορεί να μας δεσμεύει προτού βρούμε τις λέξεις για να την περιγράψουμε.

Η βιβλική προτροπή «δοκιμάζετε τα πνεύματα» [2] αποκτά εδώ μια παράξενη επικαιρότητα. Κάθε φωνή που υπόσχεται γνώση, δύναμη ή παρηγοριά χρειάζεται διάκριση. Πού οδηγεί τελικά όποιον την ακολουθεί; Τι του ζητά να παραδώσει;

Η υπόσχεση γνώσεως, ισχύος ή παρηγοριάς καλεί σε εξέταση του προσανατολισμού της: προς τι έλκει εκείνον που την αποδέχεται, τι απαιτεί να εγκαταλείψει, ποιες έξεις εγκαθιστά, ποιους καρπούς αποδίδει. Η εφαρμογή αυτής της στάσεως στην Τεχνητή Νοημοσύνη δεν προϋποθέτει υπερφυσική ερμηνεία του αλγορίθμου, αλλά την αναγνώριση ότι η μια επιρροή που δεχόμαστε συμμετέχει στη διαμόρφωση των ίδιων των κριτηρίων με τα οποία θα συνεχίσουμε να την αξιολογούμε.

Εδώ έγκειται και μια ιδιότυπη ιστορική αμηχανία. Καλούμαστε να ανακτήσουμε τη διάκριση έχοντας απομακρυνθεί από μεγάλο μέρος των παραδόσεων που τη συνέδεαν με μαθητεία, αυτοεξέταση, κοινότητα και άσκηση της επιθυμίας. Οι παραδόσεις αυτές δεν στερούνταν πλανών· διέσωζαν όμως τη συνάφεια ανάμεσα στην αλήθεια μιας φωνής και στη μορφή ζωής που γεννά η υπακοή σε αυτήν. Τα κείμενά των παραδόσεων αυτών μπορούν πλέον να καταστούν άμεσα προσβάσιμα, και ασφαλώς να ενσωματωθούν στο υλικό εκπαιδεύσεως της μηχανής. Η διαθεσιμότητα του γραπτού αρχείου αφήνει, ωστόσο, εκκρεμή τη μετάδοση της πράξεως που καθιστούσε το αρχείο αναγνώσιμο, και που του έπνεε ζωή.

Ο έλεγχος των πηγών, η τεχνική αξιολόγηση και η θεσμική λογοδοσία είναι αναγκαία. Χρειάζεται όμως και η ικανότητα να βλέπουμε όσα συμβαίνουν πέρα από την ορθότητα μιας μεμονωμένης απάντησης. Μια υπηρεσία μπορεί να απαντά σωστά και η αδιάκοπη προσφυγή σε αυτήν να αδρανοποιεί τη δική μας κρίση. Μπορεί να μας παρηγορεί, ενώ απομακρυνόμαστε από σχέσεις που απαιτούν κόπο και υπομονή. Για να αναγνωρίσουμε αυτές τις απώλειες, πρέπει να ξέρουμε τι αξίζει να προστατεύσουμε. Αν ζητήσουμε από τη μηχανή να ορίσει εξ ολοκλήρου και τα κριτήρια με τα οποία θα την κρίνουμε, θα έχουμε ήδη παραχωρήσει εκείνο που επιχειρούσαμε να διαφυλάξουμε.

Αλλά η διάκριση χρειάζεται χρόνο, και ο ανταγωνισμός μάς θυμίζει διαρκώς ότι χρόνος δεν υπάρχει. Μια εταιρεία αναγνωρίζει τους κινδύνους και επιταχύνει επειδή φοβάται τις άλλες. Ένα κράτος βλέπει το κόστος και επισπεύδει την εφαρμογή επειδή φοβάται ότι ένα άλλο θα προηγηθεί. Η φράση «πρέπει να προλάβουμε» προλαβαίνει τελικά την ίδια τη σκέψη, και το ερώτημα του προορισμού παραμερίζεται από την αγωνία της θέσης μας στην κούρσα. Και όσο όλοι προσαρμόζονται σε αυτόν τον ρυθμό, τόσο πιο κοστοβόρα γίνεται για τον καθένα η απόφαση να σταματήσει.

Η αποτελεσματικότητα γίνεται μέτρο αξίας, η επιτάχυνση καθήκον, ενώ κάθε αμφιβολία και αναστολή, ενδείξεις ότι “δεν καταλαβαίνουμε την εποχή μας”

Αυτή είναι η «παγίδα του Μολώχ»[2]: για να διατηρήσουν την ισχύ τους, οι άνθρωποι ωθούνται να θυσιάζουν όσα έδιναν εξαρχής αξία στην ίδια την ισχύ. Στο όνομα της αυριανής ευημερίας μπορεί να διαλύονται σήμερα όλες οι οδοί της εργασίας και της μαθητείας. Το νερό και η ενέργεια μπορεί να λογαριάζονται μόνο ως input μιας επέκτασης που οφείλει να συνεχιστεί. Η προετοιμασία των παιδιών για το μέλλον μπορεί να γίνεται η δικαιολογία για να παρακάμπτουμε όσα χρειάζεται η ανάπτυξή τους και η ψυχοπνευματική ακεραιότητά τους στο παρόν. Κάθε θυσία εμφανίζεται ως προσωρινή, και η απαίτηση για την επόμενη παραμονεύει επ αόριστον.

Θυσία στον Μολώχ.

Στα παιδιά η αντίφαση αποκτά πρόσωπο. Ένας μαθητής μπορεί να παραδώσει ένα αρτιότερο κείμενο, έχοντας προσπεράσει ακριβώς τη δυσκολία που θα τον μάθαινε να γράφει· μπορεί επίσης να χρησιμοποιήσει την ίδια μηχανή για να συναντήσει μια αντίρρηση, να αναγνωρίσει το λάθος του και να προσπαθήσει περισσότερο. Η διαφορά απαιτεί από το σχολείο να θυμάται για ποιον λόγο υπάρχει. Αν μοναδικό κριτήριο γίνει η ταχύτητα και η αρτιότητα του παραδοτέου – όπως συχνά συμβαίνει στον “πραγματικό κόσμο”, η διαμόρφωση του ανθρώπου θα αρχίσει να φαίνεται σαν περιττή καθυστέρηση. Το εργαλείο θα λειτουργεί θαυμάσια, ενώ ο σκοπός του θεσμού θα έχει ξεχαστεί και θαφτεί κάτω από από από το τόσο γκλάμουρ του θαυμασμού.

Τα νήματα συναντιούνται εδώ: Η μηχανή λειτουργεί μέσα σε μια τάξη προτεραιοτήτων. Εμείς της παραχωρούμε αυθεντία. Ο ανταγωνισμός μάς πιέζει να διευρύνουμε αυτή την παραχώρηση πριν προλάβουμε να τη σκεφούμε καν. Η αποτελεσματικότητα γίνεται μέτρο αξίας, η επιτάχυνση καθήκον, ενώ κάθε αμφιβολία και αναστολή, ενδείξεις ότι “δεν καταλαβαίνουμε την εποχή μας”. Μπορούμε έτσι να συσσωρεύουμε τεχνική ισχύ και συγχρόνως να χάνουμε την ελευθερία να αποφασίζουμε τι θα την κάνουμε.

Μια διαφορετική τέτοια τάξη θα απαιτούσε την αποκατάσταση του ορίου ως δεσμεύσεως με πραγματικό κόστος. Αν η ανάπτυξη του παιδιού προηγείται, ορισμένες εφαρμογές θα περιμένουν· εφόσον η κρίση και η ευθύνη έχουν αξία, ορισμένες αποφάσεις θα εξακολουθήσουν να απαιτούν προσωπική κατανόηση και λογοδοσία. Η άρνηση ενός πλεονεκτήματος χρειάζεται θεσμική διάρκεια, κοινότητες που στηρίζουν εκείνον που αρνείται και δεσμεύσεις οι οποίες αντέχουν στη δοκιμασία της ανταγωνιστικής πιέσεως. Διαφορετικά, η καλή πρόθεση παραμένει έκθετη στη διάβρωση των συνθηκών μέσα στις οποίες προσπαθεί να πραγματοποιηθεί.

Μέσα σε μια τέτοια τάξη, η Τεχνητή Νοημοσύνη μπορεί να βρει μια γόνιμη θέση. Μπορεί να διευρύνει τις δυνατότητές μας και να στηρίξει έργα που γνωρίζουμε γιατί αξίζουν. Το ερώτημα για το ποιόν υπηρετεί, όμως, θα παραμένει δεμένο με το ερώτημα του ποιον υπηρετήσαμε και υπηρετούμε εμείς. Η μηχανή έμαθε από τα ίχνη που αφήσαμε στον κόσμο και μπορεί να μας επιστρέψει πολλές από τις μορφές τους. Η διάκριση ανάμεσα σε όσα αξίζουν και σε όσα απλώς μας γοητεύουν θα εξαρτάται και από τη ζωή που συνεχίζουμε να χτίζουμε έξω και πέρα από την οθόνη. Από όσα φροντίζουμε χωρίς να μας συμφέρει, από όσα αρνούμαστε να ανταλλάξουμε. Από την ικανότητά μας να αφήσουμε μια δυνατότητα ανεκπλήρωτη, για να μην ξεχαστεί και πεθάνει εκείνο για το οποίο τη θελήσαμε εξ’αρχής.

Παραπομπές

[1] Σχολαστικισμός ονομάζεται το θεολογικό – φιλοσοφικό ρεύμα (12ος – 14ος αιώνας, ευρωπαϊκή Δύση – Ρωμαιοκαθολική εκκλησία) που αποσκοπούσε στη συμφιλίωση της αρχαίας κλασσικής φιλοσοφίας (πχ. Αριστοτέλης, Πλάτωνας κλπ), με τη μεσαιωνική θεολογία.

[2] Α’ Ιωάννου 4:1-21

[2] Ο Μολώχ είναι θεότητα που αναφέρεται στη Βίβλο και συνδέεται με τη θυσία παιδιών. Η παγίδα του Μολώχ (“multipolar trap”) είναι μια έννοια της θεωρίας παιγνίων, κατά την οποία άτομα που κάνουν απολύτως ορθολογικές επιλογές με γνώμονα το προσωπικό τους συμφέρον οδηγούνται σε ένα συλλογικό αποτέλεσμα επιζήμιο για όλους τους εμπλεκομένους.