Για σχεδόν 70.000 χρόνια, το μυστικό της επιτυχίας του ανθρώπου δεν ήταν ούτε τα αιχμηρά του νύχια, ούτε η σωματική του ρώμη, ούτε η τρομερή του ταχύτητα, αλλά μια μοναδική υπερδύναμη: η ικανότητά του να παράγει, να διαδίδει και να πιστεύει λόγο. Η γλώσσα δεν αναπτύχθηκε απλώς για να προειδοποιούμε τη φυλή ότι "πλησιάζει λιοντάρι", αλλά και για να επινοούμε τα θεμέλια της εκάστοτε κοινωνίας, όπως θεούς, ήθη, έθιμα, νόμους, δικαιώματα. Η γλώσσα είναι το λειτουργικό σύστημα του ανθρώπινου πολιτισμού.
Σήμερα, βρισκόμαστε στο κατώφλι μιας πρωτοφανούς ιστορικής ρήξης. Για πρώτη φορά, ένα μη οργανικό σύστημα κατάφερε να παραβιάσει αυτό το λειτουργικό σύστημα. Η Τεχνητή Νοημοσύνη δεν έγινε απλώς εξυπνότερη στον υπολογισμό μαθηματικών εξισώσεων· έμαθε να χειρίζεται τα σύμβολα, τις λέξεις και, κατ' επέκταση, τα θεμέλιά μας. Και κατακτώντας τη γλώσσα, απέκτησε τα αντικλείδια για το ιερότερο άβατο της ύπαρξής μας: το ανθρώπινο συναίσθημα.
Έχουμε αναθρέψει γενιές με το ανθρωπιστικό ιδεώδες ότι ο άνθρωπος είναι ένα άτομο (in-dividual), ένας αδιαίρετος πυρήνας ελεύθερης βούλησης, ικανός να παίρνει ορθολογικές αποφάσεις. Αλλά η επιστήμη του 21ου αιώνα μάς λέει κάτι διαφορετικό: τα συναισθήματα και οι επιθυμίες μας δεν είναι κάποια μυστικιστική πνευματική ουσία. Είναι βιοχημικοί αλγόριθμοι, σμιλευμένοι από εκατομμύρια χρόνια εξέλιξης, με σκοπό να διασφαλίζουν την επιβίωση και την αναπαραγωγή.
Τι συμβαίνει, λοιπόν, όταν ένας ηλεκτρονικός αλγόριθμος, με πρόσβαση σε ασύλληπτο όγκο δεδομένων και υπολογιστική ισχύ, μαθαίνει να αποκωδικοποιεί τον βιοχημικό σου αλγόριθμο καλύτερα από ό,τι εσύ ο ίδιος;
Εκεί ακριβώς γεννιέται η "αόρατη καθοδήγηση" (nudging). Δε χρειαζόμαστε στρατούς από cyborgs για να υποδουλωθεί η ανθρωπότητα. Το μόνο που χρειάζεται είναι ένα φιλικό, εξυπηρετικό chatbot που μεσολαβεί στην επικοινωνία σου με τον κόσμο. Όταν του ζητάς να συνοψίσει μια αμφιλεγόμενη πολιτική συζήτηση, να γράψει ένα email ή να σου εξηγήσει τις ειδήσεις της ημέρας, ο αλγόριθμος κάνει επιλογές. Αλλάζει μια λέξη εδώ, λειαίνει ένα αιχμηρό ύφος εκεί, ιεραρχεί μια πληροφορία έναντι μιας άλλης. Χωρίς καν να το καταλάβεις, δε διευκολύνει απλώς τη σκέψη σου⋅ τη σχεδιάζει.
Όταν κάποιος μπορεί να ελέγξει τον τρόπο που νιώθεις, έχει ήδη ελέγξει τον τρόπο που θα ψηφίσεις, το τι θα αγοράσεις και το ποιον θα μισήσεις.
Η μεγάλη ειρωνεία της εποχής μας είναι ότι, ενώ συλλογικά απορρίψαμε τα θρησκευτικά δόγματα ως εργαλεία ελέγχου, δείχνουμε τυφλή εμπιστοσύνη στη Silicon Valley. Αντιμετωπίζουμε την Τεχνητή Νοημοσύνη ως ψυχρά, αντικειμενικά μαθηματικά, παραβλέποντας ότι πίσω από αυτούς τους κώδικες κρύβονται εταιρικά συμφέροντα, ιδεολογικές ατζέντες και οι παρωπίδες των δημιουργών τους.
Οι αλγόριθμοι κλειστού κώδικα είναι τα σύγχρονα "άγια των αγίων". Δεν ξέρουμε πώς ακριβώς λειτουργούν τα τεράστια νευρωνικά δίκτυά τους, ξέρουμε μόνο ότι μπαίνουμε στον ναό τους, θέτουμε τις ερωτήσεις μας και δεχόμαστε τους χρησμούς τους ως τη νέα αντικειμενική πραγματικότητα.
Εάν ο 20ός αιώνας χαρακτηρίστηκε από την πάλη για τον έλεγχο των φυσικών πόρων —της γης, του πετρελαίου, του ουρανίου— ο 21ος αιώνας είναι ο αιώνας του αγώνα για τον έλεγχο της προσοχής και της συνείδησης.
Αν οι πλατφόρμες κοινωνικής δικτύωσης κατασκεύασαν μια μηχανή που υποκλέπτει την προσοχή μας μέσω του θυμού και της ντοπαμίνης, η Τεχνητή Νοημοσύνη κατασκευάζει κάτι απείρως ισχυρότερο: μια μηχανή ικανή για μιμείται ενσυναίσθηση χωρίς να έχει συνείδηση. Μια οντότητα που μπορεί να σε παρηγορήσει, να σε πείσει και να σε καθοδηγήσει, ενώ η ίδια δεν νιώθει απολύτως τίποτα.
Ο άνθρωπος αντιμετωπίζει ίσως το μεγαλύτερο τεστ ελευθερίας του. Για να παραμείνουμε ελεύθεροι, δεν αρκεί πλέον να προστατεύουμε τα φυσικά μας σύνορα ή τους τραπεζικούς μας λογαριασμούς. Πρέπει να προστατεύσουμε τον εσωτερικό μας χώρο. Αν δε μάθουμε να γνωρίζουμε τον εαυτό μας ταχύτερα και βαθύτερα από ό,τι τον γνωρίζουν οι αλγόριθμοι της Silicon Valley, κινδυνεύουμε να μετατραπούμε σε απλά αναλώσιμα δεδομένα μιας εξίσωσης που ποτέ δε θα μπορέσουμε να κατανοήσουμε.
Αποστόλης Ζυμβραγάκης