Σε μια γωνιά του πλανήτη, κάποιος ρωτά ένα σύστημα τεχνητής νοημοσύνης πώς θα ήταν η ζωή του αν ήταν σκιουράκι στον Άρη. Σε μια άλλη γωνιά, ένα ποτάμι εξατμίζεται λίγο πιο γρήγορα. Και κανείς δεν το συνδέει.
Ο άνθρωπος είναι ίσως το μόνο ον που κατάφερε να χτίσει μηχανές πιο έξυπνες από τον εαυτό του, προτού προλάβει να σοφιστεί τι σημαίνει σοφία. Δημιουργήσαμε τα μεγάλα γλωσσικά μοντέλα, όχι επειδή τα είχαμε ανάγκη, αλλά επειδή μπορούσαμε. Σαν να βρήκαμε ένα αρχαίο σπαθί κάτω απ’ το χώμα και να αρχίσαμε να παίζουμε με αυτό μπροστά από καθρέφτες.
Η τεχνητή νοημοσύνη δεν είναι πια το ερώτημα του μέλλοντος· είναι ήδη το άθροισμα των ερωτήσεων του παρόντος. Εκατομμύρια φορές την ημέρα, άνθρωποι πατούν ένα κουμπί και λαμβάνουν απαντήσεις — απαντήσεις που μοιάζουν μαγικές, σχεδόν αόρατες. Μα τίποτα δεν είναι αόρατο, απλώς είναι καλά κρυμμένο.
Κάθε φορά που ένα chatbot μάς λέει «καλημέρα», πίσω του ιδρώνει ένας server σε κάποιο data center. Κάθε φορά που του ζητάμε να μας κάνει καρτούν, ένας υπερυπολογιστής καταναλώνει ενέργεια ισοδύναμη με ώρες φωτισμού. Και για να μη λιώσει, πίνει νερό — όχι μεταφορικά, κυριολεκτικά. Εξατμιστική ψύξη. Λίτρα ολόκληρα. Για να απαντηθεί μια ερώτηση, εξαντλείται ένα ποτήρι νερό. Ίσως από ένα ποτάμι που δεν θα φτάσει ποτέ στον προορισμό του.
Ο πολιτισμός μας βασίζεται στην αφαίρεση: αφαιρούμε από το χώμα, από το μέλλον, από την ηθική. Χτίζουμε τεχνολογίες χωρίς να διατυπώνουμε πρώτα τις σωστές ερωτήσεις. Κι η πιο κρίσιμη απ’ όλες είναι ίσως αυτή: Χρειάζεται αυτό να ειπωθεί; Ή, καλύτερα: Αξίζει ο πλανήτης την ερώτησή μου;
Η ηθική της τεχνητής νοημοσύνης δεν είναι μόνο πρόβλημα ρύθμισης ή ασφάλειας. Είναι πρόβλημα νοήματος. Ζούμε σε έναν κόσμο που ο άνθρωπος μπορεί να απευθυνθεί σε μια μηχανή με οποιαδήποτε ερώτηση — αλλά έχει ξεχάσει να ρωτά τον εαυτό του «γιατί». Όταν κάθε τι είναι δυνατό, ο κίνδυνος δεν είναι η αποτυχία, αλλά η ελαφρότητα. Η ανευθυνότητα μεταμφιεσμένη σε διασκέδαση.
Η οικολογία της συνείδησης πρέπει να προηγείται της οικολογίας της τεχνολογίας. Δεν μπορούμε να ζητούμε πράσινους servers, αν το μυαλό μας λειτουργεί σαν server χωρίς φίλτρο, χωρίς παύση, χωρίς εσωτερική σιγή.
Κάθε μας ερώτηση προς την τεχνητή νοημοσύνη είναι μια χειρονομία ισχύος — κι επομένως, ευθύνης. Η ιστορία δεν θα μας κρίνει γιατί φτιάξαμε έξυπνες μηχανές. Θα μας κρίνει γιατί, ενώ τις φτιάξαμε, συνεχίσαμε να ρωτάμε χαζά.
Στο τέλος, ίσως ο πιο επικίνδυνος αλγόριθμος δεν είναι αυτός που απαντά, αλλά εκείνος που δεν σταματά ποτέ να ρωτά. Κι αν δεν διδάξουμε τη σιωπή στην τεχνητή νοημοσύνη, ας την ξαναμάθουμε πρώτα εμείς.
Μη ρωτάς για πλάκα. Όταν ρωτάς, φρόντισε να αξίζει το νερό που εξατμίστηκε για να πάρεις την απάντηση. Λοιπόν, πόσο αξίζουν οι ερωτήσεις σου;