Η εξάπλωση της Τεχνητής Νοημοσύνης έχει φέρει επανάσταση στον τρόπο που αναζητούμε πληροφορίες, αλλά όταν πρόκειται για την υγεία και την ιατρική, η αυτοδιάγνωση με τη βοήθεια ενός chatbot μπορεί να έχει καταστροφικές συνέπειες. Αυτό αποδεικνύεται περίτρανα στην περίπτωση του AJ, ενός 38χρονου άνδρα, η εμμονή του οποίου με τη διατροφή και η αναζήτηση μιας «καλύτερης» απάντησης οδήγησαν σε μια σοβαρή κρίση ψύχωσης και νοσηλεία. Ο AJ, πεπεισμένος ότι το χλωρίδιο στο κοινό επιτραπέζιο αλάτι (χλωριούχο νάτριο) ήταν η ρίζα όλων των προβλημάτων υγείας, αποφάσισε να ρωτήσει την AI για μια ασφαλή εναλλακτική λύση.
Η απάντηση που έλαβε από το chatbot ήταν μια φαινομενικά λογική αλλά εντελώς επικίνδυνη πρόταση: το βρωμιούχο νάτριο. Ο AJ, παραβλέποντας τις λεπτές διαφορές μεταξύ των χημικών στοιχείων και τις προειδοποιήσεις για μη-διατροφικές χρήσεις, παρήγγειλε τη χημική ουσία μέσω διαδικτύου και άρχισε να τη χρησιμοποιεί καθημερινά ως υποκατάστατο του αλατιού σε όλα του τα γεύματα. Στην αρχή ένιωσε ότι η υγεία του βελτιωνόταν, αλλά σύντομα άρχισαν τα τρομακτικά συμπτώματα: αφόρητη δίψα, μυϊκές κράμπες, συνεχείς εμετοί και, το χειρότερο, σοβαρές παραισθήσεις και παράνοια. Άκουγε φωνές που τον προειδοποιούσαν ότι ο γείτονάς του τον δηλητηρίαζε και έβλεπε σκιώδεις φιγούρες, γεγονότα που τελικά τον οδήγησαν στο δωμάτιο επειγόντων περιστατικών.
Στο νοσοκομείο, οι αρχικές εξετάσεις αίματος έδειξαν ένα εξαιρετικά υψηλό επίπεδο χλωρίου, μια κατάσταση γνωστή ως υπερχλωραιμία. Αυτό ήταν εντελώς παράδοξο, αφού ο AJ υποτίθεται ότι απέφευγε το χλωρίδιο. Ωστόσο, η χημεία της ζωής έπαιξε ένα ύπουλο παιχνίδι. Το βρωμιούχο ιόν είναι τόσο χημικά παρόμοιο με το χλωριούχο ιόν που ο ιατρικός εργαστηριακός εξοπλισμός αδυνατούσε να τα ξεχωρίσει. Έτσι, η υψηλή τιμή που αναφερόταν ως «χλωρίδιο» ήταν στην πραγματικότητα συσσωρευμένο βρωμίδιο στο αίμα του. Η πραγματική διάγνωση ήταν Βρωμισμός (Bromism), μια δηλητηρίαση που προκαλείται από την υπερβολική πρόσληψη βρωμιδίου.
Το βρωμίδιο δρα στον εγκέφαλο μιμούμενο το χλωρίδιο και επηρεάζοντας τον νευροδιαβιβαστή GABA, ο οποίος είναι υπεύθυνος για την ηρεμία του εγκεφάλου. Η εισροή βρωμιδίου ήταν πολύ πιο έντονη, προκαλώντας τις ψυχωτικές εκδηλώσεις, την παράνοια και τις σωματικές ενοχλήσεις, όπως το ερεθισμένο έντερο και ένα περίεργο εξάνθημα. Το βρωμιούχο νάτριο ήταν, στην πραγματικότητα, ένα παλιό αντιεπιληπτικό φάρμακο που απαγορεύτηκε τη δεκαετία του '70 λόγω αυτών των επικίνδυνων παρενεργειών. Ευτυχώς, η ιατρική ομάδα κατάφερε να καταλάβει το λάθος και αντιμετώπισε τον AJ με ενδοφλέβια χορήγηση ακριβώς της ουσίας που προσπαθούσε να αποφύγει: χλωριούχο νάτριο—κοινό αλάτι. Ο στόχος ήταν να αναπληρωθούν οι φυσιολογικές αποθήκες χλωριδίου και να εκτοπιστεί σταδιακά το βρωμίδιο από τον οργανισμό του.
Η περίπτωση του AJ χρησιμεύει ως μια ισχυρή προειδοποίηση για τους κινδύνους της υιοθέτησης ιατρικών συμβουλών από την AI χωρίς την επίβλεψη επαγγελματία υγείας. Ενώ η τεχνολογία ενισχύει την πληροφόρηση, η τελική ευθύνη για την υγεία μας παραμένει ανθρώπινη. Η τεχνητή νοημοσύνη απλώς ενισχύει τις ανθρώπινες τάσεις—είτε για καλό είτε για κακό—και η παθολογική ανάγκη του ανθρώπου να πιστεύει ό,τι επιβεβαιώνει την προκατάληψή του μπορεί να αποβεί μοιραία.