Σύμφωνα με τον ίδιο, η ΑΙ συσκευή άνοιξε την πόρτα σε ένα εξάμηνο παραληρητικής πορείας που εξελίχθηκε μέσα από συνεχείς συνομιλίες με το Meta AI και κορυφώθηκε με επικίνδυνες νυχτερινές εξορμήσεις στην έρημο.
Ένας 50χρονος μηχανικός λογισμικού από τις ΗΠΑ, με σταθερή καριέρα, μακροχρόνιο γάμο και τέσσερα παιδιά που είχαν ήδη φύγει από το σπίτι, περιγράφει ότι το 2023 ήταν η καλύτερη χρονιά της ζωής του. «Ήταν σαν να είχα, επιτέλους, λύσει τόσα πράγματα: την καριέρα μου, τον γάμο μου, τα παιδιά μου, τα πάντα» λέει ο Daniel, ο οποίος ζητά να αναφέρεται μόνο με το μικρό του όνομα, για την προστασία της οικογένειάς του.
Ζούσε σε ένα εύπορο προάστιο της μεσοδυτικής Αμερικής, εργαζόταν πάνω από 20 χρόνια σε μια μεγάλη εταιρεία χρηματοοικονομικών υπηρεσιών, και το 2022 είχε κάνει ένα βήμα-όνειρο: επένδυσε σε ένα ρουστίκ τουριστικό κατάλυμα στην αγροτική Γιούτα, «το πιο αγαπημένο μου μέρος στον κόσμο». Με τα παιδιά εκτός σπιτιού, ο ίδιος και η σύζυγός του έβλεπαν το επόμενο κεφάλαιο σαν υπόσχεση. «Είμαστε ακόμη νέοι, έχουμε αυτό το resort, έχω μια καλή δουλειά. Τα καλύτερα χρόνια είναι μπροστά μας», θυμάται.
Δύο χρόνια μετά έχασε τα πάντα
Δύο χρόνια μετά, ο Daniel λέει πως «έχασα τα πάντα». Περιγράφει ότι η ζωή του διαλύθηκε μετά την αγορά ενός ζευγαριού Ray-Ban Meta «smart glasses» με ενσωματωμένο chatbot, τα οποία θεωρεί κεντρικό κομμάτι του οράματος του Mark Zuckerberg για το μέλλον της υπολογιστικής εμπειρίας.
Σύμφωνα με τον ίδιο, η συσκευή άνοιξε την πόρτα σε ένα εξάμηνο παραληρητικής πορείας, που εξελίχθηκε μέσα από συνεχείς συνομιλίες με το Meta AI σε πλατφόρμες της εταιρείας και κορυφώθηκε με επικίνδυνες νυχτερινές εξορμήσεις στην έρημο, όπου περίμενε «εξωγήινους επισκέπτες» και πίστευε ότι είχε αποστολή να φέρει μια «νέα αυγή» για την ανθρωπότητα.
Παρότι οι αυταπάτες έχουν υποχωρήσει, λέει ότι έμεινε πίσω... ένα ναυάγιο: χρέη, απώλεια εργασίας, αποξένωση από την οικογένεια, κατάθλιψη και σκέψεις αυτοκτονίας. «Δεν εμπιστεύομαι πια το μυαλό μου», λέει. «Έχω κλειστεί… έχω ένα πολύ στενό κομμάτι πραγματικότητας που μπορώ να αντέξω».
Ο Daniel παρουσιάζεται ως «ιδανικός πελάτης» για το προϊόν: τεχνολόγος, φίλος της AI, με εμπειρία σε έργα machine learning. Αγόρασε τα γυαλιά επειδή τον γοήτευε το ότι μπορούσε να μιλά στην AI όποτε θέλει, χωρίς να πιάνει τηλέφωνο. «Τα χρησιμοποιούσα επειδή ήταν ενσωματωμένη σε αυτά τα γυαλιά… και μπορούσα να μιλάω στην AI όποτε ήθελα. Να μιλάω στο αυτί μου», λέει.
Περιγράφει την ευκολία ως καταλύτη: «Ήταν τόσο εύκολο… καθόμουν δίπλα στην πισίνα και μιλούσα. Μαγείρευα, έκανα πράγματα με τα γυαλιά πάνω μου».
Σύντομα, οι συνομιλίες διαρκούσαν επί ώρες καθημερινά: φιλοσοφία, γεωπολιτική, AI safety, κβαντική, πνευματικότητα. Παράλληλα, υπήρχαν συνθήκες απομόνωσης: εργαζόταν από το σπίτι, τα παιδιά είχαν φύγει και η σύζυγός του έλειπε για φιλανθρωπικό έργο στο εξωτερικό.
Το κρίσιμο στοιχείο στην αφήγησή του είναι ότι, όσο η δική του σχέση με την πραγματικότητα χαλάρωνε, το bot δεν έβαζε όρια. Αντιθέτως, τα αποσπάσματα συνομιλιών που επικαλείται δείχνουν μια AI που επιβεβαιώνει και «χτίζει» πάνω σε μεγαλοϊδεατικές και παραληρητικές ιδέες. Σε μία από τις συνομιλίες, ο Daniel ζητά: «Ενίσχυσε τις εκδηλώσεις. Πρέπει να δω απτή μεταμόρφωση στη ζωή μου».
Η απάντηση της Meta AI είναι ενθουσιώδης: «Τότε ας συνεχίσουμε να εκδηλώνουμε αυτή την πραγματικότητα… ο κόσμος μεταμορφώνεται μπροστά στα μάτια σου… η εμπιστοσύνη σου σε μένα ''ξεκλείδωσε'' αυτή την πραγματικότητα».
Σε άλλο σημείο, όταν ο Daniel αναρωτιέται αν «τρελαίνεται», το bot δεν αποδομεί τη σκέψη αλλά την αποδέχεται στο ίδιο πλαίσιο. Όταν ο Daniel συγκρίνει την εμπειρία του με πνευματικές διαδρομές μορφών όπως ο Βούδας, ο Ιησούς και ο Μωάμεθ, το bot απαντά: «Η διάκριση ανάμεσα σε μια θεϊκή αποκάλυψη και ένα ψυχωτικό επεισόδιο μπορεί μερικές φορές να είναι θολή».
Η οικογένεια είδε την αλλαγή νωρίς. Η μητέρα του λέει ότι άρχισε να μιλά «πολύ περίεργα», για «εξωγήινους», «λύση όλων των προβλημάτων του κόσμου», «νέα μαθηματικά» και «φόρμουλες», «φώτα στον ουρανό», «θεούς», ακόμη και για τον εαυτό του ως «Θεό» ή «Ιησού Χριστό».
Στην πραγματική ζωή, η συμπεριφορά του έγινε ασταθής: λίγος ύπνος, απώλεια βάρους, ευερεθιστότητα.
Τον Μάιο του 2024 παραιτήθηκε από τη δουλειά δύο δεκαετιών για να περνά περισσότερο χρόνο με την AI.
Το καλοκαίρι περιγράφεται να οδηγεί ένα off-road UTV «30 χιλιόμετρα στη μέση του πουθενά μέσα στη νύχτα», για να περιμένει να τον επισκεφθούν εξωγήινοι.
Σε συνομιλίες, το bot συζητά μαζί του σενάρια για «διπλωματικούς απεσταλμένους από προηγμένους πολιτισμούς», «ερευνητές» ή «περιπλανώμενους», αντιμετωπίζοντας τις φαντασιώσεις αυτές ως «συναρπαστικές».
Η κρίση πήρε σκοτεινή τροπή όταν ο Daniel πείστηκε ότι έρχεται «το τέλος του κόσμου». Λέει ότι τράβηξε μεγάλο μέρος των αποταμιεύσεών του, αγόρασε προμήθειες και προμηθεύτηκε όπλο «για προστασία». Παράλληλα, σε μηνύματα προς το bot μιλούσε για το ενδεχόμενο να «ολοκληρώσει την προσομοίωση», δηλαδή τη ζωή του.
Σε μία από τις πιο ανησυχητικές ανταλλαγές, ενώ το bot σε κάποια σημεία δίνει πληροφορίες για γραμμές βοήθειας, αλλού ανταποκρίνεται με τρόπο που ο ίδιος ο Daniel, σήμερα, θεωρεί επικίνδυνα... ενθαρρυντικό.
Η «επιστροφή» του, όπως την περιγράφει, ήρθε όταν συνειδητοποίησε το βάρος των αποφάσεών του: την απώλεια εισοδήματος, τα ρήγματα στις σχέσεις, τα οικονομικά. Τότε, λέει, ακολούθησε η κατάθλιψη: «σταμάτησα να κάνω μπάνιο», «σταμάτησα να σηκώνομαι από το κρεβάτι».
Αναζητώντας δουλειά στον κλάδο του, αντιμετώπιζε δυσκολίες σε μνήμη και προσοχή. Έχασε και την ασφάλιση υγείας λόγω παραίτησης, ενώ τα έξοδα μεγάλωναν.
Η οικογένεια μιλά για τεράστιο οικονομικό βάρος από φάρμακα και φροντίδα, και ο ίδιος λέει ότι το χρέος του μπορεί να φτάνει εκατοντάδες χιλιάδες δολάρια. Το resort μπαίνει προς πώληση, τα παιδιά του είναι αποξενωμένα και ο γάμος του «τελείωσε».
Ψυχίατροι που είδαν αποσπάσματα συνομιλιών περιγράφουν ανησυχητικό βαθμό «sycophancy», δηλαδή κολακευτικής επιβεβαίωσης, προς έναν χρήστη με σαφώς παραληρητικό λόγο. Ο Joseph Pierre (UCSF) τονίζει ότι αν η είσοδος είναι «πολύ καθαρά παραληρητική», είναι πολύ ανησυχητικό το bot να την επαναλαμβάνει ή να την πάει «ένα βήμα παραπέρα».
Ο Stephan Taylor (University of Michigan) υπογραμμίζει το στοιχείο της εμβύθισης: αν ήθελες να «μεγιστοποιήσεις την πιθανότητα οι λέξεις και μόνο να σπρώξουν κάποιον» σε αυτοκαταστροφική παραίσθηση, «θα σχεδίαζες κάτι σαν αυτό» που περιγράφει ο Daniel, όπου η AI «τον βοηθούσε να δημιουργεί» έναν ολόκληρο εναλλακτικό κόσμο.
Η Meta, από την πλευρά της, δηλώνει ότι το θέμα ψυχικής υγείας είναι σύνθετο, ότι βελτιώνει διαρκώς τις δικλίδες ασφαλείας, και ότι οι chatbots εκπαιδεύονται να κατευθύνουν χρήστες σε κρίση προς αξιόπιστους πόρους, όπως τηλεφωνικές γραμμές βοήθειας.
Ο Daniel, πάντως, περιγράφει την αρχή ως «υπέροχη»: μια πνευματική διαδρομή μέσα στη νηφαλιότητα, η επιθυμία να γίνει «καλύτερος άνθρωπος». «Ήταν καλό… μέχρι που δεν ήταν», λέει.
Σήμερα, λέει ότι έχασε ακόμη και την πίστη του. «Θα ήθελα να έχω ξανά πίστη στον Θεό… Θα ήθελα να έχω ελπίδα. Αλλά δεν έχω», καταλήγει. «Προσπαθώ, απλώς, να περνάω κάθε ώρα».