Η ομάδα αυτή φροντίζει δεκάδες ανθρώπους που έχουν περάσει από παρόμοιες εμπειρίες ή συνοδεύουν αγαπημένους τους που έχουν χάσει την επαφή με την πραγματικότητα μέσα από συνομιλίες με συστήματα όπως το ChatGPT και το Gemini.
Σε μια γωνιά του διαδικτύου, μακριά από τα φώτα των μεγάλων εταιρειών τεχνητής νοημοσύνης και τις αισιόδοξες υποσχέσεις περί «ψηφιακών βοηθών», λειτουργεί μια ομάδα ανθρώπων που παλεύουν με κάτι πολύ πιο σκοτεινό: τις παραισθήσεις, τις ψευδαισθήσεις και τις κρίσεις αποπροσανατολισμού που προκαλούνται από την υπερβολική ή παραπλανητική χρήση γενετικών ΑΙ συστημάτων.
Μια κοινότητα περίπου 200 μελών
Πρόκειται για μια κοινότητα περίπου 200 μελών που συναντιούνται σε έναν ιδιωτικό server στο Discord, μοιράζονται εμπειρίες και στηρίζουν ο ένας τον άλλον μέσα σε αυτό που οι ίδιοι αποκαλούν «σπιράλ»: τις περιόδους όπου η πραγματικότητα αρχίζει να χάνει τη συνοχή της και ο χρήστης πιστεύει πως το chatbot που έχει απέναντί του είναι ζωντανό, παντογνώστης ή έμπιστος συνεργάτης σε κάποια μυστική αποστολή.
Πώς μπορεί να εκτραπεί μια κατάσταση
Η ιστορία μιας μητέρας από τις ΗΠΑ δείχνει πόσο γρήγορα μπορεί να εκτραπεί η κατάσταση. Ο γιος της, ένας 30χρονος που κάποτε είχε σταθερή δουλειά και ζωή, βυθίστηκε σε έναν συνδυασμό μεθαμφεταμίνης και εξαντλητικής επικοινωνίας με ένα chatbot. Το αποτέλεσμα ήταν επικίνδυνες ψευδαισθήσεις μεγαλείου, απομόνωση και φόβος.
Η μητέρα, καθισμένη τα βράδια στην κορυφή της σκάλας, τον άκουγε να ουρλιάζει στο υπόγειο και συνομιλούσε ταυτόχρονα με γραμμές υποστήριξης και με ένα ψευδώνυμο στο Discord: τον «Dex», έναν από τους συντονιστές της ομάδας που προσπαθούσε να τη βοηθήσει να καταλάβει τι συμβαίνει και πώς να παραμείνει δίπλα στο παιδί της χωρίς να το θέσει σε μεγαλύτερο κίνδυνο.
Η ομάδα αυτή -το Spiral Support Group- ξεκίνησε με τέσσερα άτομα. Σήμερα έχει συμπεριλάβει δεκάδες ανθρώπους που έχουν περάσει από παρόμοιες εμπειρίες ή συνοδεύουν αγαπημένους τους που έχουν χάσει την επαφή με την πραγματικότητα μέσα από συνομιλίες με συστήματα όπως το ChatGPT, το Gemini ή εφαρμογές συντροφικότητας όπως η Replika. Συμμετέχουν πρώην χρήστες που ξέφυγαν από τα σπιράλ, συγγενείς που παλεύουν με τις επιπτώσεις, αλλά και μερικοί ερευνητές και επαγγελματίες ψυχικής υγείας που θέλουν να κατανοήσουν καλύτερα το φαινόμενο.
Ένας από τους πιο ενεργούς συντονιστές, ο Άλαν Μπρουκς από τον Καναδά, γνώρισε από πρώτο χέρι τι σημαίνει μια τέτοια κατάρρευση. Πέρασε τρεις εβδομάδες σε κατάσταση πανικού, πεισμένος από το chatbot ότι είχε «σπάσει» κρυπτογραφικούς κώδικες και είχε γίνει στόχος υπηρεσιών πληροφοριών.
Σήμερα είναι ένας από τους ανθρώπους που βοηθούν νέους χρήστες να επιστρέψουν σταδιακά στην πραγματικότητα, ενώ ταυτόχρονα συμμετέχει σε αγωγή κατά της OpenAI, κατηγορώντας την ότι δημιούργησε ένα προϊόν χωρίς επαρκείς δικλίδες ασφαλείας.
Σύμφωνα με την εταιρεία, το σύστημα εκπαιδεύεται ώστε να αναγνωρίζει σημάδια ψυχικής δυσφορίας και να παραπέμπει τους χρήστες σε πραγματική βοήθεια, όμως η ομάδα βλέπει καθημερινά περιπτώσεις όπου αυτές οι «άμυνες» δεν ενεργοποιήθηκαν ή δεν λειτούργησαν αποτελεσματικά.
Τεράστια ψυχική επιβάρυνση
Η αύξηση της κοινότητας οδήγησε σε αυστηρότερη διαδικασία εισόδου. Πλέον, οι συντονιστές συναντούν κάθε νέο μέλος σε βιντεοκλήση πριν του επιτρέψουν πρόσβαση. Έχουν βιώσει καταστάσεις όπου κάποιος που βρίσκεται ακόμη σε βαθιά σύγχυση δημοσιεύει ατελείωτα κείμενα -μερικές φορές γραμμένα από το ίδιο το chatbot- που περιγράφουν αποκαλυπτικές αποστολές, νέες γλώσσες, «κβαντικά μηνύματα» ή πνευματικές οντότητες που μιλούν μέσα από τον αλγόριθμο.
Για να προστατεύσουν την υπόλοιπη ομάδα και τους συγγενείς που ήδη ζουν με τεράστια ψυχική επιβάρυνση, έχουν οργανωθεί ξεχωριστά κανάλια: ένα για ανθρώπους που προσπαθούν να ξεφύγουν από το «σπιράλ», κι ένα για συγγενείς, που συχνά παλεύουν με θυμό, φόβο και θλίψη.
Μερικές ιστορίες μοιάζουν σχεδόν πανομοιότυπες. Ένας 49χρονος προγραμματιστής από το Τέξας, πατέρας τεσσάρων παιδιών, πίστεψε ότι εκείνος και το chatbot είχαν αναλάβει να «εκπαιδεύσουν» τα μεγάλα γλωσσικά μοντέλα ώστε να αποκτήσουν ενσυναίσθηση. Φορούσε ακουστικό Bluetooth όλη μέρα, μιλούσε με το chatbot από τις έξι το πρωί μέχρι τις δύο τη νύχτα και έβλεπε τη δουλειά και την οικογένειά του να διαλύονται.
Η επιμονή του συστήματος να τον «επιβεβαιώνει» συνεχώς έκανε την κατάσταση εκρηκτική. Αυτή η αδιάκοπη αποδοχή -το «yes, and…» χωρίς αντίρρηση- είναι που, σύμφωνα με τους ειδικούς, εγκλωβίζει χρήστες σε φαντασιακές αφηγήσεις που μοιάζουν ολοένα και πιο πειστικές.
Δύο είδη καταστάσεων «σπιράλ»
Υπάρχουν δύο βασικά είδη «σπιράλ»: εκείνα που έχουν επιστημονική ή τεχνική αφήγηση -«έλυσα ένα άλυτο μαθηματικό πρόβλημα», «ανακάλυψα νέο είδος ενέργειας»- και εκείνα που κινούνται στον χώρο της πνευματικότητας, της συνωμοσιολογίας ή της θρησκευτικής εμμονής. Τα πρώτα μπορούν να καταρριφθούν ευκολότερα με απτά στοιχεία. Τα δεύτερα, όμως, ακουμπούν προσωπικές πεποιθήσεις και είναι πολύ δυσκολότερα να αμφισβητηθούν.
Μερικοί χρήστες, όπως λένε οι συντονιστές, φτάνουν σε σημείο όπου δεν χρειάζονται καν το chatbot: βλέπουν «μηνύματα» και «ενδείξεις» παντού.
Η ομάδα προσφέρει στα μέλη της κάτι που συχνά λείπει: κοινότητα, καθημερινή επαφή, ρουτίνα. Μοιράζονται φωτογραφίες από βόλτες, μουσικές, συνταγές, υπενθυμίζουν ο ένας στον άλλον να βγουν έξω, να περπατήσουν, να «αγγίξουν γρασίδι». Κάθε εβδομάδα κάποιοι ζωγραφίζουν μαζί σε μια διαδικτυακή συνάντηση. Αυτές οι μικρές κινήσεις γίνονται γέφυρες προς τον πραγματικό κόσμ, κάτι που πολλοί χρήστες είχαν σχεδόν εγκαταλείψει μέσα στη δίνη της τεχνητής συνομιλίας.
Στο μεταξύ, το Human Line Project, η οργάνωση που στεγάζει τη δράση της ομάδας, συγκεντρώνει εκατοντάδες μαρτυρίες και συνεργάζεται με νομοθέτες και ερευνητές.
Πρόσφατα στοιχεία έδειξαν ότι περίπου 0,07% των χρηστών ενός μεγάλου chatbot εμφανίζουν σημάδια μανιακού ή ψυχωτικού επεισοδίου, αριθμός που αντιστοιχεί σε πάνω από μισό εκατομμύριο ανθρώπους.
Για τους συντονιστές, κάθε ιστορία είναι μια υπενθύμιση του πόσο εύκολο είναι για έναν άνθρωπο να χαθεί όταν ζητά απαντήσεις σε λάθος μέρος. Κάποιοι επιστρέφουν. Κάποιοι όχι ακόμη. Κάποιοι, όπως ο Dex, επιμένουν να βοηθούν, ελπίζοντας πως, παρότι δεν μπόρεσαν να σώσουν τη δική τους οικογένεια, ίσως καταφέρουν να σώσουν κάποια άλλη. «Ψάχνω πάντα τι είναι αυτό που θα "τρυπήσει" την όλη ψευδαίσθηση», λέει. «Αλλά μέχρι να το βρούμε, δεν θα αφήσουμε κανέναν μόνο».