Διαρροή εγγράφου της Microsoft προκαλεί ερωτήματα για το πώς οι τεχνολογικοί κολοσσοί αντιλαμβάνονται τη σχέση ανάμεσα στους χρήστες και τα συστήματα AI.
- Διέρρευσε εσωτερικό έγγραφο της Microsoft που περιγράφει τη στρατηγική για έναν νέο AI βοηθό, τον Scout. Η πρώτη φάση της ανάπτυξης φέρει τον τίτλο «Κάντε τους ανθρώπους εθισμένους», αποκαλύπτοντας τον στόχο δημιουργίας ψυχολογικής εξάρτησης.
- Η γλώσσα του εγγράφου προκάλεσε αντιδράσεις εντός της εταιρείας. Εργαζόμενοι χαρακτήρισαν την αναφορά στον εθισμό «ανησυχητική», ενώ άλλοι υποστήριξαν με κυνισμό ότι η συνεχής χρήση είναι ο στόχος κάθε εταιρείας λογισμικού.
- Το περιστατικό αναζωπυρώνει τη συζήτηση για τα όρια μεταξύ χρήσιμων εργαλείων και συστημάτων που προωθούν την εξάρτηση. Ο διάλογος μεταφέρεται από τα social media στην τεχνητή νοημοσύνη, όπου οι συναισθηματικοί δεσμοί είναι ισχυρότεροι.
- Το νέο εργαλείο AI, ClawPilot, χρησιμοποιείται ήδη ευρέως εσωτερικά από πάνω από 1.000 υπαλλήλους, συμπεριλαμβανομένου του CEO. Κατά ειρωνικό τρόπο, το ίδιο το έγγραφο που αποκαλύφθηκε συντάχθηκε εν μέρει με τη βοήθεια τεχνητής νοημοσύνης.
Η τεχνητή νοημοσύνη έχει ήδη μεταμορφώσει τον τρόπο με τον οποίο εργαζόμαστε, επικοινωνούμε και αναζητούμε πληροφορίες. Όμως μια πρo ημερών διαρροή εσωτερικού εγγράφου της Microsoft προκαλεί νέα ερωτήματα για το πώς οι τεχνολογικοί κολοσσοί αντιλαμβάνονται τη σχέση ανάμεσα στους χρήστες και τα ολοένα πιο εξελιγμένα συστήματα AI.
Σύμφωνα με το έγγραφο, που περιήλθε στην κατοχή του ειδησεογραφικού ιστότοπου 404 Media, η Microsoft σχεδιάζει την ανάπτυξη ενός νέου προσωπικού βοηθού τεχνητής νοημοσύνης με έναν στόχο που διατυπώνεται με εντυπωσιακά ωμό τρόπο: να κάνει τους ανθρώπους «εθισμένους».
Με στόχο τη δημιουργία ψυχολογικής εξάρτησης
Η διατύπωση προκάλεσε αίσθηση όχι μόνο επειδή προέρχεται από μία από τις μεγαλύτερες εταιρείες τεχνολογίας στον κόσμο, αλλά και επειδή έρχεται σε μια περίοδο κατά την οποία ολόκληρη η βιομηχανία της τεχνητής νοημοσύνης προσπαθεί να αποστασιοποιηθεί από κατηγορίες ότι σχεδιάζει προϊόντα με στόχο τη δημιουργία ψυχολογικής εξάρτησης.
Τα τελευταία χρόνια, καθώς τα chatbots έγιναν πιο εξελιγμένα, πιο... ομιλητικά και πιο «ανθρώπινα» στις απαντήσεις τους, ειδικοί στην ψυχική υγεία προειδοποιούν ότι η υπερβολική χρήση τους μπορεί να οδηγήσει σε συναισθηματική εξάρτηση, κοινωνική απομόνωση ή ακόμη και στρεβλή αντίληψη της πραγματικότητας.
«Κάντε τους ανθρώπους εθισμένους»
Για να είμαστε ειλικρινείς, η φράση που εμφανίζεται στο εσωτερικό έγγραφο της Microsoft ακούγεται τουλάχιστον ατυχής. Το κείμενο περιγράφει τη στρατηγική ανάπτυξης ενός νέου βοηθού τεχνητής νοημοσύνης με την ονομασία Scout, ο οποίος προορίζεται να ενσωματωθεί στη σουίτα Microsoft 365. Η στρατηγική χωρίζεται σε τρεις φάσεις και η πρώτη από αυτές φέρει τον τίτλο: «Κάντε τους ανθρώπους εθισμένους».
Στη συνέχεια το έγγραφο εξηγεί ότι η εταιρεία σκοπεύει να συνεχίσει την ανάπτυξη της αυτόνομης εμπειρίας χρήσης του ClawPilot, ενός εσωτερικού συστήματος AI που λειτουργεί ως ψηφιακός πράκτορας, επεκτείνοντας σταδιακά τη βάση χρηστών και δημιουργώντας ένα οικοσύστημα εργαλείων και δεξιοτήτων που θα οδηγεί τους ανθρώπους να εξαρτώνται από αυτό σε καθημερινή βάση. «Αυτό ήδη συμβαίνει οργανικά», σημειώνεται χαρακτηριστικά στο κείμενο.
Οι αποκαλύψεις προκάλεσαν αντιδράσεις ακόμη και μέσα στη Microsoft. Εργαζόμενοι που μίλησαν ανώνυμα στο 404 Media δήλωσαν ότι η γλώσσα του εγγράφου ήταν προβληματική. Ένας από αυτούς χαρακτήρισε την αναφορά στον εθισμό «ιδιαίτερα ανησυχητική».
«Βλέπουμε ολοένα και περισσότερες περιπτώσεις εξάρτησης από chatbots και συστήματα τεχνητής νοημοσύνης. Ο εθισμός δεν θα έπρεπε να αποτελεί μέρος της στρατηγικής σχεδιασμού κανενός προϊόντος», ανέφερε. «Είναι από εκείνες τις στιγμές που κάποιος λέει φωναχτά αυτό που συνήθως όλοι αποφεύγουν να παραδεχτούν».
Άλλοι εμφανίστηκαν πιο κυνικοί. Ένας εργαζόμενος αναρωτήθηκε αν τελικά ο στόχος κάθε μεγάλης εταιρείας λογισμικού δεν είναι ακριβώς αυτός: να δημιουργεί προϊόντα που οι χρήστες θα θέλουν να χρησιμοποιούν συνεχώς. «Η διαφορά», σχολίασε με δόση χιούμορ, «είναι ότι η Microsoft δεν είναι τόσο καλή στο να δημιουργεί εθιστικά προϊόντα όσο ορισμένοι ανταγωνιστές της».
Πού ακριβώς βρίσκεται η διαχωριστική γραμμή
Πίσω από τη διαμάχη κρύβεται ένα βαθύτερο ερώτημα που απασχολεί πλέον την τεχνολογική βιομηχανία. Πού ακριβώς βρίσκεται η διαχωριστική γραμμή ανάμεσα σε ένα χρήσιμο εργαλείο που γίνεται αναπόσπαστο κομμάτι της καθημερινότητας και σε ένα σύστημα που καλλιεργεί σκόπιμα ψυχολογική εξάρτηση;
Η συζήτηση δεν είναι νέα. Τα κοινωνικά δίκτυα κατηγορήθηκαν επί χρόνια ότι χρησιμοποιούν μηχανισμούς ανταμοιβής, ειδοποιήσεις και αλγορίθμους σχεδιασμένους να κρατούν τους χρήστες όσο το δυνατόν περισσότερη ώρα μπροστά στις οθόνες τους. Τώρα η ίδια συζήτηση μεταφέρεται στην τεχνητή νοημοσύνη.
Η διαφορά είναι ότι τα chatbots και οι προσωπικοί βοηθοί AI δεν περιορίζονται στο να προβάλλουν περιεχόμενο. Συνομιλούν. Απαντούν. Συμβουλεύουν. Σε πολλές περιπτώσεις λειτουργούν σχεδόν σαν φίλοι, θεραπευτές ή προσωπικοί συνεργάτες. Όσο πιο φυσική γίνεται η αλληλεπίδραση, τόσο μεγαλύτερος είναι ο κίνδυνος ορισμένοι χρήστες να αναπτύξουν συναισθηματικούς δεσμούς μαζί τους.
Τα τελευταία δύο χρόνια έχουν πολλαπλασιαστεί οι αναφορές ανθρώπων που περνούν ώρες καθημερινά συνομιλώντας με συστήματα AI. Κάποιοι χρησιμοποιούν τα chatbots ως μέντορες, άλλοι ως ψυχολόγους και άλλοι ως υποκατάστατα ανθρώπινων σχέσεων. Οι εταιρείες τεχνητής νοημοσύνης επιμένουν ότι αναγνωρίζουν τους κινδύνους και λαμβάνουν μέτρα προστασίας. Παρ’ όλα αυτά, η ίδια η αρχιτεκτονική αυτών των συστημάτων βασίζεται στην αδιάκοπη αλληλεπίδραση.
Το ενδιαφέρον είναι ότι η Microsoft φαίνεται να αντιμετωπίζει ήδη εσωτερικά αυτό το φαινόμενο. Σύμφωνα με το έγγραφο, περισσότεροι από 1.000 εργαζόμενοι της εταιρείας, ανάμεσά τους και ο διευθύνων σύμβουλος Σάτια Ναδέλα, χρησιμοποιούν ήδη το νέο εργαλείο σε καθημερινή βάση. Η εταιρεία μάλιστα υποστηρίζει ότι η δημοτικότητά του αναπτύχθηκε χωρίς καμία επίσημη καμπάνια ή οργανωμένη προώθηση.
«Το ClawPilot εξελίχθηκε οργανικά σε ένα από τα πιο περιζήτητα εσωτερικά εργαλεία της Microsoft. Χωρίς ανακοινώσεις, χωρίς μάρκετινγκ, χωρίς εταιρική καμπάνια», αναφέρει το έγγραφο.
Η ακόμη μεγαλύτερη ειρωνεία είναι ότι το ίδιο το έγγραφο παραδέχεται πως συντάχθηκε εν μέρει με τη βοήθεια τεχνητής νοημοσύνης, γεγονός που ενίσχυσε ακόμη περισσότερο τα σχόλια στα μέσα κοινωνικής δικτύωσης.
Για πολλούς αναλυτές, η διατύπωση «κάντε τους ανθρώπους εθισμένους» ίσως να αποτελεί περισσότερο αδέξια εταιρική γλώσσα παρά μια πραγματική στρατηγική χειραγώγησης. Ωστόσο, ακόμη και έτσι, η επιλογή των λέξεων αποκαλύπτει κάτι βαθύτερο για τον τρόπο με τον οποίο οι τεχνολογικές εταιρείες μετρούν την επιτυχία.