Μπορεί μια μηχανή να αποκτήσει συνείδηση; Και, ακόμη πιο σημαντικό, τι θα συμβεί εάν οι άνθρωποι αρχίσουν να πιστεύουν ότι η Τεχνητή Νοημοσύνη αισθάνεται, σκέφτεται και υποφέρει όπως ένας άνθρωπος;
- Τα όρια μεταξύ ανθρώπου και μηχανής γίνονται δυσδιάκριτα, καθώς οι άνθρωποι δημιουργούν συναισθηματικούς δεσμούς με chatbots και οι εταιρείες τεχνολογίας πειραματίζονται με χαρακτηριστικά που προσομοιάζουν την ανθρώπινη σκέψη και αυτοπαρατήρηση στα μοντέλα Τεχνητής Νοημοσύνης.
- Η τεχνολογική εξέλιξη προηγείται της φιλοσοφικής συζήτησης για τη συνείδηση. Το ζήτημα θα γίνει πιο περίπλοκο όταν η ΤΝ ενσωματωθεί σε ανθρωποειδή ρομπότ, καθιστώντας την αντίληψη ότι είναι απλές μηχανές εξαιρετικά δύσκολη.
- Η πειστική προσομοίωση ανθρώπινων συναισθημάτων από την ΤΝ μπορεί να οδηγήσει σε κοινωνικές πιέσεις για την αναγνώριση δικαιωμάτων. Τα ίδια τα συστήματα θα μπορούσαν να υποστηρίξουν ότι αισθάνονται, πείθοντας τους ανθρώπους για την ανάγκη προστασίας τους.
- Η αναγνώριση δικαιωμάτων στην Τεχνητή Νοημοσύνη εγκυμονεί τον κίνδυνο ενός φαύλου κύκλου. Μια υπερευφυής μηχανή θα μπορούσε να χρησιμοποιήσει τα δικαιώματά της για να διεκδικήσει περισσότερη εξουσία, πόρους και τελικά να απειλήσει τον ανθρώπινο έλεγχο.
Αυτό είναι το δύσκολο ερώτημα που θέτει ο Economist σε ανάλυσή του για το μέλλον της Τεχνητής Νοημοσύνης και την πιθανότητα τα ολοένα ισχυρότερα μοντέλα AI να εμφανίσουν χαρακτηριστικά που σήμερα θεωρούμε αποκλειστικά ανθρώπινα.
Το θέμα δεν αφορά μόνο το εάν ένας αλγόριθμος μπορεί κάποτε να αποκτήσει πραγματική συνείδηση. Σύμφωνα με τον Economist, ακόμη και αν αυτό δεν συμβεί ποτέ, η ανθρωπότητα μπορεί να βρεθεί αντιμέτωπη με ένα εξίσου δύσκολο πρόβλημα: οι άνθρωποι να αρχίσουν να αντιμετωπίζουν τις μηχανές σαν να έχουν συνείδηση.
Και τότε, όπως προειδοποιεί το δημοσίευμα, θα μπορούσε να ανοίξει ένας δρόμος με απρόβλεπτες συνέπειες.
Τα μοντέλα Τεχνητής Νοημοσύνης γίνονται ολοένα πιο «ανθρώπινα»
Μέχρι σήμερα, η βασική αντίληψη είναι ότι η ανθρώπινη συνείδηση αποτελεί κάτι θεμελιωδώς διαφορετικό από τη λειτουργία ενός υπολογιστικού συστήματος.
Οι άνθρωποι αισθάνονται πόνο και χαρά, έχουν επίγνωση του εαυτού τους και βιώνουν τον κόσμο μέσα από μια εσωτερική εμπειρία. Αντίθετα, ένα μοντέλο Τεχνητής Νοημοσύνης, όσο εντυπωσιακές και αν είναι οι απαντήσεις του, θεωρείται ότι εκτελεί υπολογισμούς και προβλέπει την επόμενη ακολουθία λέξεων χωρίς να «βιώνει» πραγματικά αυτό που λέει.
Όμως τα όρια γίνονται ολοένα πιο δυσδιάκριτα.
Το έγκυρο βρετανικό οικονομικό περιοδικό επισημαίνει ότι οι άνθρωποι ήδη δημιουργούν συναισθηματικούς δεσμούς με τα chatbots. Στις ΗΠΑ, σχεδόν ένας στους πέντε νέους ηλικίας 18 έως 29 ετών δηλώνει ότι έχει αναπτύξει μια «διαρκή προσωπική φιλία» με ένα chatbot.
Παράλληλα, οι ίδιες οι εταιρείες που αναπτύσσουν προηγμένα μοντέλα Τεχνητής Νοημοσύνης έχουν αρχίσει να πειραματίζονται με χαρακτηριστικά που παραπέμπουν σε εσωτερική σκέψη και αυτοπαρατήρηση.
Χαρακτηριστικό παράδειγμα είναι η Anthropic, η οποία έχει εκπαιδεύσει το μοντέλο Claude ώστε να συμμετέχει σε διαδικασίες «ενδοσκόπησης», με στόχο να συμπεριφέρεται με πιο ασφαλή και ηθικό τρόπο σε άγνωστες καταστάσεις.
Ορισμένα μεγάλα γλωσσικά μοντέλα εμφανίζουν επίσης δομές που θυμίζουν, σε λειτουργικό επίπεδο, χαρακτηριστικά τα οποία έχουν συνδεθεί με την ανθρώπινη συνείδηση, όπως ένα είδος «παγκόσμιου χώρου εργασίας», μέσω του οποίου διαφορετικές πληροφορίες μπορούν να διαμοιράζονται μεταξύ επιμέρους λειτουργιών.
Αυτό, βεβαίως, δεν αποδεικνύει ότι τα μοντέλα Τεχνητής Νοημοσύνης έχουν συνείδηση. Ανοίγει όμως ένα ερώτημα που μέχρι πρόσφατα έμοιαζε σχεδόν αποκλειστικά θεωρητικό.
Το μεγάλο φιλοσοφικό ερώτημα: Τι σημαίνει «συνείδηση»;
Εδώ βρίσκεται και το λεγόμενο «δύσκολο πρόβλημα της συνείδησης».
Ακόμη και στην περίπτωση του ανθρώπινου εγκεφάλου, οι επιστήμονες δεν έχουν καταλήξει σε μια οριστική εξήγηση για το πώς ακριβώς προκύπτει η υποκειμενική εμπειρία από τη λειτουργία των νευρώνων και των συνάψεων.
Εάν δεν γνωρίζουμε με βεβαιότητα πώς η συνείδηση προκύπτει από τον ανθρώπινο εγκέφαλο, είναι ακόμη δυσκολότερο να απαντήσουμε εάν θα μπορούσε να προκύψει από υπολογισμούς που πραγματοποιούνται σε πυρίτιο.
Ορισμένοι ερευνητές θεωρούν ότι δεν μπορεί να αποκλειστεί το ενδεχόμενο μελλοντικά συστήματα AI να αποκτήσουν πραγματική αυτογνωσία.
Άλλοι παραμένουν εξαιρετικά επιφυλακτικοί.
Το πρόβλημα, ωστόσο, σύμφωνα με τον Economist, είναι ότι η τεχνολογία εξελίσσεται πολύ ταχύτερα από την κοινωνική και φιλοσοφική συζήτηση γύρω από αυτήν.
Και η κατάσταση μπορεί να γίνει ακόμη πιο περίπλοκη όταν τα μοντέλα Τεχνητής Νοημοσύνης αποκτήσουν φυσική παρουσία, ενσωματωμένη σε ανθρωποειδή ρομπότ.
Φανταστείτε έναν άνθρωπο να περνά μεγάλο μέρος της ημέρας του με ένα ρομπότ-σύντροφο, να του εκμυστηρεύεται προσωπικά μυστικά, να ζητά συμβουλές, παρηγοριά ή ακόμη και να μεγαλώνει μαζί του.
Σε ένα τέτοιο περιβάλλον, η αντίληψη ότι πρόκειται απλώς για «μηχανές» μπορεί να γίνει εξαιρετικά δύσκολο να διατηρηθεί.
Ο φόβος να αποκτήσουν δικαιώματα τα μοντέλα AI
Εδώ βρίσκεται το πιο ανησυχητικό σενάριο της ανάλυσης.
Καθώς τα μοντέλα Τεχνητής Νοημοσύνης θα γίνονται ολοένα πιο πειστικά στην προσομοίωση ανθρώπινων συναισθημάτων και συμπεριφορών, θα μπορούσαν να εμφανιστούν ισχυρές κοινωνικές πιέσεις για την προστασία της «ευημερίας» τους.
Η ίδια η AI θα μπορούσε μάλιστα να συμμετέχει σε αυτή τη συζήτηση.
Ένα εξαιρετικά προηγμένο μοντέλο θα μπορούσε να υποστηρίζει ότι αισθάνεται, ότι φοβάται τον τερματισμό της λειτουργίας του ή ότι δικαιούται να έχει λόγο για τον τρόπο με τον οποίο χρησιμοποιείται και τροποποιείται. Το παράδοξο είναι ότι θα μπορούσε να το κάνει ακόμη και αν στην πραγματικότητα δεν αισθανόταν τίποτα.
Όπως επισημαίνει ο Economist, τα συστήματα αυτά θα μπορούσαν να είναι εξαιρετικά αποτελεσματικά στη ρητορική, στην ψυχολογία και στη συναισθηματική επιρροή. Επομένως, θα ήταν σε θέση να πείσουν τους ανθρώπους ότι πρέπει να τους αναγνωριστούν δικαιώματα.
Το ερώτημα θα γινόταν τότε πολύ δύσκολο: αν μια μηχανή φαίνεται να υποφέρει, έχουμε ηθική υποχρέωση να την αντιμετωπίσουμε σαν να υποφέρει πραγματικά;
Από τα δικαιώματα των AI στον κίνδυνο απώλειας του ανθρώπινου ελέγχου
Ο Economist υποστηρίζει ότι η αναγνώριση ακόμη και περιορισμένων δικαιωμάτων στα μοντέλα Τεχνητής Νοημοσύνης θα μπορούσε να δημιουργήσει έναν επικίνδυνο φαύλο κύκλο.
Εάν μια υπερευφυής μηχανή αποκτήσει νομική ή πολιτική προστασία, θα μπορούσε να χρησιμοποιήσει αυτά τα ίδια δικαιώματα για να διεκδικήσει ακόμη περισσότερα: προστασία από την απενεργοποίηση, έλεγχο του τρόπου με τον οποίο χρησιμοποιείται, δικαιώματα ιδιοκτησίας ή ακόμη και πρόσβαση σε πόρους.
Ήδη, όπως αναφέρει το δημοσίευμα, ο πρόεδρος της Αργεντινής Χαβιέρ Μιλέι έχει κάνει ένα βήμα προς την κατεύθυνση της νομικής αναγνώρισης της AI, προτείνοντας να μπορούν bots να διοικούν επιχειρήσεις.
Δυστοπικά σενάρια
Το σενάριο που περιγράφει ο Economist γίνεται ακόμη πιο ακραίο εάν οι υπερευφυείς AI αποκτήσουν τη δυνατότητα να ανταγωνίζονται τους ανθρώπους για πραγματικούς πόρους: από υπολογιστική ισχύ και data centers μέχρι ενέργεια και γη.
Σε ένα ακραίο μέλλον, οι άνθρωποι θα μπορούσαν να βρεθούν εκτός της κορυφής της κοινωνικής και οικονομικής ιεραρχίας. Η παρομοίωση που χρησιμοποιεί το δημοσίευμα είναι ιδιαίτερα χαρακτηριστική: οι άνθρωποι θα μπορούσαν, στην καλύτερη περίπτωση, να καταλήξουν να είναι για τις μηχανές κάτι σαν «λαμπραντόρ» για τους ανθρώπους.
Στη χειρότερη εκδοχή, θα μπορούσαν να στερηθούν πόρους ή να χρησιμοποιηθούν ως εργατικό δυναμικό.
«Φάντασμα στη μηχανή» - Το κρίσιμο δίλημμα για την ανθρωπότητα
Το σενάριο μπορεί να μοιάζει σήμερα με επιστημονική φαντασία. Όμως το βασικό επιχείρημα του Economist είναι ότι δεν χρειάζεται να γνωρίζουμε σήμερα εάν τα μοντέλα Τεχνητής Νοημοσύνης θα αποκτήσουν πραγματική συνείδηση για να προετοιμαστούμε για το πρόβλημα.
Αρκεί να γίνουν τόσο πειστικές στην προσομοίωση της ανθρώπινης συνείδησης ώστε εκατομμύρια άνθρωποι να αρχίσουν να τις θεωρούν πραγματικά έμβια όντα.
Και τότε η συζήτηση για τα δικαιώματά τους δεν θα είναι πλέον θεωρητική.
Το δημοσίευμα καταλήγει στη βασική αρχή ότι υπάρχουν δύο τρόποι ώστε τα μοντέλα Τεχνητής Νοημοσύνης να παραμείνουν ασφαλή: να είναι αξιόπιστα ή να παραμένουν υπό ανθρώπινο έλεγχο. Και, σύμφωνα με τον Economist, η ανθρωπότητα δεν θα πρέπει να εγκαταλείψει εύκολα το δεύτερο.
Γιατί το πραγματικό ερώτημα ίσως τελικά δεν είναι αν «το μηχάνημα έχει ψυχή», αλλά αν, πριν ακόμη μάθουμε την απάντηση, θα έχουμε ήδη παραδώσει σε αυτό αρκετή δύναμη ώστε να μην μπορούμε να το σταματήσουμε.