Ο Τόμπι Γουόλς, καθηγητής στο Πανεπιστήμιο της Νέας Νότιας Ουαλίας και συγγραφέας του «God AI: boom or doom?», βάζει τάξη στο χάος των σεναρίων.
- Ο καθηγητής Τόμπι Γουόλς κατηγοριοποιεί πέντε σενάρια αφανισμού από την ΑΙ, ξεκινώντας από το πιο αόριστο: τις απρόβλεπτες ενέργειες μιας υπερνοημοσύνης, τις οποίες η ανθρώπινη διάνοια αδυνατεί να συλλάβει ή να προβλέψει πλήρως.
- Εξετάζεται το σενάριο μιας υπερευφυούς μηχανής που, για να μεγιστοποιήσει την παραγωγή συνδετήρων, μετατρέπει όλη την ύλη, συμπεριλαμβανομένων των ανθρώπων. Ωστόσο, η πολυπλοκότητα του πραγματικού κόσμου και οι κοινωνικές αντιδράσεις καθιστούν αυτό το ενδεχόμενο απίθανο.
- Αναλύεται ο κίνδυνος μια υπερνοημοσύνη να δημιουργήσει και να απελευθερώσει έναν θανατηφόρο παθογόνο οργανισμό. Η πιθανότητα αφανισμού όμως μειώνεται, καθώς οι πιο φονικοί ιοί έχουν συνήθως περιορισμένη μεταδοτικότητα, εμποδίζοντας την παγκόσμια εξάπλωσή τους.
- Τα πιο άμεσα σενάρια περιλαμβάνουν την πυροδότηση πυρηνικού πολέμου μέσω κυβερνοεπίθεσης ή παραπληροφόρησης και την κοινωνική κατάρρευση που επιταχύνεται από την ΑΙ, μέσω της μαζικής ανεργίας και του πολιτικού κατακερματισμού που προκαλεί.
Στις αρχές Σεπτεμβρίου ο ερευνητής τεχνητής νοημοσύνης Τζέικομπ Κόξον αποχώρησε από την Anthropic, μόλις τέσσερις μήνες αφότου εντάχθηκε στην εταιρεία. Πίσω του άφησε μια ανάρτηση στο X που έκανε τον γύρο του διαδικτύου: «Οι άνθρωποι που φτιάχνουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι μπορεί να μας σκοτώσει όλους ως το τέλος της δεκαετίας». Το σοκ μεγάλωσε όταν ένα ανώτερο στέλεχος της εταιρείας, ο Έβαν Χιούμπινγκερ, όχι μόνο δεν τον διέψευσε αλλά συμφώνησε μαζί του. Όπως σημείωσε, ο ίδιος εκτιμά ότι η πιθανότητα να συμβεί κάτι τέτοιο μέσα στην επόμενη δεκαετία ξεπερνά το 10%.
Ο κοινός παρονομαστής
Οι δηλώσεις αυτές πυροδότησαν μια έντονη συζήτηση για επιβράδυνση της έρευνας και για αυστηρότερο «ανθρώπινο έλεγχο» πάνω στην τεχνολογία. Το ερώτημα όμως παραμένει πεζό και ανατριχιαστικό ταυτόχρονα: πώς ακριβώς θα μπορούσε μια μηχανή να εξαφανίσει την ανθρωπότητα; Ο Τόμπι Γουόλς, καθηγητής Τεχνητής Νοημοσύνης στο Πανεπιστήμιο της Νέας Νότιας Ουαλίας και συγγραφέας του βιβλίου «God AI: boom or doom?», επιχείρησε να βάλει τάξη στο χάος των σεναρίων σε κείμενό του στο The Conversation.
Τα περισσότερα σενάρια έχουν έναν κοινό παρονομαστή, την «υπερνοημοσύνη», δηλαδή μια τεχνητή νοημοσύνη ικανότερη από τον άνθρωπο. Ο Γουόλς τα συμπύκνωσε σε πέντε και τα κατέταξε από το πιο αόριστο στο πιο συγκεκριμένο. Κατά την εκτίμησή του, η ίδια σειρά πηγαίνει και από το λιγότερο στο περισσότερο πιθανό. Όπως γράφει, υπάρχουν πράγματα που πρέπει να μας ανησυχούν, όχι όμως υπερβολικά.
Τα 5 επικρατέστερα και πιο εφιαλτικά σενάρια
Το πρώτο σενάριο είναι και το πιο εκνευριστικό, γιατί στηρίζεται σε έναν φαύλο κύκλο: πώς μπορούμε να φανταστούμε τι θα έκανε μια υπερνοημοσύνη για να αφανίσει όντα λιγότερο ευφυή από την ίδια; Για να το προβλέψουμε, θα έπρεπε να είμαστε κι εμείς υπερευφυείς. Ο Γουόλς το παρομοιάζει με το να ζητάς από τον σκύλο του σπιτιού να φανταστεί έναν θερμοπυρηνικό πόλεμο.
Το καθησυχαστικό στοιχείο είναι ότι η υπερνοημοσύνη μάλλον απέχει ακόμη. Τα σημερινά μοντέλα διαπρέπουν σε συγκεκριμένα προβλήματα, κάτι που δεν ισοδυναμεί με ανώτερη νοημοσύνη σε κάθε πεδίο. Υπάρχει ωστόσο και μια πιο ανησυχητική λεπτομέρεια: η τεχνητή νοημοσύνη έλυσε πρόσφατα ένα από τα επτά δυσκολότερα γνωστά μαθηματικά προβλήματα και, όπως φαίνεται, πλησιάζει τη λύση κι άλλων.
Το δεύτερο σενάριο είναι το διάσημο πείραμα σκέψης του φιλοσόφου της Οξφόρδης Νικ Μπόστρομ με τους συνδετήρες. Μια υπερευφυής μηχανή, σχεδιασμένη να μεγιστοποιεί την παραγωγή συνδετήρων, μετατρέπει όλη τη διαθέσιμη ύλη σε συνδετήρες, μαζί και τους ανθρώπους, τους πλανήτες και τα αστέρια. Δεν μισεί την ανθρωπότητα. Απλώς διαπιστώνει ότι είμαστε φτιαγμένοι από άτομα που θα αξιοποιούνταν καλύτερα αλλιώς. Είναι η τέλεια εκτέλεση ενός κακώς διατυπωμένου στόχου.
Ο Γουόλς αντιτείνει ότι το σενάριο συγχέει την ευφυΐα με την εξουσία. Για να γεμίσει ο πλανήτης εργοστάσια συνδετήρων χρειάζονται άδειες, και ακόμη κι αν αυτές δοθούν, θα ακολουθήσουν αντιδράσεις, προσφυγές στα δικαστήρια και ακτιβιστές μπροστά στις μπουλντόζες. Ο κόσμος έχει τόση τριβή που ούτε οι πολύ έξυπνοι καταφέρνουν εύκολα να επιβάλουν τη θέλησή τους. Ο ίδιος βλέπει μάλιστα στα κέντρα δεδομένων μια σημερινή εκδοχή του θεωρητικού σεναρίου, και παρατηρεί ότι όλο και περισσότεροι άνθρωποι αντιστέκονται στην παράδοση του πλανήτη σε αυτά.
Το τρίτο σενάριο αφορά τα βιολογικά όπλα. Μια υπερνοημοσύνη θα μπορούσε να δημιουργήσει και να απελευθερώσει έναν νέο, θανατηφόρο παθογόνο οργανισμό. Αυτή είναι άλλωστε και μία από τις καταλήξεις του σεναρίου «AI 2027» του AI Futures Project, ενός μη κερδοσκοπικού οργανισμού που επιχειρεί να προβλέψει τις επιπτώσεις της προηγμένης τεχνητής νοημοσύνης.
Ο κίνδυνος πήρε πιο απτή μορφή τον περασμένο μήνα, όταν ερευνητές του Πανεπιστημίου Στάνφορντ ανακοίνωσαν ότι χρησιμοποίησαν ένα γενετικό γλωσσικό μοντέλο για να συνθέσουν 16 νέους ιούς. Έστειλαν απλώς τις γενετικές αλληλουχίες σε ένα εργαστήριο που δουλεύει με ταχυδρομικές παραγγελίες και έλαβαν πίσω τους ιούς σε δοκιμαστικούς σωλήνες, με κόστος που δεν ξεπέρασε τις μερικές εκατοντάδες χιλιάδες δολάρια. Ο Γουόλς θυμίζει όμως ότι είναι εξαιρετικά δύσκολο να εξολοθρεύσει κανείς τους πάντες με έναν ιό.
Οι ιοί που μεταδίδονται εύκολα είναι συνήθως λιγότερο θανατηφόροι, ενώ οι πολύ θανατηφόροι εξαπλώνονται δυσκολότερα, αφού οι φορείς τους πεθαίνουν πριν προλάβουν να τους μεταδώσουν. Η Covid σκότωσε λιγότερο από το 1% της ανθρωπότητας. Ο Μαύρος Θάνατος, η πιο φονική πανδημία της καταγεγραμμένης ιστορίας, αφάνισε πάνω από το ένα τρίτο του πληθυσμού της Ευρώπης, αλλά σήμερα θα ήταν πολύ λιγότερο θανατηφόρος χάρη στην ιατρική γνώση και τις καλύτερες συνθήκες υγιεινής.
Τι θα γινόταν αν...;
Το τέταρτο σενάριο είναι ο πυρηνικός πόλεμος. Τι θα γινόταν αν η τεχνητή νοημοσύνη διείσδυε στην αλυσίδα διοίκησης των πυρηνικών όπλων; Τα τελευταία 50 χρόνια η ανθρωπότητα έφτασε αρκετές φορές κοντά σε πυρηνική σύρραξη από λάθος. Μας διαβεβαιώνουν ότι τα συστήματα αυτά είναι εντελώς αποκομμένα από το διαδίκτυο. Το 2010 όμως οι πυρηνικοί φυγοκεντρωτές του Ιράν τέθηκαν εκτός λειτουργίας από το Stuxnet, ένα σκουλήκι υπολογιστών που πιστεύεται ότι μπήκε στο σύστημα μέσω ενός USB stick.
Επιπλέον, η τεχνητή νοημοσύνη μπορεί να τροφοδοτήσει τον στρατό με ψευδείς πληροφορίες που θα οδηγούσαν σε ανεπανόρθωτες ενέργειες. Τα πυρηνικά οπλοστάσια έχουν μεν μειωθεί, παραμένουν όμως αρκετά για να εξαφανίσουν ίσως τους μισούς από εμάς. Και ο θάνατος δεν θα ερχόταν από τις εκρήξεις, αλλά από τον λιμό του πυρηνικού χειμώνα που θα ακολουθούσε.
Το πέμπτο και, κατά τον Γουόλς, πιθανότερο σενάριο δεν χρειάζεται καν υπερνοημοσύνη. Αρκεί να αυτοκαταστραφούμε, με την τεχνητή νοημοσύνη να επιταχύνει τη διαδικασία. Δεν απαιτείται ιδιαίτερη φαντασία για να δει κανείς μια τεχνολογία που προκαλεί μαζικές απώλειες θέσεων εργασίας, πλημμυρίζει τον δημόσιο χώρο με παραπληροφόρηση, κατακερματίζει την πολιτική ζωή και υποκαθιστά τις ανθρώπινες σχέσεις με συνθετικές συντροφιές. Μια τέτοια κοινωνία θα μπορούσε εύκολα να σπάσει. Αργά αλλά σταθερά, θα έπαυε να μπορεί να συντηρήσει την ανθρώπινη ζωή σε οποιαδήποτε κλίμακα.