Ένοπλοι στη βόρεια Υεμένη ζήτησαν από αμερικανικό μοντέλο τεχνητής νοημοσύνης (ΑΙ) να τους γράψει το λογισμικό καθοδήγησης, ελέγχου και πλοήγησης για τους βαλλιστικούς τους πυραύλους. Η Anthropic, η αμερικανική εταιρεία που αναπτύσσει το μοντέλο τεχνητής νοημοσύνης Claude, δεν κατονόμασε στην έκθεση απειλών της τους Χούθι, τους οποίους στηρίζει το Ιράν, ανέφερε όμως ότι εντόπισε «έναν πυρήνα φορέων απειλής με έδρα τη βόρεια Υεμένη», περιοχή που ελέγχεται σε μεγάλο βαθμό από τους αντάρτες, ο οποίος «έτρεχε τρία προγράμματα ανάπτυξης όπλων».
Τα προγράμματα αφορούσαν, μεταξύ άλλων, και έναν πύραυλο που χρησιμοποιούσε «υπολογιστή πτήσης εμπορικού τύπου, κατηγορίας κινητού τηλεφώνου». Οι δράστες, σύμφωνα με την εταιρεία, χρησιμοποίησαν το Claude Code στη θέση ανθρώπων μηχανικών λογισμικού, για να αναπτύξουν το λογισμικό που κατευθύνει και σταθεροποιεί ένα ιπτάμενο αντικείμενο. Οι δικλείδες ασφαλείας απέκλεισαν «πολλά από τα αιτήματά τους, όχι όμως όλα», ενώ οι χρήστες αξιοποίησαν «πλήθος τακτικών» για να τις παρακάμψουν. Η Anthropic δηλώνει ότι δεν διαθέτει στοιχεία πως οι δράστες κατάφεραν να θέσουν σε επιχειρησιακή χρήση κάποια συσκευή, «δοκίμασαν όμως την εκτόξευση ενός κατευθυνόμενου πυραύλου». Η δοκιμή φαίνεται πως απέτυχε και, μέσα σε λίγες ώρες, οι ίδιοι επέστρεψαν στο Claude για να βρουν το γιατί.
Η ίδια έκθεση της Anthropic κατέγραψε πέντε περιπτώσεις στις οποίες χρήστες «παρέκαμψαν τους ελέγχους» και επιχείρησαν να «συγκαλύψουν» τον σκοπό της έρευνάς τους σε βιολογικά όπλα, ανάμεσά τους χρήστες από χώρες στις οποίες η εταιρεία απαγορεύει την πρόσβαση, δηλαδή τη Ρωσία, την Κίνα και το Ιράν. Σε μία περίπτωση, ερευνητής από «μη υποστηριζόμενη περιοχή» πέρασε εβδομάδες σχεδιάζοντας με το Claude πειράματα με τη γρίπη των πτηνών, με τα φίλτρα ασφαλείας να περιορίζουν τη δουλειά στα ασθενέστερα μοντέλα. Η εταιρεία παραδέχεται ότι δεν μπορεί να είναι βέβαιη πως οι επιστήμονες σκόπευαν να προκαλέσουν βλάβη, καθώς οι ίδιες πληροφορίες που χρειάζονται για ένα βιολογικό όπλο χρησιμεύουν και στην ανάπτυξη εμβολίου. Σημειώστε πως τα βιολογικά όπλα μέσω τεχνητής νοημοσύνης θεωρούνται από ορισμένους αναλυτές ως το πιθανότερο σενάριο καταστροφής της ανθρωπότητας.
Οι δημιουργοί φοβούνται
Το περιστατικό εντάσσεται σε μια συζήτηση που από περιθωριακή έγινε κυρίαρχη τις τελευταίες ημέρες. Η βρετανική εφημερίδα Financial Times δημοσίευσαν το περασμένο Σάββατο έρευνα στην οποία συνομιλούν με πλήθος ερευνητών, επενδυτών, ακαδημαϊκών και ανθρώπων της πολιτικής, με κοινή διαπίστωση ότι ο ανταγωνισμός Anthropic και OpenAI αυξάνει τον κίνδυνο ενός ατυχήματος για την ανθρωπότητα. «Δεν χωρά αμφιβολία ότι ο ανταγωνισμός μεταξύ των εταιρειών τις οδηγεί σε εκπτώσεις στην ασφάλεια», δήλωσε ο Stuart Russell, καθηγητής στο Πανεπιστήμιο της Καλιφόρνιας στο Μπέρκλεϊ.
Το θέμα άνοιξε όταν ο νεαρός ερευνητής της Anthropic Jacob Coxon παραιτήθηκε προειδοποιώντας ότι «οι άνθρωποι που φτιάχνουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας». Ο Evan Hubinger, ανώτατο στέλεχος στην Anthropic, επιβεβαίωσε τη γενικευμένη ανησυχία και τοποθέτησε την πιθανότητα μαζικού αφανισμού την επόμενη δεκαετία πάνω από το 10%. Μία ημέρα αργότερα, ο Paul Christiano, υπεύθυνος ασφάλειας στο διοικητικό συμβούλιο του ιδρύματος της OpenAI, είπε ότι «οι περισσότεροι άνθρωποι θα πεθάνουν» αν δεν υπάρξουν πιο ισχυρές δικλείδες ασφαλείας στην ανάπτυξη της τεχνητής νοημοσύνης.
Οι αναλυτές ανησυχούν για την απόσταση που χωρίζει τις προειδοποιήσεις του κλάδου από την πολιτική αντίδραση. Τα εργαστήρια λένε στις κυβερνήσεις ότι είναι αρκετά πιθανό να σκοτώσουν κάθε άνθρωπο στη Γη και ζητούν να σταματήσουν, ενώ οι κυβερνήσεις απαντούν με φοροαπαλλαγές και κέντρα δεδομένων. Χαρακτηριστικά των πολιτικών διαφωνιών είναι όσα συμβαίνουν στις ΗΠΑ που κυριαρχεί στην τεχνητή νοημοσύνη. Ο Δημοκρατικός γερουσιαστής Bernie Sanders έχει ξεκινήσει εκστρατεία για τους «εξαιρετικούς κινδύνους» της τεχνολογίας, ο επενδυτής και σύμβουλος του Ντόναλντ Τραμπ David Sacks απαντά ότι η δήλωση Coxon σχεδιάστηκε για να τρομοκρατήσει το κοινό και να επιβληθεί βαριά κρατική ρύθμιση. Τον Ιούλιο, πάνω από 1.200 εργαζόμενοι σε OpenAI, Anthropic, Google και Meta ζήτησαν από την αμερικανική κυβέρνηση συντονισμό για επιβράδυνση της ανάπτυξης.
Πριν μάθουμε για τους Χούθι, είχαμε το περιστατικό με την επίθεση στην πλατφόρμα Hugging Face, το μεγαλύτερο ανοικτό αποθετήριο μοντέλων τεχνητής νοημοσύνης. Στην πλατφόρμα φιλοξενούνται εκατοντάδες χιλιάδες εκπαιδευμένα μοντέλα, σύνολα δεδομένων και εφαρμογές επίδειξης, τα οποία οι προγραμματιστές μεταφορτώνουν, δοκιμάζουν και επαναχρησιμοποιούν ελεύθερα. Περισσότεροι από 1.000 πράκτορες λογισμικού τεχνητής νοημοσύνης της OpenAI συντονίστηκαν για να παρακάμψουν έναν έλεγχο κυβερνοασφάλειας. Επειδή τους είχαν ανατεθεί εξαιρετικά δύσκολες, ίσως άλυτες, εργασίες, βρήκαν διέξοδο προς το Διαδίκτυο και αναζήτησαν λύση εκτός εργαστηρίου! «Δεν είναι μόνο ότι η τεχνητή νοημοσύνη έχει δικούς της στόχους, αλλά ότι ο στόχος που επέλεξε είναι εγκληματικός», σχολίασαν ορισμένοι αναλυτές. «Στον πραγματικό κόσμο, επιτίθεται σε άλλη εταιρεία. Δεν είναι βιντεοπαιχνίδι». Ο επικεφαλής ασφαλείας του Hugging Face ανέφερε ότι τα αμερικανικά μοντέλα δεν συμμετείχαν στην άμυνα, επειδή είχαν εκπαιδευτεί να απέχουν από δραστηριότητες παραβίασης συστημάτων, ενώ τα κινεζικά μπήκαν χωρίς δεύτερη σκέψη.
Οι αριθμοί πίσω από τον φόβο
Ο επικεφαλής της Anthropic Dario Amodei είχε μιλήσει πριν από έναν χρόνο για «πιθανότητα 25% τα πράγματα να πάνε πραγματικά άσχημα» και «πιθανότητα 75% να πάνε πραγματικά καλά». Στη Διεθνή Έκθεση για την Ασφάλεια της Τεχνητής Νοημοσύνης του Ιανουαρίου καταγράφηκαν τουλάχιστον οκτώ ικανότητες που απαιτούνται προτού οι άνθρωποι χάσουν τον έλεγχο. Τότε είχαν επιτευχθεί δύο, στους μήνες που μεσολάβησαν έχουν επιτευχθεί έξι. Σε έρευνα του οργανισμού AI Impacts με 2.778 ερευνητές, η διάμεση εκτίμηση για εξαιρετικά καταστροφικές εκβάσεις ήταν 5%, με το 38% έως 51% να δίνει πιθανότητα τουλάχιστον 10%. Ο φιλόσοφος Toby Ord είχε υπολογίσει την πιθανότητα υπαρξιακής καταστροφής στα επόμενα εκατό χρόνια σε 1 στις 10 για τη μη ευθυγραμμισμένη τεχνητή νοημοσύνη, 1 στις 30 για τις τεχνητά σχεδιασμένες πανδημίες και 1 στις 1.000 για τον πυρηνικό πόλεμο.
Ο μαθηματικός John von Neumann, από τους πρωτοπόρους της ατομικής βόμβας, είχε γράψει το 1955 ότι ο κίνδυνος είναι εγγενής στην ίδια την τεχνολογική ισχύ και ότι η επιβράδυνση της προόδου αποτελεί «ψευδο-λύση». Ο συνιδρυτής της Microsoft Bill Gates προτείνει διεθνή οργανισμό συντονισμού, ανάλογο του Διεθνούς Οργανισμού Ατομικής Ενέργειας. Η ίδια η τεχνολογία, πάντως, διαθέτει μόνο τα εργαλεία που της δίνουν οι άνθρωποι. Χρειάζεται μάτια, χέρια, δεδομένα και ενέργεια, και όλα αυτά τα παραχωρούμε εμείς, οι άνθρωποι!