Η Anthropic παραδέχεται ότι το μοντέλο Τεχνητής Νοημοσύνης Claude χρησιμοποιήθηκε για την ανάπτυξη πυραύλων και επιχειρήσεις κατασκοπείας.
- Ομάδα στη βόρεια Υεμένη χρησιμοποίησε το μοντέλο Claude για την ανάπτυξη λογισμικού καθοδήγησης πυραύλων. Παρά τους μηχανισμούς ασφαλείας, ορισμένα αιτήματα πέρασαν.
- Εντοπίστηκαν και αποκλείστηκαν τρεις λογαριασμοί συνδεδεμένοι με το Ιράν που αξιοποιούσαν το Claude για επιχειρήσεις επιρροής, δημιουργώντας προφίλ στόχων και προωθώντας κρατική προπαγάνδα που ευθυγραμμιζόταν με τους Φρουρούς της Επανάστασης.
- Οι αποκαλύψεις εντείνουν τις πιέσεις για την ασφάλεια της AI, ενώ η σχέση της Anthropic με το Πεντάγωνο παραμένει τεταμένη μετά την άρνησή της να άρει δικλίδες ασφαλείας για στρατιωτικές εφαρμογές.
Η τεχνητή νοημοσύνη χρησιμοποιείται πλέον σε επιχειρήσεις που εκτείνονται από την ανάπτυξη οπλικών συστημάτων έως την κυβερνοκατασκοπεία και τις εκστρατείες μαζικής παρακολούθησης, σύμφωνα με νέα έκθεση της Anthropic, της εταιρείας που αναπτύσσει τα μοντέλα Claude και παραδέχτηκε ότι δεν κατάφερε να αποτρέψει σε όλες τις κακόβουλες δραστηριότητες.
Η εταιρεία υποστηρίζει ότι εντόπισε και ανέκοψε πολλαπλές κακόβουλες επιχειρήσεις στις οποίες χρησιμοποιήθηκαν τα μοντέλα της, σύμφωνα με το Bloomberg.
Μεταξύ αυτών περιλαμβάνεται μια ιδιαίτερα ανησυχητική υπόθεση στη βόρεια Υεμένη, όπου, σύμφωνα με την Anthropic, μια ομάδα επιχείρησε να αξιοποιήσει το Claude για την ανάπτυξη λογισμικού καθοδήγησης πυραύλων.
Claude αντί για ανθρώπους μηχανικούς
Σύμφωνα με την έκθεση για τις απειλές, οι χειριστές χρησιμοποίησαν το Claude «στη θέση ανθρώπινων μηχανικών λογισμικού», αναθέτοντας σε διαφορετικές παρουσίες του μοντέλου συγκεκριμένους ρόλους για τη συγγραφή λογισμικού καθοδήγησης πυραύλων και ελέγχου πτήσης.
Η προσπάθεια φέρεται να αφορούσε μεταξύ άλλων έναν κατευθυνόμενο πύραυλο και έναν βαλλιστικό πύραυλο μεγάλου βεληνεκούς. Οι μηχανισμοί ασφαλείας του Claude μπλόκαραν αρκετά από τα σχετικά αιτήματα, όμως η Anthropic παραδέχεται ότι ορισμένα κατάφεραν να περάσουν.
Οι χειριστές προσπάθησαν να αποφύγουν τον εντοπισμό αποκρύπτοντας τον τελικό σκοπό της δραστηριότητας και διαμοιράζοντας τις εργασίες σε διαφορετικές συνεδρίες, ώστε κανένα μεμονωμένο αίτημα να μην αποκαλύπτει ολόκληρη την επιχείρηση.
Η Anthropic υποστηρίζει ότι δεν έχει στοιχεία πως η ομάδα κατάφερε να θέσει σε επιχειρησιακή χρήση κάποιο λειτουργικό όπλο. Ωστόσο, εκτιμά ότι οι χειριστές πραγματοποίησαν μια αποτυχημένη δοκιμαστική εκτόξευση.
Η εταιρεία ανέφερε ότι απέκλεισε τους σχετικούς λογαριασμούς και «μοιράστηκε πληροφορίες για την απειλή με εταίρους του δημόσιου και του ιδιωτικού τομέα, προκειμένου να περιοριστούν οι κίνδυνοι που προέρχονται από τους συγκεκριμένους παράγοντες».
Ρωσική κυβερνοκατασκοπεία με αυτοματοποιημένη AI
Η έκθεση περιγράφει επίσης μια ρωσικής σύνδεσης επιχείρηση κατασκοπείας, η οποία, σύμφωνα με την Anthropic, έφερε χαρακτηριστικά της ομάδας Midnight Blizzard, γνωστής και ως APT29.
Η επιχείρηση φέρεται να βασίστηκε σε αυτοματοποιημένες ροές εργασίας τεχνητής νοημοσύνης για σχεδόν ολόκληρη τη διαδικασία, από το ηλεκτρονικό «ψάρεμα» και την προετοιμασία της επίθεσης μέχρι την κλοπή δεδομένων.
Στόχοι ήταν ουκρανικοί, ευρωπαϊκοί και διπλωματικοί φορείς, μεταξύ άλλων και εταιρείες που κατασκευάζουν drones, μεταδίδει χαρακτηριστικά το Al Jazeera.
Παράλληλα, η Anthropic υποστηρίζει ότι διέκοψε κινεζική επιχείρηση που φέρεται να πραγματοποιήθηκε από φοιτητές πανεπιστημίου στην επαρχία Χουνάν. Οι δράστες χρησιμοποίησαν το Claude «ως το μηχανικό και συντονιστικό επίπεδο» μιας επιθετικής εκστρατείας εναντίον κυβερνητικών και εταιρικών δικτύων στη Μέση Ανατολή, την Ευρώπη και τη Νοτιοανατολική Ασία.
Επιχειρήσεις επιρροής από το Ιράν
Η εταιρεία αναφέρει ακόμη ότι εντόπισε και απέκλεισε τρεις λογαριασμούς που συνδέονταν με το ιρανικό κράτος και χρησιμοποιούσαν το Claude για μυστικές επιχειρήσεις επιρροής και ψυχολογικού πολέμου.
Κάθε επιχείρηση συνδεόταν με συγκεκριμένο ιρανικό φορέα προπαγάνδας, μεταξύ άλλων με τον Οργανισμό Ισλαμικού Πολιτισμού και Επικοινωνιών και ένα θεολογικό σεμινάριο στη Μασχάντ, το οποίο, σύμφωνα με την Anthropic, διέθετε κέντρο συντονισμού για τη διανομή περιεχομένου που ευθυγραμμιζόταν με την αφήγηση των Φρουρών της Ισλαμικής Επανάστασης (IRGC).
Σε άλλη περίπτωση, κρατικά συνδεδεμένες ομάδες φέρεται να χρησιμοποίησαν το Claude σε «βιομηχανικής κλίμακας» επιχείρηση, ζητώντας από το μοντέλο να δημιουργεί οργανωμένα προφίλ στόχων, καταγράφοντας την τοποθεσία, τα δημογραφικά χαρακτηριστικά, τις πολιτικές πεποιθήσεις κλπ.
Νέα ανησυχία για την ασφάλεια της AI
Οι αποκαλύψεις έρχονται λίγες ημέρες μετά την ανακοίνωση της Anthropic για ένα ακόμη περιστατικό μη εξουσιοδοτημένης πρόσβασης μοντέλου σε εξωτερικά συστήματα, που αφορούσε πρώιμη έκδοση του Claude Opus 4.6.
Λίγο αργότερα, ο πρώην ερευνητής της εταιρείας Jacob Coxon παραιτήθηκε δημόσια, επικαλούμενος ανησυχίες για την ασφάλεια. «Οι άνθρωποι που κατασκευάζουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας», προειδοποίησε σε ανάρτησή του στο X. Ο ερευνητής της Anthropic Evan Hubinger συμφώνησε στη συνέχεια με την εκτίμηση.
Οι προειδοποιήσεις αυτές έχουν ενισχύσει τις πιέσεις από Αμερικανούς αξιωματούχους για τη θέσπιση νέων κανόνων σχετικά με τα συστήματα τεχνητής νοημοσύνης.
Η σύγκρουση με το Πεντάγωνο
Παράλληλα, η σχέση της Anthropic με την Ουάσιγκτον παραμένει τεταμένη. Νωρίτερα φέτος, το Πεντάγωνο χαρακτήρισε την εταιρεία κίνδυνο για την εφοδιαστική αλυσίδα, αφού η Anthropic αρνήθηκε να άρει τις δικλίδες ασφαλείας που περιορίζουν τη χρήση της τεχνολογίας της για αυτόνομα όπλα και εγχώρια επιτήρηση.
Η Anthropic προσέφυγε κατά της απόφασης στην Καλιφόρνια και δικαστής έκρινε τον περασμένο μήνα ότι το αμερικανικό υπουργείο Άμυνας ενήργησε παράνομα επιβάλλοντας τον συγκεκριμένο χαρακτηρισμό.
Η νέα έκθεση έρχεται έτσι σε μια κρίσιμη στιγμή για την Anthropic, καθώς η εταιρεία προσπαθεί να αποκαταστήσει πλήρως τη θέση της στην αμερικανική αμυντική βιομηχανία, μετά τον αποκλεισμό της από το Πεντάγωνο.