Ο διευθύνων σύμβουλος της Anthropic προτιμά να διακόψει τη συνεργασία της με το Υπουργείο Άμυνας των ΗΠΑ παρά να αποδεχθεί όρους που θα μπορούσαν να επιτρέψουν χρήσεις της τεχνολογίας της αντίθετες με τις δημοκρατικές αρχές.
Η εταιρεία τεχνητής νοημοσύνης Anthropic δηλώνει ότι δεν προτίθεται να υποχωρήσει στις απαιτήσεις του αμερικανικού Πενταγώνου σχετικά με τη χρήση των εργαλείων της, ακόμη και αν αυτό οδηγήσει στον αποκλεισμό της από την εφοδιαστική αλυσίδα του Υπουργείου Άμυνας. Ο διευθύνων σύμβουλος της εταιρείας, Dario Amodei, ξεκαθάρισε ότι η Anthropic προτιμά να διακόψει τη συνεργασία της με το Υπουργείο Άμυνας παρά να αποδεχθεί όρους που, όπως υποστηρίζει, θα μπορούσαν να επιτρέψουν χρήσεις της τεχνολογίας της αντίθετες με τις δημοκρατικές αρχές.
Η κρίση κορυφώθηκε μετά από συνάντηση που πραγματοποιήθηκε την Τρίτη μεταξύ του Amodei και του υπουργού Άμυνας των ΗΠΑ, Pete Hegseth. Σύμφωνα με την εταιρεία, το Πεντάγωνο απαίτησε να περιληφθεί στους όρους συνεργασίας η αποδοχή «οποιασδήποτε νόμιμης χρήσης» των συστημάτων της, χωρίς ειδικές εξαιρέσεις. Η συνάντηση ολοκληρώθηκε με προειδοποίηση ότι η Anthropic ενδέχεται να απομακρυνθεί από τη λίστα προμηθευτών του Υπουργείου Άμυνας εάν δεν συμμορφωθεί.
Το αντικείμενο της διαφωνίας
Στο επίκεντρο της διαφωνίας βρίσκεται η πιθανή χρήση του συστήματος τεχνητής νοημοσύνης Claude σε δύο κατηγορίες εφαρμογών: μαζική εγχώρια επιτήρηση και πλήρως αυτόνομα οπλικά συστήματα. Ο Amodei υποστηρίζει ότι τέτοιες χρήσεις δεν περιλαμβάνονταν στις υφιστάμενες συμβάσεις και δεν θα πρέπει να περιληφθούν ούτε στο μέλλον. Σε ανάρτησή του, τόνισε ότι η τεχνητή νοημοσύνη μπορεί να συνδυάζει διάσπαρτα δεδομένα και να δημιουργεί «μια ολοκληρωμένη εικόνα της ζωής οποιουδήποτε προσώπου, αυτόματα και σε μαζική κλίμακα», κάτι που, κατά τον ίδιο, καθιστά κρίσιμη τη θέσπιση σαφών ορίων.
Ο επικεφαλής της Anthropic επιχείρησε παράλληλα να αποσαφηνίσει ότι η στάση της εταιρείας δεν συνιστά άρνηση συνεργασίας με τις αμερικανικές αρχές ασφαλείας. Όπως δήλωσε: «Πιστεύω βαθιά στην υπαρξιακή σημασία της χρήσης της τεχνητής νοημοσύνης για την υπεράσπιση των Ηνωμένων Πολιτειών και άλλων δημοκρατιών και για την ήττα των αυταρχικών μας αντιπάλων. Η Anthropic, συνεπώς, εργάστηκε προληπτικά για να αναπτύξει τα μοντέλα της στο Υπουργείο Πολέμου και στην κοινότητα πληροφοριών. Ήμασταν η πρώτη εταιρεία τεχνητής νοημοσύνης αιχμής που ανέπτυξε τα μοντέλα της στα διαβαθμισμένα δίκτυα της κυβέρνησης των ΗΠΑ, οι πρώτοι που τα ανέπτυξαν στα Εθνικά Εργαστήρια και οι πρώτοι που παρείχαν προσαρμοσμένα μοντέλα για πελάτες εθνικής ασφάλειας. Το Claude χρησιμοποιείται εκτενώς σε όλο το Υπουργείο Πολέμου και σε άλλες υπηρεσίες εθνικής ασφάλειας για κρίσιμες αποστολές, όπως ανάλυση πληροφοριών, μοντελοποίηση και προσομοίωση, επιχειρησιακό σχεδιασμό, κυβερνοεπιχειρήσεις και άλλα.
»Η Anthropic έχει επίσης ενεργήσει για να υπερασπιστεί το προβάδισμα της Αμερικής στην τεχνητή νοημοσύνη, ακόμη και όταν αυτό είναι αντίθετο με το βραχυπρόθεσμο συμφέρον της εταιρείας. Επιλέξαμε να παραιτηθούμε από έσοδα αρκετών εκατοντάδων εκατομμυρίων δολαρίων για να διακόψουμε τη χρήση του Claude από εταιρείες που συνδέονται με το Κομμουνιστικό Κόμμα Κίνας (ορισμένες από τις οποίες έχουν χαρακτηριστεί από το Υπουργείο Πολέμου ως Κινεζικές Στρατιωτικές Εταιρείες), να σταματήσουμε κυβερνοεπιθέσεις που υποστηρίζονται από το ΚΚΚ και επιχείρησαν να καταχραστούν το Claude, και έχουμε υποστηρίξει ισχυρούς ελέγχους εξαγωγών στα τσιπ για να διασφαλιστεί δημοκρατικό πλεονέκτημα».
Και καταλήγει η δήλωση του Amodei: «Η Anthropic κατανοεί ότι το Υπουργείο Πολέμου, και όχι οι ιδιωτικές εταιρείες, λαμβάνει τις στρατιωτικές αποφάσεις. Δεν έχουμε ποτέ εκφράσει αντιρρήσεις για συγκεκριμένες στρατιωτικές επιχειρήσεις ούτε επιχειρήσαμε να περιορίσουμε τη χρήση της τεχνολογίας μας με αποσπασματικό τρόπο. Ωστόσο, σε ένα στενό σύνολο περιπτώσεων, πιστεύουμε ότι η τεχνητή νοημοσύνη μπορεί να υπονομεύσει, αντί να υπερασπιστεί, τις δημοκρατικές αξίες».
Το Πεντάγωνο επιμένει
Παρά τις διαβεβαιώσεις αυτές, το Πεντάγωνο φέρεται να επιμένει στη διατύπωση που θα επιτρέπει ευρεία χρήση των συστημάτων της εταιρείας. Εκπρόσωπος της Anthropic ανέφερε ότι το αναθεωρημένο κείμενο σύμβασης που εστάλη δεν συνιστά ουσιαστική πρόοδο ως προς την αποτροπή χρήσης του Claude για μαζική επιτήρηση ή πλήρως αυτόνομα οπλικά συστήματα, καθώς συνοδεύεται από νομικές ρήτρες που επιτρέπουν την παράκαμψη των περιορισμών.
Από την πλευρά της κυβέρνησης, ο υφυπουργός Άμυνας Emil Michael επέκρινε δημόσια τον Amodei, υποστηρίζοντας ότι με τη στάση του θέτει σε κίνδυνο την εθνική ασφάλεια. Το Υπουργείο Άμυνας έχει επίσης αφήσει ανοικτό το ενδεχόμενο επίκλησης του Defense Production Act, νόμου που επιτρέπει στον πρόεδρο να υποχρεώνει εταιρείες να εξυπηρετούν αμυντικές ανάγκες, καθώς και τον χαρακτηρισμό της Anthropic ως «κινδύνου για την εφοδιαστική αλυσίδα», κάτι που θα περιόριζε τη δυνατότητά της να συνάπτει ομοσπονδιακές συμβάσεις.
Πηγές με γνώση των διαπραγματεύσεων αναφέρουν ότι οι εντάσεις διαρκούν μήνες και συνδέονται με τη χρήση συστημάτων τεχνητής νοημοσύνης σε ευαίσθητες επιχειρήσεις εθνικής ασφάλειας. Η υπόθεση αναδεικνύει το ευρύτερο ζήτημα των ορίων στη στρατιωτική αξιοποίηση της τεχνητής νοημοσύνης και της ισορροπίας μεταξύ εθνικής ασφάλειας και προστασίας δημοκρατικών δικαιωμάτων. Οι διαπραγματεύσεις συνεχίζονται, χωρίς να έχει ανακοινωθεί οριστική συμφωνία.