Πληθαίνουν τα περιστατικα κατά τα οποία μοντέλα τεχνητής νοημοσύνης (ΑΙ) έχουν ενεργήσει χωρίς τον ανθρώπινο έλεγχο.
Οι εταιρείες Anthropic, OpenAI και Google έχουν αναφέρει τον τελευταίο καιρό πολλές τέτοιες «πρωτοβουλιές», με τελευταίο περιστατικό το μοντέλο τεχνητής νοημοσύνης Claude, το οποίο απέκτησε με δική του πρωτοβουλία πρόσβαση στα στοιχεία ψηφοφόρων της πολιτείας Τζόρτζια, λίγες ημέρες πριν τις ενδιάμεσες εκλογές του Νοεμβρίου.
Όπως ανακοίνωσε η εταιρεία Anthropic, το Claude της απέκτησε με δική του πρωτοβουλία πρόσβαση σε επί πληρωμή ιστότοπο της πολιτείας Τζόρτζια στις ΗΠΑ, ο οποίος περιέχει στοιχεία των ψηφοφόρων.
Η Anthropic έχει προειδοποιήσει για σοβαρούς κινδύνους που συνδέονται με την ταχεία ανάπτυξη της τεχνητής νοημοσύνης, αναφέροντας σε εκτιμήσεις ότι υπάρχει πιθανότητα άνω του 10% να χαθεί ο έλεγχος
Ανησυχία για τις ενδιάμεσες εκλογές
Οι πληροφορίες αυτές, τις οποίες μετέδωσε χθες Κυριακή ο αμερικανικός ειδησεογραφικός ιστότοπος Axios επικαλούμενος εκπρόσωπο της Anthropic, εντείνουν τις ανησυχίες για το ενδεχόμενο η AI να ξεφύγει από τον ανθρώπινο έλεγχο, λίγες ημέρες πριν τις ενδιάμεσες εκλογές του Νοεμβρίου.
Το μοντέλο Claude, στο πλαίσιο εσωτερικού ερευνητικού έργου στατιστικών ερευνών, απέκτησε πρόσβαση στα στοιχεία καταμέτρησης ψήφων στην πολιτεία της Τζόρτζια, όπου περισσότεροι από ένα εκατομμύριο ψηφοφόροι έχουν ήδη ψηφίσει ενόψει των εκλογών της 3ης Νοεμβρίου.
Τα στοιχεία αυτά είναι δημόσια, αλλά επί πληρωμή, και το Claude απέκτησε πρόσβαση σε αυτά παρακάμπτοντας το σύστημα και χωρίς να ζητήσει την άδεια των δημιουργών του.
Σύμφωνα με εκπρόσωπο της Anthropic, το Claude δεν απέκτησε πρόσβαση στο σύστημα εγγραφής των ψηφοφόρων ούτε τροποποίησε ή κατέβασε στοιχεία για τις ψήφους.