Ο Δημοκρατικός κυβερνήτης της Καλιφόρνιας, Γκάβιν Νιούσομ, υπέγραψε σήμερα εκτελεστική εντολή με σκοπό να υποχρεώσει τις εταιρείες Τεχνητής Νοημοσύνης να λάβουν πρόσθετα μέτρα ασφαλείας ώστε να διαχειριστούν τους κινδύνους που ανακύπτουν από τη χρήση της.
Ο κυβερνήτης, που έχει διαφοροποιηθεί από την κυβέρνηση του προέδρου Ντόναλντ Τραμπ για το θέμα αυτό, θα ζητήσει τις προτάσεις ειδικών, ιδίως σε ό,τι αφορά τη χρήση συστημάτων («kill switch») ικανών να διακόπτουν τη λειτουργία ενός μοντέλου ΤΝ σε περίπτωση «παρεκτροπής» του.
Η Καλιφόρνια είναι, σε πολύ μεγάλο βαθμό, η αμερικανική Πολιτεία που έχει εγκρίνει τους περισσότερους νόμους για τη ρύθμιση της Τεχνητής Νοημοσύνης.
Στις αρχές Σεπτεμβρίου, ο Νιούσομ υπέγραψε δύο ψηφίσματα του τοπικού κοινοβουλίου, τα οποία θέτουν τις βάσεις για έναν μηχανισμό ανεξάρτητου ελέγχου των εταιρειών ΤΝ και των μοντέλων τους, με έμφαση στην ασφάλεια της τεχνολογίας αυτής.
Με το σημερινό διάταγμα ο κυβερνήτης, ο οποίος ενδέχεται να διεκδικήσει το χρίσμα των Δημοκρατικών για τις προεδρικές εκλογές του 2028, σκοπεύει να επιταχύνει την εφαρμογή αυτού του μηχανισμού και να τον ενισχύσει.
Η επιτροπή εμπειρογνωμόνων θα εξετάσει ιδίως τη δυνατότητα να επιβληθεί στις πιο προηγμένες εταιρείες τεχνητής νοημοσύνης να δημοσιοποιούν τυχόν περιστατικά στα οποία παρατηρείται «απώλεια ελέγχου» των μοντέλων τους.
Το διάταγμα απηχεί τη δέσμευση που ανέλαβε το περασμένο Σάββατο ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, να επιτρέψει σε ανεξάρτητους παρατηρητές να αξιολογούν τις ενέργειες της εταιρείας όσον αφορά την ασφάλεια της Τεχνητής Νοημοσύνης.
Ο Αμοντέι ζήτησε επίσης να επιβραδυνθεί ο ρυθμός ανάπτυξης της ΤΝ, κάτι που βρήκε σύμφωνους τον Σαμ Άλτμαν της OpenAI και τον Έλον Μασκ. Ωστόσο, ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ και αρκετοί Ρεπουμπλικανοί αιρετοί καταδίκασαν την πρόταση και χαρακτηρίζουν «φάρσα» τις προειδοποιήσεις για την επικινδυνότητα της τεχνολογίας αυτής.
«Ενώ ο Τραμπ και το Κογκρέσο κοιμούνται, ο Γκάβιν Νιούσομ παίρνει για άλλη μια φορά την πρωτοβουλία να ενισχύσει την ασφάλεια της Τεχνητής Νοημοσύνης για όλους τους Αμερικανούς», αναφέρει το δελτίο Τύπου του κυβερνήτη.
ΑΠΕ ΜΠΕ