Για μια πρωτόγνωρη και δυνητική επικίνδυνη χρήση του ChatGPT από τον επικεφαλής της υπηρεσίας κυβερνοασφάλειας των ΗΠΑ κάνει λόγο το Politico.
Ο προσωρινός επικεφαλής της Υπηρεσίας Κυβερνοασφάλειας και Ασφάλειας Υποδομών (CISA) των ΗΠΑ, Madhu Gottumukkala, προκάλεσε έντονη ανησυχία για την κυβερνοασφάλεια όταν ανέβασε ευαίσθητα έγγραφα σε μια δημόσια έκδοση του ChatGPT το καλοκαίρι του 2025.
Το περιστατικό προκάλεσε αυτόματες προειδοποιήσεις ασφαλείας από τα συστήματα της CISA, τα οποία έχουν σχεδιαστεί για να αποτρέπουν τη διαρροή ή κλοπή κυβερνητικού υλικού από τα ομοσπονδιακά δίκτυα. Τα αρχεία που ανέβηκαν περιλάμβαναν συμβόλαια της CISA με την ένδειξη «μόνο για επίσημη χρήση», τα οποία, αν και δεν ήταν απόρρητα, θεωρούνται ευαίσθητα και δεν προορίζονται για δημόσια κυκλοφορία.
Ανησυχία με την χρήση του ChatGPT
Το περιστατικό είναι ιδιαίτερα αξιοσημείωτο, καθώς ο Gottumukkala είχε λάβει ειδική άδεια από το Γραφείο του Διευθυντή Πληροφορικής της CISA για τη χρήση του ChatGPT, εργαλείο αποκλεισμένο για τους υπόλοιπους υπαλλήλους του Υπουργείο Εσωτερικής Ασφάλειας (DHS) εκείνη την περίοδο.
Παρά την έγκριση, η χρήση του εργαλείου προκάλεσε πολλές προειδοποιήσεις τον Αύγουστο, γεγονός που οδήγησε σε εσωτερική αξιολόγηση για πιθανή ζημιά στην ασφάλεια της κυβέρνησης. Το αποτέλεσμα αυτής της αξιολόγησης δεν έχει δημοσιοποιηθεί.
Σύμφωνα με τη δήλωση της CISA, η χρήση του ChatGPT από τον Gottumukkala ήταν βραχυπρόθεσμη και περιορισμένη, ενώ το υλικό δεν περιείχε απόρρητες πληροφορίες. Ωστόσο, η ανησυχία προκύπτει από το γεγονός ότι οποιοδήποτε υλικό ανεβαίνει σε δημόσια έκδοση του ChatGPT είναι προσβάσιμο από την OpenAI και μπορεί να χρησιμοποιηθεί για απαντήσεις σε άλλους χρήστες της εφαρμογής, η οποία διαθέτει πάνω από 700 εκατομμύρια ενεργούς χρήστες. Άλλα εγκεκριμένα εργαλεία τεχνητής νοημοσύνης του DHS έχουν ρυθμιστεί ώστε να αποτρέπουν την έξοδο ευαίσθητων εγγράφων, κάτι που δεν ίσχυε για το ChatGPT.
Μετά το περιστατικό, ο Gottumukkala συμμετείχε σε συναντήσεις με ανώτερους αξιωματούχους της CISA και του DHS, μεταξύ των οποίων ο διευθυντής πληροφορικής Robert Costello και ο γενικός σύμβουλος Spencer Fisher, για να αξιολογηθεί η φύση του υλικού και η σωστή διαχείρισή του.