Αόρατο υδατογράφημα θα ακολουθεί τα κείμενα του ChatGPT στην Ευρωπαϊκή Ένωση, έπειτα από μια σημαντική αλλαγή που δρομολογεί η OpenAI. Η εταιρεία ανακοίνωσε τη Δευτέρα ότι τα κείμενα που παράγονται μέσω της δημοφιλούς εφαρμογής, θα αποκτήσουν «υπογραφή» που θα τα ακολουθεί.
- Η OpenAI εισάγει αόρατη ψηφιακή υπογραφή στα κείμενα του ChatGPT στην ΕΕ, η οποία διατηρείται ακόμα και μετά την αντιγραφή. Η κίνηση αποσκοπεί στη συμμόρφωση με τον νέο ευρωπαϊκό κανονισμό για την τεχνητή νοημοσύνη.
- Το σύστημα θα εφαρμοστεί σταδιακά τις επόμενες εβδομάδες για τους συνδρομητές του ChatGPT και του Codex στην ΕΕ, ενώ οι προγραμματιστές που χρησιμοποιούν το API θα μπορούν να ενεργοποιούν προαιρετικά την τεχνολογία σε επιλεγμένα μοντέλα.
- Το υδατογράφημα, ονόματι textGrain, δημιουργεί ένα μη αντιληπτό στατιστικό μοτίβο στην επιλογή λέξεων του μοντέλου. Η τεχνολογία, που βασίζεται σε μυστικό ψηφιακό κλειδί, δεν αποκαλύπτει την ταυτότητα του χρήστη και δεν υποβαθμίζει την απόδοση.
- Η τεχνολογία έχει περιορισμούς, καθώς η αντικατάσταση λέξεων μειώνει την αποτελεσματικότητά της. Είναι λιγότερο αξιόπιστη σε σύντομα κείμενα, ενώ η απουσία της δεν αποδεικνύει ανθρώπινη συγγραφή, καθώς το κείμενο μπορεί να έχει τροποποιηθεί.
Ιδιαίτερο χαρακτηριστικό της νέας αλλαγής, είναι ότι το υδατογράφημα θα παραμένει ενσωματωμένο στο κείμενο ακόμη και όταν ο χρήστης το αντιγράφει και το επικολλά σε άλλη εφαρμογή.
Σύμφωνα με το TechCrunch, η εταιρεία ανακοίνωσε ότι η εφαρμογή της αόρατης ψηφιακής υπογραφής θα εφαρμοστεί σε όλα τα κείμενα που δημιουργούνται από το ChatGPT και το Codex στην ΕΕ, με στόχο τη συμμόρφωση στις απαιτήσεις του ευρωπαϊκού κανονισμού για την Τεχνητή Νοημοσύνη.
Οι νέοι κανόνες διαφάνειας, που τέθηκαν σε ισχύ στις 2 Αυγούστου, απαιτούν από τις εταιρείες Τεχνητής Νοημοσύνης να επισημαίνουν το περιεχόμενο που δημιουργούν τα συστήματά τους, ώστε να μπορεί να αναγνωρίζεται από κατάλληλα τεχνολογικά εργαλεία.
Πότε ξεκινά η νέα εφαρμογή
Η εφαρμογή του συστήματος θα ξεκινήσει σταδιακά τις επόμενες εβδομάδες και θα αφορά τους επιλέξιμους χρήστες όλων των συνδρομητικών προγραμμάτων του ChatGPT και του Codex στην Ευρωπαϊκή Ένωση.
Αντίθετα, οι προγραμματιστές που χρησιμοποιούν το API της OpenAI σε οποιαδήποτε χώρα θα μπορούν να ενεργοποιούν προαιρετικά την τεχνολογία σε επιλεγμένα μοντέλα. Το νέο σύστημα, με την ονομασία textGrain, δεν προσθέτει κάποιο ορατό σύμβολο, κρυφό χαρακτήρα ή ειδικό κώδικα στο κείμενο. Αντίθετα, επηρεάζει ανεπαίσθητα τις επιλογές λέξεων που πραγματοποιεί το μοντέλο κατά τη δημιουργία μιας απάντησης.
Μέσα από εκατοντάδες τέτοιες μικρές διαφοροποιήσεις σχηματίζεται ένα στατιστικό μοτίβο, το οποίο δεν γίνεται αντιληπτό από τον αναγνώστη, αλλά μπορεί να αναγνωριστεί από ειδικό λογισμικό ανίχνευσης.
Η αόρατη υπογραφή δεν αποκαλύπτει την ταυτότητα του χρήστη
Η τεχνολογία αναπτύχθηκε με τη συμμετοχή ερευνητών από τα πανεπιστήμια της Πενσιλβάνια και του Γέιλ και βασίζεται στη χρήση ενός μυστικού ψηφιακού κλειδιού. Επειδή η σήμανση βρίσκεται ουσιαστικά στις ίδιες τις λέξεις και στον τρόπο επιλογής τους, μπορεί να διατηρείται ακόμη και μετά από αντιγραφή και επικόλληση του κειμένου.
Η OpenAI διευκρινίζει ότι το υδατογράφημα δεν αποκαλύπτει την ταυτότητα του χρήστη, ενώ οι δοκιμές της δεν έδειξαν ουσιαστική υποβάθμιση της απόδοσης των μοντέλων.
Πώς μπορεί να αφαιρεθεί
Παρά τις δυνατότητές της, η τεχνολογία παρουσιάζει σημαντικούς περιορισμούς. Σύμφωνα με τις δοκιμές της εταιρείας, η αντικατάσταση μόλις του 10% των λέξεων με συνώνυμες μείωσε το ποσοστό επιτυχούς ανίχνευσης από περίπου 92% σε 66%. Ακόμη μεγαλύτερες δυσκολίες παρουσιάζονται σε σύντομα κείμενα, μαθηματικές απαντήσεις και μεταφράσεις, όπου η αναγνώριση του ψηφιακού αποτυπώματος γίνεται λιγότερο αξιόπιστη.
Για τον λόγο αυτό, η πρόσβαση στο εργαλείο ανίχνευσης θα περιοριστεί αρχικά σε εγκεκριμένους ερευνητές και εξειδικευμένους οργανισμούς.
Η OpenAI ξεκαθαρίζει επίσης ότι η απουσία υδατογραφήματος δεν αποτελεί απόδειξη ανθρώπινης συγγραφής, καθώς ένα κείμενο μπορεί να έχει τροποποιηθεί σημαντικά ή να προέρχεται από διαφορετικό σύστημα Τεχνητής Νοημοσύνης.