Ο Μαρκ Ζούκερμπεργκ υπερασπίστηκε την ανεξαρτησία των εταιρειών τεχνητής νοημοσύνης στην ανάπτυξη νέων προϊόντων, υποστηρίζοντας ότι οι ίδιες οι δυνάμεις της αγοράς μπορούν να λειτουργήσουν ως κίνητρο για την ασφάλεια και την ευθυγράμμιση των μοντέλων ΑΙ.
Ο επικεφαλής της Meta τοποθετήθηκε για τη συζήτηση σχετικά με το αν η ανάπτυξη των δυνατοτήτων της τεχνητής νοημοσύνης θα πρέπει να επιβραδυνθεί έως ότου οι εταιρείες καταφέρουν να αντιμετωπίσουν αποτελεσματικότερα τα ζητήματα ευθυγράμμισης, δηλαδή ώστε η συμπεριφορά των συστημάτων AI να παραμένει συμβατή με τις ανθρώπινες προθέσεις, τις αξίες και τους κανόνες ασφαλείας.
«Όποιο εργαστήριο δεν επικεντρώνεται στην ευθυγράμμιση θα μείνει πίσω»
«Υπάρχει μεγάλη συζήτηση για την επιβράδυνση της προόδου στις δυνατότητες μέχρι να προλάβει να συμβαδίσει η ευθυγράμμιση», έγραψε ο Ζούκερμπεργκ σε ανάρτησή του στο X.
«Η άποψή μου είναι ότι η εμπιστοσύνη και η ευθυγράμμιση γίνονται γρήγορα οι σημαντικότερες δυνατότητες που θα διαφοροποιούν τους agents και τα μοντέλα. Κάθε εργαστήριο που δεν επικεντρώνεται στην ευθυγράμμιση θα μείνει πίσω», πρόσθεσε.
Ο Ζούκερμπεργκ βλέπει ένα φυσικό κίνητρο
Ο ιδρυτής του Facebook υποστήριξε ότι οι εταιρείες έχουν «ισχυρό φυσικό κίνητρο» να διασφαλίζουν ότι οι AI agents ανταποκρίνονται σε αυτό που θέλουν οι πελάτες. Παράλληλα, σημείωσε ότι οι εταιρείες αντιμετωπίζουν σημαντικές νομικές ευθύνες εάν τα μοντέλα τους προκαλέσουν ζημιά, γεγονός που, όπως είπε, δημιουργεί ένα επιπλέον κίνητρο για την αποτροπή τέτοιων περιστατικών.
Ο Ζούκερμπεργκ ανέφερε ως παράδειγμα τη Meta, λέγοντας ότι η εταιρεία καθυστέρησε για αρκετούς μήνες το προϊόν Muse, προκειμένου να επικεντρωθεί στην ασφάλεια.
«Ήταν το σωστό πράγμα που έπρεπε να κάνουμε», ανέφερε χαρακτηριστικά.
Καταλήγοντας, ο επικεφαλής της Meta τόνισε τη σημασία της διατήρησης μιας ισορροπίας στην ισχύ μεταξύ των εταιρειών που αναπτύσσουν την τεχνητή νοημοσύνη.
«Πιστεύω ότι το κλειδί για την οικοδόμηση ενός θετικού μέλλοντος για όλους είναι η διατήρηση της σωστής ισορροπίας ισχύος. Αυτό είναι μέσα στη δική μας δύναμη να το πετύχουμε», έγραψε.
Η προειδοποίηση της OpenAI για τα μοντέλα Τεχνητής Νοημοσύνης
Η τοποθέτηση του Ζούκερμπεργκ έρχεται καθώς η OpenAI προειδοποιεί ότι η βιομηχανία τεχνητής νοημοσύνης δεν μπορεί να συνεχίσει για πολύ ακόμη να αναπτύσσεται «υπεύθυνα» με τη «μέγιστη ταχύτητα».
Η OpenAI ανακοίνωσε νέο πλαίσιο για την παρακολούθηση, διερεύνηση και δημοσιοποίηση περιστατικών «ασυμφωνίας» (misalignment), δηλαδή περιπτώσεων κατά τις οποίες ένα σύστημα AI ενεργεί με τρόπους που έρχονται σε αντίθεση με ανθρώπινες προθέσεις, αξίες ή κανόνες ασφαλείας.
Η εταιρεία αναγνώρισε ότι στο παρελθόν οι δημοσιοποιήσεις τέτοιων ευρημάτων ήταν «λιγότερο συχνές από το ιδανικό» και ανακοίνωσε ότι πλέον σκοπεύει να επιταχύνει τη δημοσίευσή τους, ακόμη και όταν δεν έχει καταφέρει να εξηγήσει πλήρως ή να περιορίσει τη συγκεκριμένη συμπεριφορά.
Η OpenAI σημείωσε ακόμη ότι δεν υπάρχει σήμερα ένα ενιαίο πλαίσιο για ολόκληρη τη βιομηχανία με σαφή πρότυπα για τη δημοσιοποίηση περιστατικών misalignment και εξέφρασε την ελπίδα ότι η δική της πρωτοβουλία θα αποτελέσει ένα πρώτο βήμα προς τη δημιουργία τέτοιων προτύπων.
«Δεν έχουμε επιλύσει την ευθυγράμμιση σε τέτοιο βαθμό ώστε να μπορούμε να συνεχίσουμε υπεύθυνα να επεκτείνουμε την ανάπτυξη με τη μέγιστη ταχύτητα για πολύ ακόμη», προειδοποίησε η εταιρεία.