Η OpenAI λανσάρει γονικούς ελέγχους για το ChatGPT, όπως ανακοίνωσε μετά από μια αγωγή γονέων που υποστηρίζουν ότι ο 16χρονος γιος τους αυτοκτόνησε μετά από μήνες συνομιλιών με το ChatGPT, στο οποίο είχε αποκαλύψει τις προθέσεις του.
Τα εργαλεία, που διατέθηκαν σε όλους τους χρήστες τη Δευτέρα, επιτρέπουν στους γονείς να περιορίσουν τους τρόπους με τους οποίους οι έφηβοι χρησιμοποιούν το chatbot και να λαμβάνουν ειδοποιήσεις εάν το ChatGPT διαπιστώσει ότι ένας έφηβος μπορεί να βρίσκεται σε κίνδυνο. Τα εργαλεία ελέγχου, τα οποία είναι προσβάσιμα μέσω των ρυθμίσεων του ChatGPT, επιτρέπουν επίσης στους γονείς να ορίσουν τις ώρες κατά τις οποίες το παιδί τους δεν μπορεί να χρησιμοποιήσει την υπηρεσία (το chatbot προορίζεται για χρήστες ηλικίας 13 ετών και άνω).
Η ενημέρωση έρχεται μετά από την αυξανόμενη πίεση προς την startup τεχνητής νοημοσύνης να κάνει αλλαγές στο ChatGPT της, το οποίο έχει συγκεντρώσει πάνω από 700 εκατομμύρια χρήστες από την κυκλοφορία του στα τέλη του 2022. Αφού η οικογένεια του Άνταμ Ρέιν μήνυσε την OpenAI και τον διευθύνοντα σύμβουλό της, Σαμ Άλτμαν, τον Αύγουστο για τον θάνατο του μαθητή λυκείου της Καλιφόρνιας, η εταιρεία ανακοίνωσε μια σειρά αλλαγών στο ChatGPT, συμπεριλαμβανομένων των γονικών ελέγχων. Η αγωγή, η οποία ακολούθησε μια σειρά άλλων αναφορών σχετικά με χρήστες chatbot που εμπλέκονταν σε επικίνδυνη συμπεριφορά, ισχυρίζεται ότι το ChatGPT απομόνωσε συστηματικά τον Ρέιν από την οικογένειά του και τον βοήθησε να σχεδιάσει τον θάνατό του. Ο 16χρονος αυτοκτόνησε τον περασμένο Απρίλιο.
«Αισθανόμαστε την επείγουσα ανάγκη για κάτι τέτοιο εδώ και αρκετό καιρό», δήλωσε η Λόρεν Γιόνας, υπεύθυνη για την ευημερία των νέων στην OpenAI, προσθέτοντας ότι η εταιρεία εργάζεται όσο πιο γρήγορα μπορεί για να δημιουργήσει εργαλεία όπως ο γονικός έλεγχος.
Πώς γίνεται η ρύθμιση γονικού ελέγχου στο ChatGPT
Για να ρυθμίσει τη νέα επιλογή, ένας ενήλικος χρήστης του ChatGPT στέλνει ένα αίτημα μέσω email στο παιδί του. Εάν η πρόσκληση γίνει αποδεκτή, ο ενήλικας μπορεί στη συνέχεια να προβεί σε ενέργειες όπως να αποφασίσει εάν ο έφηβος μπορεί να έχει πρόσβαση στη λειτουργία φωνής του ChatGPT ή στη δυνατότητα δημιουργίας εικόνων, ή να επιλέξει εάν το chatbot μπορεί να ανατρέχει σε προηγούμενες συνομιλίες. Τα εργαλεία επιτρέπουν επίσης στους γονείς να αποφασίσουν αν θέλουν το παιδί τους να χρησιμοποιεί μια περιορισμένη έκδοση του chatbot, η οποία προορίζεται να εμφανίζει λιγότερο περιεχόμενο σχετικό με θέματα όπως η διατροφή, το σεξ και η ρητορική μίσους.
Εάν το ChatGPT εντοπίσει ότι ένας έφηβος μπορεί να βρίσκεται σε ψυχική δυσφορία, ένα πρόσωπο θα εξετάσει αν θα στείλει μια ειδοποίηση έκτακτης ανάγκης σε έναν γονέα. Αυτές οι ειδοποιήσεις μπορούν να ρυθμιστούν ώστε να έρχονται μέσω email, sms και ειδοποιήσεων από την εφαρμογή ChatGPT.
Η Γιόνας δήλωσεότι οι ειδοποιήσεις έχουν ως στόχο να παρέχουν στους γονείς επαρκείς πληροφορίες σχετικά με μια δυνητικά επικίνδυνη κατάσταση, ώστε να μπορούν να συζητήσουν με τον έφηβο τους, σεβόμενοι παράλληλα την ιδιωτικότητα και την αυτονομία του παιδιού. Η OpenAI δεν θα μοιραστεί τις συνομιλίες ενός εφήβου στο ChatGPT με τους γονείς του, διευκρίνισε.
Εκτός από τους γονικούς ελέγχους, η OpenAI με έδρα το Σαν Φρανσίσκο δήλωσε ότι εργάζεται σε ένα λογισμικό για την πρόβλεψη της ηλικίας ενός χρήστη, το οποίο η εταιρεία σχεδιάζει να χρησιμοποιήσει για να καθοδηγήσει τον τρόπο με τον οποίο το ChatGPT ανταποκρίνεται σε όσους είναι κάτω των 18 ετών.
Bloomberg