Η ΟpenAI προσθέτει περισσότερους ελέγχους μετά από αναφορές και καταγγελίες για αυτοκτονίες μεταξύ εφήβων που συνομιλούσαν στο ChatGPT.
Η πλατφόρμα ανακοίνωσε ότι θα ενισχύσει τα μέτρα ασφαλείας στα μοντέλα της σε συνεργασία με ειδικούς και γιατρούς, ενώ παράλληλα θα ενσωματώσει ένα σύνολο γονικών ελέγχων για την παρακολούθηση της δραστηριότητας των ανηλίκων με το ChatGPT.
Η εταιρεία τεχνολογίας αναφέρει ότι στοχεύει να υποστηρίξει την πρόοδο στην Τεχνητή Νοημοσύνη με «βαθιά εξειδίκευση στην ευεξία και την ψυχική υγεία». Για τον σκοπό αυτό έχει συστήσει ένα Συμβούλιο εμπειρογνωμόνων και ένα Παγκόσμιο Δίκτυο Ιατρών, οι οποίοι θα συνεργάζονται.
Το Συμβούλιο θα επικεντρωθεί στον σχεδιασμό των κατευθυντήριων γραμμών, των προτεραιοτήτων και των μέτρων ασφαλείας που θα μας επιτρέψουν να ανακαλύψουμε «πώς η Τεχνητή Νοημοσύνη μπορεί να συμβάλει στην ευημερία των ανθρώπων και να τους βοηθήσει να ευδοκιμήσουν» , εξήγησε η OpenAI σε δήλωση που κοινοποιήθηκε στο επίσημο ιστολόγιό της.
Το Παγκόσμιο Δίκτυο Ιατρών από την πλευρά του, έχει βοηθήσει στον ορισμό της συμπεριφοράς των μοντέλων Τεχνητής Νοημοσύνης «σε περιβάλλοντα ψυχικής υγείας» και θα το κάνει στο μέλλον «σε τομείς όπως οι διατροφικές διαταραχές, η χρήση ουσιών και η υγεία των εφήβων».
Η συνεργασία με τους ειδικούς σύντομα θα ενισχυθεί με έναν νέο δρομολογητή πραγματικού χρόνου, που θα επιλέγει το καταλληλότερο μοντέλο με βάση το πλαίσιο της συνομιλίας, ανεξάρτητα από το μοντέλο που έχει επιλέξει αρχικά ο χρήστης.
Με αυτόν τον τρόπο, εάν εντοπίσει ότι η συζήτηση στρέφεται προς ευαίσθητα θέματα, τα οποία θα μπορούσαν να προκαλέσουν κατάθλιψη ή συναισθήματα άγχους, θα προσφέρει ένα μοντέλο σκέψης, όπως το GPT-5.
Αυτό συμβαίνει επειδή, σύμφωνα με τις δοκιμές τους, μοντέλα σκέψης όπως το GPT-5 και το o3 αφιερώνουν περισσότερο χρόνο στη σκέψη και τη συλλογιστική σχετικά με την απόκριση, ώστε να μπορούν να προσφέρουν πιο ωφέλιμα μέτρα στους χρήστες.
Το ChatGPT θα ειδοποιήσει τους γονείς
Αυτά τα μέτρα συμπληρώνονται από νέους γονικούς ελέγχους που θα βοηθήσουν στη διαχείριση της χρήσης του ChatGPT από τους εφήβους. Αρχικά, οι γονείς θα μπορούν να συνδέουν λογαριασμούς και να ελέγχουν τον τρόπο με τον οποίο ανταποκρίνεται το chatbot με κανόνες συμπεριφοράς, οι οποίοι θα είναι ενεργοποιημένοι από προεπιλογή.
Οι γονείς θα μπορούν επίσης να διαχειρίζονται λειτουργίες που συμπληρώνουν την εμπειρία ChatGPT, όπως η απενεργοποίηση της μνήμης και του ιστορικού συνομιλίας . Θα λαμβάνουν μια ειδοποίηση εάν, βάσει της συνομιλίας, το chatbot του παιδιού ανιχνεύσει ότι βρίσκεται «σε μια στιγμή οξείας δυσφορίας».
Πρόσφατα, η OpenAI ανακοίνωσε αλλαγές στα μοντέλα τεχνητής νοημοσύνης της για την καλύτερη αναγνώριση ψυχικών και συναισθηματικών κρίσεων κατά τη διάρκεια των συνομιλιών ChatGPT, με νέες δικλείδες ασφαλείας, πιο αποτελεσματικό αποκλεισμό περιεχομένου και ταχύτερη επικοινωνία με υπηρεσίες υποστήριξης και μέλη της οικογένειας.
Οι ενέργειες αυτές είναι αποτέλεσμα καταγγελίας που υπέβαλαν κατά της εταιρείας οι Matt και Maria Raine, οι γονείς του Adam Raine, ενός 16χρονου αγοριού που αυτοκτόνησε τον Απρίλιο, εξαιτίας του ρόλου που έπαιξε το ChatGPT στο περιστατικό.