Παρακολουθώ ως επιστήμονας και χρήστης της τεχνολογίας την διεθνή συζήτηση για τον κίνδυνο για την ανθρωπότητα της ανεξέλεγκτης και εκθετικής προόδου της τεχνητής νοημοσύνης (ΤΝ). Μια πολύ σοβαρή ομάδα κορυφαίων επιστημόνων της ΤΝ θεωρεί ότι, εάν δημιουργηθεί μια υπερανθρώπινη και ιδιαίτερα αυτόνομη ΤΝ, υπάρχει το ενδεχόμενο της καταστροφικής απώλειας του ανθρώπινου ελέγχου της, μερικοί μάλιστα μιλούν ακόμη και για την εξαφάνιση του ανθρώπινου είδους από μια ανεξέλεγκτη ΤΝ.
Το 2023 το κέντρο για την ασφάλεια της ΤΝ (CAIS, Center for AI Safety) επισήμανε ρητά ότι η μείωση του κινδύνου εξαφάνισης του ανθρώπου από την ΤΝ πρέπει να αποτελεί παγκόσμια προτεραιότητα, μαζί με τις πανδημίες και τον πυρηνικό πόλεμο. Τη δήλωση υπέγραψαν περισσότεροι από 700 κορυφαίοι ειδικοί.
Είναι πράγματι ιδιαίτερα ανησυχητικό ότι η όλη δημόσια συζήτηση έρχεται με πρωτοβουλία των επιστημόνων Hinton και Bengio, δύο δηλαδή από αυτούς που θεμελίωσαν την σύγχρονη ΤΝ (deep learning). Και οι δύο έχουν προειδοποιήσει ότι η πορεία προς μια πολύ ισχυρή ΤΝ μπορεί να δημιουργήσει έναν πρωτοφανή κίνδυνο για τον άνθρωπο. Η δήλωση του CAIS υπογράφεται και από τους δύο.
Ο Hinton είναι ιδιαίτερα σημαντικός επειδή βοήθησε να δημιουργηθεί η ίδια η τεχνολογία που σήμερα προκαλεί την ανησυχία. Έχει δηλώσει ότι θεωρεί υπαρκτή την πιθανότητα η ΤΝ να γίνει πολύ πιο έξυπνη από τον άνθρωπο και να δημιουργηθεί πρόβλημα ελέγχου της. Μάλιστα, σύμφωνα με τις τελευταίες δηλώσεις του, εκτιμά ότι υπάρχει περίπου 10% πιθανότητα της ανθρώπινης εξαφάνισης από την ΤΝ μέσα στην επόμενη δεκαετία.
Ο Bengio είναι ίσως ο σημαντικότερος ακαδημαϊκός εκπρόσωπος της μελέτης της ασφάλειας της ΤΝ. Είναι επικεφαλής της Διεθνούς μελέτης για την ασφάλεια της ΤΝ που δημοσιεύθηκε το τρέχον έτος (International AI Safety Report 2026), στην οποία συμμετείχαν περισσότεροι από 100 ειδικοί από διαφορετικές χώρες και επιστημονικούς κλάδους. Η ανησυχία του δεν είναι ότι η ΤΝ «θα αποκτήσει κακή πρόθεση», αλλά ότι πολύ ικανές αυτόνομες μηχανές της ενδέχεται να αναπτύξουν συμπεριφορές που οδηγούν σε αποτελέσματα ασύμβατα με την ανθρώπινη επιβίωση.
Ένας άλλος κορυφαίος της ΤΝ, ο Stuart Russell, επισημαίνει ότι οι άνθρωποι δίνουμε σε ένα πολύ ισχυρό υπολογιστικό σύστημα έναν στόχο που φαίνεται λογικός, αλλά το σύστημα τον επιδιώκει με τρόπους που δεν είχαμε προβλέψει. Η σημερινή συζήτηση έχει μετακινηθεί από το «μπορεί κάποτε η AI να γίνει υπερέξυπνη;» στο «τι γίνεται όταν ένα υπολογιστικό σύστημα γίνει υπερέξυπνο, αλλά συγχρόνως αυτόνομο, που μπορεί να σχεδιάζει μακροπρόθεσμα, να γράφει και να βελτιώνει τον δικό του κώδικα και να έχει πρόσβαση στον πραγματικό κόσμο, όχι μόνο ηλεκτρονικά αλλά και με μηχανικά-ρομποτικά ενεργούμενα του;». Αυτό ακριβώς είναι το σενάριο που προκαλεί σήμερα τη μεγαλύτερη ανησυχία.
Στις μέρες μας η συζήτηση έχει γίνει ακόμη πιο συγκεκριμένη: ερευνητές της Anthropic (μία από τις κορυφαίες εταιρίες ΤΝ) μεταξύ τους και ο Evan Hubinger, έχουν επίσης μιλήσει για πιθανότητα άνω του 10% για καταστροφικό αποτέλεσμα/εξαφάνιση του ανθρώπου μέσα σε μία δεκαετία. Πρόσφατα, παραιτήθηκε ο πρώην ερευνητής της Anthropic Jacob Coxon προειδοποιώντας ότι η κούρσα προς την αυτο-βελτιούμενη υπερνοημοσύνη (self-improving superintelligence) προχωρά ταχύτερα από την ανάπτυξη των μηχανισμών ελέγχου και ασφάλειας του συστήματος.
Και ο Paul Christiano, από τους σημαντικότερους ερευνητές της ΤΝ δήλωσε ότι η βιομηχανία της ΤΝ δεν βρίσκεται σήμερα σε πορεία και προβληματισμό που να εγγυάται την αποφυγή μιας καταστροφικής, μη αναστρέψιμης απώλειας του ανθρώπινου ελέγχου του συστήματος της ΤΝ.
Άρα δεν πρόκειται πλέον απλώς για φιλοσοφική ή ακαδημαϊκή συζήτηση περί «Αποκάλυψης της ΤΝ». Υπάρχει ένας πολύ σοβαρός επιστημονικός κλάδος της που μελετά ακριβώς αυτό το ενδεχόμενο.
Προσωπικά, δεν θα έβλεπα τη σχέση μας με την ΤΝ ως «ο άνθρωπος εναντίον της ΤΝ», αλλά ως μια νέα μορφή συμβίωσης δύο διαφορετικών μορφών νοημοσύνης, της φυσικής-ανθρώπινης και της τεχνητής μορφής της.
Η ανθρώπινη νοημοσύνη θα αφορά στις αξίες, στην ηθική, στην ενσυναίσθηση, στην ευθύνη, ενώ η τεχνητή νοημοσύνη στην υπολογιστική ισχύ, στην μνήμη, στην ταχεία ανάλυση, στην πρόβλεψη, στην αναζήτηση λύσεων σε ωκεανούς δεδομένων που η ανθρώπινη αδυνατεί να επεξεργαστεί. Το ευκταίο είναι η καθεμία να μπορεί να αντισταθμίσει τις αδυναμίες της άλλης. Για παράδειγμα, σε ένα πρόβλημα όπως η κλιματική αλλαγή, η πανδημία ή η βιοϊατρική έρευνα, ο άνθρωπος μπορεί να θέτει το ερώτημα: «Ποιον κόσμο θέλουμε να δημιουργήσουμε;» και η ΤΝ «με βάση όλη τη διαθέσιμη γνώση, ποιοι είναι οι ασφαλέστεροι και αποτελεσματικότεροι δρόμοι για να τον πετύχουμε;»
Αυτή η παραγωγική σχέση ανθρώπινης και τεχνητής νοημοσύνης απαιτεί όμως μια θεμελιώδη αρχή: η δεύτερη πρέπει να είναι συνεργάτης της πρώτης και όχι υποκατάστατό της ή αυτοενεργούμενο. Ίσως το πιο ενδιαφέρον επόμενο βήμα δεν είναι να προσπαθήσουμε απλώς να κάνουμε την ΤΝ πιο έξυπνη, αλλά να δημιουργήσουμε συστήματα όπου η ανθρώπινη και η τεχνητή νοημοσύνη ελέγχουν, αμφισβητούν και διορθώνουν η μία την άλλη. Ένα είδος συμβίωσης της ανθρώπινης και τεχνητής νοημοσύνης (cognitive symbiosis).
Η συζήτηση θέτει λοιπόν μια βαθύτερη φιλοσοφική ιδέα: εάν κάποτε δημιουργήσουμε νοημοσύνη σημαντικά ανώτερη από τη δική μας, το μεγαλύτερο επίτευγμα του ανθρώπου ίσως δεν είναι να την υποτάξει, αλλά να της μεταδώσει τις αξίες που θέλουμε να προστατεύσουμε και ταυτόχρονα να την αφήσουμε να μας βοηθήσει να ξεπεράσουμε τους δικούς μας περιορισμούς.
Ίσως τελικά η μεγάλη πρόκληση του 21ου αιώνα δεν είναι να νικήσει ημία νοημοσύνη την άλλη, αλλά να μάθουμε να τις κάνουμε να συνεργάζονται. Και ίσως αυτό να είναι το πιο αισιόδοξο σενάριο για το μέλλον: ο άνθρωπος να παραμείνει φορέας σκοπού και αξιών, ενώ η ΤΝ να γίνει ο ισχυρότερος συνεργάτης του στην αναζήτηση γνώσης και λύσεων. Στην συζήτηση αυτή η κοινωνία, οι πολίτες οφείλουν να έχουν σημαντική συμμετοχή και συμβολή και ως ηθικοί αισθητήρες της σχετικής επιστήμης, των επιστημόνων και των επιχειρηματιών της.