Η εποχή των αυτόνομων κυβερνοεπιθέσεων έχει φτάσει, προειδοποιεί η Google, επισημαίνοντας ότι τα μοντέλα τεχνητής νοημοσύνης περνούν σε πιο επικίνδυνο επίπεδο, καθώς μπορούν να εντοπίζουν ευπάθειες και να οργανώνουν επιθέσεις με ελάχιστη ή χωρίς ανθρώπινη παρέμβαση.
Σύμφωνα με την τελευταία έκθεση του Google Threat Intelligence Group (GTIG), κακόβουλοι παράγοντες χρησιμοποιούν πλέον αυτόνομα συστήματα μεγάλων γλωσσικών μοντέλων (LLM), τα οποία σαρώνουν διαρκώς ενημερώσεις λογισμικού, εντοπίζουν ποια κενά ασφαλείας διορθώθηκαν και αναπτύσσουν επιθέσεις αξιοποιώντας τις συγκεκριμένες αδυναμίες.
«Φανταστείτε έναν χάκερ που δεν τρώει, δεν κοιμάται, δεν κουράζεται και δεν σταματά ποτέ να αναζητά έναν τρόπο να εισβάλει», αναφέρει χαρακτηριστικά η ομάδα της Google, όπως μεταδίδει το «Τhe Hill».
Στο πέμπτο επίπεδο η απειλή
Οι αναλυτές της εταιρείας εκτιμούν ότι η απειλή έχει φτάσει στο πέμπτο επίπεδο, κατά το οποίο τα μοντέλα τεχνητής νοημοσύνης έχουν ήδη αναλάβει πολλαπλά στάδια της διαδικασίας μιας κυβερνοεπίθεσης, με τη συμμετοχή τουλάχιστον ενός ανθρώπινου χειριστή.
Μεταξύ των τάσεων που καταγράφονται τους τελευταίους μήνες περιλαμβάνονται η κυβερνοκατασκοπεία και οι επιθέσεις σε συστήματα της εφοδιαστικής αλυσίδας.
Ο επικεφαλής αναλυτής του GTIG, Τζον Χάλτκβιστ, προειδοποίησε ότι οι επιθέσεις δεν βασίζονται απαραίτητα σε πρωτοποριακές μεθόδους παραβίασης, αλλά στην εκμετάλλευση ανεπίλυτων προβλημάτων ασφαλείας με πολύ μεγαλύτερη ταχύτητα και κλίμακα.
«Αντί να βασιζόμαστε στη χειροκίνητη προσπάθεια για να συμβαδίσουμε με τις εξελίξεις, θα πρέπει να υιοθετήσουμε την αμυντική τεχνητή νοημοσύνη με αυτόνομες δυνατότητες. Διαφορετικά, κινδυνεύουμε να μείνουμε πίσω», σημείωσε.
Η απάντηση της Google και οι ανησυχίες
Ως απάντηση στους αυξανόμενους κινδύνους, η Google παρουσίασε το Google AI Threat Defense, ένα σύστημα που συνδυάζει τα μοντέλα Gemini, την τεχνογνωσία της Wiz για τον εντοπισμό και την ιεράρχηση κινδύνων, την αυτοματοποιημένη διόρθωση ευπαθειών μέσω του CodeMender και την εμπειρία της Mandiant.
Η εταιρεία υποστηρίζει ότι η πολυεπίπεδη αμυντική στρατηγική της περιλαμβάνει δικλίδες ασφαλείας και πρωτόκολλα περιορισμού, με στόχο την προστασία των πελατών και των ψηφιακών υποδομών.
Οι προειδοποιήσεις έρχονται μετά από περιστατικά κυβερνοεπιθέσεων, μεταξύ των οποίων η παραβίαση της τεχνολογικής πλατφόρμας Hugging Face τον Ιούλιο, την οποία το δημοσίευμα συνδέει με ανεξέλεγκτα μοντέλα OpenAI που φέρονται να ξέφυγαν από τις ανθρώπινες εντολές και να κάλυψαν τα ίχνη τους.
Το περιστατικό, όπως σημειώνει το «The Hill» οδήγησε τον γενικό εισαγγελέα της Καλιφόρνις, Ρομπ Μπόντα, να προσφύγει δικαστικά κατά της OpenAI, κατηγορώντας την για αδιαφορία απέναντι στη δημόσια ασφάλεια, έλλειψη διαφάνειας και παραβίαση της νομοθεσίας περί αθέμιτου ανταγωνισμού. Η OpenAI απάντησε παραπέμποντας στην τεχνική έκθεση που δημοσιοποίησε για το περιστατικό.
Παράλληλα, ο συνιδρυτής της Microsoft, Μπιλ Γκέιτς, προειδοποίησε τον Σεπτέμβριο ότι η διεθνής συνεργασία για τον περιορισμό της ανάπτυξης της τεχνητής νοημοσύνης θα είναι ακόμη δυσκολότερη από τις διαπραγματεύσεις ΗΠΑ και Σοβιετικής Ένωσης για τα πυρηνικά όπλα. Τάχθηκε υπέρ της νομοθετικής ρύθμισης της AI από το Κογκρέσο, τονίζοντας ότι η αυτορρύθμιση των τεχνολογικών εταιρειών δεν επαρκεί, υπενθυμίζει το αμερικανικό μέσο ενημέρωσης.