Η ΑΙ φαίνεται πως έχει περάσει πλέον και στο «οπλοστάσιο» τρομοκρατικών οργανώσεων.
- Τρομοκρατικές οργανώσεις δημιούργησαν ειδικές ομάδες για τη χρήση AI, εκπαιδεύοντας στελέχη σε αίθουσες με υπολογιστές και προτζέκτορες. Η τεχνητή νοημοσύνη χρησιμοποιούνταν για ανάλυση πληροφοριών, επίλυση τεχνικών προβλημάτων και αξιολόγηση επιχειρησιακών δράσεων.
- Η τεχνολογία αξιοποιήθηκε σε πραγματικό χρόνο στο πεδίο της μάχης. Διοικητές ανέλυαν εικόνες μέσω chatbot για να δώσουν νέες οδηγίες, ενώ, μετά από αποτυχημένες επιχειρήσεις, οι μαχητές ζητούσαν από την ΑΙ να εντοπίσει τα λάθη τους.
- Τζιχαντιστές χρησιμοποίησαν chatbots, όπως το Grok, για να αποκτήσουν πληροφορίες για άγνωστους οπλισμούς, εκρηκτικά και drones. Το κρίσιμο πλεονέκτημα είναι η δυνατότητα διαδραστικής συζήτησης με την ΑΙ για την επίλυση συγκεκριμένων προβλημάτων.
- Σε φόρουμ φίλα προσκείμενα στο ISIS αποκαλύφθηκαν συζητήσεις για την παράκαμψη των δικλίδων ασφαλείας των chatbot (jailbreaking). Οι ειδικοί ανησυχούν καθώς τα σημερινά μοντέλα ΑΙ είναι πολύ ισχυρότερα από αυτά που χρησιμοποιήθηκαν το 2023-2024.
Έρευνα του Πανεπιστημίου του Cambridge αποκαλύπτει ότι πρώην τζιχαντιστές της Μπόκο Χαράμ περιέγραψαν τη χρήση των ChatGPT, Claude, Gemini, Grok, Meta AI και του κινεζικού DeepSeek για τεχνικές και επιχειρησιακές συμβουλές πριν, κατά τη διάρκεια αλλά και μετά από τρομοκρατικές επιθέσεις.
Οι ερευνητές πραγματοποίησαν 57 συνεντεύξεις με 27 πρώην μέλη των δύο βασικών οργανώσεων της Μπόκο Χαράμ στη Νιγηρία, της ISWAP και της JAS.
Το πιο ανησυχητικό στοιχείο, σύμφωνα με το Al Jazeera, δεν είναι μόνο η πρόσβαση των ισλαμιστών τρομοκρατών σε πληροφορίες, αλλά η δυνατότητα της AI να προσαρμόζει τις απαντήσεις της στο συγκεκριμένο πρόβλημα που αντιμετωπίζει ο χρήστης, επιτρέποντας διαδοχικές ερωτήσεις και εξατομικευμένη υποστήριξη.
«Δεν υπάρχει τίποτα για το οποίο να μην έχουμε λάβει απάντηση», φέρεται να είπε πρώην διοικητής της ISWAP.
Από τον προτζέκτορα στο πεδίο της μάχης
Σύμφωνα με τις μαρτυρίες, η χρήση της τεχνητής νοημοσύνης είχε οργανωθεί σε επίπεδο ομάδων. Στελέχη των τρομοκρατικών οργανώσεων εκπαιδεύονταν στη χρήση ΑΙ chatbot σε αίθουσες με φορητούς υπολογιστές και προτζέκτορες, ενώ δημιουργήθηκαν ειδικές ομάδες με ανθρώπους που διέθεταν τεχνικές γνώσεις.
«Οι λευκοί ήρθαν και μας δίδαξαν», ανέφερε ένας πρώην διοικητής.
Η AI χρησιμοποιούνταν για την ανάλυση πληροφοριών, την αντιμετώπιση τεχνικών προβλημάτων και την αξιολόγηση επιχειρήσεων. Σε μία περίπτωση, εικόνες από το πεδίο της μάχης φέρεται να μεταδίδονταν σε διοικητές ομάδων τζιχαντιστών, οι οποίοι τις ανέλυαν μέσω chatbot και στη συνέχεια έδιναν νέες οδηγίες.
Η τεχνολογία χρησιμοποιούνταν ακόμη και μετά από αποτυχημένες επιχειρήσεις, καθώς οι μαχητές περιέγραφαν στην AI τι είχε συμβεί και ζητούσαν να εντοπίσει τα λάθη.
«Απλώς, ρώτα το Grok»
Χαρακτηριστική είναι η περίπτωση όπου τζιχαντιστές χρειάστηκαν πληροφορίες για άγνωστο οπλισμό. Όταν απευθύνθηκαν σε έναν από τους «ειδικούς AI» της οργάνωσης, η απάντηση που έλαβαν ήταν: «Απλώς, ρώτα το Grok».
Η έρευνα καταγράφει επίσης χρήση AI σε ζητήματα που αφορούν εκρηκτικά, στρατιωτικό εξοπλισμό και drones.
Η Antonia Juelich, συγγραφέας της μελέτης, δήλωσε ότι περίπου 10 από τους 27 πρώην μαχητές αναφέρθηκαν στη χρήση AI σε σχέση με εκρηκτικά.
Για την ίδια, η κρίσιμη αλλαγή είναι ότι ένα chatbot δεν λειτουργεί απλώς ως μηχανή αναζήτησης: ο χρήστης μπορεί να περιγράψει το συγκεκριμένο πρόβλημα που αντιμετωπίζει και να συνεχίσει τη συζήτηση με νέες ερωτήσεις.
Το «jailbreak» που ανησυχεί τους ειδικούς
Την ίδια ώρα, έρευνα της Tech Against Terrorism σε διαδικτυακό φόρουμ φίλα προσκείμενο στο ISIS αποκάλυψε συζητήσεις για την παράκαμψη των δικλίδων ασφαλείας των chatbot.
Η διαδικασία είναι γνωστή ως «jailbreaking» και αφορά προσπάθειες να εξαναγκαστεί ένα μοντέλο ΑΙ να αγνοήσει τους περιορισμούς που έχουν θέσει οι δημιουργοί του.
«Αυτό είναι μόνον η κορυφή του παγόβουνου» δήλωσε ο Lucas Webber, ερευνητής της Tech Against Terrorism, στο Al Jazeera.
Οι μεγάλες εταιρείες AI υποστηρίζουν ότι διαθέτουν μηχανισμούς για να εμποδίζουν τη χρήση των μοντέλων τους για τρομοκρατία, βία και ανάπτυξη όπλων. Η έρευνα, ωστόσο, αναδεικνύει το ερώτημα κατά πόσον αυτοί οι μηχανισμοί μπορούν να παραμένουν αποτελεσματικοί απέναντι σε οργανωμένες προσπάθειες παράκαμψής τους.
Και υπάρχει ένας ακόμη λόγος ανησυχίας: μεγάλο μέρος των μαρτυριών αφορά στην περίοδο 2023-2024, όταν τα σημερινά μοντέλα ΑΙ ήταν πολύ λιγότερο ισχυρά.
Η Juelich συνοψίζει τον προβληματισμό της με μία φράση: «Ανησυχώ για το πού οδηγείται όλο αυτό».