Πώς νεαροί υποστηρικτές της ISIS και της Αλ Κάιντα χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης για να ριζοσπαστικοποιήσουν μια νέα γενιά στο διαδίκτυο.
- Το εξαιρετικά στιλιζαρισμένο περιεχόμενο που παράγεται με τεχνητή νοημοσύνη καθιστά το βίαιο ισλαμιστικό υλικό πιο προσιτό σε νεότερους χρήστες, οι οποίοι εκτίθενται σε αυτό ακούσια μέσω ψυχαγωγικών memes που πυροδοτούν τους αλγόριθμους.
- Οι ισλαμιστικές οργανώσεις προσαρμόζονται διαχρονικά στις νέες τεχνολογίες. Μετά τη χρήση AI για ειδησεογραφικούς παρουσιαστές το 2024, η σημερινή προπαγάνδα αξιοποιεί τη γενετική τεχνητή νοημοσύνη για να δημιουργήσει μια εντελώς νέα αισθητική.
- Η νέα τάση συναντά εχθρότητα από παραδοσιακούς υποστηρικτές που αμφισβητούν τους δημιουργούς. Παράλληλα, τα εργαλεία AI μετατρέπουν επίσημο υλικό, όπως ενημερωτικά δελτία, σε δημοφιλή κινούμενα σχέδια, δημιουργώντας μια σχέση αποδοχής και αμφισβήτησης.
- Το TikTok αποτελεί το βασικό πεδίο διάδοσης του υλικού, με εκατομμύρια προβολές λόγω του αλγορίθμου του. Παρότι η πλατφόρμα αφαιρεί το περιεχόμενο, οι δημιουργοί χρησιμοποιούν εφεδρικούς λογαριασμούς, εξασφαλίζοντας την επιβίωση της προπαγάνδας.
Πριν από μια δεκαετία περίπου, το Ισλαμικό Κράτος είχε δημοσιεύσει ένα ανατριχιαστικό βίντεο που έδειχνε μέλη της οργάνωσης να βυθίζουν σε πισίνα άνδρες κλεισμένους σε κλουβιά, πνίγοντάς τους. Σήμερα, το ίδιο αυτό βίντεο έχει αναπαραχθεί σε μορφή κινούμενων σχεδίων εμπνευσμένων από τον Μπομπ τον Σφουγγαράκη, με ψάρια ντυμένα σε πορτοκαλί στολές φυλακισμένων μέσα σε κλουβί, ενώ ο ίδιος ο πρωταγωνιστής της σειράς το βυθίζει στο νερό, καθώς ο φίλος του τραβάει τη σκηνή.
Κινούμενα σχέδια και memes
Το βίντεο, που κυκλοφόρησε στο TikTok, αποτελεί μέρος ενός φαινομένου που μια νέα έκθεση του Ινστιτούτου Στρατηγικού Διαλόγου των ΗΠΑ αποκαλεί «Τζιχάντ Σκουπιδιών», μια τάση κατά την οποία νεαροί υποστηρικτές τρομοκρατικών οργανώσεων, όπως το Ισλαμικό Κράτος και η Αλ Κάιντα, φαίνεται να χρησιμοποιούν εργαλεία γενετικής τεχνητής νοημοσύνης για να δημιουργήσουν βίντεο θαυμαστών, κινούμενα σχέδια και memes, με στόχο να ριζοσπαστικοποιήσουν μια νέα γενιά στο διαδίκτυο.
Η έκθεση, την οποία είχε στη διάθεσή του αποκλειστικά το περιοδικό Wired, καταλήγει πως η εξέλιξη αυτή σηματοδοτεί μια θεμελιώδη μεταστροφή στην αισθητική της τζιχαντιστικής προπαγάνδας στο διαδίκτυο.
Νέο μέτωπο στην ψηφιακή προπαγάνδα τρομοκρατών
Το βασικό πρόβλημα, σύμφωνα με τον Άνταμ Χάντλεϊ, εκτελεστικό διευθυντή της αντιτρομοκρατικής οργάνωσης Tech Against Terrorism, που λειτουργεί υπό την αιγίδα του ΟΗΕ και έχει συντάξει δική της έκθεση για το ίδιο φαινόμενο, είναι ο συνεχώς αυξανόμενος όγκος και η ποικιλομορφία αυτού του υλικού.
Όπως εξηγεί, το εξαιρετικά στιλιζαρισμένο περιεχόμενο που παράγεται με τεχνητή νοημοσύνη μπορεί να κάνει το βίαιο ισλαμιστικό υλικό πιο προσβάσιμο σε νεότερο κοινό, μειώνοντας παράλληλα την ορατότητα των παραδοσιακών συμβόλων της τρομοκρατίας.
Οι χρήστες, σύμφωνα με τον ίδιο, μπορεί να συναντήσουν εξύμνηση δραστών ακούσια, μέσα από βίντεο θαυμαστών, κινούμενα σχέδια ή memes με ψυχαγωγικό προσανατολισμό, με αποτέλεσμα η αλληλεπίδρασή τους με τέτοιο περιεχόμενο να πυροδοτεί αλγοριθμικές συστάσεις για ακόμη πιο ανοιχτή προπαγάνδα.
Οι ισλαμιστικές τρομοκρατικές οργανώσεις έχουν δείξει διαχρονικά την ικανότητά τους να προσαρμόζονται σε νέα ψηφιακά περιβάλλοντα, αξιοποιώντας κάθε φορά τις πιο πρόσφατες τεχνολογίες για να ενισχύσουν τη στρατολόγηση και να δημιουργήσουν ένα αποκεντρωμένο δίκτυο προπαγάνδας.
Κάτι αντίστοιχο είχε παρατηρηθεί και στις αρχές της δεκαετίας του 2020, με το λεγόμενο κίνημα «Alt Jihad», το οποίο επιχείρησε να οικειοποιηθεί την αισθητική της ακροδεξιάς εναλλακτικής σκηνής μέσα σε ισλαμιστικό προπαγανδιστικό περιεχόμενο.
Ήδη από το 2024, το ειδησεογραφικό πρόγραμμα News Harvest, συνδεδεμένο με το Ισλαμικό Κράτος, είχε αρχίσει να χρησιμοποιεί παρουσιαστές δημιουργημένους με τεχνητή νοημοσύνη για να διαδίδει γρήγορα και φθηνά προπαγανδιστικά βίντεο.
Η νέα αισθητική της online ριζοσπαστικοποίησης
Η ποιότητα και το ύφος του υλικού που παράγεται σήμερα με γενετική τεχνητή νοημοσύνη, όμως, διαφέρει αισθητά.
Όπως εξηγεί ο Μουσταφά Αγιάντ, ερευνητικός προϊστάμενος για θέματα παγκόσμιου ισλαμισμού και αντιτρομοκρατίας στο Ινστιτούτο Στρατηγικού Διαλόγου, το φαινόμενο είναι νέο και ακόμη αναπτύσσεται, χωρίς να έχει φτάσει καθόλου στο αποκορύφωμά του. Πάντα υπήρχε κακότεχνο υλικό μέσα στο υποστηρικτικό οικοσύστημα, όπως σημειώνει, όμως ποτέ άλλοτε δεν είχε φτάσει στο σημείο να αναπαρίσταται το Ισλαμικό Κράτος μέσα από τον κόσμο του Μπομπ Σφουγγαράκη.
Τα εργαλεία γενετικής τεχνητής νοημοσύνης χρησιμοποιούνται επίσης για να μετατρέπουν γρήγορα και οικονομικά επίσημο υλικό των τρομοκρατικών οργανώσεων σε βίντεο κινούμενων σχεδίων. Χαρακτηριστικό παράδειγμα αποτελεί λογαριασμός στο TikTok που μετέτρεπε το εβδομαδιαίο ενημερωτικό δελτίο al-Naba του Ισλαμικού Κράτους σε περιεχόμενο τύπου anime.
Η τάση αυτή δεν έχει γίνει αποδεκτή από όλους τους παραδοσιακούς υποστηρικτές των οργανώσεων αυτών.
Σύμφωνα με τον Αγιάντ, υπάρχει κάποια εχθρότητα απέναντί της, καθώς αρκετοί θεωρούν πως οι δημιουργοί αυτού του περιεχομένου δεν είναι πραγματικοί πιστοί. Ταυτόχρονα όμως, όπως προσθέτει, ακόμη και λογαριασμοί που μοιράζονται παραδοσιακό, επίσημο προπαγανδιστικό υλικό, μοιράζονται πλέον και τα νεότερα βίντεο, δημιουργώντας μια σχέση αγάπης και μίσους απέναντι σε περιεχόμενο αυτού του είδους.
Πώς η τεχνολογία «ντύνει» τη βία με αθώα, παιδική αισθητική
Για χρόνια, το TikTok αποτελεί κεντρικό εργαλείο στην ψηφιακή επικοινωνιακή στρατηγική των ισλαμιστικών τρομοκρατικών οργανώσεων, που εκμεταλλεύονται τους ισχυρούς αλγόριθμους σύστασης της πλατφόρμας για τη διάδοση του μηνύματός τους.
Έκθεση του Οργανισμού Οικονομικής Συνεργασίας και Ανάπτυξης το 2024 κατέγραψε το TikTok ανάμεσα στις 10 κορυφαίες πλατφόρμες που χρησιμοποιούνται για τη διάδοση τρομοκρατικού και εξτρεμιστικού περιεχομένου.
Παρότι ο Αγιάντ εντόπισε περιορισμένο αριθμό τέτοιων βίντεο και σε άλλες πλατφόρμες, όπως το Instagram και το Facebook, η συντριπτική πλειονότητα του υλικού βρέθηκε στο TikTok. Συνολικά εντόπισε 150 βίντεο από 71 λογαριασμούς, με περισσότερες από 5,4 εκατομμύρια προβολές στην πλατφόρμα.
Ο ερευνητής αποδίδει την υπερίσχυση του TikTok στον αλγόριθμο της σελίδας «For You», που είναι εξαιρετικά στοχευμένος στα ενδιαφέροντα κάθε χρήστη, καθώς και στο γενικά υψηλό επίπεδο χαμηλής ποιότητας περιεχομένου τεχνητής νοημοσύνης που κυκλοφορεί στην πλατφόρμα, αλλά και σε ένα ήδη εδραιωμένο οικοσύστημα υποστήριξης τζιχαντιστικών οργανώσεων.
Πλήθος ανεξάρτητων ειδικών σε θέματα ισλαμιστικής τρομοκρατίας και μέσων κοινωνικής δικτύωσης, στους οποίους απευθύνθηκε το Wired, συμφώνησε ευρέως με τα ευρήματα της έκθεσης.
Ο Άαρον Ζέλιν, ερευνητής εξειδικευμένος σε θέματα τζιχαντιστικού εξτρεμισμού στο Ινστιτούτο Ουάσιγκτον για την Πολιτική στην Εγγύς Ανατολή, σχολίασε πως αυτό που ξεχωρίζει είναι η ευκολία με την οποία η γενετική τεχνητή νοημοσύνη επιτρέπει σε ένα πολύ ευρύτερο και αποκεντρωμένο σύνολο χρηστών να αναπλάθουν τζιχαντιστικές φιγούρες και εικόνες, καθώς και η έκταση στην οποία αυτό το υλικό κυκλοφορεί μεταξύ κοινοτήτων, των οποίων το ενδιαφέρον μπορεί να προέρχεται εξίσου τόσο από τη βία, την πρόκληση ή τη διαβόητη φήμη όσο και από πραγματική ιδεολογική δέσμευση.
Το TikTok αμφισβήτησε τα ευρήματα της έκθεσης. Εκπρόσωπος της πλατφόρμας δήλωσε στο Wired πως η μεθοδολογία της έκθεσης είναι ασαφής και καταλήγει σε αδύναμα τεκμηριωμένα συμπεράσματα, που δεν αντικατοπτρίζουν τον τρόπο που οι χρήστες πραγματικά χρησιμοποιούν την πλατφόρμα. Πρόσθεσε πως το TikTok απαγορεύει την παρουσία βίαιων και μισαλλόδοξων οργανώσεων και χρησιμοποιεί συνδυασμό προηγμένης τεχνολογίας συντονισμού, ομάδων ασφαλείας και συνεργασιών για τον εντοπισμό και την αφαίρεση παραβατικού περιεχομένου. Σύμφωνα με την ίδια δήλωση, όλο το περιεχόμενο που αναφέρεται στην έκθεση έχει πλέον αφαιρεθεί από την πλατφόρμα. Δεκάδες από τα βίντεο που είχε εντοπίσει το Ινστιτούτο διαγράφηκαν αφότου το Wired τα κοινοποίησε στο TikTok.
Παρά τη δυσκολία αναγνώρισης ορισμένου, πιο ασαφούς περιεχομένου, μεγάλο μέρος του είναι, όπως σημειώνει ο Αγιάντ, ξεκάθαρα υποστηρικτικό προς τρομοκρατικές οργανώσεις και ιδεολογίες.
Το TikTok έχει αφαιρέσει κάποιους από τους λογαριασμούς που παρακολουθούσε ο ερευνητής, ωστόσο πολλοί από αυτούς διαθέτουν εφεδρικούς λογαριασμούς και ενημερώνουν εκ των προτέρων τους ακολούθους τους πού μπορούν να τους βρουν σε περίπτωση κατάργησης.
Όπως καταλήγει ο Αγιάντ, μέρος αυτού του περιεχομένου επιβιώνει για μήνες, συνεχίζοντας να διαφεύγει των προσπαθειών συντονισμού της πλατφόρμας.