Πώς ο τρόπος λειτουργίας του αλγορίθμου του TikTok οδηγεί ευάλωτους χρήστες σε «λαγούμια» περιεχομένου, όπου κυριαρχούν καταθλιπτικά μηνύματα, εξιδανίκευση της αυτοκαταστροφής και αναφορές σε αυτοκτονικό ιδεασμό.
Η συζήτηση γύρω από τις επιπτώσεις του TikTok στην ψυχική υγεία των νέων επανέρχεται με ένταση, ύστερα από νέα έκθεση της Amnesty International που κατηγορεί την πλατφόρμα ότι αποτυγχάνει συστηματικά να προστατεύσει παιδιά και εφήβους από ψυχολογικά επιβλαβές περιεχόμενο.
Σύμφωνα με τα ευρήματα, ο τρόπος λειτουργίας του αλγορίθμου του TikTok οδηγεί ευάλωτους χρήστες σε «λαγούμια» περιεχομένου, όπου κυριαρχούν καταθλιπτικά μηνύματα, εξιδανίκευση της αυτοκαταστροφής και αναφορές σε αυτοκτονικό ιδεασμό.
Βίντεο έντονα αρνητικού συναισθηματικού φορτίου
Η έρευνα, που επικεντρώθηκε στη χρήση της πλατφόρμας στη Γαλλία, βασίστηκε στη δημιουργία τριών δοκιμαστικών λογαριασμών με ελεγχόμενες παραμέτρους. Οι ερευνητές διαπίστωσαν ότι μόλις ένας λογαριασμός έδειχνε ενδιαφέρον για θέματα ψυχικής υγείας, η ροή της ενότητας «For You» γέμιζε σταδιακά με βίντεο έντονα αρνητικού συναισθηματικού φορτίου. Σε ορισμένες περιπτώσεις εμφανίστηκαν ακόμη και βίντεο που σχετίζονται με το αποκαλούμενο «lip balm challenge», μια τάση που, σύμφωνα με επικριτές, ενθαρρύνει αυτοτραυματισμούς, παρότι η ίδια η εταιρεία αρνείται την ύπαρξή της.
Σε αντίθεση με τα διεθνή πρότυπα για τις επιχειρήσεις
Οι ανησυχίες δεν περιορίζονται στο επίπεδο της θεωρίας. Το 2021, η 15χρονη Μαρί Λε Τιε αυτοκτόνησε, ενώ αργότερα διαπιστώθηκε ότι είχε καταναλώσει εκτενώς επιβλαβές περιεχόμενο στο TikTok. Η μητέρα της, μαζί με άλλους γονείς, προσέφυγε στη δικαιοσύνη κατηγορώντας την εταιρεία για ανεπαρκή εποπτεία.
Η πλατφόρμα απάντησε ότι διαθέτει δεκάδες χιλιάδες συντονιστές περιεχομένου και ότι παραπέμπει τους χρήστες σε γραμμές ψυχολογικής υποστήριξης όταν αναζητούν άμεσα όρους όπως «αυτοτραυματισμός» ή «αυτοκτονία». Ωστόσο, η Amnesty υποστηρίζει ότι το πρόβλημα δεν βρίσκεται στις άμεσες αναζητήσεις, αλλά στη σταδιακή, αλγοριθμική διολίσθηση προς όλο και πιο σκοτεινό περιεχόμενο.
Στον πυρήνα της κριτικής βρίσκεται το επιχειρηματικό μοντέλο της πλατφόρμας. Η οργάνωση υποστηρίζει ότι ο συνδυασμός εθιστικού σχεδιασμού, υπερπροσωποποιημένων προτάσεων και συλλογής ευαίσθητων δεδομένων δημιουργεί ένα περιβάλλον όπου η μέγιστη εμπλοκή προηγείται της προστασίας των δικαιωμάτων των παιδιών.
Κατά την Amnesty, αυτή η προσέγγιση έρχεται σε αντίθεση τόσο με τα διεθνή πρότυπα για τις επιχειρήσεις και τα ανθρώπινα δικαιώματα όσο και με την ευρωπαϊκή νομοθεσία. Η European Commission έχει ήδη κινήσει από το 2024 επίσημη διαδικασία κατά της εταιρείας στο πλαίσιο του Digital Services Act, που απαιτεί από τις μεγάλες πλατφόρμες να εντοπίζουν και να περιορίζουν συστημικούς κινδύνους για τους ανηλίκους.
Η επιστημονική κοινότητα εμφανίζεται διχασμένη
Η επιστημονική κοινότητα, ωστόσο, εμφανίζεται διχασμένη ως προς το εύρος και τη φύση της επιρροής των κοινωνικών δικτύων. Η κλινική ψυχολόγος Μάριον Αζά, λέκτορας στο University of Poitiers, υποστηρίζει ότι τέτοιου είδους περιεχόμενο είναι πραγματικά επικίνδυνο κυρίως για μια μειοψηφία νέων που ήδη αυτοτραυματίζονται ή αντιμετωπίζουν σοβαρά ψυχολογικά προβλήματα.
Κατά την ίδια, οι αυστηρά απαγορευτικές πολιτικές, ιδίως στην εφηβεία, δεν αγγίζουν τις βαθύτερες αιτίες της αυτοκαταστροφικής συμπεριφοράς. Αντίθετα, δίνει έμφαση στη σημασία των ομαδικών σχέσεων και της κοινωνικής υποστήριξης, σημειώνοντας ότι, υπό προϋποθέσεις, πλατφόρμες όπως το TikTok μπορούν να λειτουργήσουν και ως χώροι σύνδεσης.
Παρόμοια επιφυλακτικός εμφανίζεται και ο Γκρεγκουάρ Μπορ, καθηγητής ψυχολογίας και γνωσιακής νευροεπιστήμης στο Paris-Cité. Επικαλούμενος μεγάλη, αξιολογημένη μελέτη, σημειώνει ότι μόλις το 0,4% των διαφορών στην ψυχική υγεία των εφήβων μπορεί να αποδοθεί άμεσα στη χρήση εφαρμογών κοινωνικής δικτύωσης. Η θέση αυτή ενισχύει την άποψη ότι η σχέση αιτίου-αποτελέσματος παραμένει δύσκολο να τεκμηριωθεί με απόλυτη σαφήνεια.
Παρά τις επιμέρους αμφισβητήσεις, τα ποσοτικά δεδομένα που παρουσιάζει η Amnesty σκιαγραφούν μια ανησυχητική εικόνα. Σε έρευνα που διεξήχθη στα τέλη του 2024, το 58% των νέων δήλωσε ότι επηρεάζεται αρνητικά από το περιεχόμενο που παρακολουθεί, ενώ μόνο ένας στους πέντε κατάφερε να αποφύγει συστηματικά καταθλιπτικά βίντεο στη ροή του.
Ενδιαφέρον παρουσιάζει και η παρατήρηση ότι τα «likes» σε τέτοιες αναρτήσεις δεν εκφράζουν πάντα ταύτιση, αλλά συχνά λειτουργούν ως ένδειξη συμπαράστασης. Ωστόσο, για τον αλγόριθμο, η διάκριση αυτή δεν υφίσταται, με αποτέλεσμα να ενισχύεται περαιτέρω ο φαύλος κύκλος προβολής παρόμοιου περιεχόμενου.
Σε πολιτικό επίπεδο, οι ανησυχίες μεταφράζονται ήδη σε νομοθετικές πρωτοβουλίες. Στη Γαλλία έχει προταθεί η καθιέρωση «ψηφιακής απαγόρευσης κυκλοφορίας» για παιδιά κάτω των 16 ετών, ενώ στην Αυστραλία αποφασίστηκε πλήρης απαγόρευση πρόσβασης στα κοινωνικά δίκτυα για την ίδια ηλικιακή ομάδα, μέτρο που τέθηκε ήδη σε ισχύ.
Οι πρωτοβουλίες αυτές δείχνουν ότι, ανεξάρτητα από την επιστημονική διαμάχη, η πολιτική πίεση προς τις πλατφόρμες εντείνεται, με την προστασία της ψυχικής υγείας των νέων να αναδεικνύεται σε κεντρικό διακύβευμα της ψηφιακής εποχής.