Η γερμανική αστυνομία εξέδωσε μια προειδοποίηση για διαδικτυακή απάτη που περιλαμβάνει αστυνομικίνες οι οποίες έχουν δημιουργηθεί με AI.
Η αστυνομία του Αμβούργου ανέφερε ότι παρατηρείται έξαρση προφίλ στα μέσα κοινωνικής δικτύωσης που εμφανίζουν deepfake εικόνες ελκυστικών γυναικών ντυμένων με στολές της Αστυνομίας.
Σύμφωνα με τις Αρχές, οι λογαριασμοί χρησιμοποιούνται για να δελεάζουν άνδρες χρήστες των social media να κάνουν κλικ σε ιστοσελίδες επί πληρωμή, προκειμένου να δουν περισσότερες ρεαλιστικές εικόνες των γυναικών αστυνομικών, που είναι ωστόσο δημιουργημένες με τεχνητή νοημοσύνη.
Τι συνέβη με τις «σέξι αστυνομικίνες» στη Γερμανία
«Λαμβάνουμε όλο και περισσότερες αναφορές για φερόμενα ως AI-δημιουργημένα προφίλ στα μέσα κοινωνικής δικτύωσης, τα οποία υποτίθεται ότι απεικονίζουν γυναίκες συναδέλφους της αστυνομίας του Αμβούργου», ανέφερε η αστυνομία σε ανακοίνωσή της.
Ο εκπρόσωπος της αστυνομίας, Florian Abbenseth, πρόσθεσε: «Τέτοιου είδους προφίλ πλήττουν τη φήμη της αστυνομίας, γι’ αυτό και προχωρούμε σε αποφασιστικές ενέργειες εναντίον τους».
Οι εικόνες που έχουν δημιουργηθεί με τεχνητή νοημοσύνη δείχνουν νεαρές και εμφανίσιμες γυναίκες να ποζάρουν φορώντας στενές και σέξι αστυνομικές στολές.
Σε μία φωτογραφία, μια ξανθιά γυναίκα φαίνεται να έχει κατεβασμένο το φερμουάρ του μπουφάν της, αφήνοντας να φαίνεται μέρος του στήθους της.
Σε μια άλλη εικόνα, μια γυναίκα εμφανίζεται να φορά θεόστενη στολή, ενώ ένας άνδρας φαίνεται να φωτογραφίζει τα οπίσθιά της. Δεν είναι σαφές αν ο άνδρας στη φωτογραφία είναι πραγματικός ή επίσης προϊόν τεχνητής νοημοσύνης.
Μια τρίτη εικόνα δείχνει μια αστυνομικό, δημιουργημένη επίσης με τεχνητή νοημοσύνη, γονατισμένη στο πάτωμα να ποζάρει για μια selfie μπροστά σε καθρέφτη.
Η αστυνομία του Αμβούργου ξεκαθάρισε ότι το Σώμα δεν διατηρεί ιδιωτικούς λογαριασμούς στο Instagram για τους αστυνομικούς του και ανακοίνωσε ότι εξετάζεται ήδη η λήψη νομικών μέτρων κατά του περιεχομένου που έχει παραχθεί με τεχνητή νοημοσύνη.
Παράλληλα, οι Αρχές κάλεσαν τους χρήστες του Instagram να αναφέρουν τα ψεύτικα προφίλ στα μέσα κοινωνικής δικτύωσης.
Η χρήση deepfakes, όπως εικόνες και βίντεο που δημιουργούνται με τεχνητή νοημοσύνη και μιμούνται πειστικά πραγματικά πρόσωπα, έχει αποτελέσει αυξανόμενο κίνδυνο για εταιρείες και Οργανισμούς τα τελευταία χρόνια.
Νωρίτερα φέτος, η Διεθνής Ένωση Τηλεπικοινωνιών (ITU) του ΟΗΕ προέτρεψε τις εταιρείες να χρησιμοποιούν προηγμένα εργαλεία για τον εντοπισμό και την εξάλειψη της παραπληροφόρησης και του περιεχομένου deepfake, προκειμένου να αντιμετωπιστεί η οικονομική απάτη.
Η ITU ζήτησε την υιοθέτηση αυστηρών προτύπων για την καταπολέμηση του αλλοιωμένου πολυμεσικού περιεχομένου και συνέστησε σε διανομείς περιεχομένου, όπως οι πλατφόρμες κοινωνικής δικτύωσης, να χρησιμοποιούν ψηφιακά εργαλεία επαλήθευσης για την πιστοποίηση εικόνων και βίντεο πριν από τη διάδοσή τους.
«Η εμπιστοσύνη στα μέσα κοινωνικής δικτύωσης έχει μειωθεί σημαντικά, επειδή οι άνθρωποι δεν γνωρίζουν τι είναι αληθινό και τι είναι ψεύτικο», σημείωσε ο Bilel Jamoussi, επικεφαλής του Τμήματος Ομάδων Μελέτης στο Γραφείο Τυποποίησης της ITU.
Η αντιμετώπιση των deepfakes αποτελεί μία από τις μεγαλύτερες προκλήσεις, λόγω της ικανότητας της Γενετικής Τεχνητής Νοημοσύνης να κατασκευάζει ρεαλιστικό πολυμεσικό περιεχόμενο, ανέφερε.
Ο Leonard Rosenthol της Adobe, ηγέτιδας εταιρείας στον χώρο του ψηφιακού λογισμικού επεξεργασίας, που ασχολείται με την αντιμετώπιση των deepfakes ήδη από το 2019, υπογράμμισε τη σημασία της εξακρίβωσης της προέλευσης του ψηφιακού περιεχομένου, ώστε οι χρήστες να μπορούν να αξιολογούν την αξιοπιστία του.
«Χρειαζόμαστε περισσότερα σημεία όπου οι χρήστες καταναλώνουν το περιεχόμενό τους να προβάλλουν αυτές τις πληροφορίες… Όταν κάνεις scroll στις ροές σου, θέλεις να ξέρεις: «Μπορώ να εμπιστευτώ αυτή την εικόνα, αυτό το βίντεο;"», δήλωσε ο Rosenthol.
