Τα deepfakes, η πλειονότητα των οποίων συνδυάζει το πρόσωπο ενός πραγματικού προσώπου με ένα ψεύτικο, σεξουαλικά εκμεταλλεύσιμο σώμα, παράγονται όλο και περισσότερο με τη χρήση Τεχνητής Νοημοσύνης – και έχουν προκαλέσει κρίση στα εκπαιδευτικά ιδρύματα της Νότιας Κορέας, όπου φοιτήτριες και ανήλικες μαθήτριες πέφτουν θύματα σεξουαλικών εκβιασμών.
Το BBC αναφέρει σε ρεπορτάζ του από τη Σεούλ ότι η αστυνομία της ασιατικής χώρας αποκάλυψε πρόσφατα μεγάλα κυκλώματα δημιουργίας και εμπορίας deepfake πορνογραφικού περιεχομένου σε δύο από τα μεγαλύτερα πανεπιστήμια της κορεατικής πρωτεύουσας. Η δημοσιογράφος Κο Ναρίν πίστευε ότι υπήρχαν περισσότερα τέτοια κυκλώματα και άρχισε να το ερευνά.
Η Κο ανακάλυψε ομάδες στα τοπικά μέσα κοινωνικής δικτύωσης που δεν στόχευαν μόνο φοιτήτριες. Υπήρχαν αίθουσες αφιερωμένες σε μαθήτριες συγκεκριμένων λυκείων, ακόμη και γυμνασίων. Οσο περισσότερες πλαστές φωτογραφίες δημιουργούσαν τα προγράμματα ΤΝ για μια μαθήτρια, τόσο ευρύτερα ήταν τα εξειδικευμένα «ψηφιακά δωμάτια» όπου οι επισκέπτες τις σχολίαζαν.
Το ρεπορτάζ της δημοσιογράφου στην εφημερίδα Hankyoreh έχει συγκλονίσει τη Νότια Κορέα. Τη Δευτέρα η αστυνομία ανακοίνωσε ότι εξετάζει το ενδεχόμενο έναρξης έρευνας για την εφαρμογή μηνυμάτων Telegram, ακολουθώντας το παράδειγμα των γαλλικών αρχών, που πρόσφατα κατηγόρησαν και συνέλαβαν τον ρώσο ιδρυτή της Telegram για εγκλήματα που σχετίζονται με την εφαρμογή.
Η κορεατική κυβέρνηση έχει δεσμευτεί να επιβάλει αυστηρότερες τιμωρίες για τους εμπλεκόμενους, ενώ ο πρόεδρος της χώρας καλεί τους νέους άνδρες να επιμορφωθούν καλύτερα. Το Telegram, από την πλευρά του, υποστηρίζει με δήλωσή του στο BBC ότι «καταπολεμά ενεργά το επιβλαβές περιεχόμενο στην πλατφόρμα της, συμπεριλαμβανομένης της παράνομης πορνογραφίας».
Οι περιγραφές στα συγκεκριμένα chatroom είναι σοκαριστικές, παρότι η είσοδος σε αυτά συνήθως γίνεται με αυστηρούς κανόνες. Κάποιος χρήστης καλεί τα μέλη να δημοσιεύσουν περισσότερες από τέσσερις φωτογραφίες μιας συγκεκριμένης φοιτήτριας, μαζί με το όνομα, την ηλικία και την περιοχή στην οποία ζει.
Τις ημέρες που ακολούθησαν τη δημοσίευση του ρεπορτάζ της Κο, ακτιβιστές για τα δικαιώματα των γυναικών άρχισαν να ξεψαχνίζουν το Telegram αναζητώντας αποδεικτικά στοιχεία. Μέσα σε μία εβδομάδα πάνω από 500 σχολεία και πανεπιστήμια είχαν εντοπιστεί ως στόχοι. Πολλά από τα κορίτσια που πέφτουν θύματα των επιτήδειων και της ΤΝ πιστεύεται ότι είναι κάτω των 16 ετών, ενώ ένα μεγάλο ποσοστό των υπόπτων δραστών είναι επίσης έφηβοι.
Από τότε εκατοντάδες γυναίκες και έφηβες σε όλη τη χώρα έχουν αφαιρέσει τις φωτογραφίες τους από τα μέσα κοινωνικής δικτύωσης ή έχουν απενεργοποιήσει τους λογαριασμούς τους, φοβούμενες ότι θα μπορούσαν να αποτελέσουν και αυτές αντικείμενο εκμετάλλευσης. Η αστυνομία έχει ενημερώσει κάποια από τα θύματα ότι δεν μπορεί να ασχοληθεί με τις υποθέσεις τους ή να κάνει συλλήψεις, καθώς οι πράξεις «δεν θεωρούνται εγκλήματα», επειδή «οι φωτογραφίες είναι πλαστές».
Στο επίκεντρο αυτού του σκανδάλου βρίσκεται η εφαρμογή ανταλλαγής μηνυμάτων Telegram. Σε αντίθεση με τους δημόσιους ιστοτόπους, στους οποίους οι Αρχές μπορούν να έχουν εύκολη πρόσβαση και στη συνέχεια να ζητούν την αφαίρεση εικόνων, το Telegram είναι μια ιδιωτική, κρυπτογραφημένη εφαρμογή.
Οι χρήστες είναι συνήθως ανώνυμοι, τα «δωμάτια» των συνομιλιών μπορούν να ρυθμιστούν σε λειτουργία «κλειδώματος» και το περιεχόμενό τους διαγράφεται γρήγορα και χωρίς ίχνη. Αυτές οι δυνατότητες έχουν καταστήσει το Telegram πρωταρχικό πεδίο για την άνθηση εγκληματικής συμπεριφοράς. Την περασμένη εβδομάδα, πολιτικοί και η αστυνομία αντέδρασαν σθεναρά, υποσχόμενοι να διερευνήσουν αυτά τα εγκλήματα και να οδηγήσουν τους δράστες στη Δικαιοσύνη.
Τη Δευτέρα, σύμφωνα με το BBC, η Αστυνομική Υπηρεσία της Σεούλ ανακοίνωσε ότι θα ερευνήσει το Telegram σχετικά με τον ρόλο του στη δυνατότητα διανομής πλαστών πορνογραφικών εικόνων παιδιών. Ωστόσο, οι ακτιβιστές για τα δικαιώματα των γυναικών κατηγορούν τις αρχές της Νότιας Κορέας ότι έχουν επιτρέψει τη σεξουαλική κακοποίηση στο Telegram να σιγοβράζει ανεξέλεγκτα εδώ και πάρα πολύ καιρό – καθώς η χώρα έχει αντιμετωπίσει αυτήν την κρίση στο παρελθόν.
Το 2019 αποκαλύφθηκε ότι ένα σεξουαλικό κύκλωμα χρησιμοποιούσε το Telegram για να εξαναγκάζει γυναίκες και παιδιά να δημιουργούν και να μοιράζοντες σεξουαλικές εικόνες τους. Η αστυνομία ζήτησε τη βοήθεια του Telegram για τις έρευνές της, αλλά η εφαρμογή αγνόησε τα επτά αιτήματά της. Ο αρχηγός του κυκλώματος συνελήφθη και καταδικάστηκε σε 40 χρόνια φυλάκισης, αλλά οι Αρχές δεν κινήθηκαν κατά της πλατφόρμας, φοβούμενες κατηγορίες για λογοκρισία.
Πριν από την έκρηξη αυτής της τελευταίας κρίσης, το Κέντρο Υποστήριξης για τα Θύματα Διαδικτυακής Σεξουαλικής Κακοποίησης (ACOSAV) της Νότιας Κορέας είχε ήδη παρατηρήσει μια απότομη αύξηση του αριθμού ανήλικων θυμάτων πλαστής πορνογραφίας.
Το 2023 παρείχαν συμβουλές σε 86 έφηβες που είχαν πέσει θύματα του φαινομένου. Ο αριθμός εκτινάχθηκε σε 238 στους πρώτους οκτώ μήνες του τρέχοντος έτους, ενώ μόνο την περασμένη εβδομάδα άλλες 64 έφηβες-θύματα deepfake πορνογραφίας εμφανίστηκαν στο Κέντρο και στις Αρχές.
Ενώ οι οργανώσεις για τα δικαιώματα των γυναικών αποδέχονται ότι η Τεχνητή Νοημοσύνη διευκολύνει την εκμετάλλευση ανθρώπων, υποστηρίζουν ότι αυτή είναι απλώς η πιο πρόσφατη μορφή μισογυνισμού στη Νότια Κορέα που διαδραματίζεται στο διαδίκτυο. Προϋπήρξαν οι λεκτικές ψηφιακές κακοποιήσεις, καθώς και η επιδημία των κατασκοπευτικών καμερών που μαγνητοσκοπούσαν έφηβες σε δημόσιες τουαλέτες και αποδυτήρια.
Ο πρόεδρος της χώρας, Γιουν Σουκ Γιέολ, αρνείται την ύπαρξη δομικού σεξισμού στη Νότια Κορέα, ενώ έχει διακόψει τη χρηματοδότηση των ομάδων υποστήριξης θυμάτων και έχει καταργήσει το υπουργείο Ισότητας των Φύλων. Τώρα η κυβέρνησή του, όπως αναφέρει το BBC, ανακοινώνει ότι θα αυστηροποιήσει τις ποινές όσων δημιουργούν και μοιράζονται deepfake εικόνες, ενώ θα τιμωρήσει και τους χρήστες πορνογραφικού υλικού.
Οι ανακοινώσεις έγιναν μετά από δημόσια κατακραυγή επειδή οι σχετικές ποινές δεν είναι αρκετά αυστηρές. Ενα από τα ζητήματα είναι ότι η πλειονότητα των παραβατών είναι έφηβοι, οι οποίοι συνήθως δικάζονται ως ανήλικοι και τιμωρούνται με πιο ήπιες ποινές. Από τη στιγμή που εκτέθηκαν δημοσίως, πολλά από τα chatroom πορνογραφικού περιεχομένου του Telegram έχουν ήδη κλείσει, αλλά θεωρείται βέβαιο ότι νέα θα πάρουν σύντομα τη θέση τους.