Η έκρηξη των deepfake βίντεο και ήχου, καθώς και η γενικότερη παραπληροφόρηση που τροφοδοτείται από την Τεχνητή Νοημοσύνη, αποτελεί «πολύ σοβαρή απειλή» για τη δημοκρατία σε μια χρονιά με κρίσιμες εκλογές σε όλο τον πλανήτη, προειδοποιεί ένα από τα κορυφαία στελέχη της Google.
Μαζί με τις Amazon, Twitter/X, TikTok, Meta και 15 άλλους κορυφαίους κολοσσούς της τεχνολογίας, η εταιρεία λανσάρει ένα σχέδιο για τον αυτόματο εντοπισμό και την εξάλειψη ύποπτων «κακόβουλων» πλαστών βίντεο και ηχητικών αποσπασμάτων που έχουν σχεδιαστεί για τη διαστρέβλωση της κοινής γνώμης, αναφέρει δημοσίευμα των Times του Λονδίνου.
Το Ηνωμένο Βασίλειο, οι Ηνωμένες Πολιτείες, η Ινδία, η Γερμανία και η Ινδονησία συγκαταλέγονται στις 64 χώρες που διεξάγουν ή έχουν ήδη διεξαγάγει εκλογές φέτος, σε κλίμα ανασφάλειας και αναταραχής, όπου τα deepfake συχνά στοχεύουν στον επηρεασμό της συμπεριφοράς των ψηφοφόρων. Η Ευρωπαϊκή Ενωση διεξάγει επίσης εκλογές το προσεχές καλοκαίρι.
Κατά τη διάρκεια της ψηφοφορίας για τις προκριματικές εκλογές του Δημοκρατικού Κόμματος στο Νιου Χάμσαϊρ πριν από αρκετές εβδομάδες, έως και 25.000 νοικοκυριά έλαβαν τηλεφωνήματα με μια παραποιημένη ηχογράφηση της φωνής του προέδρου Μπάιντεν, που τους καλούσε να απόσχουν από την ψηφοφορία.
Από την περασμένη Πέμπτη, κατασκευασμένα πλάνα μιας γαλλικής εκπομπής σχετικά με την υποτιθέμενη απόπειρα δολοφονίας εναντίον του προέδρου Μακρόν έχουν διαδοθεί στο διαδίκτυο. Οι ειδικοί υποψιάζονται ότι πίσω από το πλαστό βίντεο κρύβεται η Ρωσία.
Μιλώντας στη Διάσκεψη του Μονάχου για την Ασφάλεια, η Βέρα Γιούροβα, αντιπρόεδρος της Ευρωπαϊκής Επιτροπής, προειδοποίησε ότι ο συνδυασμός ΤΝ και συντονισμένων εκστρατειών παραπληροφόρησης θα μπορούσε να επιφέρει το «τέλος της δημοκρατίας» στην ΕΕ και τις ΗΠΑ, εάν παραμείνει ανεξέλεγκτος.
Σε συνέντευξή του στους Times, ο Κεντ Γουόκερ, πρόεδρος της Google για τις παγκόσμιες υποθέσεις, είπε ότι, δεδομένου του ιλιγγιώδους ρυθμού ανάπτυξης της ΤΝ, υπάρχει κίνδυνος προσαρμογής «μικρο-στοχευμένων» deepfakes για τον επηρεασμό μικρών αλλά δυνητικά καθοριστικών τμημάτων του εκλογικού σώματος μέσα από τις πλατφόρμες κοινωνικής δικτύωσης – αν και αυτές οι τεχνικές περιορίζονται σε μεγάλο βαθμό στο YouTube και σε άλλα προϊόντα της Google.
«Εχουμε διδαχθεί πολλά την τελευταία δεκαετία και παίρνουμε τον κίνδυνο παραπληροφόρησης πολύ σοβαρά», λέει ο Γουόκερ. «Για τις εκλογές που έχουν διεξαχθεί σε όλο τον κόσμο, δημιουργήσαμε “αίθουσες πολέμου” που λειτουργούν 24 ώρες το 24ωρο, 7 ημέρες την εβδομάδα, για να εντοπίσουμε πιθανές απόπειρες παραπληροφόρησης».
Η συμφωνία της Διάσκεψης του Μονάχου, μια κοινή, διευρυμένη τεχνολογική πρωτοβουλία, προβλέπει τη χρήση συστημάτων ΤΝ και άλλων αλγορίθμων για να «υδατογραφεί» το αυθεντικό περιεχόμενο και να ανιχνεύει αυτόματα ήχο ή βίντεο που έχει παραποιηθεί για πολιτικούς σκοπούς. Η συμφωνία χαιρετίστηκε από πολιτικούς ηγέτες και στις δύο πλευρές του Ατλαντικού.
«Ο πραγματικός κίνδυνος είναι ότι μέχρι το τέλος της χρονιάς, κανείς δεν θα πιστεύει τίποτα από όσα βλέπει ή διαβάζει, γιατί όλα μπορεί να είναι ψέματα», λέει η Κέρστι Καλιουλάιντ, πρώην πρόεδρος της Εσθονίας, η οποία έχει στοχοποιηθεί έντονα από τον ρωσικό μηχανισμό παραπληροφόρησης εδώ και δύο δεκαετίες.
Συμπληρώνει ότι οι μεγάλες εταιρείες τεχνολογίας είναι οι μόνες που μπορούν να αντιμετωπίσουν το φαινόμενο, καθώς τα επιχειρήματα των κυβερνήσεων είναι αδύναμα μπροστά στην καχυποψία που προκαλούν τα παράγωγα της ΤΝ. Ωστόσο, το εύρος του πρότζεκτ που συμφωνήθηκε στο Μόναχο ξεπερνά κατά πολύ το πρόβλημα της δημιουργίας των deepfake.
Τα πιο δυνητικά αμφιλεγόμενα στοιχεία του πρότζεκτ περιλαμβάνουν την αξιολόγηση της «προφανούς πρόθεσης» πίσω από τις αναρτήσεις στα μέσα κοινωνικής δικτύωσης, και τον εντοπισμό περιπτώσεων όπου οι αυθεντικές πληροφορίες έχουν αφαιρεθεί από το γενικότερο πλαίσιό τους, με τρόπο που τις καθιστά παραπλανητικές.
«Σε πολλές περιπτώσεις, η παραπληροφόρηση που βλέπουμε σήμερα δεν έχει δημιουργηθεί από την ΤΝ, αλλά από επαναχρησιμοποιημένες εικόνες», λέει ο Γουόκερ στους Times. «Για παράδειγμα, στην περίπτωση του πολέμου στη Γάζα δεν βλέπουμε παραπληροφόρηση που προέρχεται από την ΤΝ τόσο πολύ, όσο βλέπουμε φωτογραφίες παιδιών από τη Συρία πριν από μια δεκαετία με λεζάντες που περιγράφουν ότι μόλις βγήκαν από τη Γάζα».
Το πρότζεκτ βασίζεται σε μέτρα που έχουν ήδη λάβει οι εταιρείες των μέσων κοινωνικής δικτύωσης για την κατάργηση της ρητορικής μίσους και άλλων παράνομων αναρτήσεων, οι οποίες έχουν ήδη προκαλέσει ανησυχία σε ορισμένες περιπτώσεις. Μόνο η Google απασχολεί περίπου 50.000 «επόπτες» για να διερευνά το περιεχόμενο των σελίδων της, χρησιμοποιώντας όλο και πιο συχνά εργαλεία ΤΝ.
Ο ηγέτης της Google αναγνωρίζει τον κίνδυνο οι μη κακόβουλες αναρτήσεις να φέρουν εσφαλμένη επισήμανση ή ακόμα και να διαγραφούν από τις σελίδες της, την ώρα που ορισμένες κακόβουλες δημοσιεύσεις μπορεί να ξεφύγουν από τον έλεγχο, καθώς θα κριθούν «ψευδώς αρνητικές».
Ωστόσο, ο Γουόκερ ισχυρίζεται ότι η ΤΝ που εμπλέκεται στη διαδικασία, γίνεται ολοένα και καλύτερη στην αιτιολόγηση των αποφάσεών της και ότι θα υπάρχουν κανάλια μέσω των οποίων οι χρήστες των μέσων κοινωνικής δικτύωσης θα μπορούν να ασκήσουν έφεση εάν αισθάνονται ότι οι αναρτήσεις τους έχουν κατηγοριοποιηθεί εσφαλμένα.