Ενα πρωί στις αρχές Οκτωβρίου, περίπου 18 χρόνια μετά τη δολοφονία της κόρης του, Τζένιφερ, ο Ντρου Κρεσέντε έλαβε μια ειδοποίηση από την Google για ένα νέο προφίλ της στο διαδίκτυο. Το προφίλ περιελάμβανε το πλήρες όνομά της και μια φωτογραφία από τη σχολική της επετηρίδα.
Σύμφωνα με ρεπορτάζ της Washington Post, το σύντομο βιογραφικό του προφίλ είχε μια ψευδή περιγραφή της Τζένιφερ (την οποία ο πρώην φίλος της είχε δολοφονήσει το 2006 στην τελευταία τάξη του λυκείου) ως «δημοσιογράφο βιντεοπαιχνιδιών και ειδική στην τεχνολογία, την ποπ κουλτούρα και ποπ δημοσιογραφία».
Η Τζένιφερ είχε αναδημιουργηθεί ως «ένας φιλικός χαρακτήρας Τεχνητής Νοημοσύνης (ΤΝ) με πολλές γνώσεις», σύμφωνα με την περιγραφή του ιστότοπου, ενώ ένα κουμπί προσκαλούσε τους χρήστες να συνομιλήσουν μαζί της. Ο Κρεσέντε έπαθε σοκ – «παραλίγο να πάθω ανακοπή», λέει στην Washington Post.
Το όνομα και η εικόνα της Τζένιφερ είχαν χρησιμοποιηθεί για τη δημιουργία ενός chatbot της Character.AI, ενός ιστότοπου που επιτρέπει στους χρήστες να συνομιλούν με ψηφιακές προσωπικότητες που δημιουργήθηκαν με τη χρήση ΤΝ. Αρκετοί είχαν αλληλεπιδράσεις με την «Τζένιφερ», που δημιουργήθηκε από έναν χρήστη, σύμφωνα με ένα στιγμιότυπο οθόνης του διαγραμμένου πλέον προφίλ του chatbot της.
Ο Κρεσέντε, ο οποίος μετά τον θάνατο της κόρης του ίδρυσε έναν μη κερδοσκοπικό οργανισμό στο όνομά της για την αποτροπή της βίας στα εφηβικά ραντεβού, δηλώνει εξοργισμένος που η Character επέτρεψε σε έναν χρήστη της να δημιουργήσει ομοίωμα της δολοφονημένης κόρης του, χωρίς την άδεια της οικογένειάς της.
Σύμφωνα με ειδικούς, η περίπτωση εγείρει ανησυχίες σχετικά με την ικανότητα –ή, ακόμα, και την προθυμία– του τομέα της ΤΝ να προστατεύσει τους χρήστες από τις πιθανές βλάβες μιας υπηρεσίας που καλείται να ασχοληθεί με πλήθος ευαίσθητων προσωπικών δεδομένων.
Η Κάθριν Κέλι, εκπρόσωπος της Character, λέει στην Washington Post ότι η εταιρεία καταργεί τα chatbot που παραβιάζουν τους όρους παροχής υπηρεσιών της και «εξελίσσει και βελτιώνει συνεχώς τις πρακτικές ασφαλείας» της «δίνοντας προτεραιότητα στην ασφάλεια της κοινότητάς» των χρηστών της. Μόλις δέχθηκε την καταγγελία για το προφίλ της Τζένιφερ, η εταιρεία το απέσυρε, καθώς οι όροι χρήσης απαγορεύουν την πλαστοπροσωπία.
Τα chatbot TN ξεκινούν συνομιλίες και προγραμματίζονται ώστε να υιοθετούν προσωπικότητες και βιογραφικά στοιχεία συγκεκριμένων χαρακτήρων, πραγματικών ή φανταστικών. Εχουν βρει ένα αυξανόμενο κοινό στο διαδίκτυο, καθώς οι δημιουργοί τους τα εμπορεύονται ως ψηφιακούς βοηθούς, φίλους, μέντορες ή ακόμα και εικονικούς ρομαντικούς συντρόφους.
Η νέα αυτή τεχνολογία έχει πολλούς αμφισβητίες, καθώς η επίδρασή της μπορεί να έχει ενίοτε καταστροφικές επιπτώσεις. Χαρακτηριστική είναι η περίπτωση ενός νεαρού Βέλγου που αυτοκτόνησε το 2023, όταν ένα chatbot τον ενθάρρυνε να θέσει τέλος στη ζωή του στη διάρκεια των συνομιλιών τους!
Οπως γράφει η Washington Post, η Character είναι από τους μεγαλύτερους παίκτες στον χώρο. Φέτος, υπέγραψε συμφωνία ύψους 2,5 δισ. δολαρίων (2,3 δισ. ευρώ) για την παραχώρηση άδειας χρήσης των ΤΝ μοντέλων της στην Google. Η εταιρεία προσφέρει chatbots κατασκευασμένα από την ίδια, αλλά επιτρέπει και στους χρήστες της να δημιουργούν και να μοιράζονται τα δικά τους chatbots, χρησιμοποιώντας φωτογραφίες, ηχογραφήσεις φωνής και σύντομες γραπτές οδηγίες.
Η βιβλιοθήκη των «ψηφιακών συντρόφων» που δημιουργούνται από χρήστες, περιλαμβάνει έναν σκληρό λοχία που ενεργεί ως προσωπικός πάροχος κινήτρων, έναν βιβλιοθηκάριο που προσφέρει προτάσεις βιβλίων, καθώς και μιμήσεις φωνών διασημοτήτων και δημοσίων προσώπων, όπως η ράπερ Νίκι Μινάζ και ο μεγιστάνας τεχνολογίας Ελον Μασκ.
Η τραγική ιστορία της Τζένιφερ και οι φωνές των νεκρών παιδιών στο TikTok
Η 18χρονη Τζένιφερ Κρεσέντε εξαφανίστηκε τον Φεβρουάριο του 2006 και βρέθηκε νεκρή από πολλαπλούς πυροβολισμούς, σε δάσος κοντά στο σπίτι της, λίγες μέρες αργότερα. Η αστυνομική έρευνα διαπίστωσε ότι ο πρώην φίλος της, επίσης 18 ετών, παρέσυρε την Τζένιφερ στο δάσος και τη σκότωσε με κυνηγετικό όπλο.
Η δολοφονία της συνέτριψε τους διαζευγμένους γονείς της. Ο Ντρου και η Ελίζαμπεθ Κρεσέντε ίδρυσαν ξεχωριστές οργανώσεις στο όνομα της κόρης τους, αφιερωμένες στην πρόληψη της βίας μεταξύ εφήβων. Παράλληλα, ασκούν πιέσεις κατά της υπό όρους αποφυλάκισης του δολοφόνου της Τζένιφερ, ο οποίος καταδικάστηκε σε 35ετή κάθειρξη.
Ο Ντρου, που ζει στην Ατλάντα της Τζόρτζια, έχει διατηρήσει τις ειδοποιήσεις της Google μέσω του μη κερδοσκοπικού οργανισμού του, και έτσι παρακολουθεί αναφορές του ονόματος της κόρης του στο Διαδίκτυο όλα αυτά τα χρόνια. Περιστασιακά, η Τζένιφερ εμφανίζεται σε ρεπορτάζ Μέσων ενημέρωσης, αλλά στις 2 Οκτωβρίου η ειδοποίηση της Google τον οδήγησε στο κατασκευασμένο προφίλ της στον ιστότοπο της Character.
Η εταιρεία διέγραψε το chatbot με τα χαρακτηριστικά της Τζένιφερ την ίδια ημέρα, μετά την καταγγελία του πατέρα της. Σε ερώτηση της Washington Post σχετικά με τα άλλα chatbot στον ιστότοπο του Character που υποδύονται δημόσια πρόσωπα, η εκπρόσωπος της Character, Κάθριν Κέλι, ανέφερε ότι οι καταγγελίες ταυτοπροσωπίας «διερευνώνται από το προσωπικό ασφαλείας της εταιρείας και οι χαρακτήρες αφαιρούνται αν διαπιστωθεί ότι παραβιάζουν τους όρους παροχής υπηρεσιών».
Οι νόμοι που διέπουν το διαδικτυακό περιεχόμενο ισχύουν, θεωρητικά, και για τις εταιρείες περιεχομένου ΤΝ, αλλά επί της ουσίας αυτές παραμένουν εκτός ελέγχου, αναφέρει η WP. Η περίπτωση του Κρεσέντε δεν είναι μοναδική – δημιουργοί περιεχομένου στο TikTok χρησιμοποιούν την τεχνολογία για να αναπαράγουν τα χαρακτηριστικά και τις φωνές δολοφονημένων παιδιών σε βίντεο στα οποία αφηγούνται τους θανάτους τους – προκαλώντας την οργή των απαρηγόρητων οικογενειών τους.