Θέματα

Τζέφρι Χίντον: «Χωρίς κανόνες, η ΤΝ θα μας υποδουλώσει»   

«Η Τεχνητή Νοημοσύνη θα έχει πολύ θετικό αντίκτυπο στην ιατρική, στο περιβάλλον, στα νανοϋλικά… Αλλά δεν υπάρχει τρόπος να σταματήσει η ανάπτυξή της. Και μια μέρα θα καταστεί ευφυέστερη από τον άνθρωπο. Σε εκείνο το σημείο, θα βυθιστούμε σε ένα απολύτως πρωτόγνωρο πλαίσιο και δεν ξέρω πώς θα μπορέσουν οι άνθρωποι να συνεχίσουν να έχουν τον έλεγχο. Για αυτό πρέπει να δράσουμε το συντομότερο δυνατό», λέει ο καθηγητής που μόλις κέρδισε το Νομπέλ Φυσικής
Protagon Team

Το μεσημέρι της περασμένης Τρίτης, όταν στην Στοκχόλμη ανακοινώθηκε πως ήταν ένας εκ των δύο αποδεκτών του φετινού Νομπέλ Φυσικής, ο Τζέφρι Χίντον κοιμόταν.

Ο 76χρονος Bρετανοκαναδός από το Πανεπιστήμιο του Τορόντο, τιμήθηκε, από κοινού με τον 91χρονο αμερικανό Τζον Χόπφιλντ από το Πανεπιστήμιο του Πρίνστον, «για τις θεμελιώδεις ανακαλύψεις και εφευρέσεις που εκπαιδεύουν τις μηχανές να μαθαίνουν με τη χρήση τεχνητών νευρωνικών δικτύων». Αφού πληροφορήθηκε το νέο, ωστόσο, δεν γύρισε στο κρεβάτι του, παρέμεινε ξύπνιος, ώστε να συνομιλήσει, τηλεφωνικώς, με τον Αντονέλο Γκουερέρα της ιταλικής εφημερίδας La Repubblica. «Αυτό είναι το τελευταίο πράγμα που κάνω πριν να πάω να κοιμηθώ επιτέλους!», είπε.

Ο ιταλός δημοσιογράφος γράφει πως ο Τζέφρι Χίντον, πέρα από σπουδαίος είναι επίσης ένας αυστηρός επιστήμονας που γνωρίζει πολύ καλά πως ο σοβαρότατος κίνδυνος που ελλοχεύει δεν αφήνει πολλά περιθώρια για χαρές και πανηγύρια: οι δυνητικά ολέθριες δυνατότητες της Τεχνητής Νοημοσύνης (ΤΝ) πρέπει οπωσδήποτε να τεθούν υπό έλεγχο και αυτό πρέπει να γίνει με γνώμονα την ηθική.

Το 2018, ο ήδη γνωστός και ως «Νονός της Τεχνητής Νοημοσύνης», λόγω των πρωτοποριακών του ερευνών στο πεδίο της βαθιάς μάθησης (deep learning), τιμήθηκε (από κοινού με τον Καναδό Γιόσουα Μπένγκιο και τον Γαλλοαμερικανό Γιαν ΛεΚάν) με το Βραβείο Τούρινγκ, το οποίο θεωρείται το Νομπέλ της Πληροφορικής.

Από το 2013 έως το 2023 ο Τζέφρι Χίντον προσέφερε τις εξαιρετικές του γνώσεις όχι μόνον στους φοιτητές και τις φοιτήτριές του αλλά και στην Google. Αποφάσισε, όμως, να παραιτηθεί, πέρυσι τον Μάιο, επικαλούμενος δημοσίως, μάλιστα, τις ανησυχίες του για τους κινδύνους της ΤΝ.

«Κύριε Χίντον, είστε ικανοποιημένος με αυτό το Νομπέλ; Η μήπως αισθάνεστε τύψεις (για τη συμβολή του στην πρόοδο της ΤΝ), δεδομένων των πρόσφατων προειδοποιήσεών σας για τους κινδύνους της ΤΝ;», τον ρώτησε ο ιταλός δημοσιογράφος.

«Καταρχάς είμαι κατάπληκτος, πολύ, με αυτό το Νομπέλ, γιατί δεν περίμενα ένα τέτοιο βραβείο, και δεν το λέω από σεμνοτυφία. Ταυτόχρονα, ναι, ανησυχώ ότι όλα αυτά κάποια μέρα θα ξεφύγουν από τον έλεγχό μας. Το πρόβλημα είναι απλό: η ΤΝ θα έχει πολύ θετικό αντίκτυπο στην ιατρική, στο περιβάλλον, στα νανοϋλικά… Αλλά δεν υπάρχει τρόπος να σταματήσει η ανάπτυξή της. Και μια μέρα θα καταστεί ευφυέστερη από τον άνθρωπο. Σε εκείνο το σημείο, θα βυθιστούμε σε ένα απολύτως πρωτόγνωρο πλαίσιο και δεν ξέρω πώς θα μπορέσουν οι άνθρωποι να συνεχίσουν να έχουν τον έλεγχο. Για αυτό πρέπει να δράσουμε το συντομότερο δυνατό», απάντησε ο Τζέφρι Χίντον.

«Θεωρώ ότι το μέλλον μας είναι εξαιρετικά αβέβαιο. Δεν έχουμε ιδέα τι θα συμβεί, ούτε εμείς οι επιστήμονες. Στην ανθρώπινη ιστορία ποτέ δεν χρειάστηκε να αντιμετωπίσουμε οντότητες πιο έξυπνες από εμάς. Προς το παρόν κανείς δεν γνωρίζει πως θα μπορούσαν να τεθούν υπό έλεγχο. Πρέπει να γίνει άμεσα κατανοητό από την επιστήμη πώς εμείς οι άνθρωποι θα μπορέσουμε να παραμείνουμε κύριοι των υπάρξεών μας», πρόσθεσε.

Ωστόσο ο πρωτοπόρος της ΤΝ παραδέχεται και προειδοποιεί πως «δεν γνωρίζει» εάν είναι δυνατός ο αποτελεσματικός έλεγχος αυτής της εξαιρετικής τεχνολογίας. Οπότε τι γίνεται;

«Ο μόνος τρόπος είναι να ενθαρρύνουμε τους καλύτερους επιστήμονες στον κόσμο να αφοσιωθούν στο ζήτημα της ασφάλειας σε σχέση με την ΤΝ και να πιέσουν τις κυβερνήσεις να συνδράμουν τις μεγάλες τεχνολογικές εταιρείες, ώστε να διαθέτουν ολοένα περισσότερους πόρους για αυτόν τον σκοπό. Δυστυχώς αυτό δεν συμβαίνει σήμερα […] οι κολοσσοί της ΤΝ είχαν δηλώσει πως θα διέθεταν σημαντικούς πόρους για έρευνες σχετικά με την ασφάλεια αλλά δεν το κάνουν. Μάλιστα οι κορυφαίοι  ερευνητές σε αυτό το πεδίο έχουν εγκαταλείψει τις εταιρείες. Οι κυβερνήσεις πρέπει να παρέμβουν για να αναγκάσουν τις big tech να αλλάξουν πορεία».

Μα είναι δυνατόν να έχει άγνοια κινδύνου η Σίλικον Βάλεϊ; «Πιστεύω πως κάποιοι από τους υπαλλήλους των μεγάλων εταιρειών έχουν αντιληφθεί τους κινδύνους. Αλλά, γενικά, εστιάζουν πολύ στα κέρδη, ώστε να αφιερώσουν επαρκείς πόρους για τη βιωσιμότητα της ΤΝ».

Υπάρχει περίπτωση να υπερβάλλουν όλοι όσοι προειδοποιούν για τους πολλούς κινδύνους της ΤΝ και για την ανάγκη να θεσπιστούν άμεσα κανόνες για τον έλεγχό της; Θα μπορούσε η πρόοδος της ΤΝ να είναι απλά μια ακόμη βιομηχανική επανάσταση, όπως υποστηρίζουν ορισμένοι;

«Δεν είναι έτσι. Με την έννοια ότι θα είναι παρόμοια σε αντίκτυπο, αλλά αντί για τις σωματικές θα επισκιαστούν οι διανοητικές μας ικανότητες. Εάν με τη βιομηχανική επανάσταση λίγο-πολύ γνωρίζαμε τι θα αντιμετωπίζαμε, αυτό δεν θα συμβεί με την Τεχνητή Νοημοσύνη», απάντησε ο νομπελίστας επιστήμονας.

Με αφορμή τις επικείμενες προεδρικές εκλογές στις ΗΠΑ και τα ολοένα πιο προσεγμένα -χάρη στην ΤΝ- fake news που κυκλοφορούν στο Διαδίκτυο και εν μέρει καθορίζουν τον πολιτικό διάλογο στα μέσα κοινωνικής δικτύωσης, ερωτηθείς εάν η ΤΝ απειλεί και την έννοια της αλήθειας, ο Τζέφρι Χίντον απάντησε: «Πιστεύω ότι η Τεχνητή Νοημοσύνη θα έχει ισχυρό αντίκτυπο στην πολιτική. Αυτό είναι μάλλον ανησυχητικό. Είναι σαφές ότι ιδιαίτερα οι λαϊκιστές πολιτικοί θα διαδίδουν στο Διαδίκτυο το δυνατόν περισσότερα fake news. Δεν τους ενδιαφέρει και πολύ η αλήθεια. Σημασία έχει να παρασύρουν περισσότερους ανθρώπους με κάθε μέσο».

Θα μπορούσε, οπότε, η ΤΝ να συνδράμει, εάν δεν τεθεί υπό έλεγχο, στην εμφάνιση νέων αυταρχιών;

«Ναι, ο κίνδυνος είναι υπαρκτός», απαντά ο νομπελίστας καθηγητής.