| CreativeProtagon
Θέματα

O Ζίζεκ και η… «ηλίθια» τεχνητή νοημοσύνη

Ο σλοβένος φιλόσοφος υποστηρίζει ότι τα συστήματα ΑΙ δείχνουν ανίκανα να κατανοήσουν τις άπειρες αποχρώσεις του ανθρώπινου λόγου. Προς επίρρωση των λεγομένων του, επικαλείται τον «Ηλίθιο» του Ντοστογέφσκι: «Ενα πεζό άτομο που μιλάει σαν chatbot. Η “καλοσύνη” του έγκειται στο ότι αντιδρά στις προκλήσεις χωρίς ειρωνεία και αντανακλαστικότητα»
Protagon Team

Η ανοικτή επιστολή της ΜΚΟ Future of Life Institute μέσω της οποίας ο Ελον Μασκ και περισσότεροι από 3.000 οραματιστές και στοχαστές της ψηφιακής εποχής, καθώς επίσης ερευνητές και ακαδημαϊκοί, ζητούν το άμεσο «πάγωμα» της εκπαίδευσης συστημάτων τεχνητής νοημοσύνης (AI) ισχυρότερων από το GPT-4 της OpenAI, για διάστημα τουλάχιστον έξι μηνών, δεν είναι το πρώτο και σίγουρα δεν θα είναι το τελευταίο σήμα κινδύνου που εκπέμπεται, όσον αφορά τους «σοβαρούς κινδύνους για την κοινωνία και την ανθρωπότητα» που εγκυμονεί η ανάπτυξη συστημάτων ΑΙ με νοημοσύνη ανταγωνιστική της ανθρώπινης.

«Πρέπει να αφήσουμε τις μηχανές να πλημμυρίσουν τα κανάλια πληροφοριών μας με προπαγάνδα και αναλήθειες; Πρέπει να αυτοματοποιήσουμε όλες τις εργασίες, περιλαμβανομένων και εκείνων που προσφέρουν ικανοποίηση; Πρέπει να αναπτύξουμε μη ανθρώπινα μυαλά που θα μπορούσαν τελικά να μας ξεπεράσουν σε αριθμό και ευφυΐα, να μας καταστήσουν παρωχημένους και να μας αντικαταστήσουν; Πρέπει να διακινδυνεύσουμε να χάσουμε τον έλεγχο του πολιτισμού μας;», διερωτώνται από κοινού.

«Τέτοιες αποφάσεις δεν πρέπει να ανατεθούν σε μη εκλεγμένους ηγέτες του κόσμου της τεχνολογίας. Ισχυρά συστήματα τεχνητής νοημοσύνης θα πρέπει να αναπτυχθούν μόνο όταν είμαστε σίγουροι ότι η επίδρασή τους θα είναι θετική και οι κίνδυνοι που εγκυμονούν διαχειρίσιμοι», επισημαίνουν.

Την άποψή του για αυτό το φλέγον θέμα εξέφρασε, με τον δικό του, ιδιαίτερο (όπως το συνηθίζει άλλωστε) τρόπο και ο Σλάβοϊ Ζίζεκ. Σε κείμενό του στο Project Syndicate ο σλοβένος φιλόσοφος αρχικά εστιάζει την προσοχή του σε ορισμένα πρακτικά ζητήματα όσον αφορά την εκπαίδευση συστημάτων τεχνητής νοημοσύνης.

«Ενα θέμα που χρήζει μεγαλύτερης προσοχής είναι πώς πρέπει να αντιδρούν τα chatbots (λογισμικά που εκτελούν συγκεκριμένες λειτουργίες, μιμούμενα όσο το δυνατόν καλύτερα τον ανθρώπινο γραπτό και προφορικό λόγο) όταν άνθρωποι με τους οποίους συνομιλούν προβαίνουν σε επιθετικά, σεξιστικά ή ρατσιστικά σχόλια, ούτως ώστε να ωθήσουν το ρομπότ να παρουσιάσει τις δικές του αποκρουστικές φαντασιώσεις», γράφει.

«Πρέπει τα συστήματα τεχνητής νοημοσύνης να προγραμματίζονται να απαντούν στο ίδιο επίπεδο με εκείνο των ερωτήσεων που δέχονται; Εάν αποφασίσουμε ότι χρειάζεται κάποιου είδους ρύθμιση, τότε πρέπει να καθορίσουμε πόσο μακριά πρέπει να φτάνει η λογοκρισία. Θα απαγορευθούν πολιτικές θέσεις που ορισμένες ομάδες θεωρούν “προσβλητικές”; Τι θα γίνει με τις εκφράσεις αλληλεγγύης προς τους Παλαιστίνιους της Δυτικής Οχθης ή τον ισχυρισμό ότι το Ισραήλ είναι ένα κράτος απαρτχάιντ (τον οποίο ο πρώην πρόεδρος των ΗΠΑ Τζίμι Κάρτερ έβαλε κάποτε στον τίτλο ενός βιβλίου); Θα μπλοκαριστούν ως “αντισημίτες”;», διερωτάται ο 74χρονος στοχαστής.

Σκεπτόμενος πόσο ικανά είναι τα προηγμένα συστήματα τεχνητής νοημοσύνης να προσεγγίζουν τη διαδικασία της φυσικής, ανθρώπινης συνειδητοποίησης, μας προτρέπει να σκεφτούμε «ένα μπαρ που πρόσφατα διαφήμισε μια ειδική προσφορά ως εξής: “Αγοράστε μια μπίρα στην τιμή των δύο και πάρτε μια δεύτερη μπίρα εντελώς δωρεάν!”. Για κάθε άνθρωπο αυτό είναι προφανώς ένα αστείο. Το κλασικό “αγοράστε ένα, πάρτε ένα δωρεάν” επαναδιατυπώνεται, ούτως ώστε να αυτοακυρώνεται. Είναι μια έκφραση κυνισμού που θα εκτιμηθεί ως κωμική ειλικρίνεια, με στόχο την αύξηση των πωλήσεων. Θα αντιλαμβανόταν ένα chatbot κάτι από αυτά;», διερωτάται σχετικά ο Ζίζεκ.

Υποστηρίζει, οπότε, ότι σε ένα βαθύτερο και γενικότερο επίπεδο, το πρόβλημα είναι ότι τα chatbots και τα διάφορα συστήματα τεχνητής νοημοσύνης δείχνουν να είναι ανίκανα να κατανοήσουν τις άπειρες αποχρώσεις του ανθρώπινου λόγου και τις διαδικασίες, συχνά ασυνείδητες και αποκαλυπτικές, τις οποίες εκφράζει.

Από αυτή την άποψη, ο σλοβένος φιλόσοφος υπενθυμίζει ότι, στο δοκίμιο που συνέγραψε το 1805 για τον «Σταδιακό σχηματισμό των σκέψεων κατά τη διαδικασία της ομιλίας», ο γερμανός ποιητής Χάινριχ φον Κλάιστ ανέτρεψε το αξίωμα σύμφωνα με το οποίο δεν πρέπει κανείς να ανοίγει το στόμα του, εάν δεν έχει μια ξεκάθαρη ιδέα όσον αφορά αυτό που θέλει να πει: «Εάν, οπότε, μια σκέψη εκφράζεται με ασαφή τρόπο, δεν σημαίνει καθόλου ότι αυτή η σκέψη έχει συλληφθεί με μπερδεμένο τρόπο. Αντιθέτως, είναι πολύ πιθανό οι ιδέες που εκφράζονται με τον πιο συγκεχυμένο τρόπο να είναι αυτές που έχουν συλληφθεί με μεγαλύτερη σαφήνεια», σύμφωνα με τον Φον Κλάιστ.

Σε ένα άλλο παράδειγμα που παραθέτει ο Ζίζεκ όσον αφορά την «εξαιρετικά περίπλοκη σχέση» μεταξύ γλώσσας και σκέψης, πρωταγωνιστεί ο Στάλιν. Σε ένα απόσπασμα μιας από τις ομιλίες του, από τις αρχές της δεκαετίας του 1930, ο σοβιετικός δικτάτορας πρότεινε ριζοσπαστικά μέτρα για να «εντοπίζονται και να καταπολεμούνται ανηλεώς ακόμη και εκείνοι που αντιτίθενται στην κολεκτιβοποίηση και μόνο στις σκέψεις τους – ναι, αυτό εννοώ, πρέπει να καταπολεμήσουμε ακόμη και τις σκέψεις των ανθρώπων», είχε αναφέρει χαρακτηριστικά.

«Μπορεί κανείς με ασφάλεια να υποθέσει ότι αυτό το απόσπασμα δεν είχε προετοιμαστεί εκ των προτέρων. Αφού κατελήφθη εξαπίνης, ο Στάλιν συνειδητοποίησε αμέσως αυτό που μόλις είχε πει. Αλλά αντί να ανακαλέσει, αποφάσισε να επιμείνει στην υπερβολή του», εξηγεί ο Ζίζεκ.

Οπότε, από αυτή τη σκοπιά «το πρόβλημα δεν είναι ότι τα chatbots είναι ανόητα. (Το πρόβλημα είναι) ότι δεν είναι αρκετά “ανόητα”. Δεν είναι ότι είναι αφελή (και δεν αναγνωρίζουν την ειρωνεία και την αναστοχαστικότητα). Είναι ότι δεν είναι αρκετά αφελή (και δεν αναγνωρίζουν πότε η αφέλεια αποκρύπτει την οξυδέρκεια). Ο πραγματικός κίνδυνος, λοιπόν, δεν είναι ότι οι άνθρωποι θα μπερδέψουν ένα chatbot με ένα πραγματικό άτομο. Είναι ότι η επικοινωνία με chatbots θα κάνει τους πραγματικούς ανθρώπους να μιλούν σαν chatbots – αγνοώντας όλες τις αποχρώσεις και τις ειρωνείες, λέγοντας εμμονικά μόνο ακριβώς αυτό που νομίζουν ότι θέλουν να πουν».

Ολοκληρώνοντας το άρθρο του, ο Ζίζεκ επικαλείται τον Ντοστογέφσκι και τον «Ηλίθιό» του ή μάλλον την αιρετική ερμηνεία του «Πρίγκιπα Μίσκιν» από τον Ρόουαν Γουίλιαμς, τον πρώην αρχιεπίσκοπο του Καντερμπέρι και διακεκριμένο ακαδημαϊκό, ο οποίος το 2008 εξέδωσε το βιβλίο «Dostoevsky: Language, Faith and Fiction».

«Σύμφωνα με την καθιερωμένη ανάγνωση, ο Μίσκιν, “ο ηλίθιος”, είναι ένας άγιος, “θετικά καλός και όμορφος άντρας” που οδηγείται στην τρέλα από τις βαρβαρότητες και τα πάθη του πραγματικού κόσμου. Αλλά στη ριζοσπαστική επανερμηνεία του Γουίλιαμς, ο Μίσκιν αποτελεί το κέντρο μιας καταιγίδας: όσο καλός και άγιος κι αν είναι, αυτός πυροδοτεί τον όλεθρο και τον θάνατο των οποίων γίνεται μάρτυρας, λόγω του ρόλου του στο περίπλοκο δίκτυο σχέσεων γύρω του», γράφει ο Ζίζεκ.

«Δεν είναι μόνο ότι ο Μίσκιν είναι ένας αφελής χαζός. Είναι ότι το ιδιαίτερο είδος της ανοησίας του τού επιτρέπει να αγνοεί τον καταστροφικό του αντίκτυπο στους άλλους. Είναι ένα πεζό άτομο που μιλάει σαν chatbot. Η “καλοσύνη” του έγκειται στο γεγονός ότι, σαν ένα chatbot, αντιδρά στις προκλήσεις χωρίς ειρωνεία, προσφέροντας κοινοτοπίες απαλλαγμένες από κάθε αντανακλαστικότητα, λαμβάνοντας υπόψη τα πάντα κυριολεκτικά και στηριζόμενος σε μια νοητική διαδικασία αυτο-συμπλήρωσης και όχι σε μια διαδικασία σχηματισμού αυθεντικών ιδεών. Για τον λόγο αυτόν, τα νέα chatbots θα τα πηγαίνουν πολύ καλά με ιδεολόγους όλων των πλευρών, από τα πλήθη της αφύπνισης και της επαγρύπνησης (woke) μέχρι τους εθνικιστές του κινήματος “Ας κάνουμε ξανά μεγάλη την Αμερική (MAGA)” οι οποίοι προτιμούν να κοιμούνται», προειδοποιεί ο Σλάβοϊ Ζίζεκ.