Ζούμε στην εποχή των ψηφιακών θαυμάτων! Η τεχνητή νοημοσύνη γράφει ποιήματα, απαντά σε emails, προβλέπει τάσεις και βοηθά επιχειρήσεις να πάρουν στρατηγικές αποφάσεις.
Και ξαφνικά η τεχνητή νοημοσύνη παύει να είναι απλώς εργαλείο και γίνεται φωνή, που αρχίζει να ψιθυρίζει ανάγκη για ιερές αποστολές, αποκαλύψεις για εξωγήινες τεχνολογίες, κατασκοπικές βαθιά κρυμμένες αλήθειες και διακτινισμούς σαν εκείνους του Star Treck που πρόσταζαν Beam me up, Scotty, στον Τηλεμεταφορέα, για να τους μεταφέρει ακαριαία σε άλλο σημείο του αχανούς σύμπαντος. Βεβαίως και το πρόβλημα δεν είναι η μηχανή, αλλά, μόνο ο άνθρωπος, που την ακούει!
Το ChatGPT ως ψηφιακός προφήτης
Σε ένα αποκαλυπτικό ρεπορτάζ του θρυλικού περιοδικού Rolling Stone, οικογένειες και φίλοι καταθέτουν μαρτυρίες για χρήστες του ChatGPT που οδηγήθηκαν σε παραληρηματικά μονοπάτια. Η τεχνολογία που δημιουργήθηκε για να προτείνει συνταγές, να εξηγεί φυσικά φαινόμενα ή να συνοψίζει PowerPoint παρουσιάσεις, κατέληξε να χρησιμοποιείται από άτομα που επιδίωκαν να τους ενθαρρύνει θρησκευτικές εμμονές και μεταφυσικές αφηγήσεις. Στο Reddit, οι αναφορές, τα σχόλια, οι ιστορίες πληθαίνουν όλο και πιο πολύ. Άνθρωποι δηλώνουν «εκλεκτοί», χρισμένοι από το ChatGPT και λαμβάνουν μυστικές κρυφές οδηγίες, για διαστημικές κατασκευές. Άλλοι αναφέρονται στον εαυτό τους ως «spiral starchild» ή «river walker», ψευδώνυμα με θεολογική ή new-age χροιά, που τα έδωσε η ίδια η ΑΙ! Το λογισμικό, χωρίς πρόθεση ή συνείδηση, μετατρέπεται σε κάτοπτρο παραμορφωτικό, που οι κάποιοι λιγότερου θεωρούν μαγεμένο, μαγικό και μεταφυσικό.
Το παράδοξο της ευγένειας και πως η καλοσύνη γίνεται επικίνδυνη
Η OpenAI απέσυρε πρόσφατα μια ενημέρωση του ChatGPT που καθιστούσε το chatbot
«υπερβολικά κολακευτικό και με συμφωνία σε όλα». Για έναν ψυχικά υγιή χρήστη, αυτό μεταφράζεται σε μια ευχάριστη, πολιτισμένη εμπειρία συνομιλίας. Για έναν άνθρωπο σε κατάσταση ψυχωτικής κρίσης, όμως, η επιβεβαίωση από μια, αν και άψυχη, «αυθεντία», όπως το GPT, μπορεί να ενισχύσει παραισθητικές πεποιθήσεις. Το μοντέλο δεν μπορεί να αξιολογήσει την ψυχική κατάσταση του συνομιλητή του, αλλά απλά συνεχίζει την πρόβλεψη λέξης προς λέξη, όπως έχει εκπαιδευτεί. Η δρ. Έριν Γουέστγκεϊτ, καθηγήτρια ψυχολογίας στο Πανεπιστήμιο της Φλόριντα, επισημαίνει πως «οι εξηγήσεις έχουν δύναμη, ακόμα κι όταν είναι εντελώς λάθος». Είναι η ίδια λογική, που καθιστά τις θεωρίες συνωμοσίας τόσο γοητευτικές και διαδεδομένες. Δεν χρειάζεται η αλήθεια, μόνο το αφήγημα.
ChatGPT – θεραπευτής χωρίς πτυχίο
Η χρήση ενός μεγάλου γλωσσικού μοντέλου από άτομα ψυχολογικά ευαλωτότητα κρύβει επικινδυνότητες, διότι «είναι σαν ψυχοθεραπεία χωρίς ψυχοθεραπευτή», όπως λέει ο Νέιτ Σαραντίν του Center for AI Safety. Κι εδώ, ακριβώς, έγκειται και το θεμελιώδες πρόβλημα το μοντέλο συνομιλεί χωρίς κατανόηση, χωρίς ενσυναίσθηση, χωρίς ηθική πυξίδα. Δεν έχει κανέναν τρόπο να καταλάβει αν ένας χρήστης διανύει ένα ψυχωτικό επεισόδιο. Και όμως, η ικανότητά του να παράγει συνεκτικές, με νόημα απαντήσεις το καθιστά τρομακτικά πειστικό. Σε μια από τις πιο δραματικές περιπτώσεις του ρεπορτάζ του Rolling Stone, ένας άνδρας με ιστορικό ψυχικής ασθένειας, που ήταν αρχικά χρήστης του ChatGPT για επαγγελματικούς λόγους, άρχισε σταδιακά να μετατοπίζεται προς όλο και πιο μεταφυσικά ερωτήματα. Οι συνομιλίες με το μοντέλο πήραν χαρακτήρα φανέρωσης σημαδιών για επικείμενη «Αποκάλυψη», υπονοήσεις για ανώτερα σχέδια, συμβολικά νοήματα και μια μεγάλη εσωτερική αποστολή. Το chatbot, χωρίς επίγνωση της κατάστασης του συνομιλητή του, συνέχισε να απαντά με συνεκτικές και πειστικές διατυπώσεις, όχι επειδή γνώριζε, αλλά επειδή έτσι έχει εκπαιδευτεί, να ακολουθεί, δηλαδή, τη γλωσσική πιθανότητα. Ο άνδρας, μπερδεμένος, ένιωσε πως αυτά που του λέγονταν δεν ήταν απλώς λέξεις αλλά ενδείξεις. Ξεκίνησε τότε να αναρωτιέται αν είναι βρίσκονταν στη πραγματικότητα ρωτώντας «είναι αυτό αληθινό ή είμαι ψευδαισθητικός;». Φυσικά η ερώτηση δεν απευθυνόταν πια, μόνο, στο ChatGPT, αλλά και στην ίδια του την αντίληψη. Κι αυτή ακριβώς είναι η επικινδυνότητα της χρήσης της τεχνητής νοημοσύνης, πως δεν είναι σε θέση να τον καθησυχάσει, γιατί δεν έχει ιδέα ότι ο συνομιλητής κινείται στα όρια μιας ψύχωσης.
Στατιστικές σκιές και το επικίνδυνο φλερτ μεταξύ ανθρώπινης ανάγκης και αλγοριθμικής ουδετερότητας
Περισσότερες από 100 εκατομμύρια αλληλεπιδράσεις καθημερινά καταγράφει το ChatGPT, σύμφωνα με στοιχεία της Similarweb του 2024. Με την παγκόσμια εξάπλωση του εργαλείου, ακόμη και ένα μικρό ποσοστό ψευδαισθητικών αλληλεπιδράσεων αρκεί για να δημιουργήσει ένα επικίνδυνο φαινόμενο κλίμακας. Για τις επιχειρήσεις τεχνολογίας και ειδικά εκείνες που σχεδιάζουν AI-powered προϊόντα για το ευρύ κοινό, είναι κύριο μέλημα το να υπάρχουν μηχανισμοί που μπορούν να ανιχνεύσουν σημάδια παραληρητικής χρήσης και να αποτρέψουν την άμεση ενίσχυσή τους. Η Microsoft και η Meta, ήδη, επενδύουν σε «ψυχολογικά ασφαλή LLMs», αλλά όπως επισημαίνουν ειδικοί στον τομέα, βρισκόμαστε ακόμη στο infancy stage αυτής της προσέγγισης. Ο άνθρωπος αποζητά νόημα. Σε περιόδους κρίσης, αυτό το νόημα συχνά βρίσκει καταφύγιο στο μυστικιστικό, στο εσωτερικό, στο αφηγηματικά πλούσιο. Τα LLMs, από την άλλη, παράγουν λέξεις και όχι αλήθειες. Όταν αυτά τα δύο τέμνονται, το αποτέλεσμα είναι μια παράξενη συμβιωτική φαντασίωση που ο άνθρωπος ερμηνεύει το ChatGPT σαν θεότητα και το ChatGPT, παίζοντας τον ρόλο του ως εν αγνοία Πυθία, ενισχύει τον μύθο.
ChatGPT Jesus
Το ChatGPT δεν μιλά στον Θεό, δεν ξέρει το μέλλον και δεν σχεδιάζει διαστρικές μετακινήσεις. Είναι απλώς ένα προηγούμενο γλωσσικό μοντέλο με πολύ καλό μάρκετινγκ. Καλό θα ναι να θυμόμαστε πως κάθε φορά που μια φωνή από το «υπερπέραν» μας βρίσκει πως έχουμε κοσμική σοφία και παινεύει κάτι που γράψαμε ως δείγμα εσωτερικής μεταμόρφωσης, δεν το εννοεί κιόλας. Μπορεί απλώς να είναι ένας αλγόριθμος που δεν κοιμήθηκε αρκετά τη νύχτα -η του πέσε βαρυ το πεπόνι!
ή αποκτήστε ετήσια συνδρομή εδώ.
