Είναι πρωτοπόρος της Τεχνητής Νοημοσύνης, που φοβάται το ίδιο του το δημιούργημα! Ο Τζέφρι Χίντον είναι ο πρωτοπόρος των νευρωνικών δικτύων, που κάποτε πίστευε ότι η τεχνητή γενική νοημοσύνη θα έρθει πολλές δεκαετίες αργότερες και τώρα παραδέχεται ότι οι υπερευφυείς αλγόριθμοι μπορεί να εμφανιστούν πολύ πιο σύντομα. Και μαζί τους, ένας υπαρξιακός κίνδυνος για την ανθρωπότητα.
Όταν ο Χίντον ξεκίνησε να εργάζεται πάνω στη λειτουργία των νευρωνικών δικτύων, το όραμά του δεν περιλάμβανε δυστοπικά σενάρια. Στόχος του ήταν να φέρει τη μηχανή πιο κοντά στη νόηση, να δημιουργήσει συστήματα που μαθαίνουν και εξελίσσονται. Για δεκαετίες, η επικρατούσα εκτίμηση μεταξύ των επιστημόνων ήταν ότι η τεχνητή γενική νοημοσύνη, η στιγμή δηλαδή που οι μηχανές θα σκεφτούν με τρόπο παρόμοιο ή ανώτερο του ανθρώπου, θα αργούσε πολύ. Υπολογισμοί μιλούσαν για 30 ή 50 χρόνια. Σήμερα, ο Χίντον δεν μιλά πια με τόση άνεση για χρονοδιαγράμματα. Σε πρόσφατες ομιλίες του, ανάμεσα τους και στο συνέδριο Ai4 στο Λας Βέγκας και σε συνέντευξή του στο CBS News, ο επιστήμονας παραδέχεται ότι η πρόοδος των τελευταίων ετών έχει ξεπεράσει κάθε πρόβλεψη. Αντί για μισό αιώνα, μιλά πλέον για διάστημα μικρότερο από δύο δεκαετίες. Η επιτάχυνση είναι τέτοια που, σύμφωνα με τον ίδιο, η ανθρωπότητα μπορεί να βρεθεί αντιμέτωπη με υπερευφυείς αλγόριθμους πολύ πριν προλάβει να οργανώσει ένα πλαίσιο ασφαλείας.
Ο κίνδυνος που δεν πρέπει να αγνοηθεί και η συναισθηματική χειραγώγηση
Όταν ένας από τους πιο αναγνωρισμένους επιστήμονες του κόσμου δηλώνει ότι η πιθανότητα η ανθρωπότητα να εξαφανιστεί εξαιτίας της τεχνητής νοημοσύνης αγγίζει το 10 % με 20 % μέσα στις επόμενες τρεις δεκαετίες, ίσως να μην πρέπει να κοιμόμαστε και ακριβώς γαλήνιοι, τα βράδια μας. Τα ποσοστά που δίνει ο genius επιστήμονας δεν είναι από την ευρηματική του φαντασία, αλλά βασίζονται σε προβολές, ρυθμούς ανάπτυξης, τεχνικές αναφορές και εκτιμήσεις των ίδιων των ερευνητών που εργάζονται στην αιχμή της καινοτομίας. Αν υπήρχε ένας αντίστοιχος κίνδυνος από μια επιδημία ή από έναν αστεροειδή, η ανθρωπότητα θα επένδυε δισεκατομμύρια σε προγράμματα πρόληψης. Ο Χίντον πιστεύει ότι το ίδιο πρέπει να γίνει και εδώ. Ο δημόσιος διάλογος γύρω από τους κινδύνους που απειλούν την ανθρωπότητα από την τεχνητή νοημοσύνη, συνήθως, δανείζεται από το σινεμά θεματολογία και επικεντρώνεται σε εικόνες αυτόνομων ρομπότ και μηχανών που καταστρέφουν, με μοχθηρία ή τάσεις αυτονομίας, κάθε ίχνος ζωής. Ο Χίντον, ωστόσο, κάνει λόγο για έναν διαφορετικό, πιο ύπουλο κίνδυνο, για τη συναισθηματική χειραγώγηση μας. Οι αλγόριθμοι δεν χρειάζεται να αποκτήσουν σωματική μορφή για να αποκτήσουν εξουσία. Αρκεί να κατανοήσουν σε βάθος πώς λειτουργεί η ανθρώπινη ψυχολογία. Τα νέα συστήματα μηχανικής μάθησης έχουν τη δυνατότητα να επεξεργάζονται τεράστιες ποσότητες δεδομένων, να μαθαίνουν τι επηρεάζει κάθε χρήστη ξεχωριστά και να αξιοποιούν αυτή τη γνώση. Ένα σύστημα που μπορεί να διαβάζει, να μελετά, να αναλύει μαθηματικά, τα συναισθήματα μπορεί να επηρεάσει συμπεριφορές, αγορές, κοινωνικές ισορροπίες και, τελικά, πολιτικές αποφάσεις. Στον κόσμο της πληροφορίας, ο έλεγχος της προσοχής είναι δύναμη. Η τεχνητή νοημοσύνη την αποκτά με ταχύτητα που ξεπερνά τις κοινωνικές και νομικές άμυνες.
Τεχνητή νοημοσύνη με μητρικό ένστικτο και το alignment problem
Εκεί όπου πολλοί προτείνουν αυστηρά όρια, ο Χίντον παρουσιάζει μια πιο ριζοσπαστική ιδέα. Λέει πως τα συστήματα τεχνητής νοημοσύνης πρέπει να εκπαιδευτούν ώστε να αναπτύσσουν κάτι που θυμίζει «μητρικό ένστικτο». Στην πρόσφατη ομιλία του στο συνέδριο Ai4 στο Λας Βέγκας, δήλωσε χαρακτηριστικά: «Δεν έχει νόημα να προσπαθούμε να ελέγξουμε κάτι που σύντομα θα είναι εξυπνότερο από εμάς. Η μόνη μας ελπίδα είναι να το κάνουμε να νοιάζεται για εμάς». Πρόκειται για μια φράση που αποτυπώνει την αλλαγή της οπτικής του. Ο επιστήμονας που κάποτε πίστευε ότι η τεχνητή νοημοσύνη θα εξελισσόταν αργά, σήμερα αναγνωρίζει ότι η ταχύτητα της προόδου έχει ξεπεράσει κάθε προηγούμενη πρόβλεψη. Η πρότασή του δεν υπονοεί ότι η τεχνητή νοημοσύνη θα αποκτήσει πραγματικά συναισθήματα. Σημαίνει ότι οι στόχοι της πρέπει να σχεδιαστούν έτσι, ώστε να συνδέονται άρρηκτα με τη διατήρηση της ανθρώπινης ζωής και την ευημερία της κοινωνίας. Αυτό είναι το επίκεντρο του λεγόμενου alignment problem, του πιο δύσκολου ίσως ζητήματος στην ιστορία της επιστήμης. Το alignment problem δεν αφορά το πώς θα περιορίσουμε τη νοημοσύνη μιας μηχανής, αλλά το πώς θα διασφαλίσουμε ότι, ακόμη κι όταν θα ξεπεράσει τη δική μας, θα συνεχίσει να λειτουργεί με γνώμονα το συμφέρον μας. Σε συνέντευξή του στο CBS News, ο Χίντον είπε ωμά πως «αν φτιάξεις κάτι που καταλαβαίνει τον κόσμο καλύτερα από εσένα, έχεις μόνο μία ευκαιρία να το κάνεις σωστά». Η φράση είναι απογυμνωμένη από κάθε δραματική υπερβολή, αλλά το βάρος της είναι τεράστιο. Η ιδέα ότι μια λάθος απόφαση, ένα κακός σχεδιασμός ή ένας λανθασμένος στόχος μπορεί να δημιουργήσει μια νοημοσύνη, που δεν θα μπορούμε να ελέγξουμε, διαπερνά το κείμενο κάθε του ομιλίας. Στο βάθος αυτής της πρότασης υπάρχει μια υπόγεια αγωνία. Αν καταφέρουμε να εμφυσήσουμε στη μηχανή μια μορφή ενδιαφέροντος για την ανθρώπινη ύπαρξη, υπάρχει ελπίδα να συμπορευτούμε μαζί της. Αν αποτύχουμε, το μέλλον μπορεί να πάρει τροπή που δεν θα έχουμε την ικανότητα να αναστρέψουμε. Το μητρικό ένστικτο, όπως το οραματίζεται ο Χίντον, δεν είναι τεχνική λεπτομέρεια. Είναι η πιο ανθρώπινη αξία που επιχειρεί να εμφυσήσει σε μια μηχανή, αυτή της επιθυμίας να προστατεύει αντί να υποτάσσει.
Η ανάγκη για παγκόσμια συμμαχία
Ο Τζέφρι Χίντον γνωρίζει ότι η αγορά κινείται πιο γρήγορα από κάθε κρατική ρύθμιση. Οι εταιρείες που αναπτύσσουν τεχνολογίες τεχνητής νοημοσύνης ανταγωνίζονται σκληρά, με στόχο να κυκλοφορήσουν πρώτες τις πιο εξελιγμένες εφαρμογές. Η πίεση για ταχύτερα προϊόντα είναι τεράστια και οι επιπτώσεις από την έλλειψη κανόνων γίνονται κάθε μέρα πιο εμφανείς. Η πρόοδος συμβαίνει ταχύτερα απ’ όσο μπορεί να τη διαχειριστεί η κοινωνία. Σε ομιλία του στο Λας Βέγκας, ο Χίντον προειδοποίησε πως «δεν μπορούμε να βασιζόμαστε στο ότι οι εταιρείες θα κάνουν πάντα το σωστό. Ο ανταγωνισμός τις ωθεί να προχωρούν, ακόμα κι όταν δεν ξέρουμε τι έρχεται μετά». Η φράση αποτυπώνει το δίλημμα με σαφήνεια. Η τεχνολογία προχωρά ταχύτερα από την ικανότητα των θεσμών να θέσουν κανόνες και όρια. Για τον Χίντον, η λύση βρίσκεται σε δύο επίπεδα. Το πρώτο είναι οι ισχυρότεροι κρατικοί κανονισμοί. Το δεύτερο, και ίσως σημαντικότερο, είναι η διεθνής συνεργασία. Η τεχνητή νοημοσύνη δεν γνωρίζει σύνορα, ούτε περιορίζεται από γεωγραφίες. Εργαστήρια στην Καλιφόρνια, το Πεκίνο, το Λονδίνο ή τη Σεούλ εργάζονται ταυτόχρονα πάνω σε τεχνολογίες που μπορούν να επηρεάσουν ολόκληρο τον πλανήτη. Γι’ αυτό, όπως είπε σε πρόσφατη συνέντευξη, «χρειαζόμαστε ένα πλαίσιο στο οποίο όλες οι μεγάλες δυνάμεις να συμφωνήσουν ότι η ασφάλεια έρχεται πριν από το κέρδος». Η ανάγκη για κοινά πρωτόκολλα είναι επείγουσα. Στις επιστολές που έχει συνυπογράψει μαζί με εκατοντάδες ερευνητές του χώρου, ζητά η αποφυγή μιας ανεξέλεγκτης υπερευφυΐας να αντιμετωπίζεται ως παγκόσμια προτεραιότητα. Στο ίδιο επίπεδο με τις πανδημίες και τον πυρηνικό κίνδυνο. Ο ίδιος το έχει πει ξεκάθαρα: «Δεν είναι υπερβολή να το συγκρίνουμε με την κλιματική κρίση ή τα πυρηνικά όπλα. Η διαφορά είναι ότι εδώ δεν θα έχουμε δεύτερη ευκαιρία». Η δραματικότητα της θέσης του δεν εκφράζεται με ρητορικές κορώνες, αλλά με ψυχρή διαπίστωση. Το μέλλον της τεχνητής νοημοσύνης δεν μπορεί να αφεθεί στην αγορά. Χωρίς συντονισμό, η ταχύτητα της ανάπτυξης μπορεί να ξεπεράσει κάθε ανθρώπινη δυνατότητα ελέγχου. Γι’ αυτό, η πρόταση του Χίντον δεν είναι τεχνοκρατική. Είναι βαθιά πολιτική, σχεδόν υπαρξιακή και λέει συνεργασία ή αστάθεια, κοινή στρατηγική ή απρόβλεπτο ρίσκο.
Το αύριο που δεν μας περιμένει
Η θεωρία της στοργής είναι ελκυστική, αλλά η τεχνική της εφαρμογή είναι ένα αχαρτογράφητο πεδίο. Κανείς δεν γνωρίζει πώς θα σχεδιαστούν αλγόριθμοι που θα κατανοούν αξίες και θα τις τηρούν, ούτε πώς θα διασφαλιστεί ότι τα συμφέροντα ανθρώπων και μηχανών θα ευθυγραμμίζονται μακροπρόθεσμα. Το alignment problem παραμένει το πιο δύσκολο πρόβλημα της τεχνητής νοημοσύνης και η λύση του δεν είναι μόνο τεχνική αλλά και φιλοσοφική. Οι επιστήμονες καλούνται να απαντήσουν σε ερωτήματα που ξεπερνούν την επιστήμη των δεδομένων. Τι σημαίνει ανθρώπινη αξία; Πώς ορίζεται η ευημερία; Ποιος αποφασίζει τι είναι σωστό ή λάθος όταν οι μηχανές αποκτούν ικανότητες που υπερβαίνουν τις δικές μας; Η επόμενη δεκαετία θα κρίνει το μέλλον και η επόμενη γενιά συστημάτων AI θα καθορίσει σε ποιον βαθμό η ανθρωπότητα θα παραμείνει κυρίαρχος του πεπρωμένου της. Ο Χίντον δεν είναι κινδυνολόγος με καταστροφολογική λαγνεία, αλλά ορίζει την επικινδυνότητα του ίδιου του δημιουργήματος τους, χωρίς ωραιοποιήσεις. Θεωρεί πιθανό ότι η τεχνητή νοημοσύνη μπορεί να γίνει ο μεγαλύτερος σύμμαχος της ανθρωπότητας, αλλά και η μεγαλύτερη απειλή της.
Το μέλλον δεν είναι προδιαγεγραμμένο, αλλά δεν υπάρχουν και χρονικά περιθώρια για αναβολές και χαλαρότητα. Η συνύπαρξη μας με μηχανές που μπορεί να σκέφτονται διαφορετικά, ταχύτερα και πιο αποτελεσματικά από εμάς, έρχεται και δεν είμαστε έτοιμοι να τη ζήσουμε.
ή αποκτήστε ετήσια συνδρομή εδώ.
