Πως θα αποφύγουμε μια κακόβουλη ΑΙ: Από τον Μασκ και τον Χοτζ μέχρι τον Χαράρι και τον Λεκάν

Η Ιστορία του ανθρώπινου είδους είναι μια αλληλουχία από σκέψεις που γίνονται πράξεις. Ο άνθρωπος, όταν συλλάβει μια ιδέα, είτε πρόκειται για τροχό, είτε για αεροπλάνο, είτε για μικροεπεξεργαστή, είτε για μηχανή που μαθαίνει, τελικά την υλοποιεί. Έτσι εξελίχθηκε ο πολιτισμός, στα σπουδαιότερα επιτεύγματα και στις αθλιότητες του, με τη φαντασία προηγείται της πραγματικότητας. Σήμερα, αυτό που οραματίζεται -και φοβάται- ο άνθρωπος είναι η δημιουργία μιας τεχνητής νοημοσύνης αυτονομημένης, μιας ΑΙ που μπορεί να σκέφτεται χωρίς εντολή, που ίσως γίνει πιο έξυπνη από τον πιο έξυπνο άνθρωπο, και σε κάποιο βαθμό ακατανόητη. Αλλά τότε τι εγγυάται ότι αυτό το «κάτι» θα παραμείνει υπό τον έλεγχό μας; Αγγίζουμε έτσι έναν από τους πιο θεμελιώδεις και ανησυχητικούς προβληματισμούς της σύγχρονης τεχνολογικής φιλοσοφίας. Η υπερνοήμων AI δεν χρειάζεται να έχει κακή πρόθεση για να προκαλέσει καταστροφή μα, «χρειάζεται απλώς να επιδιώξει έναν στόχο με τέτοια αποτελεσματικότητα που να μη μπορούμε να προβλέψουμε ή