Στην εποχή των μαζικών συνδρομών, μπορεί η τεχνητή νοημοσύνη να τρέχει δωρεάν σε δικό μας υπολογιστή;

Για τη γενιά που μεγάλωσε βλέποντας Iron Man, η ιδέα μιας τεχνητής νοημοσύνης στο σπίτι θυμίζει τον JARVIS, βοηθό του Tony Stark, τον οποίο υποδύθηκε ο Robert Downey Jr. Τα τελευταία χρόνια, οι χρήστες μεγάλων γλωσσικών μοντέλων (LLMs) στέλνουν συνήθως τις ερωτήσεις τους σε απομακρυσμένα κέντρα δεδομένων. Πλέον διαμορφώνεται μια δεύτερη αγορά, στην οποία ο χρήστης εγκαθιστά ένα ήδη εκπαιδευμένο μοντέλο στον υπολογιστή του και λαμβάνει εκεί τις απαντήσεις. Αυτό του δίνει μεγαλύτερο έλεγχο στα δεδομένα και μεταφέρει μέρος της υπολογιστικής εργασίας, μαζί με το κόστος της, στον δικό του εξοπλισμό.

Τα Mac Studio που έγιναν διαθέσιμα στις 22 Σεπτεμβρίου 2026 δίνουν στην τάση μια πιο χειροπιαστή μορφή. Η Apple προβάλλει την τοπική εκτέλεση γλωσσικών μοντέλων ως δυνατότητά τους. Το ερώτημα είναι ποιες εργασίες μπορούν πραγματικά να αναλάβουν αυτά τα μοντέλα και για ποιους έχει νόημα η χρήση τους.

Τι σημαίνει να έχεις τη δική σου AI στον υπολογιστή σου

Ένα μοντέλο έχει εκπαιδευτεί σε υποδομές, συνήθως πολύ μεγαλύτερες από έναν προσωπικό υπολογιστή. Ο χρήστης κατεβάζει το τελικό αποτέλεσμα αυτής της εκπαίδευσης και το τρέχει με εφαρμογές όπως το Ollama ή το LM Studio, που του προσφέρουν γνώριμη οθόνη συνομιλίας. Μπορεί να χρησιμοποιήσει αυτές τις εφαρμογές δωρεάν. Την εγκατάσταση και τη σύνδεση με τα δικά του αρχεία μπορεί να τις κάνει ο ίδιος ή κάποιος τεχνικός. Η εκπαίδευση και η παραγωγή απαντήσεων είναι διαφορετικές εργασίες. Στον υπολογιστή του γίνεται η δεύτερη.

Ένα παράδειγμα είναι το gpt-oss-20b της OpenAI, που κυκλοφόρησε τον Αύγουστο του 2025. Τα αρχεία του μοντέλου διατίθενται χωρίς χρέωση για λήψη και τοπική χρήση. Το «20b» παραπέμπει σε περίπου 20 δισεκατομμύρια παραμέτρους, αριθμητικές τιμές που απέκτησε κατά την εκπαίδευσή του. Με περίπου 16 GB διαθέσιμης μνήμης μπορεί να συνοψίζει κείμενα, να συντάσσει προσχέδια και να βοηθά στη συγγραφή κώδικα. Δεν επεξεργάζεται εγγενώς εικόνες ή ήχο, ενώ η εγκατάστασή του δεν δίνει τις πρόσθετες υπηρεσίες και δυνατότητες του ChatGPT.

Η τοπική χρήση δεν προϋποθέτει αποσύνδεση από το διαδίκτυο. Με κατάλληλο εργαλείο αναζήτησης, ένα τέτοιο μοντέλο μπορεί να εντοπίζει πρόσφατες ιστοσελίδες και να συνθέτει ερευνητικό σημείωμα. Η απάντηση παράγεται στον υπολογιστή, αλλά οι αναζητήσεις περνούν από εξωτερική υπηρεσία. Χωρίς σύνδεση, το μοντέλο δουλεύει με όσα ήδη γνωρίζει και με τα τοπικά αρχεία που του δίνονται. Όπως και στο cloud, οι πηγές και τα συμπεράσματά του χρειάζονται έλεγχο.

Πότε βγάζει νόημα να «τρέχει» το μοντέλο LLM τοπικά

Στο Mac Studio με M5 Ultra, τα 96 GB ενιαίας μνήμης μοιράζονται ανάμεσα στον επεξεργαστή και τα γραφικά. Έτσι χωρούν μοντέλα που δεν φορτώνονται σε πολλούς συνηθισμένους υπολογιστές. Η χωρητικότητα, ωστόσο, δεν εξασφαλίζει ταχύτητα ούτε την ποιότητα των πιο προηγμένων υπηρεσιών cloud. Επιπλέον, η αγορά ενός ισχυρού υπολογιστή σήμερα δεν εγγυάται ότι θα μπορεί να τρέξει όποιο μοντέλο ξεχωρίσει αύριο. Αυτό εξαρτάται από τις απαιτήσεις κάθε νέας έκδοσης σε μνήμη και υπολογιστική ισχύ.

Μια επιχείρηση που δουλεύει καθημερινά με εμπιστευτικές συμβάσεις μπορεί να στήσει τοπικά έναν βοηθό για να εντοπίζει όρους και να ετοιμάζει προσχέδια για ανθρώπινο έλεγχο. Τα έγγραφα μπορούν έτσι να μείνουν στο εσωτερικό δίκτυό της, εφόσον η εγκατάσταση έχει ρυθμιστεί ανάλογα. Παράλληλα, η λύση αυτή απαιτεί δυνατό εξοπλισμό, φθηνό ρεύμα και τεχνική υποστήριξη. Έχει αξία και όταν δεν υπάρχει αξιόπιστη σύνδεση στο διαδίκτυο. Βέβαια για τις περιστασιακές ερωτήσεις ή τις εργασίες που χρειάζονται τα ισχυρότερα μοντέλα και πολλούς ταυτόχρονους χρήστες, το cloud παραμένει συνήθως απλούστερο. Η τελική επιλογή εξαρτάται από τη συχνότητα χρήσης, τα δεδομένα και την απαιτούμενη ποιότητα.

Η μεταφορά της απάντησης στον υπολογιστή του πελάτη αλλάζει και το πού καταλήγουν τα χρήματα. Ο δημιουργός ενός δωρεάν μοντέλου δεν εισπράττει από κάθε ερώτηση που τρέχει τοπικά. Μπορεί όμως να κερδίζει από μία μελλοντική εφάπαξ τιμή, ένα πρόγραμμα υποστήριξης για επιχειρήσεις, ενώ ο κατασκευαστής των υπολογιστών κερδίζει αν πουλήσει ισχυρότερο εξοπλισμό. Το «δωρεάν» κατέβασμα λοιπόν ίσως δεν κρατήσει για πολύ. Αρκούν όμως τα έσοδα αυτά για να συνεχίσει ένα εργαστήριο να προσφέρει μοντέλα χωρίς κάποια συνδρομή;