Μια νέα αγορά γύρω από τον ανεξάρτητο έλεγχο των ισχυρότερων μοντέλων τεχνητής νοημοσύνης επιχειρούν να δημιουργήσουν Anthropic και Accenture. Οι δύο εταιρείες ανακοίνωσαν πενταετή συνεργασία στο πλαίσιο της οποίας καθεμία αναμένει να επενδύσει τουλάχιστον 1 δισ. δολάρια, ανεβάζοντας τη συνολική δέσμευση σε τουλάχιστον 2 δισ. δολάρια. Η συνεργασία θα υλοποιηθεί μέσω της Faculty, της εξειδικευμένης δραστηριότητας AI της Accenture, και θα περιλαμβάνει αξιολόγηση και red-teaming μοντέλων, ελέγχους alignment και δοκιμές των μηχανισμών ασφαλείας της Anthropic. Πρόκειται για ένα από τα μεγαλύτερα μέχρι σήμερα επιχειρηματικά στοιχήματα πάνω στην ίδια την υποδομή ελέγχου της frontier AI.
Η καινοτομία βρίσκεται στο μοντέλο της «embedded evaluation». Οι αξιολογητές δεν θα εξετάζουν απλώς ένα έτοιμο μοντέλο από απόσταση, αλλά θα εργάζονται μέσα στην εταιρεία με πρόσβαση συγκρίσιμη με εκείνη εργαζομένου, ώστε να παρακολουθούν πώς εκπαιδεύονται τα συστήματα, ποιες αποφάσεις λαμβάνονται πριν από την κυκλοφορία τους και πώς εφαρμόζονται οι δεσμεύσεις ασφαλείας. Για την Accenture, η συμφωνία ανοίγει μια νέα κατηγορία υπηρεσιών υψηλής αξίας γύρω από το AI assurance. Για την Anthropic, δημιουργεί έναν μηχανισμό εξωτερικής εποπτείας σε μια περίοδο κατά την οποία οι δυνατότητες των μοντέλων αυξάνονται ταχύτερα από τα κοινά πρότυπα ελέγχου.
Το μεγάλο στοίχημα είναι αν το μοντέλο μπορεί να εξελιχθεί σε νέο βιομηχανικό standard. Η ίδια η Anthropic αναγνωρίζει ότι δεν υπάρχουν ακόμη συμφωνημένα πρότυπα για το τι πρόσβαση πρέπει να έχουν οι αξιολογητές, πώς θα δημοσιοποιούν τα ευρήματά τους ή ποιος θα χρηματοδοτεί μακροπρόθεσμα αυτή τη διαδικασία. Η συνεργασία είναι μη αποκλειστική: η Anthropic σκοπεύει να δουλέψει και με άλλους evaluators, ενώ η Accenture μπορεί να προσφέρει αντίστοιχες υπηρεσίες σε άλλους developers. Αν η αγορά υιοθετήσει το μοντέλο, η ασφάλεια της AI μπορεί να μετατραπεί από εσωτερική τεχνική λειτουργία σε ξεχωριστό επιχειρηματικό κλάδο μεγάλης αξίας.
ή αποκτήστε ετήσια συνδρομή εδώ.
