Μια παραίτηση από μια από τις ισχυρότερες εταιρείες τεχνητής νοημοσύνης εξελίσσεται σε προειδοποιητικό καμπανάκι για ολόκληρη τη βιομηχανία.
Ο 27χρονος ερευνητής Τζέικομπ Κόξον, ο οποίος έχει εργαστεί τόσο στην OpenAI όσο και στην Anthropic, ανακοίνωσε ότι εγκαταλείπει τον κλάδο, υποστηρίζοντας ότι δεν θέλει να συμμετέχει στην ολοένα ταχύτερη κούρσα για τη δημιουργία συστημάτων που θα μπορούν να βελτιώνουν μόνα τους τις ικανότητές τους.
Η ανησυχία του δεν αφορά απλώς το πόσο «έξυπνα» θα γίνουν τα επόμενα μοντέλα. Αφορά το ενδεχόμενο η ανάπτυξη της AI να φτάσει σε ένα σημείο όπου οι άνθρωποι θα δυσκολεύονται να κατανοήσουν, να προβλέψουν ή να περιορίσουν τη συμπεριφορά τους.
Από την OpenAI στην Anthropic – και τελικά στην έξοδο
Ο Κόξον είχε προηγουμένως εργαστεί στην OpenAI και στη συνέχεια μετακινήθηκε στην Anthropic, μια εταιρεία που έχει τοποθετήσει την ασφάλεια των προηγμένων μοντέλων στον πυρήνα της φιλοσοφίας της.
Η Anthropic δεν κρύβει ότι θεωρεί τους κινδύνους από τα ολοένα ισχυρότερα μοντέλα πραγματικό ζήτημα. Το δικό της Responsible Scaling Policy προβλέπει διαφορετικά επίπεδα ασφαλείας ανάλογα με τις δυνατότητες των μοντέλων και περιλαμβάνει ειδικές προβλέψεις για την περίπτωση που η AI αποκτήσει ικανότητες αυτόνομης έρευνας και ανάπτυξης τεχνητής νοημοσύνης.
Στον πιο πρόσφατο οδικό χάρτη της, η εταιρεία αναφέρει ότι προετοιμάζεται για ταχεία αύξηση των δυνατοτήτων της AI και δίνει ιδιαίτερη έμφαση σε τέσσερις περιοχές: ασφάλεια, δικλίδες προστασίας, ευθυγράμμιση της συμπεριφοράς των μοντέλων και πολιτική/ρύθμιση.
Κι όμως, αυτό ακριβώς είναι που κάνει την απόφαση του Κόξον ακόμη πιο αξιοσημείωτη: υποστηρίζει ότι ακόμη και μια εταιρεία με έντονη κουλτούρα ασφάλειας δεν μπορεί, μόνη της, να λύσει το πρόβλημα.
Ο πραγματικός φόβος: η AI που βελτιώνει τον εαυτό της
Το κρίσιμο σημείο στην προειδοποίησή του είναι η αυτοβελτίωση.
Σήμερα, τα μοντέλα AI εξαρτώνται σε μεγάλο βαθμό από ανθρώπους για την εκπαίδευση, την αξιολόγηση, την ανάπτυξη και την αναβάθμισή τους. Το σενάριο που φοβίζει τον Κόξον είναι διαφορετικό: συστήματα που θα μπορούν να συμβάλλουν ολοένα περισσότερο στη δική τους βελτίωση, επιταχύνοντας έτσι την πρόοδο πέρα από τον ρυθμό με τον οποίο οι άνθρωποι μπορούν να ελέγχουν τους κινδύνους.
Ο ίδιος υποστηρίζει ότι στον κλάδο χρησιμοποιούνται πλέον όροι όπως «ώρα μηδέν» και «τελικό στάδιο» για να περιγράψουν την πορεία προς τέτοιες δυνατότητες. Προειδοποιεί μάλιστα ότι η κατάσταση θα μπορούσε να γίνει ιδιαίτερα δύσκολη μέσα στα επόμενα χρόνια.
Πρόκειται για εκτίμηση του ίδιου και όχι για επιστημονική πρόβλεψη ότι αυτό θα συμβεί σε συγκεκριμένη ημερομηνία.
Το πρόβλημα, σύμφωνα με τον Κόξον, είναι ο ανταγωνισμός
Η πιο ενδιαφέρουσα πλευρά της παρέμβασής του δεν είναι μόνο ο φόβος για την τεχνολογία. Είναι ο φόβος για τα κίνητρα των εταιρειών.
OpenAI, Anthropic και άλλες εταιρείες ανταγωνίζονται για την κυριαρχία στην επόμενη γενιά AI, ενώ παράλληλα υπάρχει έντονος διεθνής ανταγωνισμός, ιδιαίτερα από την Κίνα.
Κατά την άποψη του Κόξον, όταν οι εταιρείες βρίσκονται σε μια τέτοια κούρσα, αυξάνεται ο κίνδυνος να γίνουν υποχωρήσεις σε ζητήματα ασφάλειας προκειμένου κανείς να μη μείνει πίσω.
Αυτό είναι και το σημείο στο οποίο η συζήτηση παύει να αφορά αποκλειστικά τους μηχανικούς και μετατρέπεται σε πολιτικό και κοινωνικό ζήτημα: ποιος αποφασίζει πόσο γρήγορα μπορεί να αναπτύσσεται μια τεχνολογία όταν οι συνέπειες ενός λάθους μπορεί να είναι εξαιρετικά μεγάλες;
Η Anthropic ήδη προετοιμάζεται για αυτό το σενάριο
Η εικόνα που προκύπτει από τα ίδια τα έγγραφα της Anthropic είναι πιο σύνθετη από την εντύπωση ότι η εταιρεία αγνοεί τους κινδύνους.
Η εταιρεία έχει δημοσιεύσει Risk Reports, έχει θεσπίσει Responsible Scaling Policy και διατηρεί Frontier Safety Roadmap. Μεταξύ των στόχων της περιλαμβάνονται ακόμη και τεχνικές για την επαλήθευση ότι τα αποτελέσματα ενός μοντέλου προέρχονται από συγκεκριμένο σύνολο παραμέτρων, καθώς και αυστηρότερα μέτρα ασφαλείας για υποδομές και μοντέλα.
Παράλληλα, η Anthropic δηλώνει ότι όταν οι δυνατότητες των μοντέλων αυξάνονται, πρέπει να αυξάνονται αντίστοιχα και τα μέτρα προστασίας. Η εταιρεία έχει μάλιστα χαρακτηρίσει την ανάγκη για εξωτερική εποπτεία και ισχυρότερη κυβερνητική ρύθμιση ως μέρος της συζήτησης για τα πιο προηγμένα συστήματα.
Άρα η διαφωνία δεν είναι απλώς «η Anthropic πιστεύει στην ασφάλεια και ο Κόξον όχι». Είναι βαθύτερη: ο Κόξον θεωρεί ότι καμία μεμονωμένη εταιρεία δεν μπορεί να εγγυηθεί υπεύθυνη ανάπτυξη εάν ολόκληρος ο κλάδος συνεχίζει να επιταχύνει ταυτόχρονα.
Και όλα αυτά λίγο πριν από ένα ιστορικό IPO
Η χρονική συγκυρία προσθέτει ακόμη μία διάσταση.
Η Anthropic βρίσκεται σε προετοιμασία για μία από τις μεγαλύτερες δημόσιες εγγραφές που έχουν συζητηθεί στην τεχνολογία, με το Reuters να μεταδίδει ότι η εταιρεία κινείται προς IPO μέσα στο φθινόπωρο και πιθανή αποτίμηση περίπου 2 τρισ. δολαρίων.
Η Wall Street Journal αναφέρει ότι η εταιρεία θα μπορούσε να αντλήσει έως και 100 δισ. δολάρια, γεγονός που θα έκανε την εισαγωγή της στο χρηματιστήριο ορόσημο για ολόκληρη τη βιομηχανία AI.
Έτσι, η αποχώρηση ενός ερευνητή που επικαλείται ακριβώς τους κινδύνους της κούρσας για ολοένα ισχυρότερα μοντέλα αποκτά ιδιαίτερο συμβολισμό.
Το μεγάλο ερώτημα δεν είναι αν η AI θα γίνει «έξυπνη»
Η ουσία της παρέμβασης Κόξον βρίσκεται τελικά αλλού.
Δεν υπάρχει σήμερα αποδεδειγμένο γεγονός ότι μια τεχνητή νοημοσύνη έχει αποκτήσει ανεξέλεγκτη αυτονομία ή ότι επίκειται κάποια καταστροφική εξέλιξη. Υπάρχει όμως μια πραγματική και ολοένα εντονότερη διαμάχη μεταξύ ερευνητών, εταιρειών και κυβερνήσεων για το πόσο γρήγορα πρέπει να προχωρήσει η ανάπτυξη των frontier AI μοντέλων και ποια δικλίδα ασφαλείας πρέπει να υπάρχει πριν από κάθε νέο άλμα.
Και αυτό είναι ίσως το πιο ανησυχητικό στοιχείο της ιστορίας: ένας άνθρωπος που εργάστηκε μέσα σε δύο από τα σημαντικότερα εργαστήρια AI δεν λέει ότι φοβάται απλώς την τεχνολογία.
Λέει ότι φοβάται την κούρσα.
Και σε μια κούρσα όπου ο στόχος είναι η δημιουργία ολοένα ισχυρότερων συστημάτων, το ερώτημα που πλέον τίθεται διεθνώς είναι αν η ταχύτητα της ανάπτυξης μπορεί να παραμείνει μεγαλύτερη από την ταχύτητα με την οποία οι άνθρωποι καταφέρνουν να κατανοήσουν και να ελέγξουν τους κινδύνους.