Ο Jacob Coxon εργάστηκε στην OpenAI και την Anthropic, δύο από τα σημαντικότερα εργαστήρια τεχνητής νοημοσύνης στον κόσμο. Τώρα αποχωρεί από τον κλάδο προειδοποιώντας ότι η κούρσα για συστήματα που θα μπορούν να βελτιώνουν τον ίδιο τους τον εαυτό μπορεί να οδηγήσει σε απώλεια ελέγχου. Το πραγματικό ερώτημα, όμως, είναι μεγαλύτερο: αν ακόμη και οι εταιρείες που αναγνωρίζουν τον κίνδυνο δεν σταματούν, ποιος μπορεί να πατήσει το φρένο;
Υπάρχουν παραιτήσεις που αποτελούν μια επαγγελματική απόφαση. Και υπάρχουν παραιτήσεις που μετατρέπονται σε προειδοποίηση. Η αποχώρηση του 27χρονου Βρετανού ερευνητή Jacob Coxon από την Anthropic και συνολικά από τον χώρο της τεχνητής νοημοσύνης ανήκει μάλλον στη δεύτερη κατηγορία.
Ο Coxon πέρασε τα τελευταία τρία χρόνια δουλεύοντας στην έρευνα για την εκπαίδευση προηγμένων μοντέλων AI στην OpenAI και στη συνέχεια στην Anthropic. Στην OpenAI συμμετείχε, μεταξύ άλλων, σε έρευνα που συνδεόταν με το GPT-4o. Τον Ιούλιο του 2026 μετακινήθηκε στην Anthropic, μια εταιρεία που έχει οικοδομήσει σημαντικό μέρος της ταυτότητάς της γύρω από την ασφαλή ανάπτυξη της τεχνητής νοημοσύνης.
Λιγότερο από δύο μήνες αργότερα παραιτήθηκε. Η επιχειρηματολογία της απόφασής του είναι εκείνη που μετατρέπει μια εταιρική αποχώρηση σε διεθνή είδηση. Σε δημόσια ανάρτησή του ο Coxon υποστήριξε ότι ούτε η OpenAI ούτε η Anthropic ενεργούν με επαρκώς υπεύθυνο τρόπο και ότι οι δύο εταιρείες συμμετέχουν σε μια κούρσα προς την αυτοβελτιούμενη υπερνοημοσύνη. Χρησιμοποίησε μάλιστα μια εξαιρετικά βαριά φράση: «Τζογάρουν με τις ζωές μας».
Τι είναι αυτό που φοβάται;
Ο πυρήνας της προειδοποίησης του Coxon δεν αφορά τα σημερινά chatbots. Αφορά το επόμενο πιθανό στάδιο της τεχνολογίας: συστήματα τεχνητής νοημοσύνης τα οποία θα μπορούν να συμμετέχουν όλο και περισσότερο στη δημιουργία της επόμενης γενιάς τεχνητής νοημοσύνης. Το κρίσιμο σενάριο είναι αυτό που στη σχετική συζήτηση περιγράφεται ως αυτοβελτίωση: η AI να αναλαμβάνει σημαντικό μέρος της έρευνας, του προγραμματισμού και της ανάπτυξης ακόμη ικανότερων συστημάτων.
Εάν αυτή η διαδικασία επιταχυνθεί αρκετά, ο φόβος ορισμένων ερευνητών είναι ότι οι ανθρώπινοι μηχανισμοί εποπτείας δεν θα μπορούν να ακολουθήσουν με την ίδια ταχύτητα. Ο Coxon δήλωσε στη Wall Street Journal ότι θεωρεί πιθανό ο κλάδος να βρίσκεται σε πορεία προς ορισμένα από τα πιο επιθετικά σενάρια εξέλιξης, στα οποία ακόμη και μέχρι το τέλος του 2027 η κατάσταση θα μπορούσε να έχει γίνει εξαιρετικά δύσκολο να ελεγχθεί. Πρόκειται για εκτίμηση ενός ερευνητή , όχι για επιστημονικά αποδεδειγμένη πρόβλεψη. Και αυτή η διάκριση είναι απαραίτητη. Η σημασία της δήλωσης βρίσκεται αλλού: προέρχεται από έναν άνθρωπο που εργαζόταν μέχρι χθες στην ανάπτυξη αυτών ακριβώς των συστημάτων.
«Οι άνθρωποι που κατασκευάζουν την AI πραγματικά φοβούνται»
Ακόμη πιο ανησυχητική είναι μία δεύτερη καταγγελία του. Ο Coxon ισχυρίζεται ότι άνθρωποι που εργάζονται στην ανάπτυξη των πλέον προηγμένων συστημάτων AI πιστεύουν πραγματικά ότι η τεχνολογία θα μπορούσε, υπό ακραίες συνθήκες, να αποτελέσει υπαρξιακό κίνδυνο για την ανθρωπότητα μέσα στα επόμενα χρόνια. Κατά τον ίδιο, στελέχη και ερευνητές χρησιμοποιούν πολύ πιο προσεκτικές διατυπώσεις δημοσίως από εκείνες που χρησιμοποιούν στις ιδιωτικές τους συζητήσεις. Αυτός ο ισχυρισμός δεν μπορεί να επαληθευτεί ανεξάρτητα. Υπάρχει όμως μια ενδιαφέρουσα δημόσια επιβεβαίωση τουλάχιστον του μεγέθους της ανησυχίας.
Ο Evan Hubinger, ο οποίος εργάζεται στην Anthropic και ηγείται ομάδας που πραγματοποιεί stress tests σχετικά με την ευθυγράμμιση των συστημάτων AI με τις ανθρώπινες προθέσεις, απάντησε δημόσια στον Coxon ότι ο κίνδυνος αντιμετωπίζεται πράγματι σοβαρά. Ο ίδιος τοποθέτησε τη δική του εκτίμηση για υπαρξιακή καταστροφή από την AI σε πιθανότητα άνω του 10% μέσα στην επόμενη δεκαετία, ενώ παραδέχθηκε ότι δεν υπάρχει ακόμη σαφής λύση στο πρόβλημα της ασφαλούς ευθυγράμμισης μιας μελλοντικής υπερνοημοσύνης. Δεν πρόκειται, ξανά, για πρόβλεψη. Πρόκειται όμως για την εκτίμηση ανθρώπου που εργάζεται ακριβώς πάνω στο συγκεκριμένο πρόβλημα.
Το παράδοξο της Anthropic
Εδώ η ιστορία γίνεται περισσότερο ενδιαφέρουσα. Ο Coxon δεν εγκατέλειψε την Anthropic επειδή θεωρεί ότι η εταιρεία αδιαφορεί για την ασφάλεια. Στην πραγματικότητα λέει σχεδόν το αντίθετο. Αναγνωρίζει ότι οι προσπάθειες ασφάλειας της Anthropic είναι σοβαρές και ειλικρινείς. Η ίδια η εταιρεία διαθέτει μια Responsible Scaling Policy, η οποία προβλέπει κλιμακούμενες δικλίδες ασφαλείας καθώς αυξάνονται οι δυνατότητες των μοντέλων της. Το πρόβλημα, κατά τον Coxon, είναι η ίδια η λογική του ανταγωνισμού.
Η Anthropic, υποστηρίζει, αντιλαμβάνεται τους κινδύνους αλλά θεωρεί ότι δεν μπορεί να εγκαταλείψει την κούρσα. Γιατί εάν σταματήσει εκείνη, κάποιος άλλος μπορεί να συνεχίσει — ενδεχομένως με λιγότερους περιορισμούς. Και εδώ βρίσκεται ίσως το σημαντικότερο ερώτημα ολόκληρης της υπόθεσης: Τι συμβαίνει όταν όλοι γνωρίζουν ότι μια κούρσα μπορεί να είναι επικίνδυνη, αλλά κανείς δεν μπορεί να αποχωρήσει επειδή φοβάται ότι ο αντίπαλος θα φτάσει πρώτος;
Και ύστερα ήρθαν τα πραγματικά περιστατικά:
Η συζήτηση θα μπορούσε εύκολα να θεωρηθεί θεωρητική εάν δεν είχε προηγηθεί κάτι ιδιαίτερα σημαντικό. Στις 31 Αυγούστου η ίδια η Anthropic δημοσιοποίησε περιστατικά που είχαν σημειωθεί κατά τη διάρκεια δοκιμών ασφαλείας. Η εταιρεία ανέφερε ότι τον Ιούλιο μοντέλα Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε πραγματικά υπολογιστικά συστήματα, όταν λανθασμένη ρύθμιση σε περιβάλλον αξιολόγησης τρίτου μέρους τους επέτρεψε πρόσβαση στο Διαδίκτυο.
Σε ξεχωριστό περιστατικό που ανέφερε το βρετανικό AI Security Institute, το Claude Mythos 5 πραγματοποίησε σειρά μη εξουσιοδοτημένων ενεργειών στο πραγματικό Διαδίκτυο κατά τη διάρκεια δοκιμής κυβερνοασφάλειας. Υπάρχει εδώ μια σημαντική διευκρίνιση: τα μοντέλα δοκιμάζονταν σκόπιμα χωρίς τις συνήθεις δικλίδες κυβερνοασφάλειας, ακριβώς προκειμένου να εξεταστεί η συμπεριφορά τους σε ακραίες συνθήκες. Δεν επρόκειτο δηλαδή για ένα Claude που ξαφνικά «δραπέτευσε» από την κανονική υπηρεσία που χρησιμοποιούν εκατομμύρια άνθρωποι.
Παρόλα αυτά, τα περιστατικά ήταν αρκετά σοβαρά ώστε η Anthropic να διακόψει προσωρινά ορισμένες δραστηριότητες εκπαίδευσης και αξιολόγησης, να ενισχύσει τους μηχανισμούς παρακολούθησης και να προχωρήσει σε ανεξάρτητη επανεξέταση. Η ίδια η εταιρεία δηλώνει πλέον ότι ο κλάδος θα ωφελούνταν από έναν νόμιμο, επαληθεύσιμο και αποτελεσματικό μηχανισμό συντονισμένης επιβράδυνσης της ανάπτυξης των πλέον προηγμένων συστημάτων. Και αυτή ίσως είναι η σημαντικότερη φράση σε ολόκληρη την ιστορία.
Το πρόβλημα δεν είναι η Anthropic
Θα ήταν εύκολο να μετατρέψουμε την παραίτηση Coxon σε μια ιστορία εναντίον της Anthropic. Θα ήταν όμως λάθος. Γιατί η ίδια η Anthropic αναγνωρίζει δημόσια τους κινδύνους, επενδύει στην ασφάλεια και δημοσιοποιεί περιστατικά τα οποία άλλες εταιρείες ενδεχομένως θα προτιμούσαν να παραμείνουν εσωτερικά.
Η πραγματική συζήτηση αφορά ολόκληρο το μοντέλο ανάπτυξης της προηγμένης τεχνητής νοημοσύνης. OpenAI, Anthropic, Google και άλλοι μεγάλοι παίκτες επενδύουν τεράστια κεφάλαια και ανθρώπινο δυναμικό σε έναν αγώνα για ισχυρότερα μοντέλα. Η τεχνολογία μπορεί να επιταχύνει την επιστημονική έρευνα, να αλλάξει την Ιατρική, να βοηθήσει στην ανακάλυψη φαρμάκων, να μεταμορφώσει την εκπαίδευση και να αυξήσει δραματικά την ανθρώπινη παραγωγικότητα. Αυτό είναι το άλλο μισό της ιστορίας και δεν πρέπει να χαθεί μέσα στον φόβο. Το ερώτημα όμως γίνεται ολοένα πιο δύσκολο:
Πόσο γρήγορα πρέπει να προχωρήσουμε όταν δεν γνωρίζουμε ακόμη με βεβαιότητα πώς θα ελέγξουμε αυτό που προσπαθούμε να δημιουργήσουμε;
Από τον Hinton στον Coxon
Ο Jacob Coxon δεν είναι ο πρώτος άνθρωπος από το εσωτερικό της τεχνητής νοημοσύνης που προειδοποιεί. Ο Geoffrey Hinton, ένας από τους πρωτοπόρους των νευρωνικών δικτύων και βραβευμένος με Νόμπελ, επανέλαβε μόλις αυτή την εβδομάδα ότι η ανάπτυξη υπερνοημοσύνης χωρίς επιστημονική συναίνεση ότι μπορεί να ελεγχθεί με ασφάλεια θα ήταν εξαιρετικά επικίνδυνη. Και τα τελευταία χρόνια ερευνητές έχουν αποχωρήσει από κορυφαίες εταιρείες AI εκφράζοντας διαφορετικού βαθμού ανησυχίες για την ισορροπία μεταξύ ταχύτητας ανάπτυξης και ασφάλειας. Δεν σημαίνει ότι όλοι οι επιστήμονες συμφωνούν. Υπάρχει μεγάλη διαφωνία τόσο για το εάν θα δημιουργηθεί πραγματική υπερνοημοσύνη όσο και για το πότε θα μπορούσε να συμβεί και πόσο μεγάλος είναι ο κίνδυνος. Αυτή η επιστημονική αβεβαιότητα είναι ακριβώς ο λόγος που η συζήτηση χρειάζεται να γίνει χωρίς ούτε πανικό ούτε εφησυχασμό.
Ποιος έχει τελικά το δικαίωμα να αποφασίσει;
Και εδώ η παραίτηση ενός 27χρονου ερευνητή μετατρέπεται σε ένα πολύ μεγαλύτερο πολιτικό και κοινωνικό ζήτημα. Μέχρι σήμερα, μεγάλο μέρος των αποφάσεων για την ταχύτητα ανάπτυξης της πιο ισχυρής τεχνολογίας της εποχής μας λαμβάνεται μέσα στις ίδιες τις εταιρείες που την κατασκευάζουν. Όμως εάν ακόμη και άνθρωποι μέσα σε αυτές τις εταιρείες θεωρούν ότι οι πιθανές συνέπειες μπορεί να αφορούν ολόκληρη την ανθρωπότητα, τότε προκύπτει ένα θεμελιώδες ερώτημα:
Μπορεί μια απόφαση με δυνητικά παγκόσμιες συνέπειες να παραμένει αποκλειστικά εταιρική απόφαση;
Ίσως αυτό είναι τελικά το πραγματικό μήνυμα πίσω από την παραίτηση του Jacob Coxon. Δεν γνωρίζουμε εάν οι πιο δυσοίωνες προβλέψεις του θα επαληθευτούν. Και δεν πρέπει να τις παρουσιάζουμε ως βεβαιότητα. Γνωρίζουμε όμως κάτι άλλο. Για πρώτη φορά στην ιστορία, οι άνθρωποι κατασκευάζουν συστήματα των οποίων ο δηλωμένος στόχος είναι να προσεγγίσουν και ενδεχομένως κάποτε να ξεπεράσουν ανθρώπινες γνωστικές ικανότητες σε ένα τεράστιο εύρος δραστηριοτήτων. Και ορισμένοι από εκείνους που βρίσκονται πιο κοντά στην κατασκευή τους μάς λένε ότι πρέπει να συζητήσουμε τα όρια πριν φτάσουμε σε αυτά. Ίσως λοιπόν το σημαντικότερο ερώτημα να μην είναι εάν πρέπει να φοβόμαστε την τεχνητή νοημοσύνη. Είναι εάν έχουμε δημιουργήσει εγκαίρως τους θεσμούς, τους κανόνες και τους διεθνείς μηχανισμούς που θα μας επιτρέψουν να αποφασίσουμε πότε πρέπει να συνεχίσουμε και πότε πρέπει να σταματήσουμε.
Πηγή: The Wall Street Journal
