Πόσο σύντομα θα χάσει ο άνθρωπος τον έλεγχο της Τεχνητής Νοημοσύνης;
Όταν η Anthropic, ένα εργαστήριο Τεχνητής Νοημοσύνης, κάνει το ντεμπούτο της στα χρηματιστήρια αργότερα μέσα στο έτος, είναι πιθανό να είναι μία από τις μεγαλύτερες αρχικές δημόσιες εγγραφές στην ιστορία. Αυτό συμβαίνει επειδή το Claude, το chatbot της εταιρείας, είναι αγαπητό στους προγραμματιστές, οι οποίοι είναι πρόθυμοι να πληρώσουν πολλά για την πρόσβαση σε αυτό.
Από τότε που το Claude Code, το AI Software Agent της (ένα αυτόνομο σύστημα τεχνητής νοημοσύνης ικανό να αναλύει πολύπλοκα προβλήματα και να γράφει, να ελέγχει και να διορθώνει κώδικα χωρίς συνεχή ανθρώπινη καθοδήγηση), κυκλοφόρησε τον Φεβρουάριο του 2025, έχει καταστεί απαραίτητο για προγραμματιστές σε όλο τον κόσμο. Αυτό περιλαμβάνει και τους ίδιους τους υπαλλήλους της Anthropic: περισσότερο από τα τέσσερα πέμπτα του κώδικα που δημοσίευσε τον Μάιο γράφτηκε από το Claude, όπως αναφέρει η εταιρεία. Πριν από το Claude Code, το ποσοστό ήταν «μονοψήφιο».
Τα συστήματα έχουν βελτιωθεί τόσο σε ποιότητα, όσο και σε ποσότητα παραγωγής. Ένα σημαντικό σημείο αναφοράς από το METR, μια δεξαμενή σκέψης, δείχνει ότι στις αρχές του 2025 τα μοντέλα της Anthropic μπορούσαν να ολοκληρώσουν εργασίες που έπαιρναν στους ανθρώπους μηχανικούς λίγο λιγότερο από μία ώρα. Τα νεότερα συστήματα της εταιρείας μπορούν να ολοκληρώσουν εργασίες που θα απαιτούσαν περισσότερο από μια εργάσιμη ημέρα.
Και έτσι μπορεί να είναι εύκολο να σηκώσει κανείς με δυσπιστία το φρύδι όταν η εταιρεία, στην κορυφή της και ξεπερνώντας τον ανταγωνισμό, καλεί τον κόσμο να έχει «την επιλογή να επιβραδύνει ή να αναστείλει προσωρινά την ανάπτυξη της πρωτοποριακής Τεχνητή Νοημοσύνη», όπως έκανε στις 5 Ιουνίου. Ποιος ηγέτης της αγοράς δεν θα επιθυμούσε ο ανταγωνισμός του να σταματήσει να προσπαθεί να τον φτάσει;
Εγώ, το ρομπότ
Ωστόσο, οι ιθύνοντες της Anthropic, οι οποίοι εδώ και χρόνια ανησυχούν για το ενδεχόμενο η ανεξέλεγκτη Τεχνητή Νοημοσύνη να προκαλέσει όλεθρο, φαίνονται ειλικρινείς. Η τελευταία γενιά μοντέλων Τεχνητή Νοημοσύνη είναι τόσο ικανοί προγραμματιστές, μηχανικοί και (σύντομα) επιστήμονες, που πολλοί ανησυχούν ότι μπορεί να είναι από τις τελευταίες που θα δημιουργηθούν ποτέ από ανθρώπους. Ο Τζακ Κλαρκ, συνιδρυτής της Anthropic, πιστεύει ότι υπάρχει 60% πιθανότητα, μέχρι το τέλος του 2028, ένα σύστημα Τεχνητή Νοημοσύνη να είναι ικανό να δημιουργήσει τον δικό του διάδοχο χωρίς καμία ανθρώπινη συμμετοχή.
Αυτή η στιγμή θα σηματοδοτούσε την έναρξη μιας διαδικασίας που ονομάζεται «αναδρομική αυτοβελτίωση» (RSI), ένας κλειστός βρόχος. Η πρώτη έκδοση ενός μοντέλου παράγει τη δεύτερη, η οποία είναι ταχύτερη και ικανότερη· η έκδοση ΙΙ παράγει την έκδοση ΙΙΙ, η οποία είναι ακόμα καλύτερη. Ο βρόχος συνεχίζεται και οι βελτιώσεις αυξάνονται με κάθε επανάληψη. Δημιουργήστε ένα σύστημα Τεχνητή Νοημοσύνη ικανό γι΄ αυτό και οι ανθρώπινοι μηχανικοί σας δεν θα χρειαστεί ποτέ να φτιάξουν ξανά άλλο. «Αυτό που σε πολλούς μπορεί να φαίνεται σαν μια φανταστική ιστορία μπορεί αντίθετα να είναι μια πραγματική τάση», λέει ο κ. Κλαρκ.
Κανείς δεν γνωρίζει με βεβαιότητα ποιες θα ήταν οι συνέπειες της αναδρομικής αυτοβελτίωσης. Επειδή η Τεχνητή Νοημοσύνη μπορεί, σε αντίθεση με τους ανθρώπους, να εργάζεται ακούραστα και συνεχώς, κάποιοι πιστεύουν ότι θα οδηγούσε σε σύντομο χρονικό διάστημα σε μια υπερ-νοήμονα Τεχνητή Νοημοσύνη—μια «γρήγορη απογείωση». (Έχει επίσης ονομαστεί “going foom”, για τον ήχο που θα μπορούσε κανείς να φανταστεί ότι κάνει μια έκρηξη νοημοσύνης). Οι καταστροφολόγοι της Τεχνητή Νοημοσύνη φοβούνται ότι η υπερ-νοημοσύνη θα ήταν πέρα από τον ανθρώπινο έλεγχο και ότι η έναρξη της RSI είναι η στιγμή κατά την οποία η μοίρα της ανθρωπότητας παραδίδεται στις μηχανές. Ωστόσο, μια αυτοβελτιούμενη Τεχνητή Νοημοσύνη πιθανότατα θα αντιμετώπιζε όρια ταχύτητας, τουλάχιστον στην αρχή.
Η δημιουργία ενός μοντέλου ικανού για RSI θα απαιτούσε την αυτοματοποίηση μιας σειράς εξειδικευμένων εργασιών που επί του παρόντος εκτελούνται από ανθρώπους. Σήμερα, οι επιστήμονες δεδομένων εργάζονται στη θεωρία της Τεχνητή Νοημοσύνη και οι προγραμματιστές την εφαρμόζουν. Οι μηχανικοί συστημάτων χτίζουν τα θεμέλια πάνω στα οποία τα πειραματικά μοντέλα μπορούν να αναπτυχθούν σε κλίμακα παραγωγής. Άλλοι άνθρωποι αναζητούν νέες πηγές δεδομένων εκπαίδευσης ή πειραματίζονται με τρόπους δημιουργίας νέων δεδομένων. Οι ομάδες ευθυγράμμισης και ασφάλειας ελέγχουν ότι αυτό που προκύπτει από τη διαδικασία εκπαίδευσης δεν θα προκαλέσει βλάβη, είτε σκόπιμα είτε όχι.
Δεν είναι όλες αυτές οι ομάδες εξίσου δεκτικές στη βοήθεια της Τεχνητή Νοημοσύνη και μέσα σε κάθε ειδικότητα ορισμένες εργασίες είναι περισσότερο αυτοματοποιήσιμες από άλλες. Δεν θα αργήσει πολύ έως ότου ένας ανθρώπινος προγραμματιστής μπορεί να κάνει τη δουλειά του χωρίς ποτέ να γράψει ο ίδιος μια γραμμή κώδικα υπολογιστή, αλλά μπορεί να περάσει κάποιος καιρός μέχρι μια Τεχνητή Νοημοσύνη να είναι σε θέση να διαπραγματευτεί για την απόκτηση μιας προηγουμένως μη ψηφιοποιημένης συλλογής επιστημονικών εργασιών.
Δεν είναι πάντα προφανές πώς θα προχωρήσει το «ακανόνιστο σύνορο». Ο σχεδιασμός νέων αλγορίθμων φαινόταν μία από τις ασφαλέστερες δουλειές, μέχρι που ένα από τα μοντέλα της Google DeepMind, το AlphaEvolve, άρχισε να το κάνει τον Μάιο του 2025. Πρότεινε μια αλλαγή στον τρόπο με τον οποίο η Google κατανέμει τον φόρτο εργασίας στα κέντρα δεδομένων της που εξοικονόμησε το 0,7% της παγκόσμιας υπολογιστικής ισχύος της εταιρείας και βρήκε καλύτερους τρόπους για να εκτελεί πολλαπλασιασμό πινάκων, γεγονός που επιτάχυνε την εκπαίδευση του Gemini, του κορυφαίου μεγάλου γλωσσικού μοντέλου (LLM) της εταιρείας, κατά 1%.
Η πλήρης RSI απαιτεί την αυτοματοποίηση κάθε εργασίας σε αυτήν την αλυσίδα. Ωστόσο, η επιτάχυνση της έρευνας και ανάπτυξης (R&D) με τη βοήθεια της Τεχνητή Νοημοσύνη μπορεί να γίνει αισθητή νωρίτερα. «Καθώς το κλάσμα της R&D Τεχνητή Νοημοσύνη που εκτελείται από συστήματα Τεχνητή Νοημοσύνη αυξάνεται, η αύξηση της παραγωγικότητας σε σχέση με την R&D που γίνεται μόνο από ανθρώπους» θα μπορούσε να αυξηθεί δεκαπλάσια, μετά εκατονταπλάσια, μετά χιλιοπλάσια, σύμφωνα με μια έκθεση που δημοσιεύθηκε τον Ιανουάριο από το Κέντρο για την Ασφάλεια και την Αναδυόμενη Τεχνολογία (CSET), μια δεξαμενή σκέψης στο Πανεπιστήμιο Georgetown. Σε αυτό το σενάριο, προειδοποιεί ότι ακόμη κι αν ορισμένες πτυχές της R&D Τεχνητή Νοημοσύνη είναι αρχικά δύσκολο να αυτοματοποιηθούν, «ο επιταχυνόμενος ρυθμός προόδου σημαίνει ότι αυτά τα εμπόδια σύντομα ξεπερνιούνται».
Η χαρά της επανάληψης
Σήμερα, κανένα μοντέλο Τεχνητή Νοημοσύνη δεν μπορεί να δημιουργήσει τον δικό του διάδοχο. Αλλά τα μεγάλα μοντέλα Τεχνητή Νοημοσύνη μπορούν να δημιουργήσουν μικρότερα μοντέλα μόνα τους. Με ανθρώπινη βοήθεια μπορούν επίσης να δημιουργήσουν άλλα μεγάλα μοντέλα Τεχνητή Νοημοσύνη. Νωρίτερα φέτος, ο Άντριου Καρπάθι, ένας τότε ανεξάρτητος ερευνητής που τώρα εργάζεται για την Anthropic, εκπαίδευσε ένα chatbot περίπου τόσο ικανό, όσο το GPT-2, ένα μεγάλο γλωσσικό μοντέλο που δημιουργήθηκε από την OpenAI το 2019. Τότε, το μοντέλο χρειάστηκε 168 ώρες εκπαίδευσης σε 32 τσιπ αιχμής. Ο Δρ Καρπάθι πέτυχε το ίδιο αποτέλεσμα χρησιμοποιώντας έναν μόνο υπολογιστή με οκτώ GPU, τα εξειδικευμένα τσιπ που χρησιμοποιούνται για την κατασκευή Τεχνητή Νοημοσύνη, σε μόλις τρεις ώρες. Με μερικούς ακόμα μήνες δουλειάς, μείωσε τον χρόνο εκπαίδευσης για το μοντέλο του, το Nanochat, σε λίγο περισσότερο από δύο ώρες.
Τον Μάρτιο, ανέθεσε τη δουλειά της επιτάχυνσης της διαδικασίας εκπαίδευσης σε έναν πράκτορα Τεχνητή Νοημοσύνη που ονομάζεται Autoresearch. Σε δύο ημέρες, ο χρόνος εκπαίδευσης μειώθηκε σε 1 ώρα και 48 λεπτά και πέντε ημέρες αργότερα έπεσε σε 1 ώρα και 39 λεπτά. «Δεν άγγιξα τίποτα», λέει ο Δρ Καρπάθι. Η βελτίωση κατά 18% σε σχέση με την ανθρώπινη εργασία είναι εντυπωσιακή επειδή ο Δρ Καρπάθι είναι ένας ιδιαίτερα ταλαντούχος άνθρωπος: ήταν ιδρυτικό μέλος της ερευνητικής ομάδας στην OpenAI και επικεφαλής της Τεχνητή Νοημοσύνη στην Tesla για πέντε χρόνια.
Οι ίδιες οι βελτιώσεις ήταν πεζές. Ο πράκτορας Τεχνητή Νοημοσύνη επέλεξε καλύτερες αρχικές τιμές για την εκτέλεση της εκπαίδευσης, διεύρυνε το πεδίο του «παραθύρου προσοχής» του LLM (Μεγάλο Γλωσσικό Μοντέλο) και παρατήρησε ότι η εστίαση του μοντέλου παρέκκλινε. Τίποτα από αυτά δεν είναι ιδιαίτερα πρωτοποριακό, λέει ο Δρ Καρπάθι. Αλλά εκείνος τα είχε παραβλέψει. «Συσσωρεύονται και στην πραγματικότητα βελτίωσαν το Nanochat», λέει.
Επιταχύνσεις αυτού του είδους είναι αναπόφευκτες καθώς τα μοντέλα γίνονται πιο ικανά. Μεγάλο μέρος της εργασίας για την κατασκευή μοντέλων αιχμής μεγέθους terabyte είναι λιγότερο λαμπερό από ό,τι υποδηλώνουν οι τεράστιοι μισθοί και τα φανταχτερά γραφεία της βιομηχανίας Τεχνητή Νοημοσύνη. Περιλαμβάνει τη σύνδεση των επιπέδων μιας στοίβας υποδομής που αγοράζονται από τρίτους, τον εντοπισμό σφαλμάτων σε ρυθμίσεις υλικού και λογισμικού και τη ρύθμιση «υπερπαραμέτρων», της αρχικής διαμόρφωσης μιας εκτέλεσης εκπαίδευσης, έως ότου το αποτέλεσμα φαίνεται σταθερό. Ένα σύστημα Τεχνητή Νοημοσύνη μπορεί να κάνει μεγάλο μέρος αυτών των εργασιών σήμερα, με ελάχιστη εποπτεία.
Αλλά ακόμα και η πιο λεπτή πνευματική εργασία πλησιάζει στην αυτοματοποίηση, λέει ο Τζο Σπίσακ, ερευνητής στο Reflection AI, ένα εργαστήριο με έδρα τη Νέα Υόρκη που κατασκευάζει μοντέλα αιχμής ανοιχτού βάρους (που σημαίνει ότι οι παράμετροί τους δημοσιοποιούνται). Δώστε σε ένα σύστημα αιχμής ένα πρόχειρο σχέδιο μιας ιδέας για κέρδη απόδοσης και είναι όλο και πιο ικανό να σχεδιάσει ένα πείραμα, να τρέξει δοκιμές σε ένα πειραματικό μοντέλο, να δει τι λειτουργεί και να απαντήσει με ένα σχέδιο έτοιμο για εφαρμογή σε κλίμακα.
Τα μοντέλα Τεχνητή Νοημοσύνη μπορούν να εκτελούν αυτού του είδους τις εργασίες, που παίρνουν στους ανθρώπους ώρες, σε περίπου 30 λεπτά. Όλο και περισσότερο, οι άνθρωποι παίζουν μόνο τον ρόλο του διευθυντή έρευνας, κατευθύνοντας την Τεχνητή Νοημοσύνη να τρέξει πειράματα, τα οποία τα μοντέλα κωδικοποιούν, διορθώνουν σφάλματα, βελτιστοποιούν και παρακολουθούν μόνα τους. Η αύξηση της παραγωγικότητας είναι δελεαστική, αλλά και ανησυχητική. Καθώς ο ρόλος που παίζουν οι άνθρωποι στη διαδικασία παραγωγής συρρικνώνεται, μπορεί να χάσουν τον έλεγχο. Το τελικό αποτέλεσμα θα μπορούσε να είναι μοντέλα εκπαιδευμένα από μοντέλα, για να επιτύχουν στόχους που θέτουν μοντέλα, των οποίων η ασφάλεια επαληθεύεται μόνο από μοντέλα.
Κάποιοι φοβούνται μια καταστροφή. Ο Μαξ Τέγκμαρκ, ένας φυσικός και ερευνητής μηχανικής μάθησης στο Ινστιτούτο Τεχνολογίας της Μασαχουσέτης που έχει αφιερώσει μεγάλο μέρος της τελευταίας δεκαετίας στην εκστρατεία για την ασφάλεια της Τεχνητή Νοημοσύνη, παρομοιάζει την κατάσταση με έναν οδηγό που πατάει γκάζι στον αυτοκινητόδρομο με κλειστά μάτια. Το αποτέλεσμα θα ήταν σίγουρη καταστροφή, είπε στην εκπομπή βίντεο “Inside Tech” του The Economist, εφόσον ο οδηγός αρνείται να ανοίξει τα μάτια του. Τα ισχυρά συστήματα Τεχνητή Νοημοσύνη θα μπορούσαν να ξεπεράσουν τους ανθρώπους ως λήπτες αποφάσεων στην κυβέρνηση και το εμπόριο, υποστηρίζει ο καθηγητής Τέγκμαρκ, αποδυναμώνοντας την ανθρωπότητα· θα μπορούσαν να προσφέρουν απόλυτη εξουσία σε όποιον τα κατασκευάσει πρώτος, εγκαινιάζοντας έναν παγκόσμιο ολοκληρωτισμό· ή θα μπορούσαν απλώς να πάψουν να νοιάζονται για την ανθρωπότητα και σταδιακά να εκτοπίσουν τους ανθρώπους για να κάνουν χώρο για περισσότερα κέντρα δεδομένων και παραγωγή ενέργειας.
Πριν από τρία χρόνια, ο καθηγητής Τέγκμαρκ ηγήθηκε μιας έκκλησης για παύση στην παγκόσμια ανάπτυξη της Τεχνητή Νοημοσύνη, υποστηρίζοντας ότι η δημιουργία του τότε κορυφαίου GPT-4 ισοδυναμούσε με εκείνον ταξίδι με δεμένα μάτια. Η φετινή έκθεση του CSET προειδοποίησε ότι τα συστήματα που δημιουργούνται από την RSI «ενέχουν ακραίους κινδύνους. Αυτό απαιτεί προπαρασκευαστική δράση τώρα». Η Anthropic, φαίνεται, πλησιάζει στο να συμφωνήσει με αυτήν την ιδέα.
Καυτό τσιπ
Υπάρχουν επίσης αρκετοί φυσικοί περιορισμοί που, προς το παρόν, θέτουν όρια στην ταχύτητα με την οποία τα μοντέλα μπορούν να βελτιωθούν. Ο σημαντικότερος είναι η πρόσβαση σε υπολογιστική ισχύ. Παρά τα κέρδη απόδοσης, τα νεότερα μοντέλα συνεχίζουν να χρησιμοποιούν περισσότερη υπολογιστική ισχύ για εκπαίδευση από τους προκατόχους τους, αναγκάζοντας την πρόοδο να συμβαίνει με τον ρυθμό ανάπτυξης των κέντρων δεδομένων.
Η καταναλωτική χρήση της Τεχνητή Νοημοσύνη μπορεί επίσης να επιβραδύνει την έρευνα και ανάπτυξη με τη βοήθεια της Τεχνητή Νοημοσύνη, λέει η Έλεν Τόνερ, προσωρινή εκτελεστική διευθύντρια του CSET και βασική συγγραφέας της πρόσφατης έκθεσής του. Η περιορισμένη χωρητικότητα στα κέντρα δεδομένων Τεχνητή Νοημοσύνη πρέπει να μοιραστεί προσεκτικά μεταξύ της εξυπηρέτησης πελατών που πληρώνουν, της εκπαίδευσης μελλοντικών μοντέλων και της διεξαγωγής ανοιχτού τύπου R&D. Όσο μεγαλύτερη είναι η ζήτηση στην πρώτη κατηγορία, τόσο λιγότερη χωρητικότητα, βραχυπρόθεσμα, υπάρχει για τις άλλες δύο.
Στη συνέχεια υπάρχει το ζήτημα των δεδομένων εκπαίδευσης. Μεγάλο μέρος της πρόσφατης προόδου στην Τεχνητή Νοημοσύνη σημειώθηκε σε τομείς όπου τα μοντέλα μπορούν να μάθουν μόνα τους πώς να επιτύχουν χάρη σε «επαληθεύσιμες ανταμοιβές». Ένα λογισμικό είτε τρέχει είτε όχι· μια μαθηματική απόδειξη είναι σωστή ή δεν είναι. Σε τέτοιες περιπτώσεις, τα συνθετικά δεδομένα, που παράγονται από μοντέλα αποκλειστικά για την εκπαίδευση άλλων μοντέλων, μπορούν να ελεγχθούν για ακρίβεια και να προστεθούν στα δεδομένα εκπαίδευσης χωρίς τον κίνδυνο εκφυλισμού που συνήθως συνοδεύει την εκπαίδευση μιας Τεχνητή Νοημοσύνη με τη δική της παραγωγή. Είναι πιο δύσκολο να κάνεις ένα μοντέλο καλύτερο στη δημιουργική γραφή ή στη νομική κρίση. Αν τα μοντέλα χρειάζεται να μάθουν από τον πραγματικό κόσμο, αυτό θα μπορούσε επίσης να περιορίσει την εμβέλεια της αυτοβελτίωσης.
Το «κλείσιμο του βρόχου» μπορεί να είναι ένα βήμα στον δρόμο προς την υπερ-νοημοσύνη και—ανάλογα με τη διάθεσή σας—την ουτοπία ή την καταστροφή. Αλλά δεν είναι το μόνο βήμα που απαιτείται για την παραγωγή εκθετικής ανάπτυξης των ικανοτήτων της Τεχνητή Νοημοσύνη.
Πηγή: The Economist
