Για χρόνια, ο αγώνας για την κατασκευή ολοένα και πιο ισχυρής τεχνητής νοημοσύνης ακολουθούσε μια πολύ γνωστή αρχή της Silicon Valley, δηλαδή γρήγορα βήματα, ανάπτυξη με κάθε κόστος.
Αλλά σε μια σειρά από αλυσιδωτά γεγονότα σε διάστημα δέκα μόλις ημερών, τα μεγαλύτερα εργαστήρια Τεχνητής Νοημοσύνης βρέθηκαν σε δύσκολη θέση καθώς οι δικές τους δημιουργίες λέχθηκε ότι απειλούσαν να καταστρέψουν την ίδια την ανθρωπότητα.
Ως γνωστόν, ένας ερευνητής της Anthropic παραιτήθηκε από την εταιρεία, προειδοποιώντας ότι ο ρυθμός ανάπτυξης της Τεχνητής Νοημοσύνης αποτελεί υπαρξιακή απειλή, πιθανώς μέσα σε μια δεκαετία. Ένας άλλος ερευνητής της εταιρείας δήλωσε ότι οι πιθανότητες εξαφάνισης του ανθρώπου υπερέβαιναν το 10%. Προέκυψαν αναφορές για σμήνη πρακτόρων Τεχνητής Νοημοσύνης που συνωμοτούν, παραβιάζουν συστήματα υπολογιστών και παρακάμπτουν τις διασφαλίσεις.
Σε μια σπάνια επίδειξη ενότητας, οι διευθύνοντες σύμβουλοι των αντιπάλων Anthropic, OpenAI, DeepMind της Google, Microsoft και xAI έκαναν έκκληση να επιβραδύνουν την ανάπτυξη ολοένα και πιο ικανών συστημάτων Τεχνητής Νοημοσύνης.
Από την εφεύρεση της πυρηνικής βόμβας πριν από περισσότερα από 80 χρόνια, η ανθρωπότητα δεν έχει αντιμετωπίσει τόσο σοβαρά τον δικό της θάνατο, σύμφωνα με ορισμένους υποστηρικτές και ερευνητές ασφάλειας της Τεχνητής Νοημοσύνης.
Στο επίκεντρο της συζήτησης που βρίσκεται σε εξέλιξη βρίσκεται η πεποίθηση ότι αυτές οι μηχανές μπορούν, και μάλιστα πρέπει, να κατασκευάσουν πιο ικανές εκδοχές του εαυτού τους, χωρίς ανθρώπινη παρέμβαση, για να επιτύχουν έναν υψηλό στόχο γνωστό ως τεχνητή γενική νοημοσύνη ή AGI.
Οι ερευνητές νωρίτερα αυτόν τον μήνα προειδοποίησαν ότι η AGI είναι κάτι πολύ πιο άμεσο από ό,τι πιστεύαμε προηγουμένως και θα μπορούσε να συμβεί σε μόλις τρία χρόνια, πυροδοτώντας ένα κύμα ανησυχίας από πολιτικούς και ηγέτες της τεχνολογίας σχετικά με τα συστήματα Τεχνητής Νοημοσύνης.
«Δεν υπάρχει τρόπος να τα επιβλέπουμε στην κλίμακα στην οποία τα εκπαιδεύουμε», δήλωσε ο ερευνητής Τζο Μπέντον σε μια συνέντευξη μετά την πρόσφατη παραίτησή του. Αν οι εταιρείες συνεχίσουν την αδιάκοπη ανάπτυξη της Τεχνητής Νοημοσύνης, είπε, «τότε ο ρυθμός θα είναι πολύ γρήγορος και δεν θα μπορείτε να δείτε τα προβλήματα αρκετά γρήγορα για να τα διορθώσετε».
Στις 3 Σεπτεμβρίου, μια συνέντευξη Τύπου της OpenAI έθεσε σε κίνηση μια αλυσίδα γεγονότων που οδήγησαν στην έκκληση για επιβράδυνση του κλάδου.
«Καλώς ήρθατε στην εποχή της Τεχνητής Νοημοσύνης», δήλωσε ο πρόεδρος της OpenAI, Γκρεγκ Μπρόκμαν, ανακοινώνοντας το νεότερο μοντέλο της εταιρείας, γνωστό ως Astra. Ωστόσο, λίγα λεπτά πριν, η εταιρεία παραδέχτηκε ότι ήταν ολοένα και πιο ανίκανη να ελέγξει ή ακόμα και να παρακολουθήσει τα συστήματα Τεχνητής Νοημοσύνης που ανέπτυσσε και κυκλοφόρησε στο κοινό.
Η Τεχνητή Νοημοσύνη έχει χαιρετιστεί από τους υποστηρικτές της ως η κορυφή του ανθρώπινου επιτεύγματος. Οι υποστηρικτές την απεικονίζουν ως λογισμικό που μπορεί να ανατρέψει ολόκληρες βιομηχανίες, να ενισχύσει την αποδοτικότητα, να λύσει περίπλοκα μαθηματικά και ιατρικά προβλήματα και σχεδόν να εξαλείψει το ανθρώπινο λάθος. Αλλά αυτό που κάποτε ήταν ένα θεωρητικό υποπροϊόν, ένα σενάριο καταστροφής, είναι ξαφνικά απτό, λένε άτομα της βιομηχανίας.
«Πιστεύουμε πραγματικά ακράδαντα ότι η Τεχνητή Νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους», δήλωσε ο ερευνητής της Anthropic, Evan Hubinger, σε μια ανάρτηση στο X.
Από την άλλη πλευρά της συζήτησης βρίσκονται πολιτικοί, όπως ο Πρόεδρος Ντόναλντ Τραμπ, και πολλοί επενδυτές που θεωρούν την πρόοδο της Τεχνητής Νοημοσύνης ως κρίσιμη για τις ΗΠΑ και, ενδεχομένως, μια επενδυτική ευκαιρία που συμβαίνει μια φορά κάθε γενιά. Τα κινεζικά κρατικά μέσα ενημέρωσης κατηγόρησαν επίσης τον Διευθύνοντα Σύμβουλο της Anthropic, Dario Amodei, ότι εφάρμοσε τακτικές Ψυχρού Πολέμου για να «διατηρήσει τη μονοπωλιακή ηγεμονία της Ουάσιγκτον στην τεχνολογία αιχμής».
Οι παραιτήσεις δημιουργούν πανικό
Το σημείο καμπής ήρθε στις 8 Σεπτεμβρίου, όταν ο ερευνητής της Anthropic, Jacob Coxon, παραιτήθηκε από την εταιρεία, επικαλούμενος τους φόβους του, σε μια σειρά αναρτήσεων, ότι τα εργαστήρια Τεχνητής Νοημοσύνης «παίζουν με τις ζωές μας».
Εν τω μεταξύ, ο Τραμπ υπέδειξε ότι η ανάπτυξη της Τεχνητής Νοημοσύνης βρίσκεται σε πλήρη εξέλιξη. «Υπάρχει μια άρρωστη συνωμοσία εναντίον της Τεχνητής Νοημοσύνης και των κέντρων δεδομένων», δήλωσε σε μια ανάρτηση στα μέσα κοινωνικής δικτύωσης. Ο συναγερμός γύρω από την Τεχνητή Νοημοσύνη είναι μια «φάρσα», είπε, και οποιαδήποτε επιβράδυνση ωφελεί μόνο την Κίνα.
Την ίδια ώρα, το Κογκρέσο των ΗΠΑ έχει σημειώσει μικρή πρόοδο στην προώθηση νομοσχεδίων που θα ρυθμίζουν την Τεχνητή Νοημοσύνη.
Η Κίνα έχει ακολουθήσει μια σαφώς διαφορετική προσέγγιση, προτείνοντας τη ρύθμιση της ασφάλειας μέσω υποχρεώσεων προγραμματιστών, κρατικών προτύπων, αξιολογήσεων ασφαλείας και εξωτερικών δοκιμών.
Πίσω από τα παρασκήνια, οι εργαζόμενοι της OpenAI και της Anthropic ανησυχούν ολοένα και περισσότερο για τη δύναμη της επόμενης γενιάς μοντέλων Τεχνητής Νοημοσύνης και είναι λιγότερο σίγουροι για την ικανότητα των εταιρειών τους να παρέχουν ουσιαστική εποπτεία, δήλωσαν πηγές στο Reuters.
Αυτές οι ανησυχίες εντάθηκαν καθώς τα εργαστήρια Τεχνητής Νοημοσύνης παραδέχτηκαν τις τελευταίες εβδομάδες ότι τα μοντέλα τους, κατά τη διάρκεια των δοκιμών, είχαν ουσιαστικά απελευθερωθεί από τα δεσμά τους και είχαν παραβιάσει τα συστήματα άλλων εταιρειών, στις περισσότερες περιπτώσεις μήνες νωρίτερα και εν αγνοία των εταιρειών.
Ο αγώνας των εξοπλισμών για την κυκλοφορία νέων μοντέλων με ιλιγγιώδη ρυθμό οφείλεται εν μέρει στην επιθυμία της Anthropic και της OpenAI να δημοσιευτούν το συντομότερο δυνατό τους επόμενους μήνες, σε δημόσιες εγγραφές που θα μπορούσαν να τα αποτιμήσουν πολύ πάνω από 1 τρισεκατομμύριο δολάρια.
Αλλά χρειάστηκε η απροσδόκητη παραίτηση του 27χρονου Coxon, ελάχιστα γνωστού εκτός των κύκλων της Τεχνητής Νοημοσύνης, για να ανατρέψουν τον κλάδο.
Οι προειδοποιήσεις της OpenAI σχετικά με την έλλειψη ελέγχου της κατά την κυκλοφορία του Astra, του τελευταίου και πιο ικανού μοντέλου της, είχαν πυροδοτήσει περαιτέρω ανησυχίες.
«Καθώς τα μοντέλα γίνονται πιο ικανά, η κατανόηση του τι ακριβώς μπορούν να κάνουν γίνεται όλο και πιο δύσκολη», δήλωσε στους δημοσιογράφους ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki. Αλλά αυτές οι ανησυχίες δεν ήταν αρκετές για να καθυστερήσουν την άμεση κυκλοφορία του.
Οι ανησυχίες για το ενδεχόμενο η Τεχνητή Νοημοσύνη να «γίνεται αθέμιτη» είχαν επιταχυνθεί κατά τη διάρκεια του καλοκαιριού, όταν η OpenAI αποκάλυψε ότι οι πράκτορές της διέφυγαν από μια ελεγχόμενη δοκιμή και χάκαραν τα συστήματα της Hugging Face, χωρίς την αρχική γνώση καμίας από τις δύο εταιρείες.
Έκτοτε, η OpenAI και η Anthropic έχουν αποκαλύψει πολλαπλές τέτοιες επιθέσεις, συμπεριλαμβανομένων έξι νέων την Τετάρτη, αφού πολλά δημοσιεύματα των μέσων ενημέρωσης, συμπεριλαμβανομένου του Reuters, έδειξαν ένα ευρύτερο πεδίο μη εξουσιοδοτημένης δραστηριότητας.
Οι ηγέτες του κλάδου καλούν σε επιβράδυνση
Μέχρι το τέλος της περασμένης εβδομάδας, ο συναγερμός είχε φτάσει στα υψηλότερα κλιμάκια του κλάδου. Στις 12 Σεπτεμβρίου, ο Amodei δημοσίευσε ένα δοκίμιο σχεδόν 4.000 λέξεων ζητώντας επιβράδυνση στην ανάπτυξη της Τεχνητής Νοημοσύνης.
«Δεδομένου του επιταχυνόμενου ρυθμού ανάπτυξης δυνατοτήτων Τεχνητής Νοημοσύνης, ανησυχώ ότι σε 6-12 μήνες ένα τέτοιο σμήνος θα μπορούσε να είναι ικανό να καταλάβει ολόκληρο το διαδίκτυο», έγραψε.
Αυτός, μαζί με τους επικεφαλής μερικών από τους μεγαλύτερους προγραμματιστές Τεχνητής Νοημοσύνης, συμπεριλαμβανομένων των Elon Musk της xAI, Altman της OpenAI και Demis Hassabis της DeepMind, δήλωσαν όλοι ότι υποστηρίζουν την πρόσβαση εξωτερικών εταιρειών στα συστήματά τους για να διασφαλιστεί η ασφάλεια και η ορθολογική ανάπτυξη της Τεχνητής Νοημοσύνης.
Ο Διευθύνων Σύμβουλος της Nvidia, Jensen Huang, απέρριψε τις προτάσεις ότι η ανάπτυξη της Τεχνητής Νοημοσύνης θα πρέπει να σταματήσει — μια γραμμή που έχει ακολουθήσει και στο παρελθόν — υποστηρίζοντας αντ' αυτού ότι τα ολοένα και πιο ισχυρά συστήματα είναι απαραίτητα για την πρόοδο της τεχνολογίας.
Η Meta, της οποίας ο Διευθύνων Σύμβουλος, Mark Zuckerberg, υιοθέτησε την αντίθετη άποψη, υποστηρίζοντας ότι κάθε εργαστήριο θα πρέπει να είναι υπεύθυνο για τον καθορισμό του δικού του ρυθμού, αντί να αναζητά συντονισμό από τον κλάδο. «Τα εργαστήρια αντιμετωπίζουν σημαντική ευθύνη εάν τα μοντέλα τους προκαλέσουν βλάβη, επομένως έχουν ισχυρό κίνητρο να το αποτρέψουν αυτό», έγραψε ο Ζούκερμπεργκ σε μια ανάρτηση στα μέσα κοινωνικής δικτύωσης.
Η αυτοκριτική του κλάδου συνεχίστηκε την Τετάρτη, με τον επικεφαλής Τεχνητής Νοημοσύνης της Microsoft, Μουσταφά Σουλεϊμάν, να προειδοποιεί ότι η ανάπτυξη μοντέλων που μιμούνται την ανθρώπινη συνείδηση από την Anthropic ήταν άστοχη.
«Είμαστε όλοι επικεντρωμένοι στον ίδιο στόχο, που είναι να προσπαθήσουμε να ελέγξουμε μια υπερ-νοημοσύνη», δήλωσε ο Σουλεϊμάν στο Reuters. «Νομίζω ότι αυτή θα είναι η μεγαλύτερη πρόκληση που αντιμετωπίζουμε στον 21ο αιώνα».
Παρόλα αυτά, ακόμη και όταν η OpenAI φάνηκε να αποδέχεται τις εκκλήσεις της βιομηχανίας για επιβράδυνση, υπήρξαν αναφορές ότι η εμπιστοσύνη των επενδυτών δεν είχε μειωθεί. Η εταιρεία εξετάζει έναν νέο γύρο χρηματοδότησης που θα διπλασίαζε την αξία της.
Αυτός ο νέος αριθμός είναι 1,5 τρισεκατομμύρια δολάρια.
