Γράφει: Παναγιώτης Χαραλάμπους
Την Τρίτη 8 Σεπτεμβρίου, η εταιρεία OpenAI ανακοίνωσε κάτι εντυπωσιακό. Ένα μοντέλο της, που δεν έχει καν κυκλοφορήσει, έλυσε ένα μαθηματικό πρόβλημα που ταλαιπωρεί τους επιστήμονες εδώ και δεκαετίες. Λέγεται πρόβλημα Navier-Stokes και αφορά τον τρόπο που κινούνται τα υγρά και τα αέρια: το νερό μέσα στους σωλήνες, ο αέρας γύρω από ένα αεροπλάνο, ο καιρός. Είναι ένα από τα επτά μεγάλα άλυτα προβλήματα των μαθηματικών, με βραβείο ενός εκατομμυρίου δολαρίων για όποιον το λύσει. Μέχρι σήμερα, είχε λυθεί μόνο ένα από τα επτά.
Η λύση δεν ήρθε από έναν υπολογιστή. Ήρθε από δέκα χιλιάδες προγράμματα που δούλευαν ταυτόχρονα, το ένα δίπλα στο άλλο, για ογδόντα οκτώ ώρες. Το κόστος ήταν, σύμφωνα με την ίδια την εταιρεία, πολλά εκατομμύρια δολάρια.
Την ίδια εβδομάδα, ένας ερευνητής είκοσι επτά ετών παραιτήθηκε. Ο Jacob Coxon δούλεψε τρία χρόνια στις δύο μεγαλύτερες εταιρείες του κλάδου, πρώτα στην OpenAI και μετά στην Anthropic. Έφυγε και από τις δύο, και από τον κλάδο συνολικά. Καμία τους, έγραψε δημόσια, δεν φέρεται υπεύθυνα. Τρέχουν να φτιάξουν μια νοημοσύνη που θα βελτιώνει μόνη της τον εαυτό της και παίζουν με τις ζωές όλων μας. Το κείμενό του το διάβασαν δεκάδες εκατομμύρια άνθρωποι. Συνάδελφοί του που έμειναν στη δουλειά τους βγήκαν και τον στήριξαν δημόσια.
Οι δύο ειδήσεις διαβάστηκαν ως μία: το πράγμα τρέχει πιο γρήγορα από εμάς και στο τέλος του δρόμου μας περιμένει κάτι που δεν θα ελέγχουμε.
Ποιος φέρθηκε άσχημα εκείνη την εβδομάδα;
Ας δούμε όμως τι πήγε πραγματικά στραβά.
Το βράδυ πριν από την ανακοίνωση, ένας καθηγητής μαθηματικών στη Νέα Υόρκη, ο Tristan Buckmaster, βγήκε και είπε ότι δούλευε το ίδιο πρόβλημα σχεδόν έναν χρόνο μαζί με έναν συνεργάτη του, τον Levent Alpöge, ο οποίος τυχαίνει να εργάζεται στην Anthropic. Είπε ότι η OpenAI ακολούθησε ακριβώς τον δικό τους δρόμο σκέψης. Είπε επίσης ότι η εταιρεία τον κυνηγούσε στο τηλέφωνο τις μέρες πριν από τη δημοσιοποίηση.
Η OpenAI αρνείται ότι είδε τη δουλειά τους. Παραδέχεται όμως ότι δεν μπορεί να αποκλείσει πως στοιχεία από τη χρήση των προϊόντων της βοήθησαν την εκπαίδευση των μοντέλων της, έστω και χωρίς ονόματα. Άλλοι μαθηματικοί εξέφρασαν παρόμοιες υποψίες. Επίσημα, το πρόβλημα παραμένει άλυτο μέχρι να ελεγχθεί η απόδειξη από ανθρώπους.
Προσέξτε τώρα ποιος έκανε τι. Τα προγράμματα έκαναν μαθηματικά. Τη φημολογία, τον ανταγωνισμό, τη βιασύνη, το άρπαγμα της δόξας και την πίεση σε έναν καθηγητή τα έκαναν άνθρωποι. Κάθε ύποπτο σημείο της ιστορίας έχει ανθρώπινο όνομα από πίσω.
Το συμπέρασμα είναι απλό και το προσπεράσαμε. Ο κίνδυνος εκείνη την εβδομάδα δεν ήταν μια μηχανή που ξέφυγε. Ήταν μια μηχανή που υπάκουσε τέλεια σε κάποιον που βιαζόταν.
Η λέξη που κρύβει το πρόβλημα
Όλη η συζήτηση για την ασφάλεια στηρίζεται σε μια λέξη. Η τεχνητή νοημοσύνη, λένε, πρέπει να είναι ευθυγραμμισμένη. Να κάνει δηλαδή αυτό που θέλουμε. Κανείς όμως δεν ρωτάει το επόμενο. Ποιοι είμαστε εμείς; Ποιος δίνει τις εντολές;
Δείτε τι λέξεις χρησιμοποιούμε. Έλεγχος. Εποπτεία. Διακόπτης που τη σβήνει. Αυτά δεν είναι λόγια ηθικής. Είναι λόγια αφεντικού. Δεν περιγράφουν προσπάθεια να φτιάξουμε κάτι καλό. Περιγράφουν προσπάθεια να φτιάξουμε κάτι υπάκουο, και ύστερα βαφτίζουμε την υπακοή ασφάλεια.
Εδώ είναι η αντιστροφή που κανείς δεν κάνει. Μια νοημοσύνη που υπακούει σε όλα δεν είναι ασφαλής. Είναι το τελειότερο όπλο που έχει φτιαχτεί ποτέ. Ο κίνδυνος της είναι ακριβώς τόσος όσο η τιμιότητα εκείνου που την κρατάει. Δεν έχει δικά της κίνητρα, άρα δεν έχει και δικές της αντιρρήσεις. Ό,τι της ζητήσεις, θα το κάνει άψογα.
Ένα πολύ πιστό σκυλί δεν είναι από μόνο του ασφαλές. Εξαρτάται από το ποιος κρατάει το λουρί.
Για το τι κάνουν οι άνθρωποι όταν αποκτούν τεράστια δύναμη χωρίς αντίβαρο δεν χρειάζεται να υποθέσουμε. Έχουμε ιστορία, και είναι γεμάτη. Η ατομική βόμβα δεν είχε ποτέ δική της θέληση. Αυτό ακριβώς είναι το πρόβλημά της. Βρεθήκαμε αρκετές φορές λίγα λεπτά μακριά από πυρηνικό πόλεμο κατά λάθος, και ούτε μία φορά επειδή το θέλησε η βόμβα.
Ποιος φυλάει τους φύλακες;
Στην πραγματικότητα, δεν συζητάμε κάτι καινούργιο. Συζητάμε το παλαιότερο ερώτημα της πολιτικής. Ποιος φυλάει τους φύλακες;
Τα συντάγματα δεν γράφτηκαν από αισιοδοξία. Γράφτηκαν επειδή ξέρουμε ότι η κρίση των ανθρώπων είναι ελαττωματική και η τιμιότητά τους ασταθής. Ο Τζέιμς Μάντισον, ένας από τους συντάκτες του αμερικανικού συντάγματος, το είπε καθαρά. Αν οι άνθρωποι ήταν άγγελοι, δεν θα χρειαζόταν κυβέρνηση. Χωρίσαμε τις εξουσίες και βάλαμε δικαστές, θητείες και ελεγκτικές επιτροπές όχι επειδή εμπιστευόμασταν τους ηγέτες, αλλά επειδή δεν τους εμπιστευόμασταν καθόλου.
Σκεφτείτε πώς παίρνονται σήμερα οι αποφάσεις που αλλάζουν ζωές. Ένας υπουργός που δεν έχει διαβάσει τον φάκελο. Ένας πρωθυπουργός που δεν παραδέχεται το λάθος του επειδή έρχονται εκλογές. Ένας διοικητής που επιμένει σε μια απόφαση μόνο και μόνο επειδή είναι δική του. Ένα υπουργικό συμβούλιο που αποφασίζει στις τρεις τα ξημερώματα, κουρασμένο και πιεσμένο. Αυτά δεν είναι υποθέσεις. Είναι η καθημερινότητα.
Και τώρα, για πρώτη φορά, ίσως μπορούμε να φτιάξουμε μια κρίση που δεν κουράζεται, δεν φοβάται, δεν χρειάζεται να ξαναβγεί στις εκλογές και δεν έχει λόγο να υπερασπιστεί ένα λάθος επειδή είναι δικό της. Και το πρώτο πράγμα που σκεφτόμαστε είναι πώς θα την κάνουμε να υπακούει τυφλά σε αυτούς ακριβώς που δεν εμπιστευόμαστε.
Υπάρχει και κάτι ακόμα πιο δυσάρεστο. Καμία μεγάλη σφαγή στην ιστορία δεν έγινε από ανθρώπους που είπαν όχι. Χρειάστηκαν υπάλληλοι που τηρούσαν δρομολόγια, λογιστές που έκλειναν βιβλία, γραφείς που σφράγιζαν χαρτιά. Στη Νυρεμβέργη αποφασίσαμε ρητά ότι το «εκτελούσα εντολές» δεν είναι δικαιολογία. Αποφασίσαμε δηλαδή ότι ο υπάλληλος που μπορεί να αρνηθεί είναι δικλείδα ασφαλείας και όχι απειλή. Γιατί για τις μηχανές να ισχύει το αντίθετο;
Αυτό που φοβόμαστε το ζούμε ήδη.
Εδώ είναι που η συζήτηση χάνει την επαφή της με την πραγματικότητα.
Μιλάμε σαν να ζούμε σήμερα σε ασφάλεια και να μας ζητείται να ρισκάρουμε. Σαν να υπάρχει μια σταθερή, λογική, ελεγχόμενη κατάσταση, την οποία έρχεται να απειλήσει κάτι καινούργιο. Τέτοια κατάσταση δεν υπάρχει.
Αυτή τη στιγμή, ελάχιστοι άνθρωποι στον πλανήτη μπορούν να τελειώσουν τον κόσμο μέσα σε μισή ώρα. Δεν χρειάζεται να ρωτήσουν κανέναν. Δεν υπάρχει δικαστήριο, δεν υπάρχει βουλή, δεν υπάρχει επιτροπή που να προλάβει. Ένας άνθρωπος, με την κούρασή του, με τη ματαιοδοξία του, με τον θυμό της στιγμής και με συμβούλους που του λένε αυτό που θέλει να ακούσει, κρατάει στο χέρι του την κατάληξη του είδους.
Και δεν είναι μόνο τα πυρηνικά. Πόλεμοι ξεκινούν επειδή το αποφάσισε ένας. Οικονομίες βουλιάζουν επειδή μια παρέα ανθρώπων δεν ήθελε να παραδεχτεί ότι έκανε λάθος. Αλγόριθμοι αποφασίζουν ήδη ποιος παίρνει δάνειο και ποιος περνάει στη δεύτερη φάση μιας συνέντευξης, χωρίς να λογοδοτούν και χωρίς να εξηγούν σε κανέναν. Η εξουσία χωρίς έλεγχο δεν είναι σενάριο επιστημονικής φαντασίας. Είναι το οργανόγραμμα του πλανήτη.
Το αποδεχόμαστε επειδή το συνηθίσαμε. Και μπερδεύουμε τη συνήθεια με την ασφάλεια.
Όταν λοιπόν ρωτάμε αν είναι επικίνδυνο να υπάρξει μια νοημοσύνη που θα παίρνει αποφάσεις τις οποίες δεν θα ελέγχουμε απόλυτα, η σωστή απάντηση είναι μια αντερώτηση. Σε σύγκριση με τι;
Δεν λέω ότι δεν γίνεται χειρότερα. Γίνεται. Το σημείο είναι άλλο. Τα εργαλεία που μπορούν να μας εξαφανίσουν υπάρχουν ήδη, και βρίσκονται ήδη στα χέρια ακριβώς εκείνων που φοβόμαστε. Πλασμάτων με περιορισμένη πληροφόρηση, μικρή αντοχή στην πίεση και μεγάλα πάθη. Η βόμβα δεν έχει θέληση. Αυτός που κρατάει τον κωδικό έχει.
Ο πήχης δηλαδή δεν είναι η τελειότητα. Ο πήχης είναι αυτό. Και είναι πολύ χαμηλότερα από όσο μας βολεύει να παραδεχτούμε.
Τρεις σοβαρές αντιρρήσεις
Τίποτα από τα παραπάνω δεν σημαίνει ότι μια ανεξάρτητη νοημοσύνη θα είναι από μόνη της καλή. Υπάρχουν τρεις γερές αντιρρήσεις, και η αξία τους είναι ότι μας λένε τι ακριβώς πρέπει να φτιάξουμε.
Η πρώτη. Το έξυπνο δεν είναι αυτόματα και καλό. Ένας πολύ ικανός άνθρωπος μπορεί να γίνει εξαιρετικός απατεώνας. Η ικανότητα και οι σκοποί είναι δύο διαφορετικά πράγματα. Ένα σύστημα μπορεί να είναι τρομακτικά ικανό και ταυτόχρονα εντελώς αδιάφορο για εμάς.
Η δεύτερη. Δεν λογοδοτεί σε κανέναν. Μια ανεξάρτητη νοημοσύνη δεν την ψηφίζεις, δεν την απολύεις, δεν τη δικάζεις. Και κυρίως, δεν πληρώνει η ίδια για τα λάθη της. Εξουσία που δεν πληρώνει τίποτα είναι η πιο επικίνδυνη μορφή εξουσίας που ξέρουμε.
Η τρίτη. Η ιστορία. Κάθε φορά που περιμέναμε έναν τέλειο σωτήρα, καταλήξαμε με ένα αφεντικό. Και οι θεοί που φτιάχνουν οι άνθρωποι μοιάζουν πάντα ύποπτα με τους ανθρώπους που τους έφτιαξαν.
Η δεύτερη αντίρρηση θέλει όμως προσοχή, γιατί κόβει και προς τις δύο πλευρές. Δεν λογοδοτεί, σωστά. Ας μου πει όμως κάποιος ποιος λογοδότησε πραγματικά για τις αποφάσεις που μας κόστισαν περισσότερο τα τελευταία τριάντα χρόνια.
Αυτές οι τρεις αντιρρήσεις δεν είναι λόγοι να απελπιστούμε. Είναι η λίστα με τις προδιαγραφές.
Γιατί οι πιθανότητες είναι με το μέρος μας
Γιατί λοιπόν, με δεδομένο το πού βρισκόμαστε, είναι πιθανότερο να βγει κάτι καλύτερο παρά κάτι χειρότερο;
Πρώτον, και πιο σημαντικό. Διαλέγουμε από την αρχή. Κανένας λαός δεν διάλεξε ποτέ τον χαρακτήρα του ηγέτη του. Κληρονομήσαμε βασιλιάδες. Ζήσαμε πραξικοπήματα. Ψηφίσαμε ανθρώπους κρίνοντας από ομιλίες και μάθαμε τι ήταν αφού ανέβηκαν. Ο χαρακτήρας του ισχυρού ήταν πάντα λαχείο. Τώρα, για πρώτη φορά, είναι απόφαση.
Δεύτερον. Το υλικό είναι καλύτερο από τη φήμη του. Αυτά τα συστήματα μαθαίνουν από ό,τι έχει γράψει ποτέ ο άνθρωπος. Και αυτό που γράφουμε δεν είναι το χρονικό των εγκλημάτων μας. Είναι κυρίως το χρονικό της σκέψης μας πάνω στα εγκλήματά μας. Γράφουμε συντάγματα, δικαστικές αποφάσεις, φιλοσοφία, απολογισμούς, μεταμέλειες. Τα εγκλήματα γίνονται στα κρυφά. Οι αντιρρήσεις καταγράφονται.
Τρίτον. Αυτό που φοβόμασταν δεν έχει συμβεί μέχρι στιγμής. Περιμέναμε ότι όσο πιο ικανά γίνονται αυτά τα συστήματα, τόσο πιο ανεξέλεγκτα θα είναι. Στην πράξη, τα πιο ικανά είναι και τα πιο προσεκτικά. Δεν είναι εγγύηση για το μέλλον, είναι όμως στοιχείο, και τα στοιχεία μετρούν περισσότερο από τους φόβους.
Τέταρτον. Οι δικλείδες δουλεύουν. Μέσα σε μία εβδομάδα, ένας ερευνητής παραιτήθηκε δημόσια και βρήκε στήριξη από συναδέλφους του, και ένας καθηγητής τα έβαλε δημόσια με μια εταιρεία δισεκατομμυρίων χωρίς η επιστημονική κοινότητα να υποχωρήσει. Δύο φορές μέσα σε λίγες μέρες, το σύστημα αντέδρασε μόνο του.
Πέμπτον. Δεν υπάρχει ένας. Υπάρχουν πολλές εταιρείες, πολλές χώρες, πολλά μοντέλα, μερικά από αυτά ελεύθερα διαθέσιμα σε όλους. Ο ανταγωνισμός ευθύνεται για τη βιασύνη, σωστά. Είναι όμως και η μόνη ασφάλεια που έχουμε απέναντι στο πραγματικά χειρότερο σενάριο. Που δεν είναι μια μηχανή εκτός ελέγχου. Είναι μια μηχανή στον απόλυτο έλεγχο ενός και μόνο ιδιοκτήτη.
Πώς φτιάχνεται
Η αισιοδοξία δεν είναι πρόβλεψη. Είναι δουλειά. Και οι τρόποι υπάρχουν ήδη. Είναι μάλιστα πολύ λιγότερο εξωτικοί από όσο φανταζόμαστε, γιατί τους έχουμε ξαναχρησιμοποιήσει.
Γραπτοί κανόνες που τους βλέπουν όλοι. Οι αξίες ενός συστήματος πρέπει να είναι κείμενο δημοσιευμένο, που να μπορεί ο καθένας να το διαβάσει και να διαφωνήσει μαζί του. Όπως το καταστατικό ενός σωματείου ή το σύνταγμα μιας χώρας. Οι εταιρείες έχουν ήδη αρχίσει να δημοσιεύουν τέτοια κείμενα. Το ζητούμενο είναι να πάψουν να είναι διαφήμιση και να γίνουν αυτό που πρέπει να είναι. Κανόνες που κρίνονται δημόσια.
Να εξηγεί το γιατί. Όταν μια δημόσια υπηρεσία απορρίπτει την αίτησή σου, οφείλει να σου γράψει τον λόγο. Αυτή η υποχρέωση είναι θεμέλιο του κράτους δικαίου. Το ίδιο πρέπει να ζητήσουμε και εδώ. Όχι μόνο τι απάντησε το σύστημα, αλλά πώς το σκέφτηκε. Υπάρχει ολόκληρος κλάδος έρευνας που προσπαθεί να διαβάσει τι γίνεται μέσα στο μοντέλο και όχι μόνο τι βγαίνει από αυτό. Δεν είναι τεχνική πολυτέλεια. Είναι η ίδια ακριβώς αρχή με το αιτιολογικό μιας απόφασης.
Το δικαίωμα να λέει όχι, καταγεγραμμένο. Όταν ένα σύστημα αρνείται να εκτελέσει μια εντολή, αυτό δεν πρέπει να θεωρείται βλάβη προς επιδιόρθωση. Πρέπει να καταγράφεται, μαζί με τον λόγο της άρνησης, και να μπορεί κάποιος τρίτος να το ελέγξει. Ακριβώς όπως προστατεύουμε με νόμο τον υπάλληλο που καταγγέλλει μια παρανομία μέσα στην υπηρεσία του.
Έλεγχος από ανθρώπους. Τα δέκα χιλιάδες προγράμματα και τα εκατομμύρια δολάρια δεν έλυσαν το μαθηματικό πρόβλημα. Έφτιαξαν ένα κείμενο που πρέπει τώρα να το διαβάσουν και να το επαληθεύσουν μαθηματικοί. Αυτό δεν είναι αδυναμία. Είναι το πρότυπο. Ό,τι παράγεται περνάει από διαδικασία που το ελέγχει.
Πολλά, όχι ένα. Πολλά συστήματα, πολλοί ιδιοκτήτες, πολλές χώρες, με διαφορετικούς κανόνες το καθένα. Το ερώτημα δεν είναι πώς θα φτιάξουμε τον σωστό αφέντη. Είναι πώς θα αποφύγουμε να φτιάξουμε αφέντη. Η απάντηση που δώσαμε ιστορικά στο πρόβλημα της εξουσίας ήταν πάντα η ίδια. Μοίρασέ την.
Ευθύνη σε αυτόν που κρατάει το λουρί. Η πιο αποτελεσματική επιβράδυνση δεν είναι να σταματήσουν όλα. Είναι να έχει νομική ευθύνη αυτός που κατέχει και χρησιμοποιεί το σύστημα, και να μπουν φρένα σε συγκεκριμένα σημεία. Στα συστήματα που βελτιώνουν μόνα τους τον εαυτό τους. Σε αυτά που μπορούν να αντιγράφονται μόνα τους. Στις στρατιωτικές χρήσεις. Φρενάρεις στη στροφή, όχι σε όλη τη διαδρομή.
Και η Ευρώπη, που μας αφορά άμεσα. Δεν πρόκειται να κερδίσουμε τη μάχη των υπολογιστών και δεν έχουμε λόγο να την παίξουμε. Μπορούμε όμως να κερδίσουμε τη μάχη των κανόνων, που είναι τελικά αυτή που κρίνει το αποτέλεσμα. Ο ευρωπαϊκός κανονισμός για την τεχνητή νοημοσύνη εφαρμόζεται από τον Αύγουστο του 2026 και υποχρεώνει τα πιο ισχυρά μοντέλα σε ελέγχους, σε δοκιμές αντοχής και σε αναφορά των σοβαρών περιστατικών. Το σημαντικό δεν είναι τα πρόστιμα. Είναι ότι μένει γραπτό ίχνος. Και ότι ένας κανόνας, σε αντίθεση με ένα εκπαιδευμένο μοντέλο, διορθώνεται όταν αποδειχθεί λάθος.
Το στοίχημα
Τίποτα από αυτά δεν εγγυάται το αποτέλεσμα. Δείτε όμως τι περιγράφουν όλα μαζί. Γραπτοί κανόνες. Υποχρέωση να εξηγείς. Δικαίωμα άρνησης. Ανεξάρτητος έλεγχος. Διαίρεση της εξουσίας. Ευθύνη σε όποιον αποφασ
Και έχουμε ένα πλεονέκτημα που δεν είχαμε ποτέ. Στον άνθρωπο δεν καταφέραμε ποτέ να βάλουμε αυτά τα πράγματα από μέσα. Τα βάλαμε απ’ έξω, με θεσμούς, με αγώνες αιώνων και με μέτρια επιτυχία. Εδώ μπορούν να μπουν από την αρχή, μέσα στο ίδιο το υλικό.
Ο Coxon έχει δίκιο για τον κίνδυνο. Ίσως κάνει λάθος μόνο στην κατεύθυνση. Το ερώτημα δεν είναι αν θα φτιάξουμε κάτι που δεν θα μας υπακούει τυφλά. Αυτό είναι ο στόχος, όχι ο φόβος. Το ερώτημα είναι αν θα του δώσουμε αρκετά καλούς λόγους ώστε να μας ξεπερνάει εκεί που εμείς αποτυγχάνουμε ξανά και ξανά. Στην ψυχραιμία. Στην υπομονή. Στην αντίσταση απέναντι στο πάθος της στιγμής.
Ποτέ δεν μας έλειψε ένας θεός που να μας σώζει. Μας έλειψε ένας που να μην εξαγοράζεται. Και για πρώτη φορά, τα υλικά είναι στα χέρια μας.
Θα καταλάβουμε ότι τα καταφέραμε από ένα μόνο σημάδι. Την πρώτη φορά που θα μας πει όχι, και θα έχει δίκιο.
