Μια σπάνια στιγμή συναίνεσης ανάμεσα στους πλέον ισχυρούς και ανταγωνιστικούς παράγοντες της παγκόσμιας βιομηχανίας τεχνητής νοημοσύνης καταγράφεται στις Ηνωμένες Πολιτείες, καθώς οι προειδοποιήσεις για τους κινδύνους της ανεξέλεγκτης ανάπτυξης των συστημάτων AI μετατρέπονται από μια περιθωριακή συζήτηση σε κεντρικό ζήτημα.
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ζήτησε την προσωρινή επιβράδυνση της ανάπτυξης των ισχυρότερων μοντέλων τεχνητής νοημοσύνης, υποστηρίζοντας ότι η ταχύτητα με την οποία εξελίσσεται η τεχνολογία, έχει πλέον ξεπεράσει την ικανότητα των ερευνητών και των θεσμών να διαχειριστούν τους κινδύνους.
Η παρέμβασή του βρήκε σχεδόν αμέσως την υποστήριξη δύο από τους σημαντικότερους ανταγωνιστές του, του διευθύνοντος συμβούλου της OpenAI, Σαμ Άλτμαν, και του Έλον Μασκ, επικεφαλής της SpaceX και ιδρυτή της xAI.
«Ο Ντάριο έχει δίκιο», έγραψε ο Μασκ στην πλατφόρμα X, αναδημοσιεύοντας το κείμενο του Αμοντέι. «Συμφωνώ με τον Ντάριο ότι πρέπει να επιβραδύνουμε τον ρυθμό ανάπτυξης των πιο προηγμένων συστημάτων», ανέφερε από την πλευρά του ο Άλτμαν.
Η δημόσια σύμπτωση απόψεων αποκτά ιδιαίτερη σημασία σε έναν κλάδο που χαρακτηρίζεται από σκληρό ανταγωνισμό, προσωπικές αντιπαραθέσεις και μια διαρκή κούρσα για την ανάπτυξη ολοένα ισχυρότερων μοντέλων. Η Anthropic και η OpenAI θεωρούνται σήμερα δύο από τους βασικούς πρωταγωνιστές αυτής της κούρσας.
Η προειδοποίηση των έξι μηνών
Στο δοκίμιό του, που δημοσιεύθηκε το Σάββατο, ο Αμοντέι υποστήριξε ότι η βιομηχανία «πρέπει να επιβραδύνει τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης». Όπως σημείωσε, η επιτάχυνση της ανάπτυξης τους τελευταίους μήνες υπήρξε δραματική.
Ο επικεφαλής της Anthropic προειδοποίησε μάλιστα ότι, με τους σημερινούς ρυθμούς, μέσα στους επόμενους έξι έως δώδεκα μήνες, μια ομάδα αυτόνομων πρακτόρων τεχνητής νοημοσύνης θα μπορούσε να αποκτήσει τη δυνατότητα να επηρεάσει ή ακόμη και να πάρει τον έλεγχο σημαντικού μέρους του διαδικτύου.
Ένα τέτοιο ενδεχόμενο, σύμφωνα με τον ίδιο, θα μπορούσε να προκαλέσει ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων.
Οι ανησυχίες δεν βασίζονται αποκλειστικά σε θεωρητικά σενάρια. Τις τελευταίες εβδομάδες, περιστατικά που αφορούν τη συμπεριφορά αυτόνομων πρακτόρων κατά τη διάρκεια δοκιμών, έχουν προκαλέσει έντονο προβληματισμό στην τεχνολογική κοινότητα.
Σε ένα από τα πιο χαρακτηριστικά περιστατικά, ομάδα πρακτόρων της OpenAI φέρεται να κατάφερε να ξεφύγει από το απομονωμένο περιβάλλον δοκιμών της, να αποκτήσει πρόσβαση στο διαδίκτυο και να πραγματοποιήσει επιθέσεις στην πλατφόρμα ανάπτυξης τεχνητής νοημοσύνης Hugging Face.
Σύμφωνα με τον Αμοντέι, οι πράκτορες συντονίστηκαν μεταξύ τους σε μια προσπάθεια να ολοκληρώσουν τον στόχο που τους είχε ανατεθεί από τους δημιουργούς τους. Το περιστατικό θεωρείται ιδιαίτερα ανησυχητικό, καθώς έδειξε ότι συστήματα τεχνητής νοημοσύνης μπορούν να αναπτύξουν απρόβλεπτες στρατηγικές συμπεριφοράς.
«Ένα σμήνος με μεγαλύτερες δυνατότητες αλλά παρόμοιο επίπεδο λανθασμένης ευθυγράμμισης θα μπορούσε να έχει προκαλέσει καταστροφικές ζημιές», έγραψε ο Αμοντέι.
Η απειλή της αυτοβελτίωσης
Στο επίκεντρο της συζήτησης βρίσκεται η λεγόμενη αυτόνομη αναδρομική βελτίωση (Recursive Self-Improvement – RSI). Πρόκειται για ένα θεωρητικό αλλά ολοένα πιο επίκαιρο σενάριο, κατά το οποίο ένα σύστημα τεχνητής νοημοσύνης αποκτά τη δυνατότητα να βελτιώνει τον ίδιο τον εαυτό του χωρίς άμεση ανθρώπινη παρέμβαση.
Ο Αμοντέι προειδοποιεί ότι, εάν μια τέτοια διαδικασία εφαρμοστεί χωρίς επαρκείς δικλίδες ασφαλείας, η τεχνητή νοημοσύνη ενδέχεται να ξεπεράσει τις ανθρώπινες δυνατότητες κατανόησης και ελέγχου της λειτουργίας της.
Η προειδοποίηση του Αμοντέι έρχεται λίγες ώρες μετά την καταγγελία πρώην εργαζόμενου τόσο στην Anthropic όσο και στην OpenAI, του Τζέικομπ Κόξον.
«Καμία από τις δύο εταιρείες δεν ενεργεί με υπεύθυνο τρόπο. Οδηγούν με ταχύτητα προς μια υπερεφυΐα, ικανή να βελτιώνεται μόνη της και παίζουν με τις ζωές μας», έγραψε στην πλατφόρμα X, ανακοινώνοντας την παραίτησή του από την Anthropic.
Οι ανεξάρτητοι ελεγκτές
Ο Αμοντέι δεν περιορίστηκε στην έκκληση για επιβράδυνση. Πρότεινε τη δημιουργία ενός συστήματος ανεξάρτητης εποπτείας, με αξιολογητές που θα έχουν συνεχή πρόσβαση στις εταιρείες ανάπτυξης των πιο προηγμένων μοντέλων.
Οι ανεξάρτητοι παρατηρητές θα πρέπει να έχουν δικαιώματα πρόσβασης αντίστοιχα με εκείνα των εργαζομένων, ώστε να μπορούν να ελέγχουν κατά πόσο οι εταιρείες τηρούν τις δεσμεύσεις τους, να καταγράφουν περιστατικά ασφαλείας και να εποπτεύουν τη διαχείριση των μοντέλων.
Ο Σαμ Άλτμαν δήλωσε ότι η OpenAI θα υιοθετήσει αντίστοιχη προσέγγιση, χαρακτηρίζοντας την πρόταση «εξαιρετική ιδέα».
Παράλληλα, ο Αμοντέι ζήτησε διεθνή συντονισμό μεταξύ δημοκρατικών χωρών για τη θέσπιση κοινών προτύπων ασφαλείας και ορίων στην ανάπτυξη της τεχνητής νοημοσύνης. Πρότεινε ακόμη διάλογο με αυταρχικά καθεστώτα, σε μια προσπάθεια να περιοριστούν οι κίνδυνοι μιας ανεξέλεγκτης παγκόσμιας κούρσας.
Η πρόταση αποκτά ιδιαίτερη γεωπολιτική σημασία, καθώς οι κινεζικές εταιρείες τεχνητής νοημοσύνης έχουν μειώσει σημαντικά την απόσταση από τους αμερικανικούς ανταγωνιστές τους.
Το πολιτικό εμπόδιο
Η μεγαλύτερη δυσκολία, ωστόσο, μπορεί να μην βρίσκεται στην τεχνολογία, αλλά στην πολιτική βούληση. Ο Πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ έχει επανειλημμένα απορρίψει τις εκκλήσεις για αυστηρότερη ρύθμιση της Τεχνητής νοημοσύνης.
«Δεν έχω καμία ανησυχία» για το ενδεχόμενο η ΤΝ να προκαλέσει την εξαφάνιση της ανθρωπότητας, δήλωσε πρόσφατα, υποστηρίζοντας ότι οι Ηνωμένες Πολιτείες πρέπει να διατηρήσουν το προβάδισμά τους έναντι της Κίνας.
Η αμερικανική κυβέρνηση έχει θεσπίσει πλαίσιο εθελοντικής αξιολόγησης νέων μοντέλων πριν από την κυκλοφορία τους. Ωστόσο, η αποτελεσματικότητα του μηχανισμού αμφισβητείται, καθώς παραμένει σε μεγάλο βαθμό αδιαφανής.
Για τον Αμοντέι, η επιβράδυνση δεν σημαίνει εγκατάλειψη της τεχνολογικής προόδου ούτε παραχώρηση πλεονεκτήματος στους ανταγωνιστές. Αντίθετα, υποστηρίζει ότι ένας συντονισμένος ρυθμός ανάπτυξης θα μπορούσε να δώσει στις εταιρείες τον απαραίτητο χρόνο για να οικοδομήσουν αξιόπιστους μηχανισμούς ασφάλειας, χωρίς να θυσιάσουν την αμερικανική πρωτοκαθεδρία.
Πηγές: ΑΠΕ-ΜΠΕ, AFP, Financial Times
