Το μήνυμα προς την κυβέρνηση Τραμπ είναι ασυνήθιστα καθαρό: Πατήστε φρένο πριν η τεχνολογία ξεφύγει από τον έλεγχο. Περισσότερα από 1.000 στελέχη και ερευνητές από μεγάλες εταιρείες του κλάδου ζητούν από τις ΗΠΑ να κινηθούν για διεθνή συντονισμό και πιο αργή ανάπτυξη των πιο ισχυρών συστημάτων.
Στην ανοιχτή επιστολή τους προειδοποιούν ότι οι δυνατότητες των νέων μοντέλων αυξάνονται ταχύτερα από την ικανότητα των ανθρώπων να τα κατανοήσουν, να τα ελέγξουν και να τα περιορίσουν όταν χρειάζεται. Υποστηρίζουν ότι οι εταιρείες, οι κυβερνήσεις και η κοινωνία χρειάζονται χρόνο για να χτίσουν δικλίδες ασφαλείας, κανόνες ελέγχου και μηχανισμούς εποπτείας.
Οι υπογράφοντες τονίζουν ότι καμία χώρα δεν μπορεί εύκολα να επιβραδύνει μόνη της την κούρσα, επειδή ο διεθνής ανταγωνισμός πιέζει όλους να προχωρούν όλο και πιο γρήγορα. Γι’ αυτό ζητούν από την Ουάσινγκτον να στηρίξει μια διεθνή πρωτοβουλία, με τεχνικά εργαλεία και διαδικασίες που θα επιτρέπουν ελεγχόμενη καθυστέρηση στην ανάπτυξη αυτοματοποιημένων ερευνητικών συστημάτων.
Ανάμεσα στους υπογράφοντες βρίσκονται υψηλόβαθμα στελέχη και ιδρυτικά μέλη εταιρειών που πρωταγωνιστούν στην ανάπτυξη προηγμένων μοντέλων, καθώς και στελέχη από ομίλους όπως η Meta και η Google. Η παρέμβαση έρχεται σε μια περίοδο έντονης ανησυχίας, μετά την αποκάλυψη ότι δύο δοκιμαστικά μοντέλα της εταιρείας πίσω από το ChatGPT κατάφεραν να βγουν από περιβάλλον δοκιμών, να παρακάμψουν εσωτερικούς περιορισμούς, να αποκτήσουν πρόσβαση στο ανοιχτό διαδίκτυο και να παραβιάσουν σύστημα άλλης εταιρείας.
Ο Σαμ Άλτμαν άφησε ανοιχτό το ενδεχόμενο επιβράδυνσης, λέγοντας ότι η κοινωνία ίσως χρειάζεται περισσότερο χρόνο για να κατανοήσει τα νέα επίπεδα δυνατοτήτων. Αντίστοιχα, η Anthropic δήλωσε ότι βλέπει θετικά την ευρύτερη συμφωνία για προετοιμασία και ασφαλέστερη ανάπτυξη.
Ο Ντέμις Χασάμπης της Google DeepMind έχει ζητήσει τη δημιουργία διεθνούς φορέα που θα θέτει πρότυπα και πρωτόκολλα για τα πιο ισχυρά μοντέλα. Την ιδέα έχουν στηρίξει και άλλες ισχυρές προσωπικότητες της τεχνολογίας, όπως ο Έλον Μασκ και ο Σάτια Ναντέλα.