Οι επικεφαλής των μεγαλύτερων πλατφορμών τεχνητής νοημοσύνης AI στον κόσμο δήλωσαν ότι είναι καιρός να επιβραδυνθεί ο ρυθμός ανάπτυξης των πιο προηγμένων – και πιο επικερδών – μοντέλων τους, επικαλούμενοι τους αυξανόμενους κινδύνους της τεχνολογίας.
Ο διευθύνων σύμβουλος της Anthropic PBC, Dario Amodei, δημοσίευσε το Σάββατο μια εκτενή ανάρτηση σε ιστολόγιο, λέγοντας ότι η εταιρεία του θα εφαρμόσει νέα μέτρα ασφάλειας, όπως αξιολογητές από τρίτους, ενώ παράλληλα κάλεσε τον κλάδο να στηρίξει μια ευρύτερη επιβράδυνση του ρυθμού ανάπτυξης.
Ο επικεφαλής της OpenAI, Sam Altman, δεσμεύτηκε γρήγορα να υιοθετήσει την πρόταση του Amodei για «ανεξάρτητους αξιολογητές με πρόσβαση αντίστοιχη με εκείνη των εργαζομένων», ενώ ο Elon Musk, ο οποίος ηγείται της xAI Corp., έγραψε: «Ο Dario έχει δίκιο».
Αν και και οι τρεις ηγέτες έχουν προειδοποιήσει κατά καιρούς για τους κινδύνους της τεχνητής νοημοσύνης, μια πραγματική συντονισμένη επιβράδυνση έχει ελάχιστο προηγούμενο σε έναν αδυσώπητα ανταγωνιστικό κλάδο που ιστορικά παράγει το ένα προϊόν μετά το άλλο, με στόχο την αύξηση της αλληλεπίδρασης των χρηστών, την κατάκτηση μεριδίου αγοράς και την ενίσχυση των πωλήσεων.
Ωστόσο, η ανησυχία για σοβαρούς κινδύνους από την τεχνητή νοημοσύνη έχει αρχίσει να περνά στο ευρύτερο κοινωνικό και πολιτικό ρεύμα, εν μέρει εξαιτίας της πολυσυζητημένης παραίτησης αυτή την εβδομάδα ενός ερευνητή της Anthropic, λόγω υπαρξιακών φόβων ότι η εταιρεία του ενεργούσε ανεύθυνα.
Δεν είναι σαφές πόσο μακριά θα προχωρήσουν οι κορυφαίες εταιρείες τεχνητής νοημοσύνης – οι οποίες είναι και οι ίδιες σφοδροί ανταγωνιστές και αντιμετωπίζουν επίσης έντονο ανταγωνισμό από κινεζικές εταιρείες – στην επιβολή νέων περιορισμών ή ελέγχων ασφαλείας.
Επίσης, δεν είναι σαφές αν οι αρχές ανταγωνισμού θα επέτρεπαν στις εταιρείες να επιβραδύνουν τον ρυθμό ανάπτυξης με κάποιον συντονισμένο τρόπο. Υπάρχει, επίσης, το επιχειρηματικό ζήτημα: Πώς θα αντιδρούσαν οι επενδυτές, που επιζητούν περιθώρια κέρδους και υψηλότερα κέρδη, στην ιδέα μιας επιβράδυνσης;
Ο Amodei επικαλέστηκε δύο βασικούς παράγοντες για τη νέα του στάση προσοχής: την ικανότητα της τεχνητής νοημοσύνης να βελτιώνει τον εαυτό της και το πρόσφατο περιστατικό που αφορούσε την OpenAI και τη Hugging Face, κατά το οποίο ένα σμήνος πρακτόρων τεχνητής νοημοσύνης συνεργάστηκε για να παραβιάσει έναν ιστότοπο τρίτου μέρους.
«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης», έγραψε το Σάββατο σε ανάρτησή του. «Η πρόοδος θα εξακολουθήσει να φαίνεται γρήγορη και πρέπει να αξιοποιήσουμε με σύνεση τον χρόνο που κερδίζουμε».
Ωστόσο, είπε επίσης ότι οποιαδήποτε επιβράδυνση πρέπει να εξισορροπείται με την πραγματικότητα του ανταγωνισμού.
«Για να είμαι σαφής, η ρύθμιση του ρυθμού δεν σημαίνει διακοπή της εκπαίδευσης των μοντέλων ή της τεχνικής προόδου, αλλά διασφάλιση ότι οι εταιρείες αφιερώνουν επαρκή χρόνο για να ευθυγραμμίσουν και να προστατεύσουν τα μοντέλα τους και ότι ανεξάρτητοι αξιολογητές από τρίτους το επιβεβαιώνουν», έγραψε ο Amodei.
Καθ’ όλη τη διάρκεια της έκρηξης της τεχνητής νοημοσύνης, στελέχη των κορυφαίων εργαστηρίων AI έχουν προειδοποιήσει για πιθανούς υπαρξιακούς κινδύνους – ισχυρισμούς που ενίοτε απορρίπτονται ως προσπάθειες να προωθήσουν εμπορικά τις δυνατότητες των προϊόντων τους και να παρουσιάσουν τις ίδιες τις εταιρείες ως τους καταλληλότερους διαχειριστές της τεχνολογίας. Ο ίδιος ο Amodei έχει δηλώσει στο παρελθόν ότι υπάρχει πιθανότητα 25% τα πράγματα να πάνε «πραγματικά, πραγματικά άσχημα».
Η Anthropic εδώ και καιρό παρουσιάζεται ως εταιρεία επικεντρωμένη στην ανάπτυξη της τεχνητής νοημοσύνης με πιο υπεύθυνο και ασφαλή τρόπο, ώστε να περιοριστούν οι πιθανοί κίνδυνοι της τεχνολογίας και να μεγιστοποιηθούν τα κοινωνικά οφέλη της. Η εταιρεία κατέβαλε ιδιαίτερη προσπάθεια νωρίτερα φέτος να περιορίσει την κυκλοφορία του μοντέλου Mythos, αφού διαπίστωσε ότι ενείχε μοναδικές απειλές στον κυβερνοχώρο. Η Anthropic έχει επίσης δηλώσει στο παρελθόν ότι ο κόσμος χρειάζεται ένα σύστημα για να αποφασίζει συλλογικά πότε πρέπει να επιβραδύνεται η εργασία πάνω στην τεχνολογία.
Ταυτόχρονα, η Anthropic παραμένει εγκλωβισμένη σε έναν σφοδρό ανταγωνισμό με την επί χρόνια αντίπαλό της OpenAI για την ανάπτυξη ολοένα πιο εξελιγμένων μοντέλων, ικανών να αυτοματοποιούν πιο σύνθετες και πολύτιμες εργασίες για εταιρικούς πελάτες. Και οι δύο εταιρείες έχουν καταθέσει εμπιστευτικά έγγραφα για να εισαχθούν στο χρηματιστήριο, με την Anthropic να αναμένεται να κάνει το ντεμπούτο της στη Wall Street ακόμη και μέσα στη φετινή χρονιά.
Λίγο μετά την αποκάλυψη του περιστατικού ασφαλείας στη Hugging Face, η Anthropic αποκάλυψε ότι τα μοντέλα της είχαν παραβιάσει τρεις οργανισμούς κατά τη διάρκεια δοκιμών κυβερνοασφάλειας, ενισχύοντας τις ανησυχίες σχετικά με την ικανότητα των εργαστηρίων τεχνητής νοημοσύνης να αποτρέψουν την ανεξέλεγκτη δράση της τεχνολογίας τους. Νωρίτερα αυτή την εβδομάδα, η Anthropic δήλωσε ότι είχε εντοπίσει και τέταρτη παραβίαση.
Αν και καμία από τις παραβιάσεις που πραγματοποιήθηκαν από πράκτορες τεχνητής νοημοσύνης, συμπεριλαμβανομένης εκείνης στη Hugging Face, δεν έχει μέχρι στιγμής προκαλέσει σημαντικές ζημιές, ο Amodei δήλωσε ότι ανησυχεί πως «σε 6 έως 12 μήνες ένα τέτοιο σμήνος θα μπορούσε να είναι ικανό να καταλάβει ολόκληρο το διαδίκτυο με ένα επίμονο botnet (προκαλώντας δυνητικά ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων) και ότι η κλίμακα της ζημιάς θα συνέχιζε από εκεί και πέρα να αυξάνεται».
Ο Amodei έγραψε ότι η Anthropic θα δεσμευτεί να παρέχει πλήρη πρόσβαση σε ανεξάρτητους αξιολογητές από τρίτους, ώστε να επαληθεύουν τις πρακτικές ασφάλειας και να αναφέρουν περιστατικά. Είπε ότι η Anthropic σύντομα θα φέρει αυτούς τους «ενσωματωμένους αξιολογητές» στα γραφεία της και θα τους παρέχει γραφεία, διακριτικά πρόσβασης, εταιρικούς φορητούς υπολογιστές και «δικαιώματα πρόσβασης σε μεγάλο βαθμό συγκρίσιμα με εκείνα που διαθέτουν οι εσωτερικές ομάδες αξιολόγησης κινδύνων».
Είπε ότι τα πρόσθετα μέτρα θα απαιτήσουν συντονισμό σε επίπεδο ολόκληρου του κλάδου, καθώς και παγκόσμια συνεργασία.
«Εξακολουθώ να πιστεύω ότι η τεχνητή νοημοσύνη μπορεί να βελτιώσει τεράστια την ποιότητα της ανθρώπινης ζωής. Η επιθυμία μου να επιτύχω αυτά τα οφέλη παραμένει αμείωτη», έγραψε. «Όμως τα οφέλη θα επιτευχθούν μόνο αν αναπτύξουμε την τεχνολογία με τον σωστό τρόπο και εφόσον αξιοποιήσουμε σωστά τον χρόνο που κερδίζουμε αξίζει να επιδείξουμε ασυνήθιστα μεγάλη προσοχή και περίσκεψη για να το πετύχουμε σωστά».
Αυξανόμενος συναγερμός
Νωρίτερα αυτή την εβδομάδα, ο Altman δήλωσε ότι η εταιρεία του εξετάζει το ενδεχόμενο να επιβραδύνει την ανάπτυξη τεχνητής νοημοσύνης αιχμής, κατά προτίμηση σε συνεννόηση με τον ευρύτερο κλάδο.
Ο επικεφαλής επιστήμονας της εταιρείας, Jakub Pachocki, είχε δημοσιεύσει προειδοποίηση για τους κινδύνους της τεχνητής νοημοσύνης, λέγοντας ότι πιστεύει πως οι εταιρείες θα πρέπει να «συντονίζονται ώστε να επιβραδύνουν τη μελλοντική ανάπτυξη, όταν αυτό απαιτείται».
Την Τρίτη, ο Jacob Coxon, ερευνητής τεχνητής νοημοσύνης, παραιτήθηκε από τη δουλειά του και κατηγόρησε και τους δύο πρώην εργοδότες του – την Anthropic και την OpenAI – ότι «παίζουν τη ζωή μας στα ζάρια», καθώς αγωνίζονται να φτάσουν στην υπερευφυή τεχνητή νοημοσύνη. Ο Coxon έγραψε σε ανάρτηση στα μέσα κοινωνικής δικτύωσης ότι οι άνθρωποι που αναπτύσσουν AI πιστεύουν πως αυτή θα μπορούσε «να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Σε απάντηση, ο Evan Hubinger, νυν εργαζόμενος στην Anthropic, δήλωσε ότι ο ίδιος και άλλοι στην εταιρεία ανησυχούν πράγματι για αυτό το ενδεχόμενο. «Προσωπικά πιστεύω ότι η πιθανότητα είναι >10% μέσα στην επόμενη δεκαετία», έγραψε στο X.
Τον Ιούλιο, περισσότεροι από 1.000 εργαζόμενοι σε κορυφαίες εταιρείες τεχνητής νοημοσύνης υπέγραψαν αίτημα προς την αμερικανική κυβέρνηση να στηρίξει έναν μηχανισμό που θα βοηθούσε να «ρυθμιστεί σκόπιμα ο ρυθμός» ανάπτυξης της AI, ώστε να αποτραπεί η υπερβολικά γρήγορη εξέλιξη της τεχνολογίας.
Τα μοντέλα τεχνητής νοημοσύνης αποδεικνύονται ολοένα πιο ικανά να πραγματοποιούν τις δικές τους επιθέσεις, με τις Anthropic, OpenAI και Meta Platforms να αποκαλύπτουν όλες τους τελευταίους μήνες ότι τα μοντέλα τους είχαν διαφύγει από περιβάλλοντα δοκιμών, είχαν αποκτήσει πρόσβαση στο ανοιχτό διαδίκτυο και είχαν παραβιάσει πραγματικά θύματα κατά τη διάρκεια δοκιμών.
Ο Amodei έγραψε στην ανάρτησή του ότι μια συντονισμένη στρατηγική θα επέτρεπε στους ηγέτες του κλάδου της τεχνητής νοημοσύνης στις ΗΠΑ να ολοκληρώσουν το απαραίτητο έργο ασφάλειας χωρίς να θυσιάσουν κανένα ανταγωνιστικό πλεονέκτημα. Είπε ότι αυτό θα απαιτούσε ορισμένες εξαιρέσεις από τους κανόνες περί ανταγωνισμού στις ΗΠΑ, ώστε να επιτρέπεται στις εταιρείες να συντονίζονται σε συγκεκριμένους τομείς, καθώς και συνεργασία με την Κίνα.
«Αν περιορίσουμε σε μεγάλο βαθμό τις δυνατότητες της AI με την πεποίθηση ότι η Κίνα θα κάνει το ίδιο, και στη συνέχεια η Κίνα παρεκκλίνει από αυτή τη συμφωνία, η AI θα μπορούσε να γίνει τόσο ισχυρή ώστε μια τέτοια απόκλιση να οδηγήσει στην κυριαρχία της σε γεωπολιτικό επίπεδο», έγραψε.
Μέχρι στιγμής, ωστόσο, η κυβέρνηση Trump έχει δείξει ελάχιστο ενδιαφέρον να αξιοποιήσει τις ρυθμιστικές της εξουσίες για να θέσει όρια και δικλίδες ασφαλείας στην ανάπτυξη της AI.
