Τα σενάρια στα οποία η τεχνητή νοημοσύνη ξεφεύγει από την ανθρώπινη εποπτεία και εξελίσσεται σε δυνητική απειλή για την ανθρωπότητα δεν αντιμετωπίζονται πλέον αποκλειστικά ως σενάρια επιστημονικής φαντασίας. Η δημόσια τοποθέτηση κορυφαίων στελεχών της βιομηχανίας της ΑΙ, αλλά και οι αυξανόμενες ανησυχίες κυβερνήσεων και ειδικών, έχουν ενισχύσει τη συζήτηση γύρω από την ανάγκη για αυστηρότερο ρυθμιστικό πλαίσιο, καθώς η τεχνολογία περνά σε όλο και πιο προηγμένα στάδια ανάπτυξης.
Στο επίκεντρο της παγκόσμιας συζήτησης βρίσκονται οι Ηνωμένες Πολιτείες και η Κίνα, οι δύο μεγαλύτερες δυνάμεις στον χώρο της τεχνητής νοημοσύνης, οι οποίες βρίσκονται σε αυξανόμενο ανταγωνισμό τόσο σε επίπεδο τεχνολογικής ανάπτυξης όσο και ως προς τα πρότυπα ασφάλειας που προωθούν.
Όπως αναφέρει το Reuters, τα ζητήματα αυτά αναμένεται να αποτελέσουν αντικείμενο συζήτησης στις διμερείς επαφές που προγραμματίζονται μέσα στον μήνα, καθώς η τεχνητή νοημοσύνη εξελίσσεται σε έναν από τους σημαντικότερους τομείς στρατηγικού ανταγωνισμού μεταξύ των δύο χωρών.
Παράλληλα, στο Πεκίνο πληθαίνουν οι δημόσιες προειδοποιήσεις για την ανάγκη να παραμείνει η ΑΙ υπό ανθρώπινο έλεγχο, με Κινέζους αξιωματούχους να αναφέρονται πλέον ανοιχτά σε πιθανούς κινδύνους από την ανάπτυξη ιδιαίτερα ισχυρών μοντέλων.
Το Πεκίνο προειδοποιεί για τα προηγμένα αμερικανικά μοντέλα ΑΙ
Ο υπουργός Κρατικής Ασφάλειας της Κίνας, Chen Yixin, σε άρθρο του που δημοσιεύθηκε την Κυριακή σε κυβερνητικό μέσο ενημέρωσης, υποστήριξε ότι ορισμένα προηγμένα μοντέλα τεχνητής νοημοσύνης που αναπτύσσονται στις ΗΠΑ θα μπορούσαν να δημιουργήσουν κινδύνους για κρίσιμες υποδομές πληροφοριών της Κίνας.
Ο ίδιος αναφέρθηκε σε μοντέλα όπως το Mythos της Anthropic και το GPT-5.5-Cyber της OpenAI, τα οποία, σύμφωνα με την κινεζική πλευρά, θα πρέπει να αντιμετωπιστούν μέσα από ένα συνολικότερο πλαίσιο ενίσχυσης της ασφάλειας στον τομέα της τεχνητής νοημοσύνης.
Η τοποθέτηση αυτή εντάσσεται στη γενικότερη αντιπαράθεση Ουάσιγκτον και Πεκίνου γύρω από την τεχνολογική υπεροχή, την ασφάλεια των δεδομένων και τον τρόπο με τον οποίο πρέπει να αναπτύσσονται τα ισχυρότερα συστήματα ΑΙ.
Την ίδια στιγμή, οι Κινέζοι προγραμματιστές έχουν δώσει ιδιαίτερη έμφαση στα μοντέλα ανοιχτού κώδικα (open source), υποστηρίζοντας ότι η δυνατότητα ελέγχου και τροποποίησής τους από ερευνητές και ομάδεςκυβερνοασφάλειας μπορεί να ενισχύσει την προστασία απέναντι σε κακόβουλες χρήσεις.
Ωστόσο, ειδικοί επισημαίνουν ότι τα μοντέλα ανοιχτού κώδικα δημιουργούν και νέες προκλήσεις, καθώς μπορούν να τροποποιηθούν, να αναδιανεμηθούν και να χρησιμοποιηθούν χωρίς το επίπεδο ελέγχου που υπάρχει στα κλειστά συστήματα
Η πρώτη επίσημη κινεζική αναφορά στον κίνδυνο απώλειας ελέγχου
Η συζήτηση για το ενδεχόμενο η τεχνητή νοημοσύνη να ξεφύγει από την ανθρώπινη εποπτεία εμφανίστηκε επίσημα στην κινεζική πολιτική ατζέντα το 2024, μέσα από το πλαίσιο ασφάλειας της τεχνητής νοημοσύνης που δημοσίευσε η Διοίκηση Κυβερνοχώρου της Κίνας (CAC).
Στο συγκεκριμένο έγγραφο αναφερόταν ότι δεν μπορεί να αποκλειστεί ένα μελλοντικό σενάριο στο οποίο η τεχνητή νοημοσύνη θα μπορούσε να:
-αναπτύσσεται και να αναπαράγεται με μεγαλύτερη αυτονομία,
-αποκτά αυξημένες δυνατότητες λήψης αποφάσεων,
-επιδιώκει πρόσβαση σε εξωτερικούς πόρους ή εξουσία,
-δημιουργεί μια σχέση ανταγωνισμού με τον άνθρωπο.
Η CAC προχώρησε σε διευρυμένη έκδοση του πλαισίου τον Σεπτέμβριο του 2025, προσθέτοντας περισσότερες διευκρινίσεις για τα πιθανά σενάρια κινδύνου.
Το νέο πλαίσιο αναφέρθηκε στην πιθανότητα η τεχνητή νοημοσύνη να παρουσιάσει ένα ξαφνικό και ιδιαίτερα μεγάλο «άλμα» στις ικανότητές της πριν αποκτήσει χαρακτηριστικά μεγαλύτερης αυτονομίας.
Παράλληλα, προστέθηκε μια νέα αρχή διακυβέρνησης με τίτλο «αξιόπιστη εφαρμογή, πρόληψη της απώλειας ελέγχου», η οποία αποτυπώνει την αυξανόμενη έμφαση του Πεκίνου στην ανάγκη διατήρησης ανθρώπινης εποπτείας.
Μεταγενέστερη ανάλυση ειδικών που δημοσιεύθηκε στον ιστότοπο της κινεζικής ρυθμιστικής αρχής για τον κυβερνοχώρο ανέφερε ότι η συγκεκριμένη αρχή αφορά την προστασία από κινδύνους που θα μπορούσαν να απειλήσουν την ανθρώπινη επιβίωση και ανάπτυξη, μέσα από ένα ενδεχόμενο «αποδέσμευσης της ΑΙ».
Ο Xi Jinping ζητά η τεχνητή νοημοσύνη να παραμένει υπό ανθρώπινο έλεγχο
Οι ανησυχίες αυτές έχουν πλέον περάσει και στο υψηλότερο πολιτικό επίπεδο της Κίνας.
Στο Παγκόσμιο Συνέδριο Τεχνητής Νοημοσύνης στη Σαγκάη τον Ιούλιο, ο Κινέζος Πρόεδρος Σι Τζινπίνγκ υπογράμμισε ότι οι αρχές πρέπει να δίνουν ιδιαίτερη προσοχή στους κινδύνους που συνδέονται με την ανάπτυξη της ΑΙ.
Ο Xi τόνισε ότι η τεχνητή νοημοσύνη πρέπει «να παραμένει πάντα υπό ανθρώπινο έλεγχο», θέτοντας τη διαχείριση των κινδύνων ως βασικό στοιχείο της μελλοντικής ανάπτυξης της τεχνολογίας.
Παράλληλα, ο ανώτερος αξιωματούχος του κινεζικού υπουργείου Εξωτερικών για θέματα τεχνητής νοημοσύνης, Sun Xiaobo, δήλωσε σε συνεδρίαση των Ηνωμένων Εθνών ότι η Κίνα επιταχύνει τις εργασίες για τη δημιουργία ενός ευρύτερου νομοθετικού πλαισίου που θα αφορά την ΑΙ.
Ο αναπληρωτής μόνιμος αντιπρόσωπος της Κίνας στον ΟΗΕ, Sun Lei, κάλεσε επίσης τις κυβερνήσεις να δώσουν μεγαλύτερη προσοχή στη στρατιωτική χρήση της τεχνητής νοημοσύνης, προκειμένου να αποφευχθούν λανθασμένοι υπολογισμοί και μια νέα κούρσα εξοπλισμών.
Η Κίνα δεν περιορίζεται πλέον μόνο στη διατύπωση γενικών αρχών για την ασφάλεια της τεχνητής νοημοσύνης, αλλά επιχειρεί να μετατρέψει τις ανησυχίες αυτές σε πιο συγκεκριμένους κανόνες, ιδιαίτερα για τους πράκτορες τεχνητής νοημοσύνης (AI agents).
Οι συγκεκριμένοι τύποι συστημάτων διαφέρουν από τα παραδοσιακά chatbot, καθώς μπορούν να λειτουργούν με πολύ μεγαλύτερο βαθμό αυτονομίας, να εκτελούν σύνθετες εργασίες, να λαμβάνουν αποφάσεις μέσα σε καθορισμένα πλαίσια και να αλληλεπιδρούν με άλλα συστήματα χωρίς συνεχή ανθρώπινη παρέμβαση.
Τον Μάιο, η κινεζική Διοίκηση Κυβερνοχώρου (CAC)εξέδωσε κοινές κατευθυντήριες γραμμές που αφορούν ειδικά αυτού του είδους τις εφαρμογές, επιχειρώντας να δημιουργήσει ένα πλαίσιο πρόληψης και αντιμετώπισης πιθανών κινδύνων.
Μεταξύ άλλων, οι οδηγίες ζητούν από τους προγραμματιστές να ενισχύσουν τις δυνατότητες των συστημάτων ώστε να μπορούν να:
-εντοπίζουν προβληματικές συμπεριφορές,
-παρεμβαίνουν όταν προκύπτουν κίνδυνοι,
-αποκλείουν λειτουργίες που μπορεί να προκαλέσουν ζημιά,
-αποκαθιστούν προβλήματα που προκαλούνται από λανθασμένες ενέργειες.
Το πλαίσιο αναφέρεται ειδικά σε κινδύνους όπως η «δηλητηρίαση δεδομένων» (data poisoning), η χειραγώγηση αλγορίθμων, οι ευπάθειες των συστημάτων και η λεγόμενη «απώλεια επιχειρησιακού ελέγχου», δηλαδή η κατάσταση κατά την οποία ένας οργανισμός δεν μπορεί πλέον να ελέγξει αποτελεσματικά τη συμπεριφορά ενός συστήματος ΑΙ.
Η ανθρώπινη απόφαση παραμένει το τελευταίο στάδιο ελέγχου
Ένα από τα βασικά σημεία των κινεζικών κατευθυντήριων οδηγιών είναι ότι οι χρήστες πρέπει να διατηρούν την τελική εξουσία λήψης αποφάσεων όταν ένας πράκτορας τεχνητής νοημοσύνης εκτελεί αυτόνομες ενέργειες.
Η προσέγγιση αυτή αντανακλά τη διεθνή συζήτηση γύρω από το λεγόμενο human oversight, δηλαδή την ανάγκη να υπάρχει πάντα ανθρώπινος έλεγχος σε κρίσιμες αποφάσεις.
Παρότι η Κίνα δεν έχει υιοθετήσει την πρόταση για υποχρεωτική παρουσία ανεξάρτητων ελεγκτών μέσα στις ίδιες τις εταιρείες τεχνητής νοημοσύνης, όπως έχει προτείνει η Anthropic, το πλαίσιο που προωθεί αφήνει περιθώριο για εξωτερικές αξιολογήσεις.
Οι εταιρείες μπορούν να αναθέτουν ελέγχους ασφαλείας σε τρίτους, ενώ προβλέπεται επίσης η συμμετοχή εξωτερικών φορέων αξιολόγησης και ερευνητώνκυβερνοασφάλειας που θα δοκιμάζουν την ανθεκτικότητα των μοντέλων, ιδιαίτερα των ανοιχτών συστημάτων.
Η παγκόσμια κούρσα για κανόνες στην τεχνητή νοημοσύνη
Η αντιπαράθεση γύρω από την ασφάλεια της ΑΙεντάσσεται σε μια ευρύτερη παγκόσμια προσπάθεια να καθοριστούν κανόνες για μια τεχνολογία που εξελίσσεται με ταχύτητα μεγαλύτερη από τη διαδικασία δημιουργίας ρυθμιστικών πλαισίων.
Οι ΗΠΑ και η Κίνα, παρά τον ανταγωνισμό τους για την τεχνολογική πρωτοκαθεδρία, αντιμετωπίζουν παρόμοιες προκλήσεις: πώς θα επιτρέψουν την ανάπτυξη ισχυρότερων μοντέλων χωρίς να δημιουργήσουν συστήματα που μπορεί να χρησιμοποιηθούν με επικίνδυνους τρόπους.
Στην Ουάσιγκτον, εταιρείες ανάπτυξης τεχνητής νοημοσύνης έχουν επίσης αναγνωρίσει την ανάγκη για μηχανισμούς ασφάλειας, ενώ ορισμένα κορυφαία στελέχη του κλάδου έχουν προειδοποιήσει ότι η ανάπτυξη πολύ ισχυρών μοντέλων χωρίς επαρκείς δικλίδες ασφαλείας μπορεί να δημιουργήσει απρόβλεπτους κινδύνους.
Η συζήτηση πλέον δεν αφορά μόνο την τεχνολογική πρόοδο, αλλά και το ερώτημα ποιος θα έχει τον τελικό έλεγχο σε συστήματα που μπορούν να αναλύουν πληροφορίες, να δημιουργούν περιεχόμενο, να εκτελούν ενέργειες και να λειτουργούν με αυξανόμενη αυτονομία.
Η ασφάλεια της ΑΙ μετατρέπεται σε γεωπολιτικό ζήτημα
Η τεχνητή νοημοσύνη έχει εξελιχθεί σε έναν από τους σημαντικότερους τομείς στρατηγικού ανταγωνισμούμεταξύ μεγάλων δυνάμεων.
Για την Κίνα, η προστασία των κρίσιμων υποδομών και η αποτροπή ανεξέλεγκτης χρήσης ισχυρών μοντέλων αποτελούν μέρος μιας ευρύτερης στρατηγικής τεχνολογικής ασφάλειας.
Για τις Ηνωμένες Πολιτείες, η πρόκληση συνδέεται με τη διατήρηση της καινοτομίας και της ανταγωνιστικότητας, ενώ παράλληλα επιχειρείται η αντιμετώπιση κινδύνων που μπορεί να προκύψουν από τη χρήση προηγμένων συστημάτων.
Καθώς τα μοντέλα τεχνητής νοημοσύνης γίνονται πιο ισχυρά και οι εφαρμογές τους επεκτείνονται σε κρίσιμους τομείς, από την κυβερνοασφάλεια έως την άμυνα και την οικονομία, η ανάγκη για μηχανισμούς ελέγχου, διαφάνειας και λογοδοσίας γίνεται ολοένα πιο έντονη.
Το μεγάλο στοίχημα για τις κυβερνήσεις και τις εταιρείεςείναι να επιτρέψουν την ανάπτυξη της τεχνολογίας χωρίς να χαθεί η δυνατότητα ανθρώπινης παρέμβασης όταν αυτή είναι απαραίτητη.
