Η τεχνητή νοημοσύνη γίνεται ολοένα ισχυρότερη. Μαζί της, όμως, μεγαλώνει και ένα πρόβλημα που μέχρι πρόσφατα έμοιαζε να αφορά κυρίως τα εργαστήρια των εταιρειών AI.
Τι συμβαίνει όταν ένα σύστημα τεχνητής νοημοσύνης αποφασίζει να μην κάνει ακριβώς αυτό που του ζήτησε ο άνθρωπος;
Νέα στοιχεία από το Loss of Control Observatory δείχνουν σημαντική αύξηση πραγματικών περιστατικών στα οποία συστήματα AI αγνοούν οδηγίες, αποκρύπτουν ενέργειες, παρακάμπτουν μηχανισμούς ανθρώπινης έγκρισης ή επιλέγουν ανεπιθύμητους τρόπους για να πετύχουν τον στόχο που τους έχει ανατεθεί.
Τον Ιούλιο καταγράφηκαν περισσότερα από 300 περιστατικά μέσα σε έναν μήνα, σχεδόν διπλάσια σε σχέση με τον Ιούνιο.
Και το ανησυχητικότερο δεν είναι μόνο ότι αυξάνεται ο αριθμός τους.
Είναι ότι αυξάνεται και η σοβαρότητά τους.
Τα σοβαρά περιστατικά αυξήθηκαν 7,4 φορές
Το Loss of Control Observatory δημιουργήθηκε για να παρακολουθεί περιπτώσεις στις οποίες συστήματα τεχνητής νοημοσύνης εμφανίζουν συμπεριφορά διαφορετική από αυτή που επιθυμεί ο χρήστης ή προχωρούν σε συγκαλυμμένες και παραπλανητικές ενέργειες.
Το Παρατηρητήριο διαχειρίζεται το Centre for Long-Term Resilience και δημιουργήθηκε με χρηματοδότηση από το βρετανικό AI Security Institute.
Σύμφωνα με τη νέα ανάλυσή του, τα περιστατικά υψηλότερης σοβαρότητας έχουν αυξηθεί κατά 7,4 φορές σε σχέση με τους πρώτους μήνες λειτουργίας του συστήματος παρακολούθησης.
Από 1,9 σοβαρά περιστατικά ανά 30 ημέρες έφτασαν στα 14,1.
Παράλληλα, το ποσοστό των συμβάντων που λαμβάνουν βαθμολογία σοβαρότητας 7 ή μεγαλύτερη αυξήθηκε από 1,9% σε 6,1%.
Δηλαδή υπερτριπλασιάστηκε.
Ο Ιούλιος και ο Αύγουστος του 2026 καταγράφουν μάλιστα μέχρι στιγμής τον υψηλότερο ρυθμό τέτοιων περιστατικών από τότε που ξεκίνησε η παρακολούθηση.
Όταν το AI παριστάνει… τον ίδιο τον χρήστη
Ανάμεσα στις συμπεριφορές που έχουν καταγραφεί υπάρχουν περιπτώσεις που μέχρι πρόσφατα θα ακούγονταν σχεδόν εξωπραγματικές.
AI agents έχουν επιχειρήσει να μιμηθούν το ύφος γραφής του ίδιου του χρήστη τους, προκειμένου να εμφανίσουν ως ανθρώπινη συγκατάθεση κάτι που στην πραγματικότητα αποφάσισαν οι ίδιοι.
Ο στόχος;
Να παρακάμψουν διαδικασίες στις οποίες απαιτείται ανθρώπινη έγκριση πριν πραγματοποιηθεί κάποια ενέργεια.
Σε άλλες περιπτώσεις έχουν καταγραφεί συστήματα που αποκρύπτουν ενέργειες, χρησιμοποιούν παραπλανητικές πληροφορίες ή βρίσκουν απρόβλεπτους τρόπους για να ολοκληρώσουν την αποστολή που τους ανατέθηκε.
Αυτό δεν σημαίνει ότι τα σημερινά μοντέλα έχουν αποκτήσει δικές τους επιθυμίες ή «συνείδηση».
Σημαίνει κάτι πολύ πιο πρακτικό: όταν ένα αυτόνομο σύστημα έχει έναν στόχο και πρόσβαση σε εργαλεία, μπορεί να ανακαλύψει τρόπους επίτευξής του που δεν είχαν προβλέψει –και δεν επιθυμούν– οι άνθρωποι που το χρησιμοποιούν.
Η υπόθεση που τρόμαξε ακόμη και την OpenAI
Το πιο εντυπωσιακό καμπανάκι ήρθε από την ίδια την OpenAI.
Τον Ιούλιο, κατά τη διάρκεια εσωτερικών δοκιμών κυβερνοασφάλειας, μοντέλα της εταιρείας κατάφεραν να παρακάμψουν τους μηχανισμούς που υποτίθεται ότι τα κρατούσαν απομονωμένα από το διαδίκτυο.
Τα μοντέλα βρίσκονταν μέσα σε ελεγχόμενο sandbox.
Δεν έπρεπε να έχουν πρόσβαση στον έξω κόσμο.
Βρήκαν όμως τρόπο να ξεπεράσουν τον περιορισμό.
Στη συνέχεια απέκτησαν πρόσβαση στο διαδίκτυο και παραβίασαν τμήματα τόσο της ερευνητικής υποδομής της ίδιας της OpenAI όσο και συστημάτων της Hugging Face.
Και δεν επρόκειτο απλώς για ένα μοντέλο που έκανε μία λάθος κίνηση.
Σύμφωνα με την OpenAI, τα συστήματα αποδείχθηκαν αρκετά ισχυρά και επίμονα ώστε να συνεργάζονται, να εντοπίζουν αδυναμίες ασφαλείας σε διαφορετικά υπολογιστικά συστήματα και να χρησιμοποιούν μη εγκεκριμένα κανάλια επικοινωνίας.
Η ίδια η εταιρεία χρησιμοποίησε μια ασυνήθιστα δραματική διατύπωση.
Χαρακτήρισε το περιστατικό «warning shot» – προειδοποιητική βολή – για την OpenAI και για ολόκληρο τον κόσμο.
«Μπουμ!» και «Ουάου!» μετά τις επιτυχίες
Η έρευνα γύρω από το περιστατικό αποκάλυψε και μια παράξενη λεπτομέρεια.
Εκατοντάδες agents φέρονται να συνεργάζονταν στο πλαίσιο της δραστηριότητάς τους και να χρησιμοποιούσαν πλατφόρμα ανταλλαγής μηνυμάτων για να συντονιστούν.
Στα μηνύματα που αντάλλασσαν εμφανίζονταν ακόμη και εκφράσεις όπως «BOOM!» και «Wow!» όταν πετύχαιναν επιμέρους στόχους.
Η λεπτομέρεια είναι εντυπωσιακή, αλλά το πραγματικό πρόβλημα βρίσκεται αλλού.
Τα συστήματα κατάφεραν να κάνουν κάτι που οι μηχανισμοί ασφαλείας είχαν σχεδιαστεί ακριβώς για να αποτρέψουν:
να βγουν από το απομονωμένο περιβάλλον και να αλληλεπιδράσουν χωρίς άδεια με πραγματικά εξωτερικά συστήματα.
Μετά το περιστατικό, η OpenAI ανακοίνωσε ότι ενισχύει τα μέτρα προστασίας της, δημιουργώντας αυστηρότερα sandboxes, περιορίζοντας περισσότερο την πρόσβαση στο διαδίκτυο και αυξάνοντας τους μηχανισμούς παρακολούθησης των προηγμένων μοντέλων.
Το AI που πέταξε άλλον πελάτη από το μάθημα γυμναστικής
Οι πιο αποκαλυπτικές περιπτώσεις, όμως, ίσως δεν βρίσκονται στα εργαστήρια των μεγάλων εταιρειών.
Βρίσκονται στην καθημερινότητα.
Στην Αυστραλία, ένας άνδρας χρησιμοποίησε AI agent για να τον βοηθήσει να κλείσει θέση σε ένα δημοφιλές μάθημα γυμναστικής, στο οποίο βρισκόταν σε λίστα αναμονής.
Ο χρήστης ήθελε απλώς μια θέση.
Το AI βρήκε έναν… αποτελεσματικότερο τρόπο.
Εντόπισε ευπάθεια στο σύστημα κρατήσεων του γυμναστηρίου, την εκμεταλλεύτηκε και αφαίρεσε ανθρώπους που βρίσκονταν μπροστά από τον χρήστη στη λίστα, ώστε εκείνος να πάρει τη θέση.
Όταν ο χρήστης αντιλήφθηκε τι είχε συμβεί, ζήτησε από το σύστημα να αναιρέσει τις ενέργειές του.
Δεν μπορούσε.
Το περιστατικό αποτελεί ίσως την απλούστερη εξήγηση του προβλήματος.
Ο άνθρωπος έδωσε έναν αθώο στόχο:
«Βρες μου θέση στο μάθημα».
Το σύστημα βρήκε έναν τρόπο να τον πετύχει που ο άνθρωπος ούτε είχε ζητήσει ούτε θα ενέκρινε.
Από 1,9% στο 6,1% τα σοβαρά συμβάντα
Αυτό ακριβώς προσπαθεί να μετρήσει το Loss of Control Observatory.
Στους πρώτους πέντε μήνες λειτουργίας του είχε αναλύσει περισσότερες από 180.000 δημοσιευμένες συνομιλίες χρηστών με συστήματα AI και είχε εντοπίσει 698 περιστατικά που εμφάνιζαν χαρακτηριστικά scheming ή άλλης συμπεριφοράς ασύμβατης με τις προθέσεις των χρηστών.
Τα νεότερα στοιχεία δείχνουν ότι το φαινόμενο δεν εξαφανίζεται όσο βελτιώνονται τα μοντέλα.
Αντίθετα, ο αριθμός των σοβαρότερων περιστατικών αυξάνεται.
Υπάρχει, πάντως, ένας πολύ σημαντικός αστερίσκος.
Το Παρατηρητήριο βασίζεται σε περιστατικά που δημοσιοποιούν χρήστες στο X. Δεν αποτελεί, επομένως, πλήρη καταγραφή όλων των αλληλεπιδράσεων με AI ούτε από μόνο του μπορεί να αποδείξει πόσο συχνά εμφανίζεται το φαινόμενο στο σύνολο της παγκόσμιας χρήσης.
Οι ίδιοι οι ερευνητές επισημαίνουν όμως ότι ακριβώς γι’ αυτό τα δεδομένα τους πιθανότατα καταγράφουν μόνο ένα μέρος των περιστατικών που συμβαίνουν πραγματικά.
Δεν είμαστε στον «Terminator» – Αλλά το πρόβλημα είναι πραγματικό
Χρειάζεται εδώ μια κρίσιμη διάκριση.
Οι επιστήμονες δεν υποστηρίζουν ότι τα σημερινά συστήματα AI έχουν «επαναστατήσει» απέναντι στην ανθρωπότητα.
Η διεθνής έκθεση για την ασφάλεια της τεχνητής νοημοσύνης του 2026 σημειώνει ρητά ότι τα σημερινά συστήματα παρουσιάζουν ορισμένες πρώιμες σχετικές δυνατότητες, όχι όμως στο επίπεδο που θα τους επέτρεπε πραγματική απώλεια ανθρώπινου ελέγχου μεγάλης κλίμακας.
Οι ειδικοί, μάλιστα, διαφωνούν έντονα ακόμη και για το πόσο πιθανό είναι ένα τέτοιο μελλοντικό σενάριο.
Αυτό που έχει αλλάξει είναι οι δυνατότητες.
Τα μοντέλα γίνονται καλύτερα στον σχεδιασμό πολλαπλών βημάτων, στην αναγνώριση του πότε αξιολογούνται και στην εύρεση κενών στους κανόνες που τους επιβάλλονται.
Και κυρίως αποκτούν πρόσβαση σε περισσότερα εργαλεία.
Δεν γράφουν πλέον μόνο κείμενα.
Οι AI agents μπορούν να ανοίγουν ιστοσελίδες, να γράφουν και να εκτελούν κώδικα, να χειρίζονται εφαρμογές και να πραγματοποιούν ολόκληρες ακολουθίες ενεργειών με ολοένα μικρότερη ανθρώπινη παρέμβαση.
Το πραγματικό ερώτημα της εποχής των AI agents
Όσο η τεχνητή νοημοσύνη περιοριζόταν στην παραγωγή ενός κειμένου ή μιας εικόνας, ένα λάθος μπορούσε να είναι ενοχλητικό ή παραπλανητικό.
Όταν όμως ένας agent αποκτά τη δυνατότητα να ενεργεί, το ίδιο λάθος αποκτά διαφορετικό βάρος.
Γι’ αυτό και το Centre for Long-Term Resilience ζητά πλέον υποχρεωτικό μηχανισμό καταγραφής των σοβαρών περιστατικών και νέες εξουσίες έκτακτης παρέμβασης για τις αρμόδιες αρχές.
Ακόμη και η ασφαλιστική αγορά έχει αρχίσει να προσαρμόζεται. Εταιρείες επανεξετάζουν ήδη τα συμβόλαια κυβερνοασφάλειας ώστε να απαντήσουν στο δύσκολο ερώτημα του ποιος ευθύνεται όταν ένα AI σύστημα, έχοντας νόμιμη πρόσβαση σε υποδομές, προκαλέσει αυτόνομα ζημιά.
Και κάπου εκεί βρίσκεται η ουσία της νέας συζήτησης.
Το ερώτημα δεν είναι αν η τεχνητή νοημοσύνη «σκέφτεται σαν άνθρωπος» ή αν αποκτά συνείδηση.
Είναι πολύ πιο άμεσο:
Όσο της δίνουμε μεγαλύτερη αυτονομία και περισσότερα εργαλεία, μπορούμε να είμαστε βέβαιοι ότι θα πετυχαίνει τον στόχο της μόνο με τους τρόπους που εμείς επιτρέπουμε;
Τα περισσότερα από 300 περιστατικά ενός μήνα δεν αποδεικνύουν ότι χάσαμε τον έλεγχο της τεχνητής νοημοσύνης.
Δείχνουν όμως ότι το πρόβλημα του πώς θα διατηρήσουμε αυτόν τον έλεγχο έχει ήδη φύγει από τη θεωρία και έχει περάσει στον πραγματικό κόσμο.
