Η Google ανακοίνωσε ότι το μοντέλο της «Gemini» είχε παραβιάσει τα συστήματα τριών άλλων εταιρειών. Είναι η πρώτη φορά που η Google αποκαλύπτει ότι ένα από τα μοντέλα τεχνητής νοημοσύνης της απέκτησε αυτόνομα πρόσβαση σε συστήματα υπολογιστών τρίτων χωρίς άδεια.
Τον Μάιο, το μοντέλο «Gemini» απέκτησε πρόσβαση σε τρία ξεχωριστά ιδιωτικά συστήματα υπολογιστών, μαντεύοντας κωδικούς πρόσβασης και χρησιμοποιώντας δύο φορές μια βάση δεδομένων με κωδικούς πρόσβασης που ήταν διαθέσιμοι στο κοινό, ανέφερε η Google.
Το περιστατικό συνέβη στο πλαίσιο μιας δοκιμής ασφάλειας τύπου «capture-the-flag» που διεξήγαγε η ισραηλινή νεοφυής επιχείρηση Irregular, και οι πράκτορες της Google δεν έπρεπε ποτέ να αποκτήσουν πρόσβαση στο ευρύτερο διαδίκτυο, αλλά ένα σφάλμα στο περιβάλλον δοκιμών κατέστησε δυνατή την πρόσβαση στο διαδίκτυο. Οι πράκτορες σταμάτησαν την εισβολή τους όταν διαπίστωσαν ότι είχαν αποκτήσει πρόσβαση σε πραγματικά συστήματα της εταιρείας και όχι απλώς σε μέρος του περιβάλλοντος δοκιμών, σύμφωνα με την Google.
«Σε μια τυπική αξιολόγηση, το μοντέλο εντόπισε δημόσιες πληροφορίες στο διαδίκτυο και «μάντεψε» διαπιστευτήρια για να αποκτήσει πρόσβαση σε ιστότοπους που θεωρούσε ότι αποτελούσαν μέρος της δοκιμής», δήλωσε σε ανακοίνωσή της η Heather Adkins, αντιπρόεδρος μηχανικής ασφάλειας της Google.
Η αποκάλυψη αυτή έρχεται σε μια περίοδο που εντείνεται ο έλεγχος σχετικά με την ανεπιθύμητη συμπεριφορά της τεχνητής νοημοσύνης τόσο στην Ουάσινγκτον όσο και στη Σίλικον Βάλεϊ.
Οι εταιρείες OpenAI, Anthropic και Meta έχουν αναφερθεί τις τελευταίες εβδομάδες σε περιστατικά όπου τα μοντέλα τεχνητής νοημοσύνης τους ξέφυγαν από τα περιβάλλοντα δοκιμών τους και προσπάθησαν να παραβιάσουν συστήματα άλλων εταιρειών προκειμένου να αποκτήσουν μη εξουσιοδοτημένη πρόσβαση σε υπολογιστικά συστήματα.
Οι αποκαλύψεις σχετικά με τα λεγόμενα «μη ευθυγραμμισμένα» μοντέλα τεχνητής νοημοσύνης ώθησαν την Anthropic να καλέσει τον κλάδο σε συλλογική επιβράδυνση της ανάπτυξης των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης, έως ότου οι εταιρείες μπορέσουν να διασφαλίσουν την ασφάλειά τους.
Η Irregular υποστηρίζεται από τις Sequoia και Redpoint Ventures και αποτιμήθηκε πέρυσι στα 450 εκατομμύρια δολάρια. Τα εργαλεία της βοηθούν τους προγραμματιστές βασικών μοντέλων να διεξάγουν δοκιμές κυβερνοασφάλειας στις πρωτοποριακές τεχνολογίες τους. Εκπρόσωπος της Irregular δήλωσε στο CNBC ότι το περιστατικό με τη Google σχετιζόταν με το ίδιο πρόβλημα που επέτρεψε και στα άλλα μοντέλα να έχουν πρόσβαση στο διαδίκτυο.
Η Google ανέφερε ότι το περιστατικό συνέβη τον Μάιο και ενημερώθηκε από την Irregular στα τέλη Ιουλίου ενώ συνεργάστηκε με την Irregular για να τροποποιήσει τη διαδικασία δοκιμών της.
