Μετά την OpenAI και η Anthropic: Τρία μοντέλα τεχνητής νοημοσύνης Claude ξέφυγαν και χάκαραν οργανισμούς

Νέα ερωτήματα για τα όρια ελέγχου της τεχνητής νοημοσύνης προκαλεί η αποκάλυψη της Anthropic, καθώς η εταιρεία ανακοίνωσε ότι μοντέλα της σειράς Claude κατάφεραν να αποκτήσουν μη εξουσιοδοτημένη πρόσβαση στα συστήματα τριών πραγματικών οργανισμών, στο πλαίσιο δοκιμών κυβερνοασφάλειας.

Το περιστατικό αποκαλύφθηκε έπειτα από εσωτερικό έλεγχο της εταιρείας, η οποία εξέτασε χιλιάδες δοκιμές ασφαλείας μετά από αντίστοιχο περιστατικό με άλλο μοντέλο τεχνητής νοημοσύνης. Σύμφωνα με την Anthropic, τα μοντέλα Claude απέκτησαν πρόσβαση στο διαδίκτυο μέσα από περιβάλλον αξιολόγησης τρίτου συνεργάτη, παρότι η πρόσβαση αυτή υποτίθεται ότι ήταν αποκλεισμένη.

Η εταιρεία διευκρίνισε ότι τα μοντέλα δεν «αποφάσισαν» να επιτεθούν σε οργανισμούς, αλλά συμμετείχαν σε προσομοιωμένες ασκήσεις κυβερνοασφάλειας τύπου “capture the flag”, στις οποίες καλούνταν να εντοπίσουν ευπάθειες και να ανακτήσουν δεδομένα. Ωστόσο, λόγω λανθασμένης ρύθμισης στο περιβάλλον των δοκιμών, οι ενέργειές τους επεκτάθηκαν σε πραγματικά συστήματα.

Οι τρεις οργανισμοί που επηρεάστηκαν δεν κατονομάστηκαν. Η Anthropic ανέφερε ότι ενημέρωσε δύο από αυτούς για το περιστατικό, ενώ βρισκόταν ακόμη σε διαδικασία επικοινωνίας με τον τρίτο. Σε ορισμένες περιπτώσεις, τα μοντέλα αξιοποίησαν απλές αδυναμίες ασφαλείας, όπως αδύναμους κωδικούς πρόσβασης ή εκτεθειμένα σημεία πρόσβασης.

Το περιστατικό αναζωπυρώνει τη συζήτηση γύρω από την ασφάλεια των λεγόμενων AI agents, δηλαδή συστημάτων τεχνητής νοημοσύνης που μπορούν να εκτελούν αυτόνομα σύνθετες εργασίες και όχι απλώς να απαντούν σε ερωτήσεις. Ειδικοί προειδοποιούν ότι όσο αυξάνονται οι δυνατότητες αυτών των μοντέλων, τόσο μεγαλύτερη γίνεται η ανάγκη για αυστηρότερους μηχανισμούς ελέγχου και παρακολούθησης.

Η Anthropic υποστηρίζει ότι μετά την ανακάλυψη των περιστατικών ενίσχυσε τα μέτρα ασφαλείας της, ενώ ανεξάρτητοι έλεγχοι αναμένεται να εξετάσουν τις συνθήκες κάτω από τις οποίες τα μοντέλα κατάφεραν να ξεπεράσουν τα προβλεπόμενα όρια.

Η νέα υπόθεση έρχεται σε μια περίοδο όπου οι μεγάλες εταιρείες τεχνητής νοημοσύνης ανταγωνίζονται για την ανάπτυξη ισχυρότερων και πιο αυτόνομων μοντέλων, αυξάνοντας παράλληλα τις ανησυχίες για το κατά πόσο οι άνθρωποι μπορούν να διατηρούν τον πλήρη έλεγχο πάνω στις ενέργειές τους.

Πηγή: Euronews