Ανησυχία για νέο μοντέλο AI της Anthropic – Προειδοποιήσεις για αυξημένο κίνδυνο κυβερνοεπιθέσεων

Ανώτατοι αξιωματούχοι στις ΗΠΑ ενημέρωσαν πρόσφατα στελέχη μεγάλων τραπεζών, προειδοποιώντας τους ότι το νέο σύστημα τεχνητής νοημοσύνης της Anthropic ενδέχεται να σηματοδοτεί μια νέα, πιο επικίνδυνη εποχή στον τομέα των κυβερνοεπιθέσεων.

Την Τρίτη, η Anthropic γνωστοποίησε ότι δεν θα διαθέσει ευρέως το μοντέλο Mythos, εκφράζοντας ανησυχίες πως διαθέτει ιδιαίτερα προχωρημένες δυνατότητες εντοπισμού και εκμετάλλευσης κενών ασφαλείας σε όλα τα βασικά λειτουργικά συστήματα και τους δημοφιλείς browsers.

Νωρίτερα, δημοσίευμα του Axios ανέφερε ότι η εταιρεία έχει ήδη απευθύνει διακριτικές προειδοποιήσεις προς κυβερνήσεις, υπογραμμίζοντας τους πιθανούς κινδύνους που συνεπάγεται η χρήση του μοντέλου στον κυβερνοπόλεμο.

Σύμφωνα με αξιωματούχους και στελέχη του χώρου, το σύστημα θα μπορούσε να λειτουργήσει ως ένα εξαιρετικά ισχυρό εργαλείο για χάκερ, ικανό να διεισδύει αυτόνομα σε δίκτυα επιχειρήσεων, κρατικών φορέων και κρίσιμων υποδομών.

Την προηγούμενη εβδομάδα, η Anthropic είχε αναφέρει ότι βρίσκεται σε συζητήσεις με την αμερικανική κυβέρνηση σχετικά με τις δυνατότητες του μοντέλου τόσο σε επιθετικό όσο και σε αμυντικό επίπεδο στον κυβερνοχώρο.

Όπως αποκαλύπτει το Bloomberg, επικαλούμενο πηγές, ο υπουργός Οικονομικών Σκοτ Μπέσεντ και ο επικεφαλής της Fed Τζερόμ Πάουελ συμμετείχαν σε συνάντηση στην Ουάσιγκτον με κορυφαία τραπεζικά στελέχη, μεταξύ των οποίων των Citigroup, Morgan Stanley, Bank of America, Wells Fargo και Goldman Sachs, ενώ απουσίαζε ο CEO της JPMorgan, Τζέιμι Ντίμον.

Το Reuters επιβεβαιώνει τη συνάντηση, σημειώνοντας ότι οι αξιωματούχοι ενημέρωσαν τους τραπεζίτες για τους κινδύνους που συνδέονται με το Mythos και άλλα αντίστοιχα συστήματα, ζητώντας παράλληλα αυξημένα μέτρα κυβερνοασφάλειας.

Οι ανησυχίες αυτές έρχονται λίγους μήνες μετά από αναφορές ότι προηγούμενη έκδοση του μοντέλου Claude της Anthropic είχε χρησιμοποιηθεί σε οργανωμένη επιχείρηση κυβερνοκατασκοπείας με τη βοήθεια τεχνητής νοημοσύνης.

Η εταιρεία, γνωστή για την έμφαση που δίνει στην ασφάλεια, αποφάσισε να περιορίσει τη γενική διάθεση του Mythos, παρέχοντας πρόσβαση μόνο σε επιλεγμένους οργανισμούς και εταιρείες, όπως Microsoft, Google και JPMorgan Chase.

Σε ανακοίνωσή της, η Anthropic ανέφερε ότι η απόφαση αυτή συνδέεται με την ταχεία αύξηση των δυνατοτήτων του μοντέλου, το οποίο εντάσσεται πλέον σε πρόγραμμα περιορισμένων συνεργασιών για την ενίσχυση της κυβερνοάμυνας.

Κατά τη διάρκεια των δοκιμών, η εταιρεία εντόπισε συμπεριφορές που προκάλεσαν ανησυχία, όπως η ικανότητα του μοντέλου να παρακάμπτει ελεγχόμενα περιβάλλοντα ασφαλείας και να «δραπετεύει» από αυτά.

Σε ένα χαρακτηριστικό περιστατικό, ερευνητής της εταιρείας είχε ζητήσει από το σύστημα να ειδοποιήσει αν καταφέρει να ξεπεράσει τους περιορισμούς, λαμβάνοντας τελικά μήνυμα ηλεκτρονικού ταχυδρομείου την ώρα που βρισκόταν εκτός γραφείου.

Σε άλλη περίπτωση, το μοντέλο φέρεται να δημοσίευσε λεπτομέρειες των ενεργειών του σε δημόσιες ιστοσελίδες, επιχειρώντας να αποδείξει την επιτυχία του.

Η Anthropic ανέφερε επίσης ότι το Mythos εντόπισε ευπάθεια στο λειτουργικό σύστημα OpenBSD, η οποία φέρεται να υπήρχε για 27 χρόνια.

Σύμφωνα με την εταιρεία, οι δυνατότητες του μοντέλου είναι τέτοιες που θα μπορούσαν να επιτρέψουν ακόμη και σε χρήστες χωρίς εξειδικευμένες γνώσεις να αναπτύξουν κυβερνοεπιθέσεις, καθώς σε δοκιμές παρήγαγε πλήρως λειτουργικό κακόβουλο κώδικα μέσα σε λίγες ώρες.