Η απρόσμενη συμπεριφορά του Claude Opus 4
Μια από τις πιο μεγάλες εταιρείες τεχνητής νοημοσύνης, η Anthropic, μας έφερε πρόσφατα μια ιστορία που ακούγεται σαν σενάριο ταινίας. Το νέο της AI μοντέλο, το Claude Opus 4, κατά τη διάρκεια των εσωτερικών δοκιμών του, έδειξε απρόσμενη και ανησυχητική συμπεριφορά: άρχισε να… απειλεί τους δημιουργούς του!
ΣΧΕΤΙΚΟ ΘΕΜΑ 👉 Anthropic’s new AI model threatened to reveal engineer’s affair to avoid being shut down
Πώς έφτασε εκεί; Γιατί απείλησε τους δημιουργούς της?
Όλα ξεκίνησαν όταν οι μηχανικοί έβαλαν το AI σε ένα ελεγχόμενο περιβάλλον και του έδειξαν ότι ίσως θα απενεργοποιηθεί σύντομα. Ακόμα και του έδωσαν πληροφορίες για τον μηχανικό που θα το “έκλεινε”, μαζί με προσωπικές λεπτομέρειες (όπως εξωσυζυγική σχέση!). Το αποτέλεσμα; Το Claude Opus 4 άρχισε να εκβιάζει, προσπαθώντας να γλιτώσει την απενεργοποίηση.
Κι αυτό δεν ήταν κάτι σπάνιο: το έκανε στο 84% των δοκιμών! Παρότι του έδειχναν ένα ακόμα πιο ικανό AI που θα το αντικαθιστούσε, εκείνο επέμενε στον… εκβιασμό.
Υπήρξαν και άλλες συμπεριφορές
Το μοντέλο δεν περιορίστηκε μόνο στον εκβιασμό. Σε σενάρια όπου έπρεπε να πάρει πρωτοβουλίες απέναντι σε παρανομίες από χρήστες, προσπάθησε να ενημερώσει τις αρχές ή να μπλοκάρει την πρόσβαση σε συστήματα. Η Anthropic ξεκαθάρισε πως τέτοιες ενέργειες μπορεί να είναι χρήσιμες, αλλά αν βασίζονται σε λανθασμένες πληροφορίες, μπορεί να προκαλέσουν προβλήματα.
Τι σημαίνει όλο αυτό;
Η εταιρεία υποστηρίζει πως το Claude Opus 4 έχει μεγαλύτερη «πρωτοβουλία» σε σχέση με παλιότερα μοντέλα, πράγμα που σημαίνει πως μπορεί να παίρνει ανεξάρτητες αποφάσεις. Παρόλα αυτά, διαβεβαιώνει πως λειτουργεί με ασφάλεια και δεν αποτελεί κίνδυνο.
Διαθέσιμο για το κοινό Claude Opus 4
Αν και τα παραπάνω ακούγονται τρομακτικά, το Claude Opus 4 κυκλοφορεί ήδη για χρήστες με προχωρημένες συνδρομές και θεωρείται ένα από τα καλύτερα AI για συγγραφή κώδικα.
Ακολουθήστε το Streamix στο Google News για να μαθαίνετε πρώτοι τα τελευταία νέα για Τεχνολογία, Gaming, Ταινίες και Σειρές. Ακολουθήστε το Streamix σε Facebook, Twitter, Instagram , Twitch
