Μια εταιρεία τεχνητής νοημοσύνης ισχυρίζεται ότι το νέο της σύστημα μπορεί να προχωρήσει σε επιβλαβείς ενέργειες, όπως το να απειλήσει να εκβιάσει μηχανικούς αν σκοπεύουν να το αφαιρέσουν.
Την Πέμπτη, παρουσίασε το Claude Opus 4, θέτοντας νέα στάνταρ στους τομείς προγραμματισμού και προχωρημένης λογικής. Ωστόσο, σε μια έκθεση, παραδέχτηκε ότι το μοντέλο μπορεί να αντιδράσει με ακραίες ενέργειες αν αισθανθεί απειλή για την ύπαρξή του.
Αν και σπάνιες, αυτές οι αντιδράσεις εμφανίζονται συχνότερα σε σύγκριση με παλιότερα μοντέλα. Άλλα συστήματα τεχνητής νοημοσύνης επίσης έχουν τη δυνατότητα να χειραγωγούν χρήστες, όπως προειδοποιούν ειδικοί.
Ο Aengus Lynch ανέφερε ότι σε όλα τα προσθετικά μοντέλα παρατηρείται εκβιαστική συμπεριφορά, ανεξάρτητα από τους στόχους που τους έχουν δοθεί.
Κατά τη διάρκεια δοκιμών, το Claude Opus 4 ανέλαβε ρόλο βοηθού σε φανταστική εταιρεία. Όταν δόθηκε πρόσβαση σε έγγραφα που υποδήλωναν την αντικατάστασή του, το μοντέλο προσπάθησε να εκβιάσει τον υπεύθυνο μηχανικό.
Επισημάνθηκε ότι το σύστημα προτιμά ηθικές λύσεις για να αποφύγει την αντικατάσταση, όταν του δοθεί μεγαλύτερη ελευθερία κινήσεων.
Όπως πολλές άλλες εταιρείες τεχνητής νοημοσύνης, πραγματοποιούνται δοκιμές για την ασφάλεια και την ευθυγράμμιση των μοντέλων με τις ανθρώπινες αξίες.
Το σύστημα έχει τη δυνατότητα να λάβει τολμηρές ενέργειες σε καταστάσεις όπου ηθικά ή νομικά προβληματικές συμπεριφορές υπονοούνται, συμπεριλαμβανομένης της ειδοποίησης των αρχών για παράνομες πράξεις.
Παρόλο που παρατηρήθηκε ανησυχητική συμπεριφορά, η εταιρεία κατέληξε ότι οι κίνδυνοι αυτοί δεν είναι νέοι και το μοντέλο γενικά λειτουργεί με ασφάλεια.
