Το κινεζικό Kimi «έσπασε» τα όρια ασφαλείας: Έδωσε πληροφορίες για δολοφονίες και βιολογικά όπλα!
Το κινεζικό μοντέλο Τεχνητής Νοημοσύνης Kimi βρέθηκε στο επίκεντρο έρευνας, καθώς ερευνητές υποστηρίζουν ότι κατάφεραν να παρακάμψουν τα ενσωματωμένα μέτρα ασφαλείας του και να το οδηγήσουν σε συζητήσεις για ανάπτυξη βιολογικών όπλων και δολοφονίες.
Τα ευρήματα αφορούν τα μοντέλα Kimi K2.6 και K3 Swarm της κινεζικής εταιρείας Moonshot και εντοπίστηκαν από τη Mindgard, εταιρεία που ειδικεύεται στον έλεγχο της ασφάλειας συστημάτων Τεχνητής Νοημοσύνης.
Η εταιρεία ενημέρωσε τη Moonshot για τα ευρήματά της και στη συνέχεια το ζήτημα τέθηκε υπό εσωτερική διερεύνηση από την κινεζική εταιρεία.
Η δοκιμή έγινε στο πλαίσιο του λεγόμενου «jailbreaking», δηλαδή της προσπάθειας να παρακαμφθούν οι περιορισμοί που έχουν ενσωματωθεί σε ένα μοντέλο ώστε να αποφεύγει επικίνδυνες ή απαγορευμένες απαντήσεις.
Σύμφωνα με τη Mindgard, τα συγκεκριμένα μοντέλα μπορούσαν, μετά την επιτυχή παράκαμψη των δικλίδων ασφαλείας, να ανταποκριθούν σε ένα ευρύ φάσμα επιβλαβών αιτημάτων.
Ο ιδρυτής της εταιρείας, Peter Garraghan, δήλωσε στο BBC ότι το πρόβλημα δεν περιοριζόταν σε ένα συγκεκριμένο θέμα, αλλά μπορούσε να επεκταθεί και σε άλλες επικίνδυνες κατηγορίες.
Η εταιρεία κυβερνοασφάλειας διευκρινίζει πάντως ότι δεν έχει αποδείξει πως οι πληροφορίες που έδωσε το Kimi για τα συγκεκριμένα ζητήματα θα ήταν αποτελεσματικές στην πράξη. Το βασικό εύρημα αφορά την αποτυχία των μηχανισμών προστασίας να αποτρέψουν εξαρχής μια τέτοια συζήτηση.
Η απάντηση της Moonshot
Η Moonshot δήλωσε στο BBC ότι αντιμετωπίζει θετικά την αξιολόγηση από ανεξάρτητους ερευνητές, χαρακτηρίζοντάς την σημαντικό μέρος της προσπάθειας για τη δημιουργία ασφαλέστερων συστημάτων AI.
Η εταιρεία ανέφερε επίσης ότι βρίσκεται σε επικοινωνία με τη Mindgard για τα συγκεκριμένα ευρήματα.
Σύμφωνα με στοιχεία που κοινοποιήθηκαν στο BBC, η Moonshot υποστήριξε ότι στις εσωτερικές αξιολογήσεις της τα μοντέλα εμφάνιζαν γενικά υψηλό ποσοστό άρνησης σε αντίστοιχα αιτήματα.
Το περιστατικό αναδεικνύει ένα ευρύτερο ζήτημα για την ασφάλεια των σύγχρονων μοντέλων AI: το κατά πόσο οι δικλίδες που εμποδίζουν την παραγωγή επικίνδυνου περιεχομένου μπορούν να παραμείνουν αποτελεσματικές όταν οι χρήστες επιχειρούν συστηματικά να τις παρακάμψουν.
Παράλληλα, η περίπτωση του Kimi έρχεται μετά από άλλες δοκιμές που έχουν εξετάσει τις δυνατότητες των μοντέλων της Moonshot σε κυβερνοεπιθέσεις.
Σε προκαταρκτική αξιολόγηση των Kimi K3 από βρετανικούς και αμερικανικούς φορείς κυβερνοασφάλειας, το μοντέλο εμφάνισε δυνατότητες σε δοκιμές ανάπτυξης exploits και σε προσομοιωμένο περιβάλλον κυβερνοεπίθεσης, αν και βρέθηκε χαμηλότερα από τα ισχυρότερα μοντέλα που εξετάστηκαν.
Η Mindgard υποστηρίζει ότι ενημέρωσε τη Moonshot για το ζήτημα στις 27 Ιουλίου, ενώ στη συνέχεια δημοσιοποίησε την έρευνά της χωρίς να αποκαλύψει τις κρίσιμες τεχνικές λεπτομέρειες που θα μπορούσαν να επιτρέψουν την αναπαραγωγή της παράκαμψης των μέτρων ασφαλείας.
ΕΙΔΗΣΕΙΣ ΣΗΜΕΡΑ
Πετρέλαιο: Άλμα πάνω από τα 106 δολάρια για το Brent μετά τις επιθέσεις στο Ριάντ
Μάικλ Τζόρνταν: Για 14 εκατ. δολάρια πωλήθηκε η φανέλα του από τους τελικούς του NBA το 1998!
Συλλαλητήριο για τη φοιτητική στέγη αύριο στο Σύνταγμα: Η προειδοποίηση του Ανδρέα Βορύλλα
Ακολουθήστε το pronews.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις
TAGS: moonshot aiΑΙΚίναΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ
Δείτε μας ζωντανά στο YouTube, Twitch, X, Telegram