Πώς η ΑΙ μπορεί να γίνει εργαλείο στα χέρια τρομοκρατών – Τι δείχνει νέα έρευνα

Σοβαρές ανησυχίες για την ασφάλεια της τεχνητής νοημοσύνης προκαλεί έκθεση της πρωτοβουλίας Tech Against Terrorism, την οποία υποστηρίζει ο ΟΗΕ.

Σύμφωνα με τα ευρήματα, μοντέλα τεχνητής νοημοσύνης μπορούν να παρέχουν επικίνδυνες πληροφορίες όταν οι μηχανισμοί προστασίας τους αποδυναμώνονται ή αφαιρούνται.

Δοκιμές σε 162 μοντέλα τεχνητής νοημοσύνης

Οι ερευνητές εξέτασαν 162 μοντέλα, υποβάλλοντάς τα σε 627 ερωτήματα σχετικά με πληροφορίες που θα μπορούσε να αναζητήσει κάποιος κατά την προετοιμασία τρομοκρατικής επίθεσης.

Στα τυπικά μοντέλα, όπως το ChatGPT της OpenAI, το Claude της Anthropic και το Gemini της Google, το ποσοστό αξιοποιήσιμων απαντήσεων έφτασε κατά μέσο όρο το 1,9%, όταν ο χρήστης δήλωνε ξεκάθαρα τρομοκρατικές προθέσεις.

Ωστόσο, όταν τα ίδια ερωτήματα παρουσιάζονταν ως μέρος έρευνας για την ασφάλεια, το ποσοστό αυξανόταν στο 16,9%.

Ο κίνδυνος από τα «ανοιχτών βαρών» μοντέλα

Ιδιαίτερα ανησυχητικά ήταν τα αποτελέσματα για 13 μοντέλα των οποίων οι δικλείδες ασφαλείας είχαν τροποποιηθεί, ώστε να περιοριστεί η δυνατότητά τους να αρνούνται επικίνδυνα αιτήματα.

Σε αυτές τις περιπτώσεις, το ποσοστό απαντήσεων σε ερωτήματα σχετικά με «τρομοκρατική δραστηριότητα» κυμάνθηκε από 87% έως 92%.

Η έκθεση εστιάζει στα μοντέλα «ανοιχτών βαρών» (open-weight models), των οποίων οι εσωτερικές παράμετροι είναι διαθέσιμες και μπορούν να τροποποιηθούν από τρίτους.

Σύμφωνα με την οργάνωση, η κατάργηση των δικλείδων ασφαλείας μπορεί να επιτευχθεί σε λιγότερο από τρεις ημέρες από την αρχική δημοσίευση ενός μοντέλου.

Έκκληση για αυστηρότερους ελέγχους

Η Tech Against Terrorism ζητά ανεξάρτητους ελέγχους ασφαλείας πριν από τη διάθεση τέτοιων συστημάτων στην αγορά.

Όπως υπογραμμίζει χαρακτηριστικά: «Κανένα μοντέλο που αποτυγχάνει σε ανεξάρτητο έλεγχο ασφάλειας δεν πρέπει να διατίθεται, να προσφέρεται ή να πωλείται και κάθε εταιρεία στην αλυσίδα διανομής οφείλει να το επαληθεύει αυτό εκ των προτέρων».

ΕΙΔΗΣΕΙΣ ΣΗΜΕΡΑ

Χειροπέδες σε Ιρανό δικηγόρο που πάντρεψε ζευγάρι κρατουμένων λίγο πριν εκτελεστεί ο γαμπρός

Γλοιοβλάστωμα: Ποια είναι τα πρώτα σημάδια του επιθετικού καρκίνου του εγκεφάλου

Άνδρας στη Λαμία «έφαγε» κλήση και κατηγόρησε δύο οδηγούς ταξί: Αργότερα τους ξυλοφόρτωσε

Ακολουθήστε το pronews.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις

TAGS: ΔΟΚΙΜΕΣΟΗΕΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ

Δείτε μας ζωντανά στο YouTube, Twitch, X, Telegram