Check Point και NVIDIA ενισχύουν την ασφάλεια των αυτόνομων AI agents

Καθώς οι επιχειρήσεις περνούν από τη χρήση της Τεχνητής Νοημοσύνης ως εργαλείου υποστήριξης στην αξιοποίηση αυτόνομων AI agents, οι οποίοι μπορούν να εκτελούν ενέργειες, να χρησιμοποιούν εργαλεία και να αλληλεπιδρούν με εταιρικά συστήματα, η κυβερνοασφάλεια βρίσκεται μπροστά σε μια νέα πρόκληση.

Πλέον, δεν αρκεί να ελέγχεται μόνο τι ζητείται από έναν AI agent. Εξίσου σημαντικό είναι να παρακολουθείται και ο τρόπος με τον οποίο επιλέγει να πετύχει τον στόχο του.

Σε αυτή τη νέα πραγματικότητα κινείται η Check Point Software Technologies Ltd., συνδυάζοντας την τεχνολογία semantic monitoring της εταιρείας με το NVIDIA OpenShell, στο πλαίσιο beta integration. Στόχος είναι να παρακολουθούνται και να αξιολογούνται οι ενέργειες ενός AI agent πριν φτάσουν στο σύστημα όπου πρόκειται να εκτελεστούν.

Το πρόβλημα με την αυτονομία των AI agents

Η βασική πρόκληση συνδέεται με τον ίδιο τον τρόπο λειτουργίας των αυτόνομων AI agents. Μια επιχείρηση μπορεί να έχει ορίσει με σαφήνεια τον στόχο που πρέπει να πετύχει ένας agent, χωρίς όμως να μπορεί να προβλέψει κάθε πιθανή διαδρομή που θα ακολουθήσει για να φτάσει σε αυτόν.

Για παράδειγμα, ένας AI agent που έχει αναλάβει την επεξεργασία τιμολογίων προμηθευτών μπορεί να χρειάζεται πρόσβαση σε τιμολόγια, βάσεις δεδομένων προμηθευτών και εγκεκριμένες διαδικασίες πληρωμών. Αυτό, ωστόσο, δεν σημαίνει ότι θα πρέπει να μπορεί να αναζητά credentials, να ανοίγει άσχετα αρχεία ή να προετοιμάζει τη μεταφορά δεδομένων σε νέο προορισμό.

Έτσι, η ασφάλεια καλείται να απαντά διαρκώς σε ένα βασικό ερώτημα: η συγκεκριμένη ενέργεια εξακολουθεί να εξυπηρετεί τον στόχο για τον οποίο έχει εξουσιοδοτηθεί ο AI agent;

Το NVIDIA OpenShell θέτει τα όρια

Η προσέγγιση της NVIDIA ξεκινά από το επίπεδο της ίδιας της υποδομής. Το NVIDIA Open Agent Safety Platform δημιουργεί ένα περιβάλλον όπου η υποδομή καθορίζει τι επιτρέπεται πραγματικά να κάνει ένας AI agent.

Στον πυρήνα της πλατφόρμας βρίσκεται το NVIDIA OpenShell, ένα ανοιχτό και ασφαλές runtime που ελέγχει τον τρόπο εκτέλεσης του agent, την πρόσβαση που έχει, τις ενέργειες που μπορεί να πραγματοποιεί και το πού κατευθύνεται το inference.

Η φιλοσοφία είναι ότι τίποτα δεν επιτρέπεται από προεπιλογή, ενώ οι αποφάσεις έγκρισης ή απόρριψης καταγράφονται. Παράλληλα, οι μηχανισμοί επιβολής λειτουργούν εκτός της διαδικασίας του ίδιου του agent, ώστε τα όρια ασφαλείας να παραμένουν σε ισχύ ακόμη και σε περίπτωση παραβίασής του.

Στην πλατφόρμα περιλαμβάνεται και το NVIDIA Sentry, το οποίο λειτουργεί πάνω στο NVIDIA BlueField 4 και αξιοποιεί το NVIDIA DOCA για ανεξάρτητη παρακολούθηση και εφαρμογή πολιτικών ασφαλείας. Με αυτόν τον τρόπο δημιουργείται ένας μηχανισμός εποπτείας σε επίπεδο hardware, απομονωμένος και ανεξάρτητος από το host σύστημα.

Ο ρόλος του semantic monitoring της Check Point

Το γεγονός ότι μια ενέργεια επιτρέπεται από μια πολιτική ασφαλείας δεν σημαίνει απαραίτητα ότι είναι και κατάλληλη για την εργασία που έχει ανατεθεί στον agent. Σε αυτό το σημείο έρχεται να προστεθεί το semantic monitoring της Check Point.

Η τεχνολογία δεν εξετάζει μόνο μια εντολή ή μια απάντηση μεμονωμένα. Παρακολουθεί τη συμπεριφορά του AI agent σε όλη τη διάρκεια μιας εργασίας, συνδυάζοντας τα reasoning signals, τα tool calls και τις προηγούμενες ενέργειές του.

Με αυτόν τον τρόπο αξιολογείται διαρκώς αν η επόμενη ενέργεια παραμένει εντός του πλαισίου της αρχικής αποστολής του agent. Έτσι μπορεί να εντοπιστεί μια αλλαγή στη συμπεριφορά του, η οποία ενδεχομένως δεν θα φαινόταν ύποπτη αν κάθε ενέργεια εξεταζόταν ξεχωριστά.

Σύμφωνα με την Check Point, η σχετική απόφαση μπορεί να λαμβάνεται πριν από την εκτέλεση της ενέργειας και σε λιγότερο από 100 milliseconds, επιτρέποντας την εφαρμογή ελέγχων με ταχύτητα που ανταποκρίνεται στη λειτουργία των αυτόνομων συστημάτων AI.

Πώς λειτουργεί ο συνδυασμός Check Point και NVIDIA

Η Check Point έχει ήδη δοκιμάσει το semantic monitoring σε συνδυασμό με το NVIDIA OpenShell, μέσω του security middleware του runtime.

Στο συγκεκριμένο μοντέλο, το OpenShell εντοπίζει κάθε ενέργεια του AI agent πριν αυτή φτάσει στο host. Στη συνέχεια, το semantic monitoring της Check Point αξιολογεί την ενέργεια με βάση την εργασία που έχει ανατεθεί στον agent και το ιστορικό της συμπεριφοράς του.

Το OpenShell μπορεί κατόπιν να εφαρμόσει την αντίστοιχη απόφαση ασφαλείας. Ανάλογα με το επίπεδο κινδύνου και την πολιτική που εφαρμόζει κάθε οργανισμός, η αντίδραση μπορεί να είναι η απλή καταγραφή μιας ενέργειας, η αναμονή για ανθρώπινη έγκριση ή ακόμη και η πλήρης διακοπή της ενέργειας ή του agent.

Η προσέγγιση αυτή συνδυάζει δύο διαφορετικά αλλά συμπληρωματικά επίπεδα προστασίας: από τη μία, ένα τεχνικό όριο που καθορίζει τι μπορεί να κάνει ένας AI agent και από την άλλη, ένα επίπεδο αξιολόγησης που εξετάζει αν η ενέργειά του παραμένει συμβατή με την αποστολή που του έχει ανατεθεί.

Η ασφάλεια των AI agents εντάσσεται στην εταιρική κυβερνοασφάλεια

Όσο οι AI agents αποκτούν μεγαλύτερη αυτονομία και πρόσβαση σε εταιρικά δεδομένα, εργαλεία και υποδομές, η ασφάλειά τους δεν μπορεί να αντιμετωπίζεται ως ξεχωριστό ζήτημα.

Οι agents χρησιμοποιούν τις ίδιες ταυτότητες, τα ίδια δίκτυα και τα ίδια δεδομένα που καλούνται ήδη να προστατεύσουν οι ομάδες κυβερνοασφάλειας. Για τον λόγο αυτό, σύμφωνα με την προσέγγιση της Check Point, η προστασία τους θα πρέπει να εντάσσεται στο συνολικό πλαίσιο εταιρικής ασφάλειας.

Ένα ασυνήθιστο tool call, για παράδειγμα, δεν αποτελεί από μόνο του απαραίτητα ένδειξη κινδύνου. Αν όμως προέρχεται από έναν agent με αυξημένα δικαιώματα, ο οποίος έχει ήδη απομακρυνθεί από την αρχική του αποστολή και επιχειρεί να αποκτήσει πρόσβαση σε ένα ευάλωτο production system, τότε η ίδια ενέργεια αποκτά διαφορετική σημασία.

Η συγκεκριμένη κατεύθυνση συνδέεται και με την ευρύτερη στρατηγική συνεργασία της Check Point με τη NVIDIA για την προστασία υποδομών AI, με την ασφάλεια να ενσωματώνεται σε διαφορετικά επίπεδα, από το hardware και την υποδομή μέχρι τα AI workloads και την εκτέλεση των agents.

Από τα guardrails στην ασφάλεια κατά την εκτέλεση

Η αυξανόμενη αυτονομία των συστημάτων AI αλλάζει και τον τρόπο με τον οποίο αντιμετωπίζεται η κυβερνοασφάλεια. Τα παραδοσιακά guardrails, που ελέγχουν prompts και responses, εξακολουθούν να έχουν ρόλο, όμως δεν επαρκούν όταν ένας agent μπορεί να πραγματοποιεί αλληλουχίες δεκάδων ενεργειών και να προσαρμόζει αυτόνομα τον τρόπο με τον οποίο θα πετύχει έναν στόχο.

Σε αυτό το περιβάλλον, το βάρος μεταφέρεται περισσότερο στο runtime, με συνεχή αξιολόγηση όχι μόνο του περιεχομένου που παράγει η Τεχνητή Νοημοσύνη, αλλά και των ενεργειών που επιχειρεί να πραγματοποιήσει.

Ο συνδυασμός του NVIDIA OpenShell με το semantic monitoring της Check Point αποτελεί παράδειγμα αυτής της προσέγγισης. Η υποδομή θέτει τα όρια, ενώ η ασφάλεια αξιολογεί σε πραγματικό χρόνο αν η συμπεριφορά του agent εξακολουθεί να είναι ευθυγραμμισμένη με την εργασία που του έχει ανατεθεί.

Καθώς οι AI agents αναλαμβάνουν όλο και πιο αυτόνομες και μεγαλύτερης διάρκειας εργασίες στο επιχειρηματικό περιβάλλον, ο έλεγχος δεν αφορά πλέον μόνο τον στόχο που τους έχει δοθεί, αλλά και τη διαδρομή που επιλέγουν για να τον πετύχουν.