Η Google έχει αναπτύξει ένα νέο πλαίσιο με την ονομασία «Project Naptime», το οποίο υπόσχεται να ενισχύσει ένα μεγάλο γλωσσικό μοντέλο (LLM) στην αναζήτηση ευπαθειών, με στόχο τη βελτίωση των αυτοματοποιημένων μεθόδων ανακάλυψης.
«Η λειτουργία Naptime επικεντρώνεται στην αλληλεπίδραση μεταξύ ενός AI agent και μιας στοχευμένης βάσης κώδικα», εξηγούν οι ερευνητές του Google Project Zero, Sergei Glazunov και Mark Brand. «Ο agent είναι εξοπλισμένος με μια σειρά εξειδικευμένων εργαλείων, σχεδιασμένων να προσομοιώνουν τη ροή εργασίας ενός ανθρώπινου ερευνητή ασφαλείας».
Διαβάστε επίσης: Η σημασία της κρυπτογράφησης στα δεδομένα του cloud
Η πρωτοβουλία αυτή πήρε το όνομά της από την ικανότητά της να επιτρέπει στους ανθρώπους να «παίρνουν τακτικούς ύπνους», και παράλληλα να συμβάλλει στην έρευνα για ευπάθειες και αυτόματη ανάλυση παραλλαγών. Στην ουσία, αυτή η προσέγγιση επιδιώκει να αξιοποιήσει την πρόοδο στην κατανόηση κώδικα και τη γενική ικανότητα συλλογισμού των LLM (μεγάλων γλωσσικών μοντέλων), δίνοντάς τους τη δυνατότητα να μιμούνται την ανθρώπινη συμπεριφορά όσον αφορά τον εντοπισμό και την εκμετάλλευση τρωτών σημείων ασφαλείας.
Η προσέγγιση περιλαμβάνει αρκετά στοιχεία: ένα εργαλείο περιήγησης κώδικα που επιτρέπει στο AI να πλοηγείται στη βάση κώδικα προορισμού, ένα εργαλείο Python για την εκτέλεση σεναρίων σε sandbox περιβάλλον για fuzzing, ένα εργαλείο εντοπισμού σφαλμάτων για την παρακολούθηση της συμπεριφοράς του προγράμματος και ένα εργαλείο Reporter για την παρακολούθηση της προόδου μιας εργασίας.
Δείτε ακόμη: Meta: Διακόπτει την εκπαίδευση του AI με δεδομένα χρηστών
Η Google ανέφερε ότι το Naptime είναι model-agnostic και backend-agnostic. Είναι επίσης καλύτερο στην ανίχνευση του buffer overflow και εξελιγμένων ελαττωμάτων μνήμης, σύμφωνα με τα κριτήρια αναφοράς του CYBERSECEVAL 2. Το CYBERSECEVAL 2, που κυκλοφόρησε τον περασμένο Απρίλιο από ερευνητές της Meta, είναι μια ολοκληρωμένη σουίτα αξιολόγησης για τη μέτρηση των κινδύνων ασφαλείας των LLM.
Στις δοκιμές που διεξήγαγε η Google για την αναπαραγωγή και εκμετάλλευση των ελαττωμάτων, οι δύο κατηγορίες ευπαθειών πέτυχαν νέα κορυφαία βαθμολογία 1,00 και 0,76, έναντι των προηγούμενων 0,05 και 0,24 που αφορούν το OpenAI GPT-4 Turbo.
“Το Project Naptime επιτρέπει σε ένα LLM (μεγάλο γλωσσικό μοντέλο) να πραγματοποιήσει έρευνα σχετικά με τις ευπάθειες που προσεγγίζει στενά την επαναλαμβανόμενη, βασισμένη σε υποθέσεις μέθοδο των ειδικών ανθρώπινης ασφάλειας”, ανέφεραν οι ερευνητές. “Αυτή η αρχιτεκτονική όχι μόνο ενισχύει την ικανότητα του πράκτορα να εντοπίζει και να αναλύει τα τρωτά σημεία, αλλά διασφαλίζει επίσης ότι τα αποτελέσματα είναι ακριβή”.
Διαβάστε περισσότερα: Το Google Meet προσθέτει υποστήριξη για πάνω από 50 γλώσσες στους υπότιτλους
Πηγή: thehackernews
 στην αναζήτηση ευπαθειών, με στόχο τη βελτίωση των αυτοματοποιημένων μεθόδων ανακάλυψης.){kind=link}