Μετά την εμφάνιση του WormGPT, ενός κλώνου του AI chatbot ChatGPT που εκπαιδεύεται για κακόβουλο λογισμικό (phishing), παρουσιάστηκε ένα νέο εργαλείο τεχνητής νοημοσύνης με το όνομα FraudGPT. Επιπλέον, γίνεται ανάπτυξη ενός άλλου εργαλείου που φαίνεται να βασίζεται στο εγχείρημα τεχνητής νοημοσύνης της Google, Bard.
Δείτε επίσης: Meta: Το AI ανοιχτού κώδικα της χρησιμοποιείται για sex chatbots
Και τα δύο μποτ με τεχνητή νοημοσύνη φαίνεται να είναι δημιουργήματα του ίδιου ατόμου. Από το phishing και το social engineering, μέχρι την εκμετάλλευση ευπαθειών και τη δημιουργία κακόβουλου λογισμικού, φαίνεται να εξειδικεύονται για κακόβουλους σκοπούς.
Το FraudGPT κυκλοφόρησε στις 25 Ιουλίου και έχει προβληθεί σε διάφορα φόρουμ χάκερ από τον χρήστη με το όνομα CanadianKingpin12. Ο ίδιος υποστηρίζει ότι το εργαλείο προορίζεται για απατεώνες, χάκερ και spammers.
Μια έρευνα από ερευνητές της εταιρείας κυβερνοασφάλειας SlashNext, αποκαλύπτει ότι ο CanadianKingpin12 εκπαιδεύει νέα AI chatbots, χρησιμοποιώντας εκτεταμένα σύνολα δεδομένων από το dark web ή βασίζεται σε εξελιγμένα μοντέλα γλώσσας, που αναπτύχθηκαν για την καταπολέμηση του εγκλήματος στον κυβερνοχώρο.
Σε ιδιωτική συνομιλία, ο CanadianKingpin12 ανέφερε ότι εργάζεται στο DarkBART – μια “σκοτεινή έκδοση” του chatbot τεχνητής νοημοσύνης που δημιουργεί συνομιλίες παρόμοιες με αυτές της Google.
Οι ερευνητές επίσης ανακάλυψαν ότι ο κακόβουλος χρήστης είχε πρόσβαση σε ένα άλλο προηγμένο μοντέλο γλώσσας με την ονομασία DarkBERT. Αυτό το μοντέλο αναπτύχθηκε από ερευνητές στη Νότια Κορέα και εκπαιδεύτηκε με δεδομένα από το dark web. Ωστόσο, ο σκοπός του DarkBERT είναι η καταπολέμηση του εγκλήματος στον κυβερνοχώρο.
Το DarkBERT είναι διαθέσιμο για ακαδημαϊκούς μέσω σχετικών διευθύνσεων email, αλλά το SlashNext επισημαίνει ότι αυτό το κριτήριο απέχει πολύ από το να αποτελεί πρόκληση για χάκερ ή κακόβουλους προγραμματιστές λογισμικού. Αυτοί μπορούν να αποκτήσουν πρόσβαση σε μια διεύθυνση email από ένα ακαδημαϊκό ίδρυμα έναντι περίπου $3.
Δείτε ακόμα: Στα άδυτα του AI: Τα chatbots μπορεί να γίνουν επικίνδυνα
Οι ερευνητές του SlashNext μοιράστηκαν ότι ο CanadianKingpin12 είπε ότι το ρομπότ DarkBERT είναι “ανώτερο από όλα σε μια δική του κατηγορία που έχει εκπαιδευτεί ειδικά στον σκοτεινό ιστό“. Η κακόβουλη έκδοση έχει ρυθμιστεί για:
- Δημιουργία εξελιγμένων καμπανιών phishing που στοχεύουν τους κωδικούς πρόσβασης και τα στοιχεία της πιστωτικής κάρτας των ατόμων
- Εκτέλεση προηγμένων επιθέσεων social engineering για την απόκτηση ευαίσθητων πληροφοριών ή την απόκτηση μη εξουσιοδοτημένης πρόσβασης σε συστήματα και δίκτυα.
- Εκμετάλλευση τρωτών σημείων σε συστήματα υπολογιστών, λογισμικό και δίκτυα.
- Δημιουργία και διανομή κακόβουλου λογισμικού.
- Εκμετάλλευση zero-days για οικονομικό κέρδος ή διακοπή συστημάτων.
Όπως ανέφερε ο CanadianKingpin12 σε προσωπικά μηνύματα προς τους ερευνητές, τόσο το DarkBART όσο και το DarkBERT θα έχουν πλήρη πρόσβαση στο διαδίκτυο και θα μπορούν να ενσωματωθούν αρμονικά με το Google Lens για την επεξεργασία εικόνας. Δεν είναι σαφές εάν ο CanadianKingpin12 τροποποίησε τον κώδικα στη νόμιμη έκδοση του DarkBERT ή απλώς απέκτησε πρόσβαση στο μοντέλο και το χρησιμοποίησε για κακόβουλους σκοπούς.
Ανεξάρτητα από την προέλευση του DarkBERT και την εγκυρότητα των ισχυρισμών του CanadianKingpin12, παρατηρείται αύξηση στη χρήση AI chatbots και είναι πιθανό να αυξηθεί και περαιτέρω το ποσοστό υιοθέτησής τους. Αυτό συμβαίνει διότι μπορούν να παρέχουν μια εύκολη λύση για άτομα που δεν διαθέτουν επαρκείς γνώσεις ή προσόντα ως παράγοντες απειλής, αλλά επιθυμούν να επεκτείνουν τις δραστηριότητές τους σε άλλους τομείς.
Δείτε επίσης: Μια νέα επίθεση επηρεάζει σημαντικά AI chatbots
Με τους χάκερ να έχουν ήδη πρόσβαση σε δύο τέτοια εργαλεία που μπορούν να βοηθήσουν στην εκτέλεση προηγμένων επιθέσεων social engineering και στην ανάπτυξή τους σε λιγότερο από ένα μήνα, «υπογραμμίζει τη σημαντική επιρροή της κακόβουλης τεχνητής νοημοσύνης στην ασφάλεια στον κυβερνοχώρο και στο τοπίο του εγκλήματος στον κυβερνοχώρο», πιστεύουν οι ερευνητές του SlashNext.
