Μια αναφορά από την Wall Street Journal λέει ότι η OpenAI, η εταιρεία πίσω από το ChatGPT, διαθέτει ένα εργαλείο που μπορεί να εντοπίσει AI-generated εργασίες με μεγάλη ακρίβεια. Τώρα, η εταιρεία μοιράστηκε λίγα περισσότερα σχετικά με την έρευνά της σε μια ενημέρωση που μοιράστηκε μέσω μίας ανάρτησης ιστολογίου, καθώς και το γιατί δεν έχει κάνει ακόμη διαθέσιμη τη μέθοδο ανίχνευσης.
Δείτε επίσης: SearchGPT: Η OpenAI δοκιμάζει τη δική της μηχανή αναζήτησης AI
Η OpenAI λέει ότι οι ομάδες της έχουν αναπτύξει μια μέθοδο υδατογράφησης κειμένου που εξετάζουν, αλλά εξετάζουν επίσης εναλλακτικές λύσεις για τρόπους αποτροπής χρήσης AI-generated κειμένου, γραμμένου από το ChatGPT σε περιπτώσεις όπου δεν θα έπρεπε, όπως ένας μαθητής που ξαφνικά «σκέφτηκε» μία επική εργασία.
Σύμφωνα με την OpenAI, η υδατογράφηση είναι μία από τις λύσεις. Μπορεί να περιλαμβάνει ταξινομητές και μεταδεδομένα. Είναι ακριβής, αλλά μπορεί να είναι λιγότερο χρήσιμη εάν χρησιμοποιείτε ένα σύστημα μετάφρασης ή εάν επαναδιατυπώσετε το κείμενο χρησιμοποιώντας ένα άλλο μοντέλο παραγωγής. Μπορεί επίσης να παρακαμφθεί εάν ζητήσετε από την τεχνητή νοημοσύνη να εισάγει έναν συγκεκριμένο χαρακτήρα μετά από κάθε λέξη και στη συνέχεια να τον διαγράψει αργότερα.
Δείτε ακόμα: Πρώην ερευνητής OpenAI: Η ασφάλεια δεν είναι προτεραιότητα των εταιρειών AI
Η υδατογράφηση κειμένου θα μπορούσε επίσης να επηρεάσει άλλους χρήστες, όπως για παράδειγμα μη φυσικούς ομιλητές της αγγλικής γλώσσας που θα ήθελαν να βελτιώσουν το κείμενό τους και να χρησιμοποιήσουν τεχνητή νοημοσύνη για να τους βοηθήσουν στη γραφή.
Σύμφωνα με την ανάρτηση ιστολογίου, η OpenAI έχει εξετάσει όλες τις πτυχές του ζητήματος με προέλευση κειμένου.
Δείτε επίσης: Γιατί η Microsoft αντιμετωπίζει ανταγωνιστικά την OpenAI;
Η αντιμετώπιση αυτού του ζητήματος είναι περίπλοκη υπόθεση. Φυσικά, δεν θέλουμε τα παιδιά να είναι ανίκανα να γράψουν μόνα τους μία εργασία (ή οποιοδήποτε κείμενο μεγαλύτερο από 200 χαρακτήρες). Αλλά υπάρχουν επίσης περιπτώσεις όπου η χρήση Generative AI για τη σύνταξη πραγμάτων είναι απολύτως αποδεκτή και δεν θα έπρεπε να είναι τόσο μεγάλη υπόθεση. Η ρύθμιση της τεχνητής νοημοσύνης είναι μία από τις προκλήσεις που αντιμετωπίζουμε καθώς εξελίσσεται η τεχνολογία και γενικά, θα πρέπει να εξετάσουμε περισσότερο αυτό το βήμα προς τα εμπρός.
Πηγή: phonearena
