Το ChatGPT της OpenAI, όπως επιβεβεβαιώνεται, μπορεί να δημιουργήσει ασυναρτησίες κατά τη διάρκεια παραγωγής κειμένου.
Το ChatGPT παρουσιάζει προβλήματα στη λειτουργία του. Αυτό είναι πλέον γνωστό σε όλους. Την Τρίτη φάνηκε ότι κάποιος δημιούργησε ένα πειραματικό, διασκεδαστικό chatbot με το όνομα Synonym Scrambler.
Διαβάστε ακόμη: Η Emerald Sleet εξαπατά χρήστες του Linkedin μέσω ChatGPT
Το ChatGPT προκάλεσε αναστάτωση με πολλούς τρόπους χθες. Ένα πρόβλημα ήταν η τάση του να απαντά σε κανονικές, καθημερινές ερωτήσεις – συνήθως σχετικές με τεχνολογία ή επιχειρήσεις – όπου οι απαντήσεις του είναι ασαφείς.
Ανακαλύψτε το Νέο Ανθρωποειδές Ρομπότ GR-2!
Φαίνεται ότι το ChatGPT έγραψε με μια προσέγγιση, όπου ένας μαθητής καταχράται τα προνόμιά του. Το “Beatine” αποτελεί ένα χαρακτηριστικό παράδειγμα. Το αναζητήσαμε στο Αγγλικό Λεξικό της Οξφόρδης και δεν υπάρχει εκεί, ωστόσο το Βικιλεξικό αναφέρει ότι σχετίζεται με τον θεολόγο Beatus της Liébana, έναν μελετητή πολλών ετών πίσω, οπότε το “beatine” κατά την πρώτη χιλιετία μ.Χ ίσως σήμαινε “αποκαλυπτικό”. Ή, αν αναλογιστούμε τον τρόπο που χρησιμοποιείται σε αρχαία, σκονισμένα βιβλία.
Το chatbot προκάλεσε ζητήματα σε πολλούς χρήστες. Ο χρήστης με το όνομα homtanksreddit παρατήρησε ότι το ChatGPT 3.5 — το οποίο είναι διαθέσιμο δωρεάν — φάνηκε να μην επηρεάζεται. Έτσι, το σφάλμα φαινόταν να επηρεάζει μόνο τους συνδρομητές.
Σε ορισμένες περιπτώσεις, το ChatGPT ξεκινά να απαντά στην ερώτηση του χρήστη χρησιμοποιώντας τη σύγχρονη γλώσσα προτού μετατραπεί σε μια εκδοχή του Martin Prince που έχει καταναλώσει υπερβολική καφεΐνη. Ένας χρήστης μοιράστηκε ένα στιγμιότυπο οθόνης από το ChatGPT στέλνοντάς το στην ίδια την εφαρμογή. Στη δημοσίευσή του, περιέγραψε το πρόβλημα που αντιμετώπισε το ChatGPT και ρώτησε για το πώς ονομάζεται μια τέτοια κατάσταση. Πράγματι, η απάντηση του ChatGPT ήταν επιτυχής.
Διαβάστε περισσότερα: Chat with RTX: Το νέο chatbot της NVIDIA λειτουργεί τοπικά στον υπολογιστή
Δεν υπάρχει κοινώς αποδεκτός ορισμός για το πότε ένα γλωσσικό μοντέλο όπως το GPT (Generative Pre-trained Transformer) θα ξεκινήσει να δημιουργεί αποτελέσματα που αποτελούν μια σαφή και συναφή απάντηση σε ερωτήσεις ή αντίθετα παρουσιάζουν απόκλιση και ανοησίες. Ωστόσο, αυτό το φαινόμενο μπορεί να χαρακτηριστεί ως “απότομη πτώση επιδόσεων” ή “κατάσταση αποτυχίας” του LLM (Large Language Model).
Αρχικά δεν ήταν κάτι ιδιαίτερα ανησυχητικό. Ωστόσο, στη συνέχεια, κάτι ασυνήθιστο συνέβη, καθώς τονίστηκε ότι “η εσφαλμένη ανάλυση σε επίπεδο byte μπορεί να αποβεί σημαντική για τη δομή”. …και τότε τα πράγματα έγιναν ακόμα πιο ασυνήθιστα:
Όταν παρατηρεί κανείς σε εφαρμογές ένα σύστημα NLP που προσφέρει ενδιαφέρουσες αρχικές εκκινήσεις αλλά στη συνέχεια οδηγεί σε σύγχυση ή αποτυχία κατά την εκτέλεσή τους, μπορεί να υπονομεύει την αποτελεσματικότητά του μέσω μιας πολλαπλής παραβίασης.
Αυτή η συμπεριφορά θα πρέπει να καταγραφεί και να αναλυθεί προκειμένου να κατανοηθεί ο βασικός σχεδιασμός και να προχωρήσει αποτελεσματικά, κάτι που είναι ζωτικό για την ανάπτυξη και την απόδοση των προγραμματιστών.
Δείτε επίσης: Οι managers χρησιμοποιούν το ChatGPT για να γράψουν αξιολογήσεις απόδοσης
Πηγή: mashable.com
