Σε συνεργασία με το Google Cloud, το Google DeepMind (το τμήμα έρευνας AI της Google) λανσάρει ένα εργαλείο για την τοποθέτηση watermark και την αναγνώριση εικόνων που έχουν δημιουργηθεί από AI – αλλά μόνο εικόνων που έχουν δημιουργηθεί από το μοντέλο δημιουργίας εικόνων της Google.
Δείτε επίσης: DeepMind: Το επόμενο chatbot της θα ανταγωνιστεί το ChatGPT
Το εργαλείο, το οποίο ονομάζεται SynthID και είναι διαθέσιμο σε beta έκδοση για επιλεγμένους χρήστες του Vertex AI (πλατφόρμα της Google για τη δημιουργία εφαρμογών και μοντέλων τεχνητής νοημοσύνης) ενσωματώνει ένα ψηφιακό watermark απευθείας στα pixel μιας εικόνας – καθιστώντας το φαινομενικά απαρατήρητο στο ανθρώπινο μάτι αλλά ανιχνεύσιμο από έναν αλγόριθμο. Το SynthID υποστηρίζει μόνο το Imagen, το μοντέλο μετατροπής κειμένου σε εικόνα της Google, το οποίο είναι αποκλειστικά διαθέσιμο στο Vertex AI.
Η Google δήλωσε προηγουμένως ότι θα ενσωματώσει metadata για να σηματοδοτήσει τα οπτικά μέσα που δημιουργούνται από μοντέλα τεχνητής νοημοσύνης. Το SynthID, προφανώς, πηγαίνει ένα βήμα παραπέρα.
“Ενώ η generative AI μπορεί να ξεκλειδώσει τεράστιες δημιουργικές δυνατότητες, παρουσιάζει επίσης νέους κινδύνους, όπως το να επιτρέπει στους δημιουργούς να διαδίδουν ψευδείς πληροφορίες – τόσο σκόπιμα όσο και ακούσια”, γράφει η DeepMind σε ένα blog post. “Η δυνατότητα αναγνώρισης του περιεχομένου που έχει δημιουργηθεί από AI είναι κρίσιμη για την ενδυνάμωση των ανθρώπων με γνώση του πότε αλληλεπιδρούν με τα παραγόμενα μέσα και για την αποτροπή της διάδοσης της παραπληροφόρησης”.
Η DeepMind ισχυρίζεται ότι το SynthID, το οποίο ανέπτυξε και συνεργάστηκε με την Google Research (την ομάδα Ε&Α της Google) για να το τελειοποιήσει, παραμένει στη θέση του ακόμη και μετά από τροποποιήσεις όπως η προσθήκη φίλτρων σε εικόνες ή η αλλαγή των χρωμάτων και η μεγάλη συμπίεση των εικόνων. Το εργαλείο αξιοποιεί δύο μοντέλα τεχνητής νοημοσύνης, ένα για το υδατογράφημα και ένα για την αναγνώριση, τα οποία εκπαιδεύτηκαν μαζί σε ένα “ποικίλο” σύνολο εικόνων, λέει η DeepMind.
Πρόταση: Google AI Duet: Θα δημιουργεί αμήχανα email και εικόνες για εσάς
Το SynthID δεν μπορεί να αναγνωρίσει εικόνες με υδατογραφήματα με βεβαιότητα 100%. Αλλά το εργαλείο ξεχωρίζει τις περιπτώσεις όπου μια εικόνα μπορεί να περιέχει υδατογράφημα σε σχέση με μια εικόνα που είναι πολύ πιθανό να περιέχει υδατογράφημα.
Οι τεχνικές υδατοσήμανσης για τη generative art δεν είναι καινούργιες. Η γαλλική νεοσύστατη εταιρεία Imatag, που ξεκίνησε το 2020, προσφέρει ένα εργαλείο υδατογράφησης που ισχυρίζεται ότι δεν επηρεάζεται από την αλλαγή μεγέθους, την περικοπή, την επεξεργασία ή τη συμπίεση εικόνων, παρόμοια με το SynthID. Μια άλλη εταιρεία, η Steg.AI, χρησιμοποιεί ένα μοντέλο τεχνητής νοημοσύνης για να εφαρμόζει υδατογραφήματα που επιβιώνουν από την αλλαγή μεγέθους και άλλες επεξεργασίες.
Αλλά η πίεση αυξάνεται στις εταιρείες τεχνολογίας να παρέχουν έναν τρόπο για να καταστεί σαφές ότι τα έργα δημιουργήθηκαν από AI.
Πρόσφατα, η Διοίκηση Κυβερνοχώρου της Κίνας εξέδωσε κανονισμούς που απαιτούν από τους πωλητές generative AI να επισημαίνουν το παραγόμενο περιεχόμενο, συμπεριλαμβανομένων των δημιουργών κειμένου και εικόνων, χωρίς να επηρεάζεται η χρήση από τους χρήστες. Στις ΗΠΑ, η γερουσιαστής Kyrsten Sinema υπογράμμισε την ανάγκη για διαφάνεια στη generative AI, συμπεριλαμβανομένης της χρήσης υδατογραφημάτων. Η Microsoft δεσμεύτηκε να υδατογραφήσει τις εικόνες και τα βίντεο που παράγονται με τεχνητή νοημοσύνη χρησιμοποιώντας κρυπτογραφικές μεθόδους. Το Shutterstock και η startup Midjourney που δραστηριοποιείται στον τομέα της δημιουργικής τεχνητής νοημοσύνης υιοθέτησαν κατευθυντήριες γραμμές για την ενσωμάτωση ενός δείκτη που υποδεικνύει ότι το περιεχόμενο δημιουργήθηκε από ένα εργαλείο δημιουργικής τεχνητής νοημοσύνης. Το DALL-E 2 της OpenAI εισάγει ένα μικρό υδατογράφημα στην κάτω δεξιά πλευρά των εικόνων που παράγει. Ωστόσο, ένα κοινό πρότυπο υδατοσήμανσης για τη δημιουργία και τον εντοπισμό υδατοσήμων έχει αποδειχθεί άπιαστο. Το SynthID, όπως και άλλες προτεινόμενες τεχνολογίες, δεν θα είναι χρήσιμο για οποιαδήποτε γεννήτρια εικόνων που δεν είναι η Imagen στην τρέχουσα μορφή της. Η DeepMind εξετάζει το ενδεχόμενο να διαθέσει το SynthID σε τρίτους στο εγγύς μέλλον, αλλά δεν είναι βέβαιο αν οι τρίτοι θα υιοθετήσουν την τεχνολογία.
Διαβάστε επίσης: ElevenLabs: Η voice generating πλατφόρμα βγαίνει από τη beta έκδοση
πηγή πληροφοριών:techcrunch.com
 λανσάρει ένα εργαλείο για την τοποθέτηση watermark){kind=link}