Civitai: Δημιουργεί Deepfakes με πραγματικά πρόσωπα

Η Civitai, μια online πλατφόρμα για την κοινή χρήση μοντέλων τεχνητής νοημοσύνης, παρουσίασε προσφάτως τη δυνατότητα “bounties” με σκοπό να ενθαρρύνει τους χρήστες να δημιουργήσουν deepfakes (ψευδαισθήσεις) με πραγματικά πρόσωπα.

Αυτή η νέα λειτουργία παρέχει ένα εικονικό νόμισμα με την ονομασία “Buzz” στους καλύτερους δημιουργούς, το οποίο οι χρήστες μπορούν να αγοράσουν με πραγματικά χρήματα.

Τα περισότερα από τα bounties που δημοσιεύονται ζητούν την αναπαραγωγή της ομοιότητας διασημοτήτων και influencers των social media, με πολλά από αυτά να επικεντρώνονται σε γυναίκες.

Σημειώνεται ότι ορισμένα αιτήματα bounty αναφέρουν ρητά ότι η αφίσα περιλαμβάνει σεξουαλικό υλικό. Ωστόσο, κάποιοι χρησιμοποιούν εκφράσεις όπως “εκφυλισμένο αίτημα” με χυδαία σχόλια για το γυναικείο σώμα. Η εταιρεία Civitai επισημαίνει ότι τέτοια σχόλια δεν πρέπει να χρησιμοποιούνται για τη δημιουργία μη συναινετικών σεξουαλικών εικόνων πραγματικών ανθρώπων που προκύπτουν από την τεχνητή νοημοσύνη. Παρατηρούμε όμως, ότι οι χρήστες εξακολουθούν να πραγματοποιούν αυτή την πρακτική, αποδεικνύοντας τη σοβαρότητα του θέματος.

SecNewsTV

Περισσότερα... Subscribe!

Η Civitai αναδεικνύεται ως η έβδομη πιο δημοφιλής πλατφόρμα παραγωγής τεχνητής νοημοσύνης, σύμφωνα με την εταιρεία Andreessen Horowitz. Ωστόσο, η εισαγωγή αυτής της δυνατότητας προκαλεί ανησυχίες σχετικά με τη δημιουργία πλαστών εικόνων, ενισχύοντας τη συζήτηση για αναγκαστικές επαναρυθμίσεις και περιορισμούς στον χώρο των deepfakes.

Η 404 Media χρησιμοποίησε το εργαλείο κειμένου σε εικόνα της εταιρείας για να δημιουργήσει μη συναινετικές σεξουαλικές εικόνες ενός πραγματικού προσώπου «σε δευτερόλεπτα».

Πηγή: engadget.com