Η «αναγνώριση προσώπου και συναισθημάτων» που βασίζεται στην τεχνητή νοημοσύνη έχει επικριθεί ως αντιεπιστημονική. Η Microsoft καταργεί σταδιακά την πρόσβαση του κοινού σε μια σειρά εργαλείων ανάλυσης προσώπου που υποστηρίζονται από τεχνητή νοημοσύνη- συμπεριλαμβανομένου ενός που ισχυρίζεται ότι προσδιορίζει τα συναισθήματα ενός υποκειμένου από βίντεο και φωτογραφίες.
Τέτοια εργαλεία «αναγνώρισης συναισθημάτων» έχουν επικριθεί από ειδικούς. Λένε ότι όχι μόνο οι εκφράσεις του προσώπου που πιστεύεται ότι είναι καθολικές διαφέρουν μεταξύ διαφορετικών πληθυσμών, αλλά ότι δεν είναι επιστημονικό να εξισώνονται οι εξωτερικές εκδηλώσεις συναισθημάτων με τα εσωτερικά συναισθήματα.
«Οι εταιρείες μπορούν να πουν ότι θέλουν, αλλά τα δεδομένα είναι ξεκάθαρα», είπε στο The Verge το 2019 η Lisa Feldman Barrett, καθηγήτρια ψυχολογίας στο Northeasterm University που πραγματοποίησε μια ανασκόπηση στο θέμα της αναγνώρισης συναισθημάτων που βασίζεται στην τεχνητή νοημοσύνη. «Μπορούν να ανιχνεύσουν ένα σκυθρωπό, αλλά αυτό δεν είναι το ίδιο πράγμα με την ανίχνευση του θυμού.
Η απόφαση είναι μέρος μια ευρύτερης αναθεώρησης των πολιτικών ηθικής τεχνητής νοημοσύνης της Microsoft. Τα ενημερωμένα Πρότυπα Υπεύθυνης Τεχνητής Νοημοσύνης (Responsible AI) της εταιρείας (που περιγράφηκαν για πρώτη φορά το 2019) δίνουν έμφαση στη λογοδοσία για να μάθετε ποιος χρησιμοποιεί τις υπηρεσίες της και στη μεγαλύτερη ανθρώπινη εποπτεία για το πού εφαρμόζονται αυτά τα εγαλεία.
Πρακτικά αυτό σημαίνει ότι η Microsoft θα περιορίσει την πρόσβαση σε ορισμένες λειτουργίες των υπηρεσιών αναγνώρισης προσώπου της (γνωστές ως Azure Face) και θα αφαιρέσει εντελώς άλλες. Οι χρήστες θα πρέπει να υποβάλουν αίτηση για χρήση του Azure Face για αναγνώριση προσώπου, για παράδειγμα λέγοντας στη Microsoft πως και πού ακριβώς θα αναπτύξουν τα συστήματα της. Ορισμένες περιπτώσεις χρήσης με λιγότερο επιβλαβείς δυνατότητες (όπως η αυτόματη θόλωση προσώπων σε εικόνες και βίντεο) θα παραμείνουν ανοιχτής πρόσβασης.
Εκτός από την κατάργηση της δημόσιας πρόσβασης στο εργαλείο αναγνώρισης συναισθημάτων της, η Microsoft αποσύρει επίσης την ικανότητα του Azure Face να προσδιορίζει «χαρακτηριστικά όπως τα φύλο η ηλικία το χαμόγελο οι τρίχες προσώπου τα μαλλία και το μακιγιάζ.
«Εμπειρογνώμονες εντός και εκτός της εταιρείας έχουν επισημάνει την έλλειψη επιστημονικής συναίνεσης σχετικά με τον ορισμό των «συναισθημάτων», τις προκλήσεις στον τρόπο με τον οποίο τα συμπεράσμτα γενικεύονται σε περιπτώσεις χρήσης, περιοχές και δημογραφικά στοιχεία και τις αυξημένες ανησυχίες για το απόρρητο γύρω από αυτό το είδος ικανότητας,» έγραψε. Η επικεφαλής υπεύθυνη τεχνητής νοημοσύνης της Microsoft, Natasha Crampton, σε μια ανάρτηση στο Blog που ανακοινώνει τα νέα
Η Microsoft λέει ότι θα σταματήσει να προσφέρει αυτές τις δυνατότητες σε νέους πελάτες από σήμερα, 21 Ιουνίου, ενώ η πρόσβαση των υπαρχόντων πελατών θα ανακληθεί στις 30 Ιουνίου 2023. Ωστόσο, ενώ η Microsoft αποσύρει τη δημόσια πρόσβαση σε αυτές τις δυνατότητες, θα συνεχίσει να τις χρησιμοποιεί σε τουλάχιστον ένα από τα δικά της προιόντα: μια εφαρμογή με το όνομα Seeing AI που χρησιμοποιεί τον κόσμο για άτομα με προβλήματα όρασης.
Σε μια ανάρτηση ιστολόγου, η κύρια διευθύντρια προιόντων ομάδας της Microsoft για το Azure AI, Sarah Bird, είπε ότι εργαλεία όπως η αναγνώριση συναισθημάτων «μπορούν να είναι πολύτιμα όταν χρησιμοποιούνται για ένα σύνολο σεναρίων ελεγχόμενης προσβασιμότητας», Δεν είναι σαφές εάν αυτά τα εργαλεία θα χρησιμοποιηθούν σε άλλα προιόντα της Microsoft.
Η Microsoft εισάγει επίσης παρόμοιους περιορισμούς στη λειτουργία Custom Neural Voice, η οποία επιτρέπει στους πελάτες να δημιουργούν φωνές τεχνητής νοημοσύνης βασισμένες σε ηχογραφήσεις πραγματικών ανθρώπων (μερικές φορές γνωστές ως audio deepfake.
Το εργαλείο «έχει συναρπαστικές δυνατότητες στην εκπαίδευση, την προσβασιμότητα και την ψυχαγωγία» γράφει η Bird, αλλά σημειώνει ότι «είναι επίσης εύκολο να φανταστεί κανείς πώς θα μπορούσε να χρησιμοποιηθεί για να υποδυθεί ακατάλληλα τους ομιλητές και να εξαπατήσει τους ακροατές». Η Microsoft λέει ότι στο μέλλον, θα περιορίσει την πρόσβαση στη δυνατότητα σε «διαχειριζόμενους πελάτες και συνεργάτες» και «θα διασφαλίσει την ενεργή συμμετοχή του ομιλητή κατά τη δημιουργία μιας συνθετικής φωνής».
