Η Apple σκληραίνει τους κανόνες για εφαρμογές τεχνητής νοημοσύνης που «γδύνουν» εικόνες

Η Apple ενημέρωσε τις κατευθυντήριες οδηγίες του App Store με στόχο έναν συγκεκριμένο τύπο λογισμικού: εφαρμογές τεχνητής νοημοσύνης που «γδύνουν» ψηφιακά ανθρώπους σε φωτογραφίες. Η εταιρεία δηλώνει ότι θα απορρίπτει ή θα αφαιρεί εφαρμογές AI που δεν φιλτράρουν προσβλητικό περιεχόμενο, ενώ στοχεύει και όσους παρουσιάζουν τέτοια εργαλεία ως αθώα, ώστε να περάσουν τον έλεγχο.

Το πρόβλημα δεν είναι θεωρητικό. Οι λεγόμενες εφαρμογές nudify παίρνουν μια συνηθισμένη φωτογραφία ανθρώπου και δημιουργούν μια σεξουαλικοποιημένη εκδοχή της, συχνά χωρίς τη γνώση ή τη συναίνεση του προσώπου. Τέτοιες εικόνες μπορούν να χρησιμοποιηθούν για παρενόχληση, εκβιασμό και διάδοση υλικού ιδιωτικού χαρακτήρα χωρίς συναίνεση, κάτι που αρκετές χώρες έχουν αρχίσει να αντιμετωπίζουν ως έγκλημα.

Η παραπλάνηση είναι το στοιχείο που κάνει την αλλαγή αξιοσημείωτη. Ο έλεγχος βασίζεται κυρίως σε αυτό που παρουσιάζει η καρτέλα της εφαρμογής, οπότε ένας προγραμματιστής που περιγράφει έναν επεξεργαστή εικόνων, ενώ διαθέτει λειτουργίες γυμνοποίησης, μπορεί να περάσει από τον έλεγχο. Με τη ρητή αναφορά σε αυτή την πρακτική, η Apple δείχνει ότι μια παραπλανητική καρτέλα αποτελεί από μόνη της λόγο αφαίρεσης.

Ο κανόνας δεν αφορά μόνο τα εργαλεία nudify. Κάθε εφαρμογή γεννητικής τεχνητής νοημοσύνης στο κατάστημα αναμένεται να φιλτράρει προσβλητικό αποτέλεσμα, είτε είναι σεξουαλικό είτε βίαιο ή μισαλλόδοξο. Αυτό επιβαρύνει ουσιαστικά τους προγραμματιστές που βασίζονται σε μεγάλα μοντέλα εικόνας, πολλά από τα οποία καλούνται μέσω τρίτων διεπαφών με πολύ διαφορετικές δικλίδες ασφαλείας.

Δεν είναι ακόμη σαφές πώς η Apple θα εντοπίζει τις παραβάσεις, και η εφαρμογή του κανόνα θα εξαρτηθεί από όσα μπορούν πράγματι να διαπιστώσουν οι ομάδες ελέγχου της. Πάντως, η πολιτική θέτει ένα καθαρό ελάχιστο όριο. Μια γεννητική εφαρμογή στο App Store χρειάζεται δικλίδες ασφαλείας, και ένα εξώφυλλο δεν αρκεί για να περάσει.