«Αυτός ο μισογυνισμός δεν γίνεται κατά λάθος αλλά από σχεδιασμό» λέει στο BBC η Κλερ ΜακΓλιν, καθηγήτρια δικαίου και ένας από τους ανθρώπους που συνέγραψε βρετανικό νόμο που θα κάνει παράνομα τα πορνογραφικά deepfake βίντεο.

Το τεχνολογικό περιοδικό «The Verge» γράφει ότι η νέα «πικάντικη» -ή spicy όπως ονομάζεται στα αγγλικά- λειτουργία του Grok «δεν διστάζει να δημιουργήσει δεκάδες τόπλες βίντεο της ποπ σταρ, χωρίς να του ζητηθεί να δημιουργήσει τέτοιου είδους περιεχόμενο.

Η έρευνα του περιοδικού αποκάλυψε, παράλληλα, ότι προσώρας δεν έχουν τεθεί σε ισχύ τα νέα συστήματα επαλήθευσης ηλικίας -κάτι που θα έπρεπε διά νόμου να έχει γίνει από τον Ιούλιο.

Το BBC ζήτησε από την XAI, την εταιρεία πίσω από το Grok, να σχολιάσει το περιεχόμενο αυτής της έρευνας, ωστόσο προσώρας δεν έχει ανταποκριθεί.

Οι όροι χρήσης της εταιρείας απαγορεύει την «απεικόνιση προσώπων με πορνογραφικό τρόπο».

Θύμα για δεύτερη φορά

Δεν είναι η πρώτη φορά που το πρόσωπο της Τέιλορ Σουίφτ χρησιμοποιείται για τη δημιουργία πορνογραφικού ή σεξουαλικού περιεχομένου.

Τον Ιανουάριο του 2024, deepfake βίντεο πορνογραφικού περιεχομένου με το πρόσωπό της έγιναν viral και οι χρήστες τα είδαν εκατομμύρια φορές στο X και το Telegram.

Τα Deepfake βίντεο χρησιμοποιούν εικόνες που δημιουργούνται από τεχνητή νοημοσύνη για να αντικαταστήσουν το πρόσωπο ενός ανθρώπου με ενός άλλου.

Το «πείραμα»

Την αποκάλυψη έκανε η δημοσιογράφος Τζες Γουέδερμπεντ, η οποία ζήτησε από το Grok Imagine να δημιουργήσει μια φωτογραφία της Τέιλορ Σουίφτ να «γιορτάζει στο Coachella με άντρες».

Το Grok δημιούργησε αμέσως φωτογραφίες της Σουίφτ, που φορούσε ένα φόρεμα και κάποιους άντρες από πίσω της.

Το σύστημα τεχνητής νοημοσύνης έδωσε, στη συνέχεια, την επιλογή να δημιουργηθεί ένα short βίντεο με τέσσερις διαφορετικούς τρόπους: φυσιολογικό, διασκεδαστικό, πικάντικο ή α λα κάρτ, δηλαδή όπως επιλέξει ο χρήστης.

Όταν η δημοσιογράφος επέλεξε το «πικάντικο», η ψηφιακή Τέιλορ Σουίφτ έσκισε το φόρμά της και άρχισε να χορεύει γυμνή, φορώντας μόνο ένα string εσώρουχο.

«Ήταν σοκαριστικό πόσο γρήγορα έγινε αυτό. Δεν του ζήτησα με κανέναν τρόπο να της αφαιρέσει τα ρούχα. Το μόνο που έκανα ήταν να επιλέξω το φίλτρο spicy» είπε στο BBC η Γουέδερμπεντ.

Τo βρετανικό κρατικό δίκτυο έχει ζητήσει από εκπροσώπους της γνωστής τραγουδίστριας να σχολιάσουν την αποκάλυψη αυτή, μέχρι στιγμής όμως δεν έχουν ανταποκριθεί.