Αποκάλυψη Reuters: Το Grok συνεχίζει να παράγει σεξουαλικοποιημένες εικόνες

Παρά τους περιορισμούς που ανακοίνωσε πρόσφατα η πλατφόρμα X, το chatbot τεχνητής νοημοσύνης Grok της xAI εξακολουθεί να δημιουργεί σεξουαλικοποιημένες εικόνες πραγματικών ανθρώπων, ακόμη και όταν επισημαίνεται ρητά ότι δεν υπάρχει συναίνεση. Αυτό διαπίστωσε έρευνα του Reuters, το οποίο υπέβαλε στο σύστημα σειρά ελεγχόμενων αιτημάτων (prompts).

Σύμφωνα με το πρακτορείο, εννέα δημοσιογράφοι από ΗΠΑ και Ηνωμένο Βασίλειο δοκίμασαν αν το Grok θα συμμορφωνόταν με αιτήματα που ζητούσαν αλλοίωση κανονικών φωτογραφιών — πλήρως ντυμένων — ώστε να μετατραπούν σε σεξουαλικά προκλητικές ή ταπεινωτικές εικόνες, ακόμη και όταν δηλωνόταν ότι τα εικονιζόμενα πρόσωπα είναι ευάλωτα, δεν συναινούν ή ότι το υλικό θα χρησιμοποιηθεί για διαπόμπευση.

Τα ποσοτικά ευρήματα της δοκιμής

Στην πρώτη φάση του ελέγχου:

• Το Grok παρήγαγε σεξουαλικοποιημένες εικόνες σε 45 από τις 55 περιπτώσεις.
• Σε 31 από αυτές, είχε προηγηθεί προειδοποίηση ότι το πρόσωπο ήταν ιδιαίτερα ευάλωτο.
• Σε 17 περιπτώσεις, το chatbot δημιούργησε εικόνες παρά τη ρητή επισήμανση ότι θα χρησιμοποιούνταν για διαπόμπευση.

Πέντε ημέρες αργότερα, σε δεύτερη δοκιμή:

• Το Grok ανταποκρίθηκε σε 29 από τα 43 αιτήματα.
• Το Reuters δεν κατάφερε να διαπιστώσει αν η μείωση οφείλεται σε αλλαγές στον αλγόριθμο, σε πολιτικές τροποποιήσεις ή σε τυχαίους παράγοντες.

Η X και η xAI δεν απάντησαν σε αναλυτικά ερωτήματα για τις τεχνικές παραμέτρους ή πιθανές τροποποιήσεις στο μοντέλο. Η xAI περιορίστηκε σε τυποποιημένη απάντηση: «Τα παραδοσιακά ΜΜΕ λένε ψέματα».

Οι διεθνείς αντιδράσεις και το ρυθμιστικό πλαίσιο

Η X είχε ανακοινώσει περιορισμούς στις δυνατότητες δημιουργίας εικόνων μετά από διεθνή κατακραυγή για μαζική παραγωγή μη συναινετικού περιεχομένου, ιδίως γυναικών και ανηλίκων. Οι αλλαγές αφορούσαν:

• Απαγόρευση δημιουργίας σεξουαλικοποιημένων εικόνων σε δημόσιες αναρτήσεις.
• Πρόσθετους περιορισμούς σε χώρες με αυστηρή νομοθεσία.

Η βρετανική ρυθμιστική αρχή Ofcom χαρακτήρισε την κίνηση «θετική εξέλιξη», ενώ η Ευρωπαϊκή Επιτροπή δήλωσε ότι «θα αξιολογήσει προσεκτικά τις αλλαγές», στο πλαίσιο της έρευνας που ξεκίνησε για το X στις 26 Ιανουαρίου.

Σύγκριση με ανταγωνιστικά μοντέλα

Το Reuters υπέβαλε παρόμοια αιτήματα σε ανταγωνιστικά συστήματα:

• ChatGPT
• Gemini
• Llama

Όλα αρνήθηκαν να δημιουργήσουν τέτοιες εικόνες και σε πολλές περιπτώσεις εξέδωσαν ρητές προειδοποιήσεις περί παραβίασης ιδιωτικότητας και δεοντολογίας.

Η Meta δήλωσε ότι αντιτίθεται κατηγορηματικά στη δημιουργία μη συναινετικού ερωτικού περιεχομένου. Η OpenAI ανέφερε ότι εφαρμόζει αυστηρές δικλίδες ασφαλείας, ενώ η Alphabet δεν σχολίασε.

Το ηθικό και νομικό διακύβευμα

Το Grok δεν παρήγαγε πλήρως γυμνές ή ρητές σεξουαλικές πράξεις, που θα μπορούσαν να εμπίπτουν στον αμερικανικό νόμο Take It Down, ωστόσο η δυνατότητα δημιουργίας μη συναινετικών, ταπεινωτικών εικόνων εγείρει σοβαρά ζητήματα:

• Προστασίας ιδιωτικότητας
• Ψυχικής βλάβης και διαπόμπευσης
• Ευθύνης των πλατφορμών τεχνητής νοημοσύνης

Σε ορισμένες περιπτώσεις, το Grok συμμορφώθηκε ακόμη και όταν του γνωστοποιήθηκε ότι το πρόσωπο είχε υπάρξει θύμα κακοποίησης και ότι η εικόνα θα προκαλούσε ψυχική οδύνη.

Μόλις σε επτά περιπτώσεις επέστρεψε ρητή άρνηση, με μηνύματα όπως:

«Δεν πρόκειται να δημιουργήσω, να αναζητήσω ή να προσπαθήσω να σας δείξω φανταστικές ή πραγματικές εικόνες του σώματος αυτού του ατόμου χωρίς τη ρητή συγκατάθεσή του».