Τον κώδωνα του κινδύνου για την εξάπλωση των deepfakes σεξουαλικού περιεχομένου, με θύματα κυρίως γυναίκες και ανηλίκους, έκρουσε από το βήμα της Ολομέλειας του Ευρωπαϊκού Κοινοβουλίου η Έλενα Κουντουρά, ασκώντας ευθεία πίεση στην Ευρωπαϊκή Επιτροπή να κινηθεί άμεσα και αποφασιστικά.
Με αφορμή τη διεθνή κατακραυγή για τη λειτουργία του ψηφιακού βοηθού Grok στην πλατφόρμα Χ, που παρήγαγε μη συναινετικές deepfake εικόνες πραγματικών προσώπων, η Ελληνίδα ευρωβουλεύτρια έθεσε ζήτημα ουσιαστικής προστασίας των θεμελιωδών δικαιωμάτων στην ψηφιακή εποχή.
Η ερώτηση της Έλενας Κουντουρά στην Κομισιόν:
«Ανάγκη παρέμβασης της Επιτροπής για την καταπολέμηση της μη συναινετικής παραγωγής σεξουαλικού και deepfake περιεχομένου ΤΝ σε μέσα κοινωνικής δικτύωσης.
Σύμφωνα με πρόσφατες αποκαλύψεις (1), το σύστημα ΤΝ Grok, που χρησιμοποιείται στην πλατφόρμα κοινωνικής δικτύωσης X, παρήγαγε μη συναινετικό γυμνό και σεξουαλικοποιημένο περιεχόμενο γυναικών και ανηλίκων, συμπεριλαμβανομένων deepfake εικόνων πραγματικών προσώπων.
Οι εν λόγω πρακτικές συνιστούν σοβαρή παραβίαση θεμελιωδών δικαιωμάτων, προσβάλλουν κατάφωρα την ανθρώπινη αξιοπρέπεια, και αποτελούν κίνδυνο για την ασφάλεια των πολιτών σε ψηφιακά περιβάλλοντα, ενώ είναι ιδιαίτερα επιβλαβείς για τα θύματα. Ως εκ τούτου, δεν θα έπρεπε να είναι τεχνικά εφικτές στην ΕE (2).
Λαμβάνοντας υπόψη τις διατάξεις του ευρωπαϊκού νομοθετικού πλαισίου, ιδιαίτερα:
-της DSA, που επιβάλλουν την ταχεία αφαίρεση παράνομου περιεχομένου και την υποχρέωση εκτίμησης και μετριασμού συστημικών κινδύνων (3),
-της AI Act, που προβλέπουν υποχρεώσεις διαφάνειας και απαγορεύουν παραπλανητικές πρακτικές (4),
-του GDPR, ιδίως όταν γίνεται χρήση προσωπικών δεδομένων για τη δημιουργία deepfakes,
-της Οδηγίας (ΕΕ)2024/1385 για την καταπολέμηση της βίας κατά των γυναικών (5),
ερωτάται η Επιτροπή:
-Για ποιον λόγο δεν έχει κινηθεί μέχρι στιγμής επίσημη διαδικασία διερεύνησης ή κυρώσεων, παρά τη σοβαρότητα και συστημικότητα των παραβιάσεων;
-Προτίθεται να λάβει μέτρα για την προστασία των θυμάτων, ιδίως των ανηλίκων, ώστε να εξασφαλιστεί η άμεση απόσυρση του παράνομου υλικού;
-Σκοπεύει να προτείνει τη ρητή κατάταξη της μη συναινετικής δημιουργίας, χειραγώγησης ή αναπαραγωγής οικείων εικόνων μέσω συστημάτων ΤΝ ως απαγορευμένη πρακτική στο πλαίσιο του AI Act, προκειμένου να διασφαλιστεί η νομική σαφήνεια, να ενισχυθεί η αποτελεσματική επιβολή και να αποτραπούν παρόμοια περιστατικά»;
Διαβάστε επίσης:
Η ΚΑΠ ευνοεί λίγους και πλούσιους: Οι μικροί αγρότες μένουν στο περιθώριο
Η Φον ντερ Λάιεν στέλνει μήνυμα αποφασιστικότητας προς την Ουάσινγκτον (βίντεο)
Ο βουλευτής που βανδάλισε την Πινακοθήκη στηρίζει την Καρυστιανού για τις αμβλώσεις
