Συναγερμός για τις απάτες μέσω Τεχνητής Νοημοσύνης - Σε εφαρμογή ο νέος Ευρωπαϊκός Κανονισμός

Από χθες, 2 Αυγούστου, τέθηκαν σε ισχύ νέοι κανόνες  σχετικά με τη διαφάνεια των συστημάτων Τεχνητής Νοημοσύνης, με την παραδοχή ότι αυτή εξελίσσεται ραγδαία, καθιστώντας ολοένα και πιο δύσκολη τη διάκριση μεταξύ περιεχομένου που δημιουργείται και χειραγωγείται από την Τεχνητή Νοημοσύνη και περιεχομένου που δημιουργείται από τον άνθρωπο και είναι αυθεντικό. Όπως παραδέχεται η Ευρωπαϊκή Επιτροπή, αυτό δημιουργεί νέους κινδύνους παραπληροφόρησης και χειραγώγησης σε μεγάλη κλίμακα, απάτης, πλαστοπροσωπίας και εξαπάτησης των καταναλωτών.

Οι νέες υποχρεώσεις

Σήμανση και επισήμανση περιεχομένου που δημιουργείται από τεχνητή νοημοσύνη: ορισμένο περιεχόμενο που δημιουργείται ή χειραγωγείται από τεχνητή νοημοσύνη πρέπει να φέρει σαφή και ευδιάκριτη επισήμανση και να περιλαμβάνει μηχανικά αναγνώσιμα σήματα. Η ΕΕ έχει δημιουργήσει ένα  σύνολο εικονιδίων  που μπορούν να χρησιμοποιηθούν για τον σκοπό αυτό. Αυτό ισχύει για:

• εικόνες, ήχος και βίντεο που μοιάζουν με υπάρχοντα πρόσωπα, αντικείμενα, μέρη, οντότητες ή γεγονότα (deepfakes)
• εργαλεία αναγνώρισης συναισθημάτων και βιομετρικής κατηγοριοποίησης
• κείμενο που δημοσιεύεται για την ενημέρωση του κοινού σχετικά με θέματα δημόσιου ενδιαφέροντος, όπου δεν έχει υπάρξει ανθρώπινη αναθεώρηση ή συντακτικός έλεγχος.

Διαφάνεια κατά την αλληλεπίδραση με ένα σύστημα Τεχνητής Νοημοσύνης: Οι χρήστες πρέπει να ενημερώνονται με σαφήνεια όταν δεν αλληλεπιδρούν με ένα πραγματικό άτομο, αλλά με ένα σύστημα Τεχνητής Νοημοσύνης, για παράδειγμα ένα chatbot, έναν πράκτορα Τεχνητής Νοημοσύνης και ένα avatar.

Τα εικονίδια

Η ΕΕ έχει αναπτύξει ένα σύνολο εικονιδίων που μπορούν να χρησιμοποιούν οι δημιουργοί, οι εκδότες και άλλοι φορείς ανάπτυξης συστημάτων γενετικής Τεχνητής Νοημοσύνης για την επισήμανση του περιεχομένου που δημιουργείται από Τεχνητή Νοημοσύνη.

Περιορισμοί και εξαιρέσεις από τα εικονίδια ΑΙ

Προφανώς καλλιτεχνικά, δημιουργικά, σατιρικά, μυθοπλαστικά και ανάλογα έργα:

Όταν το deep fake περιεχόμενο αποτελεί μέρος ενός προφανώς καλλιτεχνικού, δημιουργικού, σατιρικού, φανταστικού ή ανάλογου έργου ή προγράμματος, οι υποχρεώσεις διαφάνειας περιορίζονται στην αποκάλυψη με κατάλληλο τρόπο που δεν παρεμποδίζει την προβολή ή την απόλαυση του έργου.

Εξουσιοδοτημένο από το νόμο: Η υποχρέωση γνωστοποίησης δεν ισχύει όταν η χρήση deepfakes ή δημοσιευμένου κειμένου σε θέματα δημόσιου συμφέροντος επιτρέπεται από τον νόμο για την ανίχνευση, πρόληψη, διερεύνηση ή δίωξη ποινικών αδικημάτων.

Ανθρώπινος έλεγχος ή συντακτικός έλεγχος για κείμενο: Η υποχρέωση γνωστοποίησης δεν ισχύει όταν το κείμενο που δημιουργείται από Τεχνητή Νοημοσύνη έχει υποβληθεί σε διαδικασία ανθρώπινης αναθεώρησης ή συντακτικού ελέγχου και όταν ένα φυσικό ή νομικό πρόσωπο φέρει τη συντακτική ευθύνη για τη δημοσίευση του περιεχομένου.

Τα ερωτήματα

Τι είναι ένα «deepfake» και πότε πρέπει να φέρει ετικέτα;

Τα deepfakes ορίζονται ως περιεχόμενο εικόνας, ήχου ή βίντεο που δημιουργείται ή χειραγωγείται από την Τεχνητή Νοημοσύνη και μοιάζει με υπάρχοντα πρόσωπα, αντικείμενα, τόπους, οντότητες ή γεγονότα και θα φαινόταν ψευδώς σε ένα άτομο αυθεντικό ή αληθές.

Πρέπει να πληρούνται τρία σωρευτικά κριτήρια για να χαρακτηριστεί ένα περιεχόμενο ως «deepfake»:

• Ομοιότητα: υψηλό επίπεδο ομοιότητας μεταξύ του deepfake περιεχομένου και του προσομοιωμένου θέματος.
• Υπάρχοντα: τα προσομοιωμένα πρόσωπα, αντικείμενα, τόποι, οντότητες ή γεγονότα πρέπει να μοιάζουν με κάποιον ή κάτι που υπάρχει, μπορεί εύλογα να υπάρχει ή θα μπορούσε εύλογα να υπήρχε στην πραγματικότητα.
• Ψευδής εμφάνιση ως αυθεντικού ή αληθούς: αυτό σχετίζεται με το ουσιώδες χαρακτηριστικό του deepfake περιεχομένου και την ικανότητά του να εξαπατήσει ή να παραπλανήσει ένα άτομο σχετικά με την αυθεντικότητα ή την αλήθεια του περιεχομένου.

Οι πάροχοι υπηρεσιών πρέπει να αποκαλύπτουν περιεχόμενο deepfake σε ένα φυσικό πρόσωπο το αργότερο κατά την πρώτη έκθεση. Αυτή η αποκάλυψη θα πρέπει να γίνεται με σαφή και διακριτό τρόπο. Θα πρέπει να είναι κατανοητή και αντιληπτή από φυσικά πρόσωπα (π.χ. με ορατές ή ακουστικές ετικέτες), χωρίς να χρειάζονται συγκεκριμένα τεχνικά εργαλεία ή να εκτελούνται ειδικές ενέργειες. Επομένως, οι πάροχοι υπηρεσιών δεν μπορούν απλώς να ασίζονται στην αναγνώσιμη από μηχανήματα σήμανση που ενσωματώνεται στο περιεχόμενο από τον πάροχο για να εκπληρώσουν την υποχρέωσή τους για αποκάλυψη.

Ορισμένα deepfakes αποτελούν μέρος προφανώς καλλιτεχνικών, δημιουργικών, σατιρικών, μυθοπλαστικών ή ανάλογων έργων ή προγραμμάτων. Για αυτά, η υποχρέωση διαφάνειας περιορίζεται στην αποκάλυψη του περιεχομένου deepfake με κατάλληλο τρόπο που δεν εμποδίζει την προβολή ή την απόλαυση του έργου.

Ποιο κείμενο που δημιουργείται ή χειραγωγείται από την Τεχνητή Νοημοσύνη πρέπει να επισημαίνεται με σαφήνεια από τους προγραμματιστές;

Οι πάροχοι συστημάτων Τεχνητής Νοημοσύνης (AΙ) πρέπει να επισημαίνουν με σαφήνεια το κείμενο που δημιουργείται ή παραποιείται από την Τεχνητή Νοημοσύνη και δημοσιεύεται με σκοπό την ενημέρωση του κοινού για θέματα δημόσιου ενδιαφέροντος. Για να εμπίπτει ένα κείμενο σε αυτήν την υποχρέωση, πρέπει να πληρούνται 3 κριτήρια: Το κείμενο πρέπει να δημοσιεύτηκε, να είναι ενημερωτικό για το κοινό και να άπτεται θεμάτων δημοσίου συμφέροντος, όπως:

• πολιτική και δημοκρατικές διαδικασίες,
• δημόσια διοίκηση και υπηρεσίες,
• απονομή δικαιοσύνης και επιβολή του νόμου,
• θεμελιώδη δικαιώματα,
• δημόσια ασφάλεια,
• δημόσια υγεία,
• προστασία του περιβάλλοντος,
• ασφάλεια των καταναλωτών και οποιαδήποτε οικονομική,
• οικονομικές, πολιτικές, επιστημονικές ή πολιτιστικές εξελίξεις που ενδέχεται να αποτελέσουν σχετικό θέμα δημόσιας συζήτησης.

Τα πρόστιμα

Οι εθνικές αρχές εποπτείας της αγοράς, το Ευρωπαϊκό Γραφείο Τεχνητής Νοημοσύνης (για συστήματα υπό την εποπτεία του) και ο  Ευρωπαίος Επόπτης Προστασίας Δεδομένων (όταν τα θεσμικά όργανα της ΕΕ είναι πάροχοι ή φορείς υλοποίησης) είναι υπεύθυνες για την επιβολή των κανόνων διαφάνειας και μπορούν να επιβάλλουν πρόστιμα:

• έως 15 εκατομμύρια ευρώ, ή 3% του παγκόσμιου ετήσιου κύκλου εργασιών, για εταιρείες,
• έως 50.000 ευρώ για θεσμικά όργανα, φορείς και οργανισμούς της ΕΕ,
• με την αναλογικότητα να λαμβάνεται υπόψη για τις μικρές και μεσαίες επιχειρήσεις (ΜΜΕ) και τις μικρές εταιρείες μεσαίας κεφαλαιοποίησης (ΜΜΕ)

ΔΕΙΤΕ ΑΚΟΜΑ Βίντεο στα social media φέρεται να πυροδότησε την εισβολή μεταναστών στη Θέουτα - Λειτούργησε ως «παράδειγμα επιτυχίας»