Καμπανάκι για τις απάτες μέσω Τεχνητής Νοημοσύνης – Εφαρμογή κανονισμού της ΕΕ

Καθώς το διαδίκτυο γεμίζει ολοένα και περισσότερο με περιεχόμενο που δημιουργείται από συστήματα Τεχνητής Νοημοσύνης και παρουσιάζεται ως «είδηση», η Ευρωπαϊκή Ένωση και οι εθνικές κυβερνήσεις επιχειρούν να διαμορφώσουν ένα νέο πλαίσιο κανόνων για την αντιμετώπιση των προκλήσεων που προκύπτουν. 

Από τις 2 Αυγούστου τέθηκαν σε εφαρμογή νέες ρυθμίσεις που αφορούν τη διαφάνεια των συστημάτων Τεχνητής Νοημοσύνης. Οι αρμόδιες αρχές αναγνωρίζουν ότι η ταχύτατη ανάπτυξη της τεχνολογίας καθιστά όλο και δυσκολότερο τον διαχωρισμό ανάμεσα σε περιεχόμενο που παράγεται ή τροποποιείται από την Τεχνητή Νοημοσύνη και σε αυθεντικό υλικό που δημιουργείται από ανθρώπους.

Σύμφωνα με την Ευρωπαϊκή Επιτροπή, η εξέλιξη αυτή δημιουργεί νέες απειλές, όπως η μαζική διάδοση παραπληροφόρησης, η χειραγώγηση της κοινής γνώμης, οι απάτες, η πλαστοπροσωπία και η παραπλάνηση των καταναλωτών.

Οι νέες υποχρεώσεις που προβλέπονται αφορούν κυρίως τη διαφάνεια στη χρήση και τη δημιουργία περιεχομένου μέσω Τεχνητής Νοημοσύνης.

Πλέον, συγκεκριμένες μορφές περιεχομένου που παράγονται ή τροποποιούνται με τη βοήθεια συστημάτων Τεχνητής Νοημοσύνης θα πρέπει να φέρουν σαφή σήμανση και ευδιάκριτη επισήμανση, ενώ θα περιλαμβάνουν και μηχανικά αναγνώσιμες ενδείξεις. Για τον σκοπό αυτό, η Ευρωπαϊκή Ένωση έχει αναπτύξει ειδικά εικονίδια που μπορούν να χρησιμοποιούνται για την αναγνώριση τέτοιου περιεχομένου.

Οι κανόνες αφορούν μεταξύ άλλων εικόνες, ήχο και βίντεο που παρουσιάζουν πρόσωπα, αντικείμενα, τοποθεσίες ή γεγονότα με τρόπο που μπορεί να παραπλανήσει, όπως συμβαίνει με τα λεγόμενα deepfakes. Περιλαμβάνουν επίσης εργαλεία αναγνώρισης συναισθημάτων και βιομετρικής κατηγοριοποίησης, καθώς και κείμενα που αφορούν την ενημέρωση του κοινού για θέματα δημοσίου ενδιαφέροντος, όταν δεν έχουν προηγηθεί ανθρώπινος έλεγχος ή δημοσιογραφική επιμέλεια.

Παράλληλα, καθιερώνεται η υποχρέωση για ξεκάθαρη ενημέρωση των χρηστών όταν η αλληλεπίδρασή τους δεν γίνεται με πραγματικό πρόσωπο, αλλά με σύστημα Τεχνητής Νοημοσύνης, όπως ένα chatbot, ένας ψηφιακός πράκτορας ή ένα avatar.

Η ΕΕ έχει δημιουργήσει ένα σύνολο εικονιδίων που μπορούν να αξιοποιούν δημιουργοί περιεχομένου, εκδότες και φορείς ανάπτυξης συστημάτων γενετικής Τεχνητής Νοημοσύνης, προκειμένου να επισημαίνουν υλικό που έχει παραχθεί με τη χρήση της τεχνολογίας αυτής.

Περιορισμοί και εξαιρέσεις στη σήμανση περιεχομένου ΑΙ 

Οι υποχρεώσεις για τη σήμανση περιεχομένου που δημιουργείται ή τροποποιείται μέσω Τεχνητής Νοημοσύνης δεν εφαρμόζονται με τον ίδιο τρόπο σε όλες τις περιπτώσεις.

Εξαιρούνται έργα που έχουν ξεκάθαρα καλλιτεχνικό, δημιουργικό, σατιρικό, μυθοπλαστικό ή αντίστοιχο χαρακτήρα. Όταν ένα deepfake περιεχόμενο αποτελεί μέρος τέτοιου είδους έργου ή προγράμματος, η υποχρέωση διαφάνειας περιορίζεται στην κατάλληλη ενημέρωση του κοινού, χωρίς η σήμανση να επηρεάζει την παρουσίαση ή την εμπειρία του έργου.

Επίσης, δεν απαιτείται γνωστοποίηση όταν η χρήση deepfake περιεχομένου ή κειμένων που αφορούν θέματα δημοσίου ενδιαφέροντος επιτρέπεται από τη νομοθεσία για σκοπούς όπως η πρόληψη, η διερεύνηση ή η δίωξη ποινικών αδικημάτων.

Για τα κείμενα που παράγονται από Τεχνητή Νοημοσύνη, η υποχρέωση επισήμανσης δεν ισχύει όταν έχει προηγηθεί ανθρώπινη αναθεώρηση ή συντακτικός έλεγχος και υπάρχει φυσικό ή νομικό πρόσωπο που αναλαμβάνει τη συντακτική ευθύνη για τη δημοσίευσή τους.

Τι θεωρείται deepfake;

Ως deepfake χαρακτηρίζεται περιεχόμενο εικόνας, ήχου ή βίντεο που δημιουργείται ή τροποποιείται με τη χρήση Τεχνητής Νοημοσύνης και παρουσιάζει ομοιότητες με υπαρκτά πρόσωπα, αντικείμενα, τοποθεσίες, οντότητες ή γεγονότα, με τρόπο που μπορεί να κάνει κάποιον να το θεωρήσει λανθασμένα αυθεντικό.

Για να θεωρηθεί ένα περιεχόμενο deepfake, πρέπει να συντρέχουν τρία βασικά κριτήρια να υπάρχει υψηλός βαθμός ομοιότητας μεταξύ του περιεχομένου που δημιουργήθηκε και του πραγματικού προσώπου, αντικειμένου ή γεγονότος που προσομοιώνεται. Επίσης το περιεχόμενο να αφορά κάτι που υπάρχει, θα μπορούσε εύλογα να υπάρχει ή να έχει υπάρξει στην πραγματικότητα και να δημιουργείται η εντύπωση ότι το περιεχόμενο είναι αυθεντικό ή αληθινό, με αποτέλεσμα να μπορεί να παραπλανήσει τον θεατή.

Οι πάροχοι υπηρεσιών οφείλουν να ενημερώνουν τα φυσικά πρόσωπα ότι πρόκειται για deepfake περιεχόμενο το αργότερο κατά την πρώτη τους επαφή με αυτό. Η ενημέρωση πρέπει να είναι σαφής, εύκολα αντιληπτή και να γίνεται με τρόπο όπως ορατές ή ακουστικές ενδείξεις. Δεν αρκεί μόνο η ύπαρξη τεχνικών σημάνσεων που μπορούν να διαβαστούν από μηχανές.

Κείμενα ΑΙ και ενημέρωση του κοινού 

Οι πάροχοι συστημάτων Τεχνητής Νοημοσύνης υποχρεούνται να επισημαίνουν με σαφή τρόπο κείμενα που δημιουργούνται ή τροποποιούνται από ΑΙ, όταν αυτά δημοσιεύονται με σκοπό την ενημέρωση του κοινού για θέματα δημοσίου ενδιαφέροντος.

Για να εφαρμοστεί αυτή η υποχρέωση, πρέπει να πληρούνται τρεις προϋποθέσεις: το κείμενο να έχει δημοσιευτεί, να αφορά ενημέρωση του κοινού και το θέμα να σχετίζεται με ζητήματα δημοσίου ενδιαφέροντος.

Στα ζητήματα αυτά περιλαμβάνονται, μεταξύ άλλων, η πολιτική και οι δημοκρατικές διαδικασίες, η δημόσια διοίκηση, η δικαιοσύνη και η επιβολή του νόμου, τα θεμελιώδη δικαιώματα, η δημόσια ασφάλεια, η υγεία, η προστασία του περιβάλλοντος, η ασφάλεια των καταναλωτών, καθώς και οικονομικές, πολιτικές, επιστημονικές ή πολιτιστικές εξελίξεις που μπορούν να αποτελέσουν αντικείμενο δημόσιας συζήτησης.

Τα πρόστιμα 

Την εφαρμογή των κανόνων διαφάνειας αναλαμβάνουν οι εθνικές αρχές εποπτείας της αγοράς, το Ευρωπαϊκό Γραφείο Τεχνητής Νοημοσύνης για τα συστήματα που εμπίπτουν στην αρμοδιότητά του, καθώς και ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων όταν εμπλέκονται θεσμικά όργανα της ΕΕ.

Σε περίπτωση παραβάσεων μπορούν να επιβληθούν πρόστιμα που φτάνουν μέχρι και τα 15 εκατομμύρια ευρώ ή το 3% του παγκόσμιου ετήσιου κύκλου εργασιών για εταιρείες, και έως τα 50.000 ευρώ για θεσμικά όργανα, φορείς και οργανισμούς της Ευρωπαϊκής Ένωσης.

Για μικρές και μεσαίες επιχειρήσεις λαμβάνεται υπόψη η αρχή της αναλογικότητας κατά την επιβολή των κυρώσεων.

Πηγή: Iefimerida