Η Ευρώπη βάζει κανόνες στην τεχνητή νοημοσύνη, θέτοντας σε εφαρμογή τις πρώτες ρυθμίσεις του AI Act. Πρακτικά, από την Κυριακή 2 Φεβρουαρίου 2025, ξεκίνησαν να ισχύουν οι πρώτοι κανόνες του AI Act, του πρώτου ολοκληρωμένου νομικού πλαισίου για την τεχνητή νοημοσύνη στην ΕΕ. Η πλήρης εφαρμογή του AI Act αναμένεται το 2026, με σταδιακή ενσωμάτωση των διατάξεων για συστήματα γενικής χρήσης και υψηλού κινδύνου.

Το AI Act στοχεύει στην προστασία των θεμελιωδών δικαιωμάτων και της ασφάλειας των πολιτών, διατηρώντας ταυτόχρονα τη δυναμική της Ευρώπης ως παγκόσμιου ηγέτη στην καινοτομία και την ανάπτυξη αξιόπιστης τεχνητής νοημοσύνης.

Από την Κυριακή 2 Φεβρουαρίου, άρχισαν να εφαρμόζονται οι πρώτοι κανόνες του νόμου για την Τεχνητή Νοημοσύνη (AI Act)

Τα πρώτα μέτρα, που τέθηκαν σε εφαρμογή, περιλαμβάνουν την απαγόρευση συγκεκριμένων επικίνδυνων χρήσεων της τεχνητής νοημοσύνης, όπως η βιομετρική κατηγοριοποίηση και η αναγνώριση συναισθημάτων σε σχολεία και χώρους εργασίας, καθώς και η μαζική συλλογή δεδομένων για τη δημιουργία βάσεων αναγνώρισης προσώπων. Παράλληλα, προβλέπονται δράσεις εκπαίδευσης και κατευθυντήριες οδηγίες για τη σωστή κατανόηση των συστημάτων ΤΝ, τόσο από χρήστες όσο και από προγραμματιστές.

Η Ευρωπαϊκή Επιτροπή δεσμεύεται να δημιουργήσει έναν δυναμικό κατάλογο πρακτικών εκπαίδευσης, με στόχο την ανταλλαγή γνώσεων μεταξύ παρόχων και χρηστών, ώστε να ενισχυθεί η κατανόηση των εφαρμογών ΤΝ και η ορθή χρήση τους.

Γιατί χρειαζόμαστε κανόνες

Σύμφωνα με το σκεπτικό του AI Act, η τεχνητή νοημοσύνη μπορεί να συμβάλει στην επίλυση πολλών κοινωνικών προκλήσεων, αλλά κρύβει και κινδύνους. Για παράδειγμα, οι αποφάσεις, που λαμβάνονται από συστήματα ΤΝ, μπορεί να είναι αδιαφανείς, καθιστώντας δύσκολη την αξιολόγηση της δίκαιης ή όχι μεταχείρισης ατόμων, ειδικά σε κρίσιμες καταστάσεις, όπως οι διαδικασίες προσλήψεων ή η παροχή δημόσιων ωφελημάτων.

Αν και η υπάρχουσα νομοθεσία καλύπτει ορισμένα ζητήματα, η ταχύτητα με την οποία εξελίσσεται η τεχνητή νοημοσύνη απαιτεί πιο εξειδικευμένους και αυστηρούς κανόνες.

Τι προβλέπει το ΑΙ Act

Το AI Act καθορίζει τέσσερα επίπεδα κινδύνου για τις εφαρμογές ΤΝ:

Μη αποδεκτός κίνδυνος: Πλήρης απαγόρευση συστημάτων ΤΝ που απειλούν τη ζωή και τα θεμελιώδη δικαιώματα, όπως η κοινωνική βαθμολόγηση ή η παρακολούθηση πολιτών σε δημόσιους χώρους.

Υψηλός κίνδυνος: Συμπεριλαμβάνονται εφαρμογές που επηρεάζουν κρίσιμους τομείς, όπως η ασφάλεια στις υποδομές, η υγεία και οι προσλήψεις. Οι πάροχοι αυτών των συστημάτων θα πρέπει να τηρούν αυστηρές προδιαγραφές, από αξιολόγηση κινδύνων έως μέτρα κυβερνοασφάλειας.

Περιορισμένος κίνδυνος: Εδώ εντάσσονται εφαρμογές με ανάγκη διαφάνειας, όπως τα chatbots, όπου οι χρήστες πρέπει να ενημερώνονται ότι επικοινωνούν με μηχανή.

Ελάχιστος ή μηδενικός κίνδυνος: Η πλειοψηφία των συστημάτων ΤΝ, όπως τα βιντεοπαιχνίδια ή τα φίλτρα ανεπιθύμητης αλληλογραφίας, δεν υπόκεινται σε αυστηρούς κανόνες.

Το Ευρωπαϊκό Γραφείο ΑΙ

Το Ευρωπαϊκό Γραφείο Τεχνητής Νοημοσύνης, που ιδρύθηκε τον Φεβρουάριο του 2024, αναλαμβάνει την εφαρμογή και την εποπτεία του νόμου σε επίπεδο κρατών-μελών. Έως τις 2 Αυγούστου 2025, κάθε κράτος θα πρέπει να έχει δημιουργήσει τις δικές του εποπτικές αρχές για την επιβολή των κανόνων.

“Η Ευρώπη κάνει το πρώτο βήμα προς την οργάνωση ενός ασφαλούς και καινοτόμου οικοσυστήματος ΤΝ. Με την προώθηση της τεχνολογίας υπό αυστηρούς κανόνες διαφάνειας και προστασίας, η ΕΕ στοχεύει να αποτελέσει διεθνές πρότυπο στη χρήση της τεχνητής νοημοσύνης, εξασφαλίζοντας ταυτόχρονα την προστασία των πολιτών και την προώθηση της επιχειρηματικότητας”, αναφέρει η Ευρωπαϊκή Επιτροπή.

Πηγή: sepe.gr

Το άρθρο Τέθηκαν σε εφαρμογή οι πρώτοι κανόνες AI Act… Της Νατάσας Φραγκούλη εμφανίστηκε πρώτα στο NewIdeas | Το κανάλι με άποψη.

Η ΕΕ πρωτοστατεί σε αυτό το θέμα, διατηρώντας μια νομοθετική ισορροπία μεταξύ, αφενός, της ελευθερίας για έρευνα, ανάπτυξη και χρήση συστημάτων AI από τις εταιρείες και τους οργανισμούς και αφετέρου, της προάσπισης της ασφάλειας, των θεμελιωδών δικαιωμάτων, της δημοκρατίας και του περιβάλλοντος από τους κινδύνους της τεχνητής νοημοσύνης.

Η ΕΕ έκανε ένα σημαντικό βήμα για την εποπτεία των συστημάτων Artificial Intelligence με τη δημοσίευση του Κανονισμού AI Act

Η EE, μέσω της EU AI Act, έχει ως βασικό στόχο τον έλεγχο της ασφάλειας και της αξιοπιστίας των συστημάτων τεχνητής νοημοσύνης, τα οποία λειτουργούν εντός της επικράτειάς της (ανεξάρτητα από τη χώρα ανάπτυξης τους), προστατεύοντας, παράλληλα, τα θεμελιώδη δικαιώματα των πολιτών της. Με την εφαρμογή της Πράξης, οι επιχειρήσεις θα πρέπει να εναρμονιστούν με μια σειρά από απαιτήσεις και πρότυπα, εξασφαλίζοντας ότι τα συστήματα AI, τα οποία αναπτύσσουν ή λειτουργούν, είναι ασφαλή και δίκαια για τους χρήστες.

Σύμφωνα με την EU AI Act, ένα σύστημα AI ορίζεται ως ένα λογισμικό, που αναπτύσσεται με ορισμένες τεχνικές και προσεγγίσεις και μπορεί, για ένα δεδομένο σύνολο καθορισμένων στόχων, με έναν – έστω και ελάχιστο – βαθμό αυτονομίας, να παράγει αποτελέσματα, όπως προτάσεις, εκτιμήσεις, προβλέψεις, αποφάσεις ή άλλες ενέργειες, που επηρεάζουν τα περιβάλλοντα με τα οποία αλληλοεπιδρά.

Είναι σαφές ότι ο ορισμός των συστημάτων ΑΙ καλύπτει ένα ευρύ φάσμα τεχνικών και προσεγγίσεων στον χώρο της τεχνολογίας αυτής, όπως η μηχανική μάθηση (machine learning), η βαθιά μάθηση (deep learning), η επεξεργασία φυσικής γλώσσας (natural language processing) και τα συστήματα AI γενικού σκοπού (general purpose ΑΙ systems).

Διαβάθμιση συστημάτων AI

Όπως εξηγεί η EY Ελλάδος, με αφορμή τη δημοσίευση του Κανονισμού “AI Act”, ο νέος κανονισμός διαβαθμίζει τα συστήματα αυτά σε επίπεδα κινδύνου με βάση τον δυνητικό αντίκτυπο στα δικαιώματα και τις ελευθερίες των ανθρώπων, εισάγοντας διαφορετικές απαιτήσεις για όλους τους εμπλεκόμενους φορείς, όπως όσοι αναπτύσσουν συστήματα ΑΙ και όσοι χρησιμοποιούν τέτοια συστήματα.

Διαφορετικές απαιτήσεις και χρονικά πλαίσια εναρμόνισης, ορίζονται για τις παρακάτω κατηγορίες συστημάτων:

– Μη αποδεκτού κινδύνου συστήματα AI: Περιλαμβάνουν, για παράδειγμα, συστήματα τα οποία χρησιμοποιούνται για την αξιολόγηση ή την ταξινόμηση φυσικών προσώπων με βάση την κοινωνική συμπεριφορά ή την προσωπικότητά τους, ή συστήματα τα οποία εκμεταλλεύονται συγκεκριμένα χαρακτηριστικά ομάδων φυσικών προσώπων. H χρήση των συστημάτων αυτών είναι απαγορευμένη. Το χρονικό πλαίσιο απαγορεύσεων για τα συστήματα μη αποδεκτού κινδύνου έχει οριστεί στους 6 μήνες μετά την έναρξη ισχύος της Πράξης.

– Υψηλού κινδύνου συστήματα ΑΙ: Για τα συστήματα αυτά προβλέπονται πολλαπλές απαιτήσεις πριν από την έναρξη χρήσης τους, και σε συνεχή βάση. Οι βασικές τους απαιτήσεις είναι η εισαγωγή συστήματος διαχείρισης κινδύνων, το οποίο θα χρησιμοποιείται καθ’ όλη τη διάρκεια του κύκλου ζωής του συστήματος, η διακυβέρνηση και ο έλεγχος ποιότητας δεδομένων για την εκπαίδευση, επικύρωση και λειτουργία του συστήματος, αξιολόγηση ακρίβειας, επάρκειας και αξιοπιστίας των αποτελεσμάτων, η ύπαρξη διαφάνειας, πληροφόρησης, ασφάλειας και ακεραιότητας των χρηστών, η ανθρώπινη εποπτεία για τον έλεγχο λειτουργίας του συστήματος και η ολοκληρωμένη τεχνική τεκμηρίωση.   

Η αξιολόγηση των συστημάτων υψηλού κινδύνου αναμένεται 24-36 μήνες μετά την έναρξη ισχύος της Πράξης, ανάλογα με την κατηγορία του συστήματος.

Συστήματα χαμηλού κινδύνου

– Χαμηλού κινδύνου συστήματα AI: Περιλαμβάνουν συστήματα που προορίζονται για άμεση αλληλεπίδραση με φυσικά πρόσωπα και υπόκεινται κυρίως σε απαιτήσεις διαφάνειας. Οι απαιτήσεις για τα συστήματα χαμηλού κινδύνου, θα τεθούν σε εφαρμογή 24 μήνες μετά την έναρξη ισχύος της πράξης.

– Συστήματα AI γενικού σκοπού: Αφορούν συστήματα τα οποία είναι ικανά να εκτελούν ένα ευρύ φάσμα εργασιών και δεν είναι περιορισμένα σε μία συγκεκριμένη λειτουργία ή εφαρμογή. Οι απαιτήσεις για τα συστήματα αυτά, διαφοροποιούνται με βάση τον συστημικό τους κίνδυνο, ενώ αναμένεται να τεθούν σε εφαρμογή 12 μήνες μετά την έναρξη ισχύος της Πράξης.

Να σημειωθεί ότι η EU AI Act προβλέπει τη σύσταση ειδικών εποπτικών αρχών σε κάθε κράτος-μέλος, οι οποίες θα έχουν την ευθύνη να ελέγχουν τη συμμόρφωση των επιχειρήσεων με τις απαιτήσεις της, καθώς και να επιβάλλουν τυχόν κυρώσεις σε περιπτώσεις αποκλίσεων. Ενδεικτικά, οι ποινές μη συμμόρφωσης ενός οργανισμού, σε περίπτωση που θέτει σε λειτουργία συστήματα AI μη αποδεκτού κινδύνου, δύνανται να φτάσουν μέχρι και το 7% του κύκλου εργασιών του.

Πηγή: sepe.gr

Το άρθρο AI Act: Tί πρέπει να γνωρίζουν οι επιχειρήσεις στην Ελλάδα εμφανίστηκε πρώτα στο NewIdeas | Το κανάλι με άποψη.