Σαφείς κανόνες για τη χρήση της Τεχνητής Νοημοσύνης στα σχολεία της Ελλάδας θεσπίζονται μετά τη δημοσίευση σε ΦΕΚ της σχετικής πρωτοβουλίας των υπουργείων Παιδείας, Θρησκευμάτων και Αθλητισμού και Ψηφιακής Διακυβέρνησης και Τεχνητής Νοημοσύνης.
Το νέο πλαίσιο θέτει δικλείδες προστασίας για μαθητές, εκπαιδευτικούς και τη σχολική κοινότητα απέναντι σε κινδύνους όπως η παραπληροφόρηση, οι αλγοριθμικές στρεβλώσεις, το επιβλαβές περιεχόμενο και η καταχρηστική αξιοποίηση της τεχνολογίας.
Παράλληλα, προβλέπεται προστασία των προσωπικών δεδομένων των μαθητών, απαγόρευση χρήσης εργαλείων Τεχνητής Νοημοσύνης κατά τη διάρκεια εξετάσεων και θεσμοθέτηση του ρόλου του “Συντονιστή χρήσης ΤΝ” σε κάθε σχολική μονάδα.
Προαιρετική η χρήση Τεχνητής Νοημοσύνης
Σύμφωνα με τα υπουργεία, στόχος είναι η Τεχνητή Νοημοσύνη να αξιοποιείται με ασφαλή, διαφανή και παιδαγωγικά υπεύθυνο τρόπο στην εκπαιδευτική διαδικασία.
Η χρήση εργαλείων ΤΝ παραμένει προαιρετική τόσο για τους μαθητές όσο και για τους εκπαιδευτικούς. Δεν συνδέεται με την αξιολόγησή τους και θα πραγματοποιείται πάντοτε υπό την εποπτεία εκπαιδευτικού.
Το πλαίσιο ορίζει ότι η Τεχνητή Νοημοσύνη μπορεί να χρησιμοποιείται αποκλειστικά για την υποστήριξη της μάθησης και όχι ως υποκατάστατο της προσωπικής προσπάθειας των μαθητών, της κριτικής σκέψης ή του ρόλου του εκπαιδευτικού.
Τι απαγορεύεται στα σχολεία
Στο νέο κανονιστικό πλαίσιο περιλαμβάνονται ρητές απαγορεύσεις για πρακτικές που μπορούν να θέσουν σε κίνδυνο την ασφάλεια, την αξιοπιστία της εκπαιδευτικής διαδικασίας ή τα προσωπικά δεδομένα.
Απαγορεύεται η δημιουργία και διάδοση deepfake περιεχομένου χωρίς συναίνεση, η παραγωγή ψευδών βιβλιογραφικών αναφορών ή ανύπαρκτων πηγών, η μη εξουσιοδοτημένη ανάπτυξη ή χρήση εφαρμογών ΤΝ, καθώς και η πλήρως αυτοματοποιημένη αξιολόγηση μαθητών ή εκπαιδευτικών.
Ιδιαίτερη έμφαση δίνεται στην προστασία των ανηλίκων. Δεν επιτρέπεται η δημιουργία προφίλ μαθητών και εκπαιδευτικών, η επεξεργασία στοιχείων προσωπικότητας ή συμπεριφοράς και η εισαγωγή ευαίσθητων προσωπικών δεδομένων σε συστήματα Τεχνητής Νοημοσύνης.
Ειδικότερα, απαγορεύεται η καταχώριση ονοματεπωνύμων, φωτογραφιών, φωνητικών δειγμάτων, βαθμολογιών, δεδομένων υγείας ή οποιουδήποτε άλλου στοιχείου μπορεί να οδηγήσει στην ταυτοποίηση μαθητών και εκπαιδευτικών.
Τι ισχύει για εξετάσεις και εργασίες
Η χρήση εργαλείων Τεχνητής Νοημοσύνης δεν επιτρέπεται κατά τη διάρκεια γραπτών εξετάσεων, τεστ και διαγωνισμάτων, εκτός εάν έχει προβλεφθεί ρητά ελεγχόμενη χρήση τους από τον εκπαιδευτικό.
Αντίστοιχα, οι μαθητικές εργασίες δεν μπορούν να παράγονται εξ ολοκλήρου ή σε σημαντικό βαθμό από εφαρμογές ΤΝ. Οι εκπαιδευτικοί καλούνται να καθοδηγούν τους μαθητές στην υπεύθυνη, δημιουργική και κριτική αξιοποίηση των νέων εργαλείων, ώστε η τεχνολογία να λειτουργεί ενισχυτικά για τη μάθηση.
Συντονιστής ΤΝ σε κάθε σχολείο
Για πρώτη φορά θεσμοθετείται ο ρόλος του “Συντονιστή χρήσης ΤΝ” σε κάθε σχολική μονάδα.
Ο υπεύθυνος εκπαιδευτικός θα παρακολουθεί την ορθή εφαρμογή των εργαλείων Τεχνητής Νοημοσύνης, θα συντονίζει τη συμμετοχή μαθητών και εκπαιδευτικών και θα λειτουργεί ως σημείο αναφοράς για ζητήματα ασφάλειας και προστασίας προσωπικών δεδομένων.
Η πρόσβαση στα συστήματα ΤΝ θα γίνεται, όπου υποστηρίζεται, μέσω του Πανελλήνιου Σχολικού Δικτύου, με ασφαλή αυθεντικοποίηση χρηστών και αυστηρούς περιορισμούς πρόσβασης.
Το πλαίσιο προβλέπει επίσης ανωνυμοποίηση ή ψευδωνυμοποίηση δεδομένων, καταγραφή διαδικασιών επεξεργασίας, μηχανισμούς ανθρώπινης εποπτείας, τακτικές αξιολογήσεις κινδύνου και συμμόρφωση με διεθνή πρότυπα ασφάλειας πληροφοριών.
Πριν από κάθε εφαρμογή συστήματος ΤΝ θα διενεργείται υποχρεωτικά Εκτίμηση Αντικτύπου στην Προστασία Δεδομένων, σύμφωνα με τον Γενικό Κανονισμό Προστασίας Δεδομένων.
Ενημέρωση μαθητών, γονέων και εκπαιδευτικών
Κάθε σχολική μονάδα θα πρέπει να οργανώνει τουλάχιστον μία ετήσια δράση ενημέρωσης για μαθητές και γονείς σχετικά με την ασφαλή χρήση της Τεχνητής Νοημοσύνης.
Παράλληλα, θα υλοποιούνται επιμορφώσεις εκπαιδευτικών για τις βασικές αρχές λειτουργίας της ΤΝ, τους κινδύνους και τις αλγοριθμικές μεροληψίες, την προστασία προσωπικών δεδομένων, τις τεχνικές prompting και τη διαχείριση περιστατικών.
Οι επιμορφώσεις θα εγκρίνονται από το Ινστιτούτο Εκπαιδευτικής Πολιτικής, ώστε να διασφαλίζονται ενιαία ποιότητα και επιστημονική επάρκεια.
Μία από τις πρώτες χώρες της Ευρωπαϊκής Ένωσης
Η πρωτοβουλία είχε παρουσιαστεί τη Δευτέρα 11 Μαΐου στο Συμβούλιο Υπουργών Παιδείας της Ευρωπαϊκής Ένωσης στις Βρυξέλλες.
Η υπουργός Παιδείας, Θρησκευμάτων και Αθλητισμού, Σοφία Ζαχαράκη, είχε ανακοινώσει ότι η Ελλάδα αποκτά για πρώτη φορά ολοκληρωμένο κανονιστικό πλαίσιο για την ασφαλή, διαφανή και παιδαγωγικά υπεύθυνη χρήση συστημάτων Τεχνητής Νοημοσύνης στη Δευτεροβάθμια Εκπαίδευση.
Όπως είχε επισημάνει, με τη νέα πρωτοβουλία η Ελλάδα γίνεται μία από τις πρώτες χώρες της Ευρωπαϊκής Ένωσης που θεσπίζει δεσμευτικό πλαίσιο για την υπεύθυνη αξιοποίηση της Τεχνητής Νοημοσύνης στα σχολεία.