Απαγορεύονται deepfakes, ψευδείς βιβλιογραφικές αναφορές και πλήρως αυτοματοποιημένη αξιολόγηση μαθητών – Υποχρεωτική η ανθρώπινη εποπτεία, η επιμόρφωση εκπαιδευτικών και η προστασία προσωπικών δεδομένων στη χρήση εφαρμογών ΤΝ στην εκπαιδευτική διαδικασία
Αυστηρούς κανόνες για τη χρήση συστημάτων Τεχνητής Νοημοσύνης (ΤΝ) στα σχολεία θέτει από το σχολικό έτος 2026-27 απόφαση της υπουργού Παιδείας Σοφίας Ζαχαράκη. Το πλαίσιο αφορά τα σχολεία δευτεροβάθμιας εκπαίδευσης και καθορίζει όρους για την εκπαιδευτική αξιοποίηση της ΤΝ, την ανθρώπινη εποπτεία, την προστασία προσωπικών δεδομένων, την επιμόρφωση εκπαιδευτικών και την ενημέρωση μαθητών και γονέων.
Κεντρική αρχή της απόφασης είναι ότι η ΤΝ μπορεί να λειτουργεί υποστηρικτικά, αλλά δεν μπορεί να υποκαθιστά τη μαθησιακή διαδικασία και την προσωπική προσπάθεια του μαθητή. Η χρήση των συστημάτων, όπως και τα αποτελέσματα που παράγουν, πρέπει σε κάθε περίπτωση να εποπτεύονται, να ελέγχονται και να αξιολογούνται από κατάλληλα εκπαιδευμένο εκπαιδευτικό προσωπικό.
Η συμμετοχή εκπαιδευτικών και μαθητών στη χρήση συστημάτων ΤΝ προβλέπεται αποκλειστικά σε εθελοντική βάση και μετά από ειδική εκπαίδευση και ενημέρωση. Τυχόν άρνηση συμμετοχής δεν μπορεί να επηρεάζει την υπηρεσιακή ή μαθητική κατάσταση ούτε την αξιολόγηση εκπαιδευτικών και μαθητών.
Όρια σε εξετάσεις και εργασίες
Η απόφαση αποκλείει την πλήρως αυτοματοποιημένη λήψη αποφάσεων για την αξιολόγηση της επίδοσης μαθητών ή εκπαιδευτικών μέσω συστημάτων ΤΝ. Απαγορεύεται επίσης η δημιουργία ατομικών προφίλ (profiling) και η αξιοποίηση δεδομένων που προκύπτουν από τη χρήση ΤΝ για αποφάσεις σχετικές με την προσωπικότητα, τη συμπεριφορά ή τα δικαιώματά τους.
Στις γραπτές εξετάσεις, στα τεστ και στα διαγωνίσματα η χρήση οποιουδήποτε συστήματος ΤΝ απαγορεύεται. Εξαίρεση προβλέπεται μόνο όταν ο εκπαιδευτικός ορίσει ρητά ότι επιτρέπεται ελεγχόμενη χρήση ως μέρος της εκπαιδευτικής διαδικασίας και εξασφαλίζεται η ισοτιμία για όλους τους μαθητές.
Αντίστοιχα, στις μαθητικές εργασίες η χρήση της ΤΝ πρέπει να ακολουθεί τις οδηγίες του εκπαιδευτικού. Δεν επιτρέπεται η υποβολή εργασιών ή άλλων παραδοτέων που έχουν δημιουργηθεί εξ ολοκλήρου ή σε σημαντικό βαθμό από σύστημα ΤΝ. Το αποτέλεσμα πρέπει να αποτελεί προσωπική δημιουργία του μαθητή και να εκφράζει τη δική του κατανόηση.
Εφόσον εκπαιδευτικός διαπιστώσει χρήση ΤΝ κατά παράβαση αυτών των κανόνων, μπορεί να τη λάβει υπόψη κατά την αξιολόγηση της αντίστοιχης εξέτασης, δοκιμασίας ή εργασίας, ενώ παράλληλα οφείλει να αποσαφηνίσει στους μαθητές τους κανόνες χρήσης.
Deepfakes και ψευδείς πηγές
Ξεχωριστό κεφάλαιο της απόφασης αφορά τις ρητές απαγορεύσεις. Απαγορεύεται απολύτως η χρήση συστημάτων ΤΝ στο πλαίσιο της εκπαιδευτικής διαδικασίας για πράξεις που αντίκεινται στο εθνικό ή ενωσιακό δίκαιο.
Στις απαγορευμένες ενέργειες περιλαμβάνονται η παραγωγή ή διάδοση απεικονίσεων, ήχων ή βίντεο προσώπων με τεχνικές deepfake χωρίς ρητή συγκατάθεση, καθώς και η δημιουργία ψευδών ή ανύπαρκτων βιβλιογραφικών αναφορών, πηγών, δεδομένων ή παραπομπών. Απαγορεύεται ακόμη η χωρίς άδεια ανάπτυξη, μεταβολή ή διάθεση συστημάτων ΤΝ.
Παράλληλα, το πλαίσιο δίνει ιδιαίτερη έμφαση στη διαφάνεια. Η σχολική κοινότητα πρέπει να ενημερώνεται για τους τρόπους χρήσης των εφαρμογών, τους κινδύνους και τους περιορισμούς τους, ενώ η ανθρώπινη ευθύνη παραμένει σε κάθε περίπτωση ενεργή. Προβλέπεται επίσης δυνατότητα αμφισβήτησης των αποτελεσμάτων που παράγουν τα συστήματα και υποβολής παραπόνων.
Προσωπικά δεδομένα και ανθρώπινη εποπτεία
Για την ασφαλή χρήση των εφαρμογών προβλέπεται σειρά τεχνικών και οργανωτικών μέτρων. Μεταξύ αυτών είναι η αυθεντικοποίηση εκπαιδευτικών και μαθητών μέσω του Πανελλήνιου Σχολικού Δικτύου, εφόσον υποστηρίζεται από το αντίστοιχο σύστημα ΤΝ, η ανωνυμοποίηση ή ψευδωνυμοποίηση δεδομένων όπου είναι εφικτό, ο περιορισμός της πρόσβασης σε εξουσιοδοτημένα πρόσωπα και η καταγραφή και τεκμηρίωση των διαδικασιών επεξεργασίας.
Προβλέπονται επίσης μηχανισμοί ανθρώπινης εποπτείας και δυνατότητα παρέμβασης σε κάθε στάδιο λειτουργίας, τακτική αξιολόγηση κινδύνου και επικαιροποίηση των μέτρων ασφαλείας.
Πριν αρχίσει η χρήση συστήματος ΤΝ στην εκπαιδευτική διαδικασία, το υπουργείο Παιδείας, ως Υπεύθυνος Επεξεργασίας, διενεργεί τουλάχιστον αξιολόγηση αντικτύπου σχετικά με την προστασία δεδομένων (DPIA). Η αξιολόγηση επικαιροποιείται σε κάθε ουσιώδη τροποποίηση του συστήματος ή του τρόπου χρήσης του.
Ιδιαίτεροι περιορισμοί τίθενται και στις πληροφορίες που μπορούν να εισάγονται στα συστήματα. Δεν επιτρέπεται, μεταξύ άλλων, η εισαγωγή ονοματεπωνύμων, φωτογραφιών, βίντεο, φωνητικών δειγμάτων, στοιχείων επικοινωνίας, αριθμών μητρώου, βαθμολογιών, εκθέσεων προόδου, πειθαρχικών δεδομένων, δεδομένων υγείας ή ειδικών εκπαιδευτικών αναγκών και πληροφοριών τρίτων χωρίς νόμιμη βάση. Επιτρέπονται ουδέτερες, μη ταυτοποιητικές περιγραφές και συνθετικά ή ανωνυμοποιημένα δεδομένα.
Τα δεδομένα που συλλέγονται μέσω συστήματος ΤΝ διατηρούνται μόνο για όσο είναι απολύτως αναγκαίο και, σε κάθε περίπτωση, προβλέπεται η ασφαλής διαγραφή τους μετά την πάροδο τριών ετών.
Συντονιστής ΤΝ και επιμόρφωση
Στις σχολικές μονάδες όπου αξιοποιείται σύστημα ΤΝ προβλέπεται ο ορισμός εκπαιδευτικού ως υπευθύνου για τον συντονισμό και την παρακολούθηση της εφαρμογής του. Ο εκπαιδευτικός ορίζεται με σχετική απόφαση και κατόπιν εκδήλωσης ενδιαφέροντος.
Στις αρμοδιότητές του περιλαμβάνονται, ανάλογα με την περίπτωση, η συλλογή και τήρηση των σχετικών δηλώσεων ενδιαφέροντος ή συναίνεσης και ενημέρωσης, η αποστολή προσκλήσεων συμμετοχής και η δημιουργία εικονικών ομάδων σε συνεργατικούς ψηφιακούς χώρους.
Σημαντικό μέρος του πλαισίου καταλαμβάνει η επιμόρφωση. Κάθε σχολική μονάδα οργανώνει τουλάχιστον μία δράση ενημέρωσης μαθητών ή και γονέων ανά σχολικό έτος, καθώς και επιμόρφωση εκπαιδευτικών ανά γνωστικό αντικείμενο σχετικά με τη χρήση συστημάτων ΤΝ.
Η επιμόρφωση καλύπτει βασικές αρχές λειτουργίας της ΤΝ και της παραγωγικής ΤΝ, τους σχετικούς κινδύνους, τους περιορισμούς και τις αλγοριθμικές μεροληψίες, τεχνικές prompting και επαλήθευσης, τους κανόνες προστασίας προσωπικών δεδομένων και ανηλίκων, καθώς και τις διαδικασίες αναφοράς περιστατικών. Οι εκπαιδευτικοί που συμμετέχουν σε δράσεις ή προγράμματα χρήσης συστημάτων ΤΝ λαμβάνουν ειδική επιμόρφωση, η οποία εγκρίνεται από το Ινστιτούτο Εκπαιδευτικής Πολιτικής (ΙΕΠ).
Το πλαίσιο προβλέπει ακόμη διαδικασία αντιμετώπισης περιστατικών σε περίπτωση μη εξουσιοδοτημένης κοινοποίησης δεδομένων ή έκθεσης σε επιβλαβές περιεχόμενο, με ενημέρωση των αρμόδιων προσώπων και, όπου απαιτείται, των γονέων, της αρμόδιας Διεύθυνσης Εκπαίδευσης και των αρμόδιων αρχών.
Η συνολική κατεύθυνση της απόφασης τοποθετεί την Τεχνητή Νοημοσύνη σε υποστηρικτικό ρόλο μέσα στην εκπαιδευτική διαδικασία. Η δημιουργική και κριτική αξιοποίησή της συνδέεται με συγκεκριμένους όρους ασφάλειας, διαφάνειας, ισότιμης πρόσβασης και προστασίας δεδομένων, ενώ η ανθρώπινη εποπτεία και η προσωπική συμμετοχή του μαθητή παραμένουν βασικές προϋποθέσεις χρήσης.
