διαβάστε ακόμα
Τεχνητή Νοημοσύνη
Η Τεχνητή Νοημοσύνη (ΤΝ – ΑΙ) εξελίσσεται με ραγδαίους ρυθμούς, επηρεάζοντας πλέον σχεδόν κάθε τομέα της ανθρώπινης ζωής, όπως την οικονομία, τη δημόσια διοίκηση, την εργασία, την εκπαίδευση, την επιστημονική έρευνα, την ενημέρωση και το Δίκαιο. H συντριπτική πλειοψηφία των πολιτών επιθυμεί να μπουν όρια σε αυτήν την «ανεξέλεγκτη» ταχύτητα. Στην πρόσφατη έρευνα της διαΝΕΟσις «Τι πιστεύουν οι Έλληνες για την Τεχνητή Νοημοσύνη», 9 στους 10 πολίτες απάντησαν καθαρά υπέρ της ύπαρξης περιορισμών στη χρήση της. Επομένως, φαίνεται ότι η ρύθμιση της AI δεν αποτελεί αξίωση μόνο των ειδικών ως μια τεχνική ή νομική αναγκαιότητα «από τα πάνω», αλλά συνιστά, ταυτόχρονα, ευρύτερο κοινωνικό αίτημα. Το ερώτημα που αναδύεται είναι «Πώς μπορεί να ρυθμιστεί και να είναι ηθική η Τεχνητή Νοημοσύνη;».
Διαβάστε Ολόκληρη τη Μελέτη (.PDF)
Η νέα μελέτη της διαΝΕΟσις, με τίτλο «[Πώς] μπορεί η Τεχνητή Νοημοσύνη να είναι ηθική και σύννομη;», επιχειρεί να διερευνήσει ακριβώς αυτό το ερώτημα. Υπό τον συντονισμό της Λίλιαν Μήτρου, Καθηγήτριας στο Πανεπιστήμιο Αιγαίου, Αντιπροέδρου της Εθνικής Επιτροπής Βιοηθικής και Τεχνοηθικής και Δικηγόρου, επιχειρεί να χαρτογραφήσει τα ηθικά, νομικά και πολιτικά ερωτήματα που εγείρει η ραγδαία διάδοση της AI. Το βασικό της ερώτημα δεν είναι αν η AI είναι «καλή» ή «κακή», αλλά υπό ποιες προϋποθέσεις μπορεί να υπηρετήσει την ανθρώπινη ευημερία, τη δημοκρατία, το κράτος δικαίου και τα θεμελιώδη δικαιώματα. Τελικά, μας βάζει να σκεφτούμε «ποια ΑΙ θέλουμε εμείς».
Τι είναι η Τεχνητή Νοημοσύνη
Η μαζική διάδοση των Μεγάλων Γλωσσικών Μοντέλων, ειδικά του του ChatGPT, εν πολλοίς έφερε την τεχνολογία αυτή στην καθημερινότητα των ανθρώπων. Σε προηγούμενη έρευνα της διαΝΕΟσις, νωρίτερα μέσα στο 2026, το 95% των ερωτώμενων δήλωνε εξοικειωμένο με την AI, 8 στους 10 έλεγαν ότι γνωρίζουν τι είναι, ενώ ένα ποσοστό της τάξης του 65% δήλωνε ότι την έχει ήδη χρησιμοποιήσει.
Ωστόσο, η ταύτιση της ΑΙ με τα Μεγάλα Γλωσσικά Μοντέλα είναι μάλλον περιοριστική. Η AI αποτελεί ένα πολύ ευρύτερο πεδίο, το οποίο περιλαμβάνει συστήματα πρόβλεψης, ταξινόμησης, σύστασης, αναγνώρισης προτύπων, λήψης ή υποστήριξης αποφάσεων και παραγωγής περιεχομένου, δηλαδή τεχνολογίες που είναι, επίσης, παρούσες στην καθημερινότητα των πολιτών. Ειδικότερα, ο ορισμός που υιοθετεί η Πράξη της Ευρωπαϊκής Ένωσης για την Τεχνητή Νοημοσύνη (Artificial Intelligence Act – εφεξής και AI Act), το βασικό ευρωπαϊκό κανονιστικό πλαίσιο για τη ρύθμιση της AI, αναφέρει ότι «το Σύστημα ΤN συνιστά κάθε μηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα “στοιχεία εισόδου” που λαμβάνει, πώς να παράγει “στοιχεία εξόδου”, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις, που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα».
Διαβάστε την Επιτελική Σύνοψη της Μελέτης (.PDF)
Πώς διαφέρει, επομένως, η ΑΙ από άλλες τεχνολογίες που αυτοματοποιούν διαδικασίες; Εν πολλοίς, η αυτονομία, η προσαρμοστικότητα και η εξαγωγή συμπερασμάτων από τα συστήματα ΑΙ είναι εκείνα που διαφοροποιούν το συγκεκριμένο τεχνολογικό κύμα και, συνεπώς, δημιουργούν την ανάγκη για πιο αποτελεσματική ρύθμιση.
Αξίζει να σημειωθεί, πάντως, ότι η μελέτη της διαΝΕΟσις δίνει ιδιαίτερη έμφαση στα μοντέλα AI γενικού σκοπού, στα οποία ανήκουν τα Μεγάλα Γλωσσικά Μοντέλα. Πρόκειται για μοντέλα που εκπαιδεύονται με τεράστιους όγκους δεδομένων, μπορούν να εκτελούν μεγάλο εύρος εργασιών και να ενσωματώνονται σε διαφορετικές εφαρμογές. Η «προσαρμοστικότητα» δίνει αφενός μεγάλες δυνατότητες, αλλά από τη σκοπιά της ρύθμισης δημιουργεί μάλλον σύγχυση, καθώς ένα μοντέλο που αρχικά αναπτύσσεται για γενική χρήση μπορεί να χρησιμοποιηθεί εν τέλει σε ευαίσθητα πεδία, όπως η δημόσια διοίκηση, η εργασία ή η Δικαιοσύνη.
Η ανάγκη για ρύθμιση
Τελικά, όμως, η ΑΙ είναι καλή ή κακή; Από τη μία πλευρά, παρουσιάζεται στον δημόσιο διάλογο ως μέσο επιτάχυνσης της παραγωγικότητας, των επιστημονικών ανακαλύψεων και γενικώς αποτελεσματικότητας. Από την άλλη, εμφανίζεται ως απειλή για την εργασία, την ιδιωτικότητα, τη δημοκρατία και την ανθρώπινη ελευθερία. Ασφαλώς, η πραγματικότητα είναι πιο σύνθετη. Η ΑΙ αποτελεί ένα σύστημα που είναι ταυτόχρονα τεχνολογικό, αλλά και κοινωνικό: Δημιουργείται από ανθρώπους, εκπαιδεύεται με δεδομένα που παράγονται από την κοινωνία, ενσωματώνει προτεραιότητες, αξίες, προκαταλήψεις και οικονομικά κίνητρα, και εφαρμόζεται μέσα σε θεσμούς που έχουν ήδη προϋπάρχουσες ανισότητες, ασυμμετρίες ισχύος και άλλα ειδικά χαρακτηριστικά.
Προφανώς μια τόσο σύνθετη τεχνολογία παρουσιάζει αρκετούς κινδύνους. Ωστόσο, πριν κάποιος τους ορίσει και τους αναφέρει αναλυτικά, έχει νόημα μια ευρύτερη οργάνωσή τους. Η έρευνα της διαΝΕΟσις τους χωρίζει σε τρεις βασικές κατηγορίες:
- Κινδύνους από ανθρώπινες χρήσεις που βλάπτουν δικαιώματα ή το δημόσιο συμφέρον.
- Κινδύνους που προκύπτουν τυχαία ή ακούσια ή ως αποτέλεσμα ατυχήματος.
- Κινδύνους απώλειας ελέγχου, όταν τα συστήματα αναπτύσσουν ή επιδιώκουν στόχους που αποκλίνουν από τις ανθρώπινες προθέσεις.
«Οι κίνδυνοι δεν απορρέουν από την ανώτερη ευφυΐα των μηχανών αυτών», παρατηρεί ο Ομότιμος Καθηγητής στο ΕΚΠΑ-ΗΡΩΝ Κέντρο Αριστείας στη Ρομποτική και ΤΝ, ΑΘΗΝΑ Ε.Κ., Σέργιος Θεοδωρίδης, «αλλά από το πώς θα συνυπάρχουν με τον άνθρωπο, όχι πια ως απλά εργαλεία για να επιτελέσουν συγκεκριμένες εργασίες (σε αντίθεση με προηγούμενες τεχνολογίες), αλλά ως συνεργάτες, “μιμούμενες/προσομοιάζοντας” την ανθρώπινη νοημοσύνη σε όλο και μεγαλύτερο εύρος δραστηριοτήτων, αλλά και με όλο και πιο προχωρημένους ανθρωπομορφικούς τρόπους συμπεριφοράς».
Ηθική και δεοντολογία
Χωρίς αυτό να προκαλεί έκπληξη, ο προβληματισμός περί δεοντολογίας, καθώς και κάποιες ηθικές αρχές για τον σχεδιασμό και τη χρήση της AI αποτελούν την αφετηρία για τη ρύθμισή της. Το 2019, η Ομάδα Εμπειρογνωμόνων Υψηλού Επιπέδου για την Τεχνητή Νοημοσύνη, μια ανεξάρτητη ομάδα ειδικών που συγκροτήθηκε από την Ευρωπαϊκή Επιτροπή με σκοπό να συμβάλει στη διαμόρφωση μιας ανθρωποκεντρικής και αξιόπιστης ευρωπαϊκής προσέγγισης για την AI, παρουσίασε τις «Κατευθυντήριες Γραμμές για την Αξιόπιστη Τεχνητή Νοημοσύνη». Σε αυτό το κείμενο, οι εμπειρογνώμονες διατύπωσαν τις αρχές του σεβασμού της ανθρώπινης αυτονομίας, της πρόληψης βλάβης, της Δικαιοσύνης, καθώς και της επεξηγησιμότητας. Παρότι χρήσιμες σε πολλά επίπεδα, οι αρχές αυτές δεν μπορούν να υποκαταστήσουν τη νομοθετική παρέμβαση.
Συνοπτική Παρουσίαση Μελέτης (.PDF)
Η μελέτη στέκεται αναλυτικά στη συμπληρωματική σχέση μεταξύ ηθικών αρχών και Δικαίου. Για μια ηθική AI, τονίζουν οι συγγραφείς, χρειάζεται θέσπιση νομοθετικού πλαισίου που να προβλέπει υποχρεώσεις, ελέγχους, κυρώσεις, δικαιώματα προσφυγής και μηχανισμούς λογοδοσίας. Αυτή η συμπληρωματικότητα είναι ιδιαίτερα κρίσιμη σε περιβάλλοντα ταχείας τεχνολογικής μεταβολής, όπου η AI «τρέχει» και η νομοθέτηση «βαδίζει». Κατά την Καθηγήτρια Φιλοσοφίας και Βιοηθικής στο Πανεπιστήμιο Κρήτης, Σταυρούλα Τσινόρεμα, «η ηθική ανάλυση αποτελεί κανονιστική πηγή προσανατολισμού για τη διαμόρφωση πολιτικών που, αφενός, συμβάλλουν στην αξιοποίηση των ευκαιριών που παρέχει η ΤΝ και, αφετέρου, παρέχουν εγγυήσεις ώστε η ανάπτυξή της να ενισχύει την κοινωνική ευημερία. Συμβάλλει στη νομικο-πολιτική συζήτηση για τη διαμόρφωση μιας ορθά σχεδιασμένης νομοθεσίας».
H AI Act
«Γιατί αυτή η μορφή εξουσίας δεν ρυθμίζεται επαρκώς από το παραδοσιακό Δημόσιο Δίκαιο;», διερωτάται ο Αντώνης Κουρουτάκης, Αναπληρωτής Καθηγητής της Νομικής Σχολής του Πανεπιστημίου IE στη Μαδρίτη. «Η δυσκολία υπαγωγής της AI στο παραδοσιακό Δημόσιο Δίκαιο έγκειται στο γεγονός ότι η ΤΝ δεν αποτελεί απλώς μια ακόμη τεχνολογία που απαιτεί ρύθμιση της αγοράς. Αντιθέτως, συνιστά ένα σύνολο τεχνολογιών που αναδιαρθρώνουν την επιστημολογική και αποφασιστική υποδομή, μέσω της οποίας ασκείται εξουσία επί των ατόμων και των πληθυσμών».
Ίσως η πιο φιλόδοξη απόπειρα ρύθμισης κάποιων όψεων της ΑΙ παγκοσμίως μέχρι σήμερα προέρχεται από την Ευρωπαϊκή Ένωση, με την ΑΙ Act, την Πράξη, δηλαδή, για την Τεχνητή Νοημοσύνη. Πρόκειται για τον Κανονισμό 2024/1689 της Ευρωπαϊκής Ένωσης, δηλαδή για δεσμευτικό κανονιστικό πλαίσιο που θέτει κανόνες για την ανάπτυξη, τη διάθεση και τη χρήση συστημάτων AI. Η Πράξη τέθηκε σε ισχύ την 1η Αυγούστου 2024 και εφαρμόζεται σταδιακά, με ορισμένες διατάξεις, όπως οι απαγορεύσεις συγκεκριμένων πρακτικών και οι υποχρεώσεις γραμματισμού στην Τεχνητή Νοημοσύνη να εφαρμόζονται ήδη, ενώ το μεγαλύτερο μέρος της Πράξης τίθεται σε εφαρμογή πολύ σύντομα, από τις 2 Αυγούστου 2026.
Όπως παρατηρούν οι συγγραφείς της μελέτης, η λογική της AI Act είναι να ρυθμίσει την Τεχνητή Νοημοσύνη ανάλογα με τον κίνδυνο κάθε χρήσης της, βάζοντας κάποιες «κόκκινες γραμμές». Τα συστήματα ΑΙ κατατάσσονται σε διαφορετικές κατηγορίες: από εφαρμογές «χαμηλού ή περιορισμένου κινδύνου», όπου προβλέπονται κυρίως υποχρεώσεις διαφάνειας, έως συστήματα «υψηλού κινδύνου», όπως αυτά που χρησιμοποιούνται σε κρίσιμες υποδομές, στην εκπαίδευση, στην εργασία ή στη διοίκηση, όπου απαιτούνται αυστηρότερες εγγυήσεις. Για τα συστήματα «υψηλού κινδύνου», οι υποχρεώσεις περιλαμβάνουν τη διαχείριση κινδύνων, την τεχνική τεκμηρίωση πολλών πράξεων, την τήρηση αρχείων καταγραφής, την ανθρώπινη επίβλεψη, καθώς και άλλους κανόνες διαφάνειας. Ταυτόχρονα, η μελέτη επισημαίνει ότι η εφαρμογή της AI Act παραμένει σύνθετη, με κρίσιμες εκκρεμότητες. Μένει να οριστούν ακόμη πολλά τεχνικά πρότυπα, καθώς και σαφείς μηχανισμοί εποπτείας. Ταυτόχρονα, πρέπει να εξασφαλιστεί η διοικητική ετοιμότητα στα κράτη-μέλη και να συνταχθούν πρακτικές οδηγίες για το πώς οι νομικές προβλέψεις θα μετατραπούν σε εφαρμοσμένες διαδικασίες.
Όπως παρατηρούν οι συγγραφείς της μελέτης, η λογική της AI Act είναι να ρυθμίσει την Τεχνητή Νοημοσύνη ανάλογα με τον κίνδυνο κάθε χρήσης της, βάζοντας κάποιες «κόκκινες γραμμές».
Ωστόσο, η ΑΙ αποτελεί μια παγκόσμια τεχνολογία και ο κόσμος μας παραμένει διασυνδεδεμένος. Μπορεί η Ευρώπη να επιβάλει τους κανόνες της σε ένα παγκόσμιο τεχνολογικό πεδίο, όπου οι ΗΠΑ, η Κίνα και άλλοι δρώντες ακολουθούν διαφορετικές προσεγγίσεις, οι ρυθμιστικές απόπειρες, επίσης, διαφέρουν και, επιπλέον, υπάρχει γεωπολιτικός ανταγωνισμός;
«Είναι η προσπάθεια απέλπιδα;», αναρωτιέται ο Βαγγέλης Παπακωνσταντίνου, Καθηγητής Νομικής στο Vrije Universiteit Brussel. «Όχι αναγκαστικά. Αφενός, το πρώτο βήμα έγινε, το πρόβλημα εντοπίστηκε και ο στόχος τέθηκε. Αυτό από μόνο του είναι εξαιρετικά σημαντικό, αφού πριν από λίγα χρόνια συζητήσεις περί εντοπισμού δεδομένων (data localisation) και ψηφιακής κυριαρχίας (digital sovereignty) αντιμετωπίζονταν ως σχεδόν σκοταδιστικές. Αφετέρου, η Ευρώπη μπορεί σήμερα να υστερεί στις “μεγάλες” εφαρμογές γενικού πληθυσμού, όμως αυτό είναι μια σχετικά πρόσφατη εξέλιξη: Πριν από τα smartphones, η κινητή τηλεφωνία ήταν ευρωπαϊκή υπόθεση, ενώ άλλες τεχνολογίες, για παράδειγμα το Minitel στη Γαλλία ή το ISDN στη Γερμανία, άντεξαν όσο μπόρεσαν. Παρά την αυτο-λύπηση και την ομφαλοσκόπηση που χαρακτηρίζει την Ευρώπη αυτήν τη χρονική περίοδο, μέχρι και πριν από λίγα χρόνια η αισιοδοξία και οι ελπίδες για το τεχνολογικό, και μάλιστα το ψηφιακό, μέλλον ήταν (και) ευρωπαϊκές».
Παράλληλα, η μελέτη αναφέρεται στο Digital Omnibus on AI, δηλαδή στην πρόταση της Ευρωπαϊκής Επιτροπής για την απλοποίηση της εφαρμογής της AI Act, η οποία παρουσιάστηκε στις 19 Νοεμβρίου 2025. Πρόκειται για ένα πακέτο τροποποιήσεων που επιχειρεί να μειώσει το διοικητικό βάρος συμμόρφωσης με την ΑΙ Act και να κάνει πιο ευέλικτη την εφαρμογή των ευρωπαϊκών κανόνων. Το κρίσιμο ερώτημα, όπως το παρουσιάζει η μελέτη, είναι αν αυτή η απλοποίηση λειτουργεί πράγματι ως διευκόλυνση ή αν οδηγεί τελικά σε αποδυνάμωση της AI Act. Για παράδειγμα, στο πεδίο του γραμματισμού στην Τεχνητή Νοημοσύνη, η πρόταση φαίνεται να μετατοπίζει μέρος της ευθύνης από τους παρόχους και τους φορείς εφαρμογής συστημάτων ΑΙ προς την Ευρωπαϊκή Επιτροπή και τα κράτη-μέλη, αντικαθιστώντας άμεσες υποχρεώσεις με μια πιο ήπια λογική κινήτρων.
Πιο συνολικά, το δίλημμα «ρύθμιση ή καινοτομία» απασχολεί μεγάλο μέρος της συζήτησης περί ΑΙ. Μπορούν οι πολλοί κανόνες να αποθαρρύνουν την καινοτομία και, συνεπώς, να έχουν κόστος σε ευημερία για τις ευρωπαϊκές κοινωνίες; Μπορεί τελικά η υπερβολική ρύθμιση να επιδεινώσει τη θέση των ευρωπαϊκών οικονομιών σε έναν ολοένα πιο σκληρό παγκόσμιο τεχνολογικό ανταγωνισμό; Η απάντηση και εδώ δεν μπορεί να είναι απλή, καθώς οι σχέσεις μεταξύ ρύθμισης και καινοτομίας είναι και αυτές δυναμικές. Όπως σημειώνει ο Μιχάλης Κρητικός, Secretary of the European Group on Ethics in Science and New Technologies της Ευρωπαϊκής Επιτροπής, «οι ρυθμιστικές παρεμβάσεις, εάν σχεδιαστούν κατά τρόπο συμπεριληπτικό και με σεβασμό στην αρχή της αναλογικότητας, οδηγούν σε βάθος χρόνου σε στρατηγικά πλεονεκτήματα: Δημιουργούν εμπιστοσύνη στις αγορές, παρέχουν ασφάλεια δικαίου σε ένα διαρκώς μεταβαλλόμενο τεχνολογικό πεδίο, προσφέρουν μια πολύτιμη εργαλειοθήκη στους δημοκρατικούς θεσμούς και ενισχύουν τον διακριτό χαρακτήρα της Ευρώπης ως τεχνολογικό παράγοντα. Στην πραγματικότητα, η ρύθμιση μπορεί να δημιουργήσει προβλεψιμότητα και εμπιστοσύνη, και ένα σαφές πλαίσιο κανόνων του τεχνολογικού παιχνιδιού».
Θεμελιώδη δικαιώματα, δημοκρατία και παραπληροφόρηση
Η έρευνα της διαΝΕΟσις αφιερώνει αρκετό χώρο στις πιθανές επιπτώσεις της ΑΙ στα θεμελιώδη δικαιώματα, στις δημοκρατικές διαδικασίες, καθώς και ειδικότερα στην ενημέρωση ως μέρος των τελευταίων. Όπως σημειώνει η Λίλιαν Μήτρου, «οι χρήσεις ΤΝ ενδέχεται να θέτουν ζητήματα παραβίασης σημαντικών δικαιωμάτων, όπως το δικαίωμα στις ελεύθερες εκλογές, την ελευθερία της έκφρασης, την προστασία των προσωπικών δεδομένων, το δικαίωμα του συνέρχεσθαι και του συνεταιρίζεσθαι, και το δικαίωμα συμμετοχής σε πολιτικά κόμματα». Και συνεχίζει: «Οι επιπτώσεις αυτές δεν αφορούν μόνο τα πολιτικά και τα ατομικά δικαιώματα των προσώπων, αλλά έχουν αντίκτυπο στην ίδια τη λειτουργία και την ποιότητα της δημοκρατίας. Η παραπληροφόρηση που καθοδηγείται από την ΤΝ, η αλγοριθμική ενίσχυση πολιτικού περιεχομένου, η ψυχογραφική μικροστόχευση ψηφοφόρων και τα συνθετικά μέσα που παράγονται από την ΤΝ (deepfakes) δημιουργούν συλλογικά ένα περιβάλλον στο οποίο οι προϋποθέσεις για γνήσια και ενημερωμένη δημοκρατική συμμετοχή υπονομεύονται συστηματικά».
Oι χρήσεις ΑΙ ενδέχεται να θέτουν ζητήματα παραβίασης σημαντικών δικαιωμάτων, όπως το δικαίωμα στις ελεύθερες εκλογές, την ελευθερία της έκφρασης, την προστασία των προσωπικών δεδομένων, το δικαίωμα του συνέρχεσθαι και του συνεταιρίζεσθαι, και το δικαίωμα συμμετοχής σε πολιτικά κόμματα.
Η έρευνα αναδεικνύει, επιπλέον, μια πτυχή της Τεχνητής Νοημοσύνης, η οποία δεν είναι αμέσως προφανής: Ο συνδυασμός μέρους των μεγάλων δεδομένων που χρησιμοποιούνται στην ΑΙ, από μόνος του, αρκεί για την παραβίαση δικαιωμάτων, όπως η ιδιωτικότητα. Ακατέργαστα, ασύνδετα ή φαινομενικά αβλαβή δεδομένα μπορούν να αποκαλύψουν ευαίσθητες πληροφορίες για την υγεία, την οικονομική κατάσταση, τον σεξουαλικό προσανατολισμό ή άλλα χαρακτηριστικά ενός προσώπου. Συνεπώς, η προστασία δεν μπορεί να περιορίζεται μόνο στα δεδομένα που δηλώνει ρητά το άτομο ή σε εκείνα για τα οποία συναινεί, αλλά χρειάζεται να συνυπολογίσει και κάποιες πιθανές σχέσεις μεταξύ των δεδομένων.
Το πεδίο της πολιτικής επικοινωνίας παρουσιάζει σημαντικούς κινδύνους. Πρακτικές όπως η λεγόμενη μικροστόχευση ψηφοφόρων ή η χρήση συνθετικού κειμένου, ήχου ή εικόνας, όπως τα deepfakes, δίνουν νέες διαστάσεις στο φαινόμενο της παραπληροφόρησης. Η μελέτη αναφέρει ότι, μετά την εκρηκτική διάδοση του ChatGPT, οι ιστοσελίδες που φιλοξενούσαν ψευδείς ειδήσεις δημιουργημένες με ΑΙ αυξήθηκαν κατά περισσότερες από 10 φορές. Ασφαλώς, παραπληροφόρηση υπήρχε και πριν από την ΑΙ, όμως πλέον κοστίζει λιγότερο, ενώ είναι πιο γρήγορη και πιο πειστική. Για την αντιμετώπιση αυτής της απειλής, η μελέτη προκρίνει τον συνδυασμό νομικής ρύθμισης, θεσμικής εποπτείας και ψηφιακού γραμματισμού.
Διακυβέρνηση της ΑΙ
Ένα κανονιστικό πλαίσιο δεν κρίνεται μόνο από τους ίδιους τους κανόνες και τις προβλέψεις, αλλά και από τους μηχανισμούς εφαρμογής τους. Για παράδειγμα, η εφαρμογή της πολύ φιλόδοξης AI Act, όπως κάθε άλλης ενωσιακής νομοθεσίας, εξαρτάται από τη θέσπιση εθνικών ρυθμίσεων, τον ορισμό κατάλληλων εποπτικών αρχών, τον προσδιορισμό των κυρώσεων και, τελικά, την κουλτούρα συμμόρφωσης.
Σε αυτό το πλαίσιο, η μελέτη δίνει ιδιαίτερη σημασία στη λεγόμενη διακυβέρνηση της ΑΙ (AI Governance), δηλαδή στο σύνολο των πολιτικών, διαδικασιών, θεσμών, ελέγχων και μηχανισμών λογοδοσίας που καθορίζουν πώς αναπτύσσονται, χρησιμοποιούνται και εποπτεύονται τα συστήματα ΑΙ. Ενώ η ρύθμιση ορίζει τους κανόνες, η διακυβέρνηση δείχνει το πώς αυτοί οι κανόνες εφαρμόζονται. Για παράδειγμα, ένας οργανισμός μπορεί να αγοράσει ένα εργαλείο ΑΙ, αλλά οφείλει, επιπλέον, να διαθέτει πολιτική χρήσης, διαδικασίες ελέγχου, εκπαιδευμένο προσωπικό, κανόνες για τα δεδομένα και μηχανισμούς λογοδοσίας. Αξίζει να σημειωθεί ότι στην Ελλάδα ο Ν. 4961/2022 εισήγαγε κάποιες ειδικές ρυθμίσεις για τη χρήση συστημάτων ΑΙ στον δημόσιο τομέα.
Στο ίδιο πλαίσιο, η έρευνα αναδεικνύει, επίσης, τη σημασία των προτύπων. Προκειμένου να εφαρμοστούν οι κανονιστικές επιλογές χρειάζεται να αναπτυχθούν πρότυπα, τα οποία θα «μεταφράζουν» τις νομικές απαιτήσεις σε τεχνικές προδιαγραφές. Η Ιρένε Καμάρα, Αναπληρώτρια Καθηγήτρια Δικαίου Κυβερνοασφάλειας και Κυβερνοεγκλήματος στη Νομική Σχολή του Πανεπιστημίου Τίλμπουρχ (Ολλανδία), σημειώνει πως «η δυνατότητα των τεχνικών προτύπων να λειτουργούν ως μηχανισμός εμπιστοσύνης εξαρτάται, μεταξύ άλλων παραγόντων, από τη συμπερίληψη και εκπροσώπηση των διαφορετικών συμφερόντων».
Η μελέτη δίνει ιδιαίτερη σημασία στη λεγόμενη διακυβέρνηση της ΑΙ (AI Governance), δηλαδή στο σύνολο των πολιτικών, διαδικασιών, θεσμών, ελέγχων και μηχανισμών λογοδοσίας που καθορίζουν πώς αναπτύσσονται, χρησιμοποιούνται και εποπτεύονται τα συστήματα ΑΙ.
Παράλληλα, οι ίδιοι οι πολίτες πρέπει να γνωρίζουν μερικές βασικές πληροφορίες για τα συστήματα ΑΙ που χρησιμοποιούν. Ο λεγόμενος γραμματισμός στην Τεχνητή Νοημοσύνη (AI Literacy) αποτελεί μια από τις πιο σημαντικές προβλέψεις της AI ACT σχετικά με τη διακυβέρνηση. Ο Χαράλαμπος Τσέκερης, Διευθυντής Ερευνών, Εθνικό Κέντρο Κοινωνικών Ερευνών (ΕΚΚΕ), Πρόεδρος της Εθνικής Επιτροπής Βιοηθικής & Τεχνοηθικής, και η Κατερίνα Χρυσανθοπούλου, Δρ Παιδείας στα ΜΜΕ και Ψηφιακών Γραμματισμών, τονίζουν ότι «ο γραμματισμός στην ΤΝ αποτελεί βασική προϋπόθεση για τη δημοκρατική συμμετοχή του πολίτη στη σύγχρονη Κοινωνία της Πληροφορίας, καθώς ο χρήστης αποκτά τα εργαλεία για κριτική, ηθική και υπεύθυνη χρήση των συστημάτων ΤΝ».
Δημόσια διοίκηση
Η δημόσια διοίκηση αποτελεί ένα ακόμη πεδίο όπου η χρήση της ΑΙ αναδεικνύει τόσο σημαντικούς προβληματισμούς όσο και την ανάγκη για ρύθμιση. Αφενός, μπορεί να συμβάλει στον καλύτερο σχεδιασμό πολλών υπηρεσιών, στις αναλύσεις μεγάλου όγκου δεδομένων, στον εντοπισμό αποκλίσεων, στην υποστήριξη κοινωνικών υπηρεσιών και στον έλεγχο φαινομένων απάτης. Ωστόσο, η χρήση της ΑΙ στη διοίκηση πρέπει να συμβαδίζει με τις αρχές της χρηστής διοίκησης, της νομιμότητας, της ισότητας, της αμεροληψίας, της διαφάνειας και της αιτιολογίας, καθόσον η δημόσια διοίκηση αποτελεί άσκηση δημόσιας εξουσίας.
Άλλωστε, η αξιοποίηση συστημάτων ΑΙ στη δημόσια διοίκηση συνδέεται άμεσα με βασικές απαιτήσεις του κράτους δικαίου, όπως η προβλεψιμότητα και η συνεκτικότητα της διοίκησης. Με απλά λόγια, ο πολίτης πρέπει να γνωρίζει με ποιους κανόνες, ποια κριτήρια και ποια διαδικασία λαμβάνεται μια απόφαση που τον αφορά και, από την άλλη πλευρά, η διοίκηση να εφαρμόζει τους κανόνες με σταθερό τρόπο χωρίς αντιφάσεις, ώστε όμοιες περιπτώσεις να μην αντιμετωπίζονται διαφορετικά. Όπως επισημαίνει η μελέτη, οι αρχές αυτές δοκιμάζονται όταν χρησιμοποιούνται συστήματα ΑΙ που δεν είναι διαφανή και ελέγξιμα ή βασίζονται σε δυναμικά δεδομένα που μπορεί να μεταβάλλονται με τον χρόνο και να οδηγούν σε διαφορετικά αποτελέσματα. Την ίδια στιγμή, τα ίδια τα συστήματα ΑΙ συχνά δεν είναι αντικειμενικά, καθώς βασίζονται στην εισροή δεδομένων, που μπορεί κι αυτά να περιλαμβάνουν μεροληψίες.
Η μελέτη αναδεικνύει, επομένως, την ανάγκη δημιουργίας ενός «μαύρου κουτιού» καταγραφής των διοικητικών αποφάσεων στις οποίες χρησιμοποιούνται αλγόριθμοι. Η απλή ενημέρωση του πολίτη ότι στη διαδικασία που τον αφορά χρησιμοποιήθηκε ένα σύστημα ΑΙ είναι μεν αναγκαία, αλλά ανεπαρκής. Αντίθετα, σε ένα πραγματικά διαφανές πλαίσιο, ο πολίτης μπορεί να γνωρίζει ποιος ήταν ο ρόλος της ΑΙ, ποια δεδομένα αξιοποιήθηκαν, ποια κριτήρια επηρέασαν το αποτέλεσμα και με ποιους τρόπους μπορεί ο ίδιος να την αμφισβητήσει.
Τέλος, η ανθρώπινη εποπτεία αποτελεί βασική εγγύηση. Όπως επισημαίνει η μελέτη, κατά την ανθρώπινη εποπτεία υπάρχει ο κίνδυνος μιας «μεροληψίας αυτοματισμού»: οι χρήστες να εμπιστεύονται άκριτα τη σύσταση του συστήματος επειδή θεωρούν ότι «η μηχανή ξέρει καλύτερα» ή επειδή δεν έχουν τον χρόνο και τα μέσα για να την ελέγξουν ουσιαστικά. Επομένως, η ανθρώπινη παρέμβαση έχει νόημα μόνο όταν ο χειριστής διαθέτει επαρκή κατάρτιση, σαφή αρμοδιότητα, χρόνο για αξιολόγηση και πραγματική δυνατότητα να αγνοήσει, να παρακάμψει ή να ανατρέψει τη σύσταση του συστήματος.
Δικαιοσύνη
Ένα ακόμη ιδιαίτερα ευαίσθητο πεδίο για τη χρήση της ΑΙ είναι η Δικαιοσύνη. Στη Δικαιοσύνη, η χρήση της ΑΙ αγγίζει τον πυρήνα του κράτους δικαίου, το δικαίωμα στη δίκαιη δίκη και άλλα θεμελιώδη δικαιώματα. Η μελέτη, με ένα εκτενές κεφάλαιο, αναδεικνύει ότι η επιδίωξη μιας ηθικής ΑΙ στο πεδίο της Δικαιοσύνης δεν μπορεί να εξαντλείται σε γενικές αρχές δεοντολογίας.
Η απειλή μαζικής παρακολούθησης από συστήματα AI αποτελεί υπαρκτό κίνδυνο. Συνεπώς, εφαρμογές AI θα πρέπει να εισάγονται στην Ποινική Δικαιοσύνη μόνον όταν υπάρχουν επαρκείς εγγυήσεις κατά οποιασδήποτε μορφής προκατάληψης ή διάκρισης.
Σε διεθνές επίπεδο, άλλωστε, έχει ήδη διαμορφωθεί ένα πλέγμα αρχών για τη χρήση της ΑΙ στα δικαστικά συστήματα. Η Ευρωπαϊκή Επιτροπή για την Αποτελεσματικότητα της Δικαιοσύνης (European Commission for the Efficiency of Justice – CEPEJ) του Συμβουλίου της Ευρώπης έχει διατυπώσει από τον Δεκέμβριο του 2018 τις παρακάτω αρχές:
- Αρχή του σεβασμού των θεμελιωδών δικαιωμάτων
- Αρχή της μη διακριτικής μεταχείρισης
- Αρχή της ποιότητας και της ασφάλειας
- Αρχή της διαφάνειας, της αμεροληψίας και της δίκαιης μεταχείρισης
- Αρχή του «ελέγχου από τον χρήστη»
Η προβληματική αυτή γίνεται ακόμη πιο έντονη στην Ποινική Δικαιοσύνη. Εκεί, η χρήση συστημάτων ΑΙ για προβλεπτικές αναλύσεις, εκτιμήσεις κινδύνου ή αξιολόγηση πιθανής μελλοντικής εγκληματικής συμπεριφοράς εγείρει ιδιαίτερα σοβαρά ζητήματα. Η μελέτη υπενθυμίζει ότι, σύμφωνα με τη λογική της AI Act, τα φυσικά πρόσωπα δεν μπορούν να κρίνονται με βάση μια συμπεριφορά που προβλέπει η ΑΙ ή αποκλειστικά με βάση το προφίλ και τα χαρακτηριστικά της προσωπικότητάς τους. Διαφορετικά, ενδέχεται να ενισχυθούν οι διακρίσεις και να εισαχθούν μη ελέγξιμα κριτήρια σε ένα πεδίο όπου η απόφαση μπορεί να επηρεάσει καθοριστικά την ελευθερία και τη ζωή ενός ανθρώπου. Ο Παναγιώτης Περάκης, Πρόεδρος του Παρατηρητηρίου Δικαιοσύνης και Δικηγόρος, προκρίνει μια συντηρητική προσέγγιση: «Παρόλο που η πρόληψη της διάπραξης εγκλημάτων, η αύξηση του ποσοστού εξιχνίασής τους και η βελτίωση της ποιότητας των ποινικών αποφάσεων είναι ασφαλώς στόχοι θεμιτοί για το κράτος δικαίου, οι κίνδυνοι προκαταλήψεων και διακρίσεων εις βάρος συγκεκριμένων ομάδων είναι υψηλοί. Η απειλή μαζικής παρακολούθησης από συστήματα ΤΝ αποτελεί, επίσης, υπαρκτό κίνδυνο. Συνεπώς, εφαρμογές ΤΝ θα πρέπει να εισάγονται στην Ποινική Δικαιοσύνη μόνον όταν υπάρχουν επαρκείς εγγυήσεις κατά οποιασδήποτε μορφής προκατάληψης ή διάκρισης».
Εργασία
Τον Φεβρουάριο του 2026, ο διευθύνων σύμβουλος της Microsoft AI, Mustafa Suleyman, προέβλεψε ότι «οι περισσότερες δουλειές γραφείου που γίνονται μπροστά από μια οθόνη [...] θα αυτοματοποιηθούν πλήρως από την Τεχνητή Νοημοσύνη τους επόμενους 12 με 18 μήνες». Ωστόσο, τόσο οι προβλέψεις αυτές όσο και το ίδιο το ερώτημα «ποιες θέσεις εργασίας θα αφαιρέσει η ΑΙ και πότε;» πιθανόν λειτουργούν παρελκυστικά. Η ΑΙ φαίνεται ότι φέρνει έναν πολύ βαθύτερο μετασχηματισμό της εργασίας και των απαραίτητων δεξιοτήτων. Σε παγκόσμιο επίπεδο, αναμένεται να επηρεάσει με μια ποικιλία τρόπων έως και το 40% των θέσεων εργασίας. Παράλληλα, μέσα στην τριετία 2021-2024, όσο τα Μεγάλα Γλωσσικά Μοντέλα γίνονταν ολοένα πιο δημοφιλή και πολλαπλασιάζονταν, κατά μέσο όρο το ένα τρίτο των δεξιοτήτων που απαιτούνται για μια δουλειά άλλαξε. Για το 25% των επαγγελμάτων που υφίστανται τη μεγαλύτερη μεταβολή, η αλλαγή στις απαιτούμενες δεξιότητες φτάνει το 75%.
Ταυτόχρονα, νέα επαγγέλματα επικεντρώνονται στην ανάπτυξη, στην ερμηνεία και τον έλεγχο των αλγοριθμικών συστημάτων. Ενδεικτικά, η μελέτη αναφέρεται στην ανάδυση μιας νέας κατηγορίας εργαζομένων, τους «διαμεσολαβητές ΑΙ». Πρόκειται για επαγγελματίες που λειτουργούν ως γέφυρα ανάμεσα στα αποτελέσματα που παράγουν οι αλγόριθμοι και στις πρακτικές ανάγκες μιας επιχείρησης ή ενός οργανισμού. Παράλληλα, φαίνεται ότι αυξάνεται η ζήτηση για εργασίες, όπως η επισημείωση δεδομένων (data labeling), ο έλεγχος ηθικής και συμμόρφωσης των αλγορίθμων (AI ethics auditing), καθώς και η κυβερνοασφάλεια (cybersecurity).
Ο Ηρακλής Βογιατζής, μεταδιδακτορικός ερευνητής στο ΕΑΠ, σημειώνει ότι οι ταχύτατες εξελίξεις στο πεδίο της ΑΙ έχουν αναζωπυρώσει τη συζήτηση για το ενδεχόμενο ενός «τέλους της εργασίας», δηλαδή για ένα μέλλον στο οποίο η παραγωγή αγαθών και υπηρεσιών θα απαιτεί πολύ λιγότερη ανθρώπινη εργασία. Ωστόσο, η πραγματική εικόνα είναι μάλλον πιο σύνθετη. Σε αυτό το πλαίσιο, η Κλειώ Σγουροπούλου, Καθηγήτρια στο Τμήμα Μηχανικών Πληροφορικής και Υπολογιστών του Πανεπιστημίου Δυτικής Αττικής, αναδεικνύει το ζήτημα των δεξιοτήτων ως καθοριστικό ειδικά για την Ελλάδα. «H ΤΝ δεν αποτελεί μια απλή τεχνολογική προσθήκη», γράφει, «αλλά έναν κοινωνικο-οικονομικό επιταχυντή που θα επανακαθορίσει τη θέση της Ελλάδας στον παγκόσμιο καταμερισμό εργασίας. Η μετάβαση από την οικονομία της πληροφορίας στην οικονομία της νοημοσύνης απαιτεί μια ριζική αλλαγή νοοτροπίας: Από την προστασία των θέσεων εργασίας πρέπει να περάσουμε στην προστασία των εργαζομένων και την ενίσχυση της ικανότητάς τους για διαρκή προσαρμογή. Η διάκριση αυτή μετατοπίζει το επίκεντρο της πολιτικής από τις στατικές επαγγελματικές κατηγορίες στις δυναμικές δεξιότητες, καθιστώντας τη συνεχή επανεκπαίδευση και τον αλγοριθμικό γραμματισμό βασικούς πυλώνες κοινωνικής συνοχής».
Επιστήμη και δημιουργικότητα
Πέρα από την εργασία, η ΑΙ επηρεάζει σημαντικά την επιστήμη, καθώς και τον τρόπο που πραγματοποιείται η έρευνα. «Η ΑΙ δεν είναι απλώς ένα εργαλείο παραγωγής περιεχομένου, αλλά αποτελεί έναν θεμελιώδη επιταχυντή της επιστημονικής ανακάλυψης που μπορεί να αναβαθμίσει ουσιαστικά την ποιότητα της ζωής μας», υπογραμμίζει ο Γιάννης Ασσαέλ, Ερευνητής Επιστήμονας Τεχνητής Νοημοσύνης και Ειδικός Σύμβουλος του Υπουργείου Ψηφιακής Διακυβέρνησης και Τεχνητής Νοημοσύνης.
Ένα άλλο πρόβλημα που έρχεται στο προσκήνιο είναι ο κίνδυνος της επιστημικής μετατόπισης (epistemic drift), δηλαδή η συνδημιουργία γνώσης με τις μηχανές και, τελικά, η θεμελιώδης μεταβολή του τι θεωρείται έγκυρη επιστημονική γνώση.
Παρά τα μεγάλα οφέλη, η χρήση της τεχνολογίας σε αυτά τα πεδία εγείρει, επίσης, σημαντικά δεοντολογικά ζητήματα, καθώς και ανάγκες ρύθμισης. Ασφαλώς, η χρήση ΑΙ μπορεί να διευκολύνει πολλές πτυχές της έρευνας, για παράδειγμα την ανασκόπηση βιβλιογραφίας, την ανάλυση δεδομένων ή ακόμη και τη συγγραφή περιλήψεων. Ωστόσο, η ΑΙ πολλές φορές μεσολαβεί μεταξύ της κατανόησης και της εξαγωγής συμπερασμάτων. Οι «παραισθήσεις» ή η αλγοριθμική προκατάληψη μπορούν να οδηγήσουν σε στρεβλή επιστημονική κατανόηση. Για παράδειγμα, παρατηρείται, πλέον, συχνά αυτό που ορισμένοι ονομάζουν «zombie citation», «ghost reference», «phantom paper» ή ακόμη και «Frankencitation», καθώς όλο και συχνότερα διαπιστώνουμε παραπομπές σε φανταστικούς συγγραφείς ή σε κείμενα ανύπαρκτα.
Ένα άλλο πρόβλημα που έρχεται στο προσκήνιο είναι ο κίνδυνος της επιστημικής μετατόπισης (epistemic drift), δηλαδή η συνδημιουργία γνώσης με τις μηχανές και, τελικά, η θεμελιώδης μεταβολή του τι θεωρείται έγκυρη επιστημονική γνώση. Ο Μιχάλης Κρητικός υπογραμμίζει στο αντίστοιχο κεφάλαιο της μελέτης ότι «τα συστήματα ΤΝ μπορούν να αναγνωρίζουν μοτίβα, να βελτιστοποιούν αποτελέσματα και να προσομοιώνουν την ανθρώπινη σκέψη και έκφραση […]. Συνοψίζουν προϋφιστάμενες γνώσεις και πληροφορίες, αλλά υπολείπονται στην επιτέλεση λογικών σκέψεων (reasoning) και δεν κατανοούν το νόημα. Παράγεται, όμως, έτσι νέα επιστημονική γνώση; Η επιστημονική έρευνα στηρίζεται στην αμφισβήτηση, στην πρωτότυπη σκέψη, στη μεθοδικότητα και την ερμηνευτική ικανότητα, στοιχεία που δεν μπορούν να ανατεθούν μηχανικά σε ένα σύστημα παραγωγής κειμένου».
Πέρα από την επιστήμη, η ΑΙ φαίνεται ότι, με παρόμοιους τρόπους, αλλάζει ευρύτερα την ανθρώπινη δημιουργία. Ο Δημήτρης Γραμμένος, Κύριος Ερευνητής στο Ινστιτούτο Πληροφορικής του Ιδρύματος Τεχνολογίας και Έρευνας, αναδεικνύει μια πολύ βασική πτυχή των πιθανών επιπτώσεων. Εξηγεί ότι «η υπερβολική και άκριτη χρήση της ΤΝ ενδέχεται να έχει σημαντικό αρνητικό αντίκτυπο στην ανθρώπινη δημιουργικότητα, καθώς η “γνωστική ανάθεση” (cognitive offloading) δημιουργικών εργασιών στην ΤΝ μπορεί σταδιακά να οδηγήσει σε απώλεια θεμελιωδών δημιουργικών δεξιοτήτων. Επίσης, εάν η διαδικασία του ιδεασμού (ideation) βασίζεται αποκλειστικά σε δεδομένα εκπαίδευσης της ΤΝ αντί σε προσωπικές εμπειρίες και σκέψεις, αναπόφευκτα θα μειωθεί δραστικά και η αυθεντικότητα των δημιουργικών αποτελεσμάτων».
AI και περιβάλλον
Τέλος, η ΑΙ διαθέτει μια πολύ σημαντική περιβαλλοντική διάσταση. Ο Δημήτρης-Φραγκίσκος Λέκκας, Καθηγητής Πανεπιστημίου Αιγαίου στο Τμήμα Περιβάλλοντος, σχολιάζει τα σχετικά θέματα και επιχειρεί να περιγράψει τις μελλοντικές ανάγκες. «Η εκπαίδευση Μεγάλων Γλωσσικών Μοντέλων έχει πολύ μεγάλο αποτύπωμα άνθρακα», παρατηρεί. «Λαμβάνοντας υπ’ όψιν αυτήν τη διάσταση, έχει προταθεί η έννοια “Green AI”, η οποία υποστηρίζει ότι η αποδοτικότητα και η ενεργειακή κατανάλωση πρέπει να αποτελούν κριτήρια αξιολόγησης ερευνητικών αποτελεσμάτων στην ΤΝ. Σε ένα πλαίσιο Κυκλικής Οικονομίας, όπου ο στόχος είναι η μείωση εκπομπών και η αποδοτική χρήση πόρων, η αντίφαση αυτή είναι εμφανής: Η ΤΝ μπορεί να βελτιστοποιεί τη χρήση υλικών, αλλά ταυτόχρονα να αυξάνει τη ζήτηση ενέργειας μέσω data centers. Η αντιμετώπιση αυτής της πρόκλησης απαιτεί χρήση Ανανεώσιμων Πηγών Ενέργειας για υπολογιστικές υποδομές, βελτιστοποίηση αλγορίθμων ως προς ενεργειακή αποδοτικότητα και ανάπτυξη δεικτών “AI sustainability performance”».
Συνοπτικά, η μελέτη, μέσα από την περιγραφή της κατάστασης και τον σχολιασμό σε πολλά διαφορετικά πεδία και επίπεδα, αναδεικνύει την ανάγκη να διατηρηθεί και να προστατευθεί η ανθρώπινη ευθύνη. Και καταλήγει στη διαπίστωση ότι «το ποιο μέλλον, ανάμεσα στα σαγηνευτικά και απειλητικά, θα επιχειρήσουμε να επιδιώξουμε παραμένει ανθρώπινη, κοινωνική και πολιτική επιλογή».
[ΠΩΣ] ΜΠΟΡΕΙ Η ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΝΑ ΕΙΝΑΙ ΗΘΙΚΗ ΚΑΙ ΣΥΝΝΟΜΗ; (.PDF)
ΣΥΝΟΠΤΙΚΗ ΠΑΡΟΥΣΙΑΣΗ ΒΑΣΙΚΩΝ ΣΗΜΕΙΩΝ ΤΗΣ ΕΡΕΥΝΑΣ (.PDF)
