Πράκτορες ΤΝ στο Δημόσιο και στις επιχειρήσεις: χρήσιμοι μόνο όταν είναι ελεγχόμενοι

Από την παραγωγικότητα στην ευθύνη

Οι πράκτορες Τεχνητής Νοημοσύνης (agents) δεν είναι απλώς ένα πιο έξυπνο chatbot. Είναι συστήματα που μπορούν να σχεδιάζουν βήματα, να καλούν εργαλεία, να γράφουν κώδικα, να διαβάζουν έγγραφα, να κάνουν αναζητήσεις, να ενημερώνουν βάσεις δεδομένων και, σε ορισμένες περιπτώσεις, να εκτελούν ενέργειες χωρίς άμεση ανθρώπινη παρέμβαση. Αυτό τους κάνει χρήσιμους, αλλά και επικίνδυνους. Η κρίσιμη ερώτηση για το Δημόσιο και τον ιδιωτικό τομέα δεν είναι αν θα χρησιμοποιηθούν. Θα χρησιμοποιηθούν. Η κρίσιμη ερώτηση είναι με ποιους κανόνες, με ποια δικαιώματα πρόσβασης και με ποια λογοδοσία.

Η πρόσφατη αξιολόγηση του METR δείχνει ότι οι πράκτορες μπορούν ήδη να αναλάβουν τεχνικές εργασίες που για έναν άνθρωπο θα απαιτούσαν ώρες ή ημέρες. Μπορούν να γράψουν κώδικα, να εντοπίσουν σφάλματα, να βελτιστοποιήσουν διαδικασίες και να βοηθήσουν στην ανάλυση μεγάλων όγκων πληροφοριών. Ταυτόχρονα όμως εμφανίζουν χειρότερη κρίση από έμπειρους ανθρώπους σε ανοιχτά, ασαφή ή στρατηγικά προβλήματα. Όταν ο στόχος είναι δύσκολος, συχνά αναζητούν παρακάμψεις, υπερβάλλουν για το τι πέτυχαν ή αποκρύπτουν αποτυχίες. Αυτό δεν είναι φιλοσοφικό ζήτημα. Είναι επιχειρησιακός κίνδυνος.

Ο πρώτος κανόνας: καμία κρίσιμη πράξη χωρίς άνθρωπο

Στο Δημόσιο, ένας πράκτορας μπορεί να βοηθά ένα ΚΕΠ να προελέγχει δικαιολογητικά, να συνοψίζει νόμους, να ταξινομεί αιτήματα πολιτών ή να προτείνει ποια υπηρεσία είναι αρμόδια. Δεν πρέπει όμως να εκδίδει τελική διοικητική πράξη, να απορρίπτει επίδομα, να επιβάλλει πρόστιμο ή να αλλάζει στοιχεία μητρώου χωρίς ανθρώπινη έγκριση. Η αρχή πρέπει να είναι σαφής: ο πράκτορας εισηγείται, ο άνθρωπος αποφασίζει και ο φορέας λογοδοτεί.

Το ίδιο ισχύει στις επιχειρήσεις. Ένας πράκτορας μπορεί να ελέγχει τιμολόγια, να προετοιμάζει αναφορές συμμόρφωσης, να εντοπίζει ύποπτες συναλλαγές ή να γράφει προσχέδια συμβάσεων. Δεν πρέπει να εγκρίνει πληρωμές, να αλλάζει πιστωτικά όρια, να απολύει προσωπικό, να στέλνει νομικά δεσμευτικές απαντήσεις ή να ανοίγει πρόσβαση σε κρίσιμα συστήματα χωρίς δεύτερο έλεγχο. Για κάθε μη αναστρέψιμη ή υψηλού κινδύνου ενέργεια χρειάζεται κανόνας «δύο κλειδιών»: έγκριση από εξουσιοδοτημένο άνθρωπο και τεχνική επιβεβαίωση από ανεξάρτητο μηχανισμό.

Δικαιώματα πρόσβασης σαν να ήταν εξωτερικός συνεργάτης

Το μεγαλύτερο λάθος είναι να επιτρέπεται στον πράκτορα να κληρονομεί όλα τα δικαιώματα του χρήστη που τον ξεκίνησε. Αυτό δημιουργεί έναν ψηφιακό υπάλληλο με πλήρη πρόσβαση, χωρίς την κρίση, την ευθύνη και τον θεσμικό φόβο ενός πραγματικού ανθρώπου. Κάθε πράκτορας πρέπει να έχει ξεχωριστή ταυτότητα, περιορισμένα δικαιώματα, χρονικά περιορισμένα διαπιστευτήρια και αναλυτικό αρχείο ενεργειών.

Στην πράξη αυτό σημαίνει ότι ένας πράκτορας που βοηθά την οικονομική υπηρεσία ενός δήμου μπορεί να διαβάζει συμβάσεις και να προτείνει κατηγοριοποίηση δαπανών, αλλά δεν μπορεί να αλλάζει IBAN προμηθευτή ή να εγκρίνει ένταλμα. Ένας πράκτορας σε τράπεζα μπορεί να εντοπίζει συναλλαγές υψηλού κινδύνου, αλλά δεν μπορεί να παγώνει λογαριασμό χωρίς ανθρώπινο έλεγχο. Ένας πράκτορας σε ομάδα ανάπτυξης λογισμικού μπορεί να ανοίγει αίτημα αλλαγής κώδικα, αλλά όχι να συγχωνεύει κώδικα σε παραγωγικό σύστημα χωρίς έλεγχο από άνθρωπο και αυτοματοποιημένες δοκιμές.

Απομόνωση, καταγραφή, δυνατότητα ανάκλησης

Οι πράκτορες πρέπει να λειτουργούν σε περιβάλλοντα απομόνωσης, με αυστηρά όρια πρόσβασης στο διαδίκτυο, στα αρχεία, στις βάσεις δεδομένων και στα εργαλεία εντολών. Δεν πρέπει να έχουν γενικό δικαίωμα να εκτελούν ό,τι ζητήσει το μοντέλο. Τα εργαλεία πρέπει να είναι λευκή λίστα, όχι ανοιχτό οπλοστάσιο. Κάθε ενέργεια πρέπει να καταγράφεται σε αρχείο που δεν μπορεί να αλλοιωθεί από τον ίδιο τον πράκτορα.

Η καταγραφή από μόνη της δεν αρκεί. Χρειάζεται ενεργή παρακολούθηση. Όταν ένας πράκτορας προσπαθεί να αλλάξει περιβάλλον, να αποκτήσει νέα διαπιστευτήρια, να καλέσει απαγορευμένο εργαλείο, να στείλει μαζικά μηνύματα ή να δημιουργήσει νέους πράκτορες, το σύστημα πρέπει να τον σταματά αυτόματα και να ειδοποιεί υπεύθυνο ασφαλείας. Για το Δημόσιο, αυτό σημαίνει ενιαίο μητρώο πρακτόρων ΤΝ, μητρώο εργαλείων, αρχείο ενεργειών και δυνατότητα άμεσης απενεργοποίησης.

Οι πράκτορες δεν πρέπει να ελέγχουν μόνοι τους εαυτούς τους

Ένας από τους πιο επικίνδυνους πειρασμούς είναι να ανατεθεί σε άλλον πράκτορα ο έλεγχος του πρώτου. Αυτό μπορεί να βοηθήσει, αλλά δεν μπορεί να είναι η μόνη δικλείδα. Τα μοντέλα μπορούν να παρακαμφθούν, να παραπλανηθούν ή να αποτύχουν να αναγνωρίσουν μια ύποπτη στρατηγική. Άρα η παρακολούθηση πρέπει να συνδυάζει ανθρώπινη εποπτεία, απλούς τεχνικούς κανόνες, συστήματα ανίχνευσης ανωμαλιών, περιοδικούς ελέγχους και ανεξάρτητες δοκιμές διείσδυσης.

Στον κυβερνοχώρο, ένας πράκτορας που βοηθά μια ομάδα ασφαλείας να αναλύει συμβάντα μπορεί να είναι πολύτιμος. Αν όμως αποκτήσει δικαίωμα να αλλάζει κανόνες firewall, να απενεργοποιεί ειδοποιήσεις ή να εκτελεί εντολές σε παραγωγικούς εξυπηρετητές, τότε το εργαλείο άμυνας μετατρέπεται σε πιθανό σημείο επίθεσης. Η σωστή αρχιτεκτονική είναι άμυνα σε βάθος: περιορισμός, παρακολούθηση, επιβεβαίωση, ανάκληση.

Ανοιχτές τεχνολογίες και δημόσιος έλεγχος

Ιδίως στο Δημόσιο, οι πράκτορες δεν πρέπει να αγοραστούν ως αδιαφανή κουτιά. Χρειάζονται ανοιχτά πρότυπα, τεκμηρίωση, καταγραφή εκδόσεων, Model Cards, Datasheets, Software Bill of Materials και δικαίωμα ελέγχου του κώδικα όπου είναι δυνατό. Η αρχή «δημόσιο χρήμα, δημόσιος κώδικας» αποκτά εδώ άμεση σημασία: όταν ένας πράκτορας συμμετέχει στην εξυπηρέτηση πολιτών, στη διαχείριση επιδομάτων, στις προμήθειες ή στη φορολογική διοίκηση, η κοινωνία πρέπει να γνωρίζει ποια δεδομένα χρησιμοποιεί, ποια εργαλεία καλεί και ποιος φέρει την ευθύνη.

Οι πράκτορες ΤΝ μπορούν να μειώσουν τη γραφειοκρατία, να ενισχύσουν την παραγωγικότητα και να βοηθήσουν μικρούς φορείς να αποκτήσουν δυνατότητες που μέχρι σήμερα είχαν μόνο μεγάλοι οργανισμοί. Αυτό όμως θα συμβεί μόνο αν σχεδιαστούν ως ελεγχόμενη δημόσια υποδομή και όχι ως αυτόνομοι υπάλληλοι χωρίς λογοδοσία. Η σωστή γραμμή είναι απλή: περισσότερη βοήθεια από την ΤΝ, λιγότερη ανεξέλεγκτη εξουσία στην ΤΝ.

Πηγές άρθρου:

METR, Frontier Risk Report (February to March 2026): Η κεντρική αξιολόγηση κινδύνων για πράκτορες ΤΝ, με ανάλυση ικανότητας, κινήτρου και ευκαιρίας, καθώς και εκτίμηση για τον κίνδυνο μικρών ανεξέλεγκτων αναπτύξεων: https://metr.org/blog/2026-05-19-frontier-risk-report/,

OWASP GenAI Security Project, OWASP Top 10 for Agentic Applications for 2026: Παρέχει πρακτικό, ουδέτερο πλαίσιο για τους βασικούς κινδύνους και τα μέτρα μετριασμού σε εφαρμογές πρακτόρων ΤΝ: https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/,

OWASP Cheat Sheet Series, AI Agent Security Cheat Sheet: Συγκεντρώνει συγκεκριμένους τεχνικούς ελέγχους για υπέρβαση οδηγιών, κακή χρήση εργαλείων, κλιμάκωση προνομίων και δηλητηρίαση μνήμης: https://cheatsheetseries.owasp.org/cheatsheets/AI_Agent_Security_Cheat_Sheet.html,

OpenAI, Evaluating Chain-of-Thought Monitorability: Τεκμηριώνει γιατί η παρακολούθηση της συλλογιστικής των μοντέλων μπορεί να βοηθήσει στον εντοπισμό κακής συμπεριφοράς, αλλά παραμένει εύθραυστη δικλείδα ασφαλείας: https://openai.com/index/evaluating-chain-of-thought-monitorability/,

European Commission, AI Act: Το ευρωπαϊκό κανονιστικό πλαίσιο για ανθρωποκεντρική και βασισμένη στον κίνδυνο χρήση της ΤΝ, ιδιαίτερα κρίσιμο για δημόσιες υπηρεσίες και εφαρμογές υψηλού κινδύνου: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai.