Τοπικά μοντέλα ΤΝ και ΦΑΡΟΣ: η σωστή αρχιτεκτονική για ασφαλή, φθηνή και δημοκρατική ΤΝ

Η ΤΝ ως δημόσια υποδομή, όχι ως μόνιμη εξάρτηση

Η συζήτηση για την Τεχνητή Νοημοσύνη δεν μπορεί να περιορίζεται στο ποιο μοντέλο είναι «ισχυρότερο». Για το Δημόσιο, τις επιχειρήσεις και την εκπαίδευση, το πραγματικό ερώτημα είναι ποιος ελέγχει την υποδομή, πού βρίσκονται τα δεδομένα, πόσο κοστίζει η καθημερινή χρήση και αν υπάρχει δυνατότητα ελέγχου από την κοινωνία, τους ειδικούς και τους ίδιους τους οργανισμούς που χρησιμοποιούν την τεχνολογία.

Τα τοπικά μοντέλα ΤΝ ανοιχτού λογισμικού απαντούν σε αυτό το ερώτημα με τρόπο πρακτικό. Δεν ζητούν από έναν δήμο, ένα πανεπιστήμιο, ένα υπουργείο ή μια μικρομεσαία επιχείρηση να στέλνει διαρκώς δεδομένα σε απομακρυσμένες εμπορικές πλατφόρμες. Επιτρέπουν την εγκατάσταση της υποδομής στον χώρο του φορέα ή σε δημόσια ελεγχόμενο υπολογιστικό κέντρο, με ανοιχτό λογισμικό, σαφείς κανόνες πρόσβασης, καταγραφή λειτουργίας, προστασία προσωπικών δεδομένων και δυνατότητα προσαρμογής στις ανάγκες της ελληνικής γλώσσας και διοίκησης.

Γιατί είναι ασφαλέστερα

Η ασφάλεια δεν είναι αφηρημένη έννοια. Στην πράξη σημαίνει ότι τα δεδομένα των πολιτών, των μαθητών, των ασθενών, των εργαζομένων ή μιας επιχείρησης δεν εγκαταλείπουν τον ελεγχόμενο χώρο του οργανισμού. Ένα τοπικό μοντέλο μπορεί να λειτουργεί χωρίς να στέλνει δεδομένα σε τρίτα συστήματα, με διαχωρισμό δικτύων, κρυπτογραφημένες επικοινωνίες, έλεγχο πρόσβασης, ανωνυμοποίηση αρχείων καταγραφής και πολιτικές διατήρησης δεδομένων συμβατές με τον Γενικό Κανονισμό Προστασίας Δεδομένων.

Αυτό είναι κρίσιμο για εφαρμογές όπως η αναζήτηση σε νομικά και διοικητικά κείμενα, η υποστήριξη ΚΕΠ, η σύνοψη συνεδριάσεων, η ανάλυση σχολικών ή πανεπιστημιακών εργασιών, η εσωτερική τεκμηρίωση επιχειρήσεων και η επεξεργασία εγγράφων που περιέχουν ευαίσθητες πληροφορίες. Σε αυτές τις περιπτώσεις, η ΤΝ πρέπει να λειτουργεί ως βοηθός μέσα στον οργανισμό, όχι ως εξωτερικό μαύρο κουτί.

Γιατί είναι φθηνότερα

Το κόστος των μεγάλων εμπορικών υπηρεσιών ΤΝ συχνά φαίνεται χαμηλό στην αρχή, επειδή ξεκινά ως συνδρομή ή χρέωση ανά χρήση. Όμως όσο αυξάνονται οι χρήστες, τα αιτήματα, τα έγγραφα και οι εφαρμογές, το μεταβλητό κόστος γίνεται μόνιμη εξάρτηση. Αντίθετα, μια τοπική υποδομή μετατρέπει μεγάλο μέρος της δαπάνης σε επένδυση. Ο φορέας αγοράζει ή μισθώνει υπολογιστική ισχύ, στήνει επαναχρησιμοποιήσιμη στοίβα λογισμικού και εκπαιδεύει ανθρώπους που μπορούν να τη συντηρούν και να τη βελτιώνουν.

Αυτό είναι ιδιαίτερα σημαντικό για δήμους, περιφέρειες, σχολεία, πανεπιστήμια και μικρομεσαίες επιχειρήσεις. Οι πιο πολλές καθημερινές χρήσεις δεν απαιτούν κάθε φορά το μεγαλύτερο παγκόσμιο μοντέλο. Απαιτούν σωστή σύνδεση με έγκυρα έγγραφα, καλά ευρετήρια γνώσης, ελεγχόμενη ανάκτηση πληροφορίας, σαφείς οδηγίες και ανθρώπινη εποπτεία. Για την ταξινόμηση αιτημάτων, τη σύνοψη εγγράφων, την παραγωγή σχεδίων απαντήσεων, την απομαγνητοφώνηση, την αναζήτηση σε κανονισμούς και την υποστήριξη χρηστών, τα ανοιχτά τοπικά μοντέλα μπορούν να είναι πιο οικονομικά και πιο επαρκή.

Γιατί είναι πιο δημοκρατικά

Η δημοκρατική διάσταση της ΤΝ δεν εξαντλείται στην προστασία της ιδιωτικότητας. Αφορά τη δυνατότητα ελέγχου. Όταν ο κώδικας, τα μοντέλα, οι ρυθμίσεις, τα δεδομένα αξιολόγησης και οι διαδικασίες είναι ελέγξιμα, τότε η ΤΝ μπορεί να ενταχθεί σε θεσμικό πλαίσιο λογοδοσίας. Μπορεί να ελεγχθεί από πανεπιστήμια, δημόσιους φορείς, κοινότητες ανοιχτού λογισμικού, ανεξάρτητες αρχές και την κοινωνία των πολιτών.

Αυτό δημιουργεί και εγχώρια παραγωγική αξία. Οι ελληνικές εταιρείες πληροφορικής δεν χρειάζεται να περιοριστούν στον ρόλο του μεταπωλητή κλειστών αδειών. Μπορούν να παρέχουν εγκατάσταση, παραμετροποίηση, τεχνική υποστήριξη, εκπαίδευση, αξιολόγηση, ασφάλεια και εξειδικευμένες εφαρμογές πάνω σε ανοιχτές τεχνολογίες. Έτσι η δημόσια δαπάνη επιστρέφει ως τεχνογνωσία, θέσεις εργασίας και ψηφιακή αυτονομία.

Πού χρειάζεται ο ΦΑΡΟΣ και πού το τοπικό μοντέλο

Ο Δαίδαλος, η υπολογιστική υποδομή του ΦΑΡΟΣ, είναι ο νέος ελληνικός υπερυπολογιστής που θα λειτουργεί από την ΕΔΥΤΕ στο Τεχνολογικό και Πολιτιστικό Πάρκο Λαυρίου, ανήκει στην κατηγορία των εθνικών υποδομών υψηλής υπολογιστικής ισχύος. Η αθροιστική ισχύς του ξεπερνά τα 80 PFLOPS, ενώ η αποθήκευση κινείται σε κλίμακα πολλών petabytes. Αυτή είναι υποδομή για εκπαίδευση, μεγάλη προσαρμογή και αξιολόγηση μοντέλων ΤΝ, όχι για κάθε μικρή καθημερινή κλήση ενός chatbot.

Απέναντι σε αυτή την υπερυπολογιστική υποδομή, ένα τοπικό σύστημα ανοιχτής ΤΝ είναι μικρό, φθηνό και επιχειρησιακά κοντά στον χρήστη. Μπορεί να αποτελείται, για παράδειγμα, από δύο Apple Mac Studio M3 Ultra με 256 GB ενοποιημένης μνήμης και δύο NVIDIA DGX Spark GB10 με 128 GB ενοποιημένης μνήμης, 4 TB NVMe αποθήκευση ανά κόμβο και υποστήριξη Metal, CUDA, llama.cpp, vLLM και TensorRT-LLM. Μια τέτοια υποδομή δεν ανταγωνίζεται τον Δαίδαλο. Συμπληρώνει το οικοσύστημα: οι υπερυπολογιστές εκπαιδεύουν, ελέγχουν και βελτιώνουν μοντέλα, ενώ οι τοπικοί κόμβοι τα χρησιμοποιούν καθημερινά, με χαμηλό κόστος, χαμηλή καθυστέρηση και προστασία δεδομένων μέσα στον οργανισμό.

Ο ΦΑΡΟΣ, ως ελληνικό εργοστάσιο ΤΝ, έχει διαφορετικό και συμπληρωματικό ρόλο. Είναι η υποδομή που πρέπει να χρησιμοποιείται για βαριές εργασίες: εκπαίδευση ή προσαρμογή μεγάλων μοντέλων, μεγάλα πειράματα πάνω στην ελληνική γλώσσα, την υγεία, τον πολιτισμό και τη βιωσιμότητα, αξιολόγηση μοντέλων, δημιουργία συνόλων δεδομένων υψηλής ποιότητας, επιστημονικές προσομοιώσεις και υποστήριξη νεοφυών επιχειρήσεων ή ερευνητικών ομάδων που χρειάζονται υπερυπολογιστική ισχύ.

Το τοπικό μοντέλο είναι η καθημερινή υποδομή χρήσης. Είναι καταλληλότερο για εφαρμογές μέσα στον δήμο, στο σχολείο, στο πανεπιστήμιο, στο νοσοκομείο, στο υπουργείο ή στην επιχείρηση, όπου η ταχύτητα, το χαμηλό κόστος, η προστασία δεδομένων και η προσαρμογή στις εσωτερικές ροές εργασίας είναι πιο σημαντικά από τη μέγιστη υπολογιστική ισχύ.

Η σωστή στρατηγική δεν είναι «ή ΦΑΡΟΣ ή τοπικά μοντέλα». Είναι υβριδική δημόσια αρχιτεκτονική. Ο ΦΑΡΟΣ μπορεί να εκπαιδεύει, να αξιολογεί και να βελτιώνει μοντέλα και μεθοδολογίες. Τα τοπικά ανοιχτά μοντέλα μπορούν να τα εφαρμόζουν καθημερινά κοντά στα δεδομένα, στους πολίτες, στους εργαζόμενους και στους εκπαιδευτικούς. Έτσι η Ελλάδα αποκτά ΤΝ που δεν είναι απλώς εισαγόμενη υπηρεσία, αλλά δημόσια ικανότητα.

Πηγές άρθρου:

GlossAPI, Τοπικά μοντέλα ΤΝ ανοιχτού λογισμικού: Το άρθρο τεκμηριώνει γιατί τα τοπικά ανοιχτά μοντέλα αποτελούν ασφαλέστερη, φθηνότερη και πιο δημοκρατική επιλογή για δημόσιο τομέα, επιχειρήσεις και εκπαίδευση: https://blog.glossapi.gr/,

ΕΔΥΤΕ, Pharos: The Greek AI Factory for accelerating AI innovation: Η επίσημη περιγραφή του ελληνικού εργοστασίου ΤΝ, με στόχο τη σύνδεση υπερυπολογιστικής ισχύος, έρευνας, δημόσιου τομέα, επιχειρήσεων και κρίσιμων πεδίων όπως υγεία, γλώσσα, πολιτισμός και βιωσιμότητα: https://grnet.gr/business-directory/Pharos-AI-Factory/,

EuroHPC Joint Undertaking, Greece AI Factory: Η επίσημη ευρωπαϊκή παρουσίαση του ΦΑΡΟΥ ως κόμβου για ακαδημαϊκούς, ερευνητικούς, δημόσιους και ιδιωτικούς φορείς, με έμφαση στην υγεία, τον πολιτισμό, τη γλώσσα και τη βιωσιμότητα: https://www.eurohpc-ju.europa.eu/ai-factories/greece_en,

Mistral AI, Mistral 7B & Mixtral Research: Η Mistral AI αποτελεί κορυφαίο ευρωπαϊκό παράδειγμα ανάπτυξης μοντέλων ανοιχτών βαρών που επιτυγχάνουν υψηλή απόδοση με χαμηλότερο υπολογιστικό κόστος και μπορούν να αξιοποιηθούν σε τοπικές εγκαταστάσεις: https://mistral.ai/news/announcing-mistral-7b/ και https://mistral.ai/news/mixtral-of-experts/,

EU AI Act & UNESCO Guidance for Generative AI in Education and Research: Το πρώτο θέτει το ευρωπαϊκό πλαίσιο διαφάνειας, διαχείρισης κινδύνου και λογοδοσίας στην ΤΝ, ενώ το δεύτερο τεκμηριώνει την ανάγκη ανθρώπινης εποπτείας, προστασίας δεδομένων και παιδαγωγικής ευθύνης στην εκπαίδευση: https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng και https://www.unesco.org/en/articles/guidance-generative-ai-education-and-research.