Ο FDA ανοίγει τη συζήτηση για το πώς πρέπει να ελέγχονται οι ιατρικές συσκευές που χρησιμοποιούν Generative AI: συστήματα που μπορούν να παράγουν διαφορετικές απαντήσεις ανάλογα με το ερώτημα και των οποίων η λειτουργία μπορεί να μεταβάλλεται με νέες εκδόσεις, επανεκπαίδευση ή προσαρμογή σε νέα δεδομένα. Πώς διασφαλίζεται λοιπόν ότι παραμένουν ασφαλή για τον ασθενή;
Η Τεχνητή Νοημοσύνη δεν βρίσκεται πια έξω από την πόρτα της Ιατρικής. Έχει ήδη περάσει μέσα.
Χρησιμοποιείται στην ανάλυση ιατρικών εικόνων, στην επεξεργασία τεράστιου όγκου δεδομένων, στην κλινική τεκμηρίωση και σε συστήματα υποστήριξης αποφάσεων. Με την ανάπτυξη όμως της Generative AI, η σχέση ανάμεσα στην τεχνολογία, τον γιατρό και τον ασθενή γίνεται πολύ πιο σύνθετη.
Γιατί ένα σύστημα Generative AI δεν είναι απλώς ένα πρόγραμμα που εκτελεί πάντοτε την ίδια εντολή και παράγει το ίδιο αποτέλεσμα.
Μπορεί να δημιουργεί νέες απαντήσεις. Μπορεί να επηρεάζεται από τον τρόπο με τον οποίο διατυπώνεται ένα ερώτημα. Και η λειτουργία του μπορεί να μεταβάλλεται μετά την αρχική αξιολόγησή του, για παράδειγμα μέσα από νέες εκδόσεις του λογισμικού, αλλαγές στο μοντέλο στο οποίο βασίζεται ή επανεκπαίδευση με νέα δεδομένα.
Και τότε προκύπτει ένα κρίσιμο ερώτημα:
Πώς ελέγχεις ένα ιατρικό εργαλείο όταν αυτό που αξιολόγησες σήμερα μπορεί να μην είναι απολύτως ίδιο με αυτό που θα χρησιμοποιείται αύριο;
Ο FDA ανοίγει τη συζήτηση
Στις 18 Αυγούστου 2026, ο Αμερικανικός Οργανισμός Τροφίμων και Φαρμάκων (FDA) δημοσίευσε ένα νέο discussion paper για τις ιατρικές συσκευές που χρησιμοποιούν Generative AI.
Δεν πρόκειται ακόμη για νέους κανονισμούς ούτε για τελικές κατευθυντήριες οδηγίες.
Ο FDA ζητά από κατασκευαστές, γιατρούς, ερευνητές, ασθενείς και πολίτες να καταθέσουν τις απόψεις τους για το πώς πρέπει να αξιολογούνται και να παρακολουθούνται αυτές οι τεχνολογίες.
Η συζήτηση επικεντρώνεται σε τέσσερα μεγάλα ζητήματα: την αξιολόγηση του κινδύνου, τον έλεγχο πριν από την κυκλοφορία, την παρακολούθηση μετά την κυκλοφορία και τις ιδιαίτερες προκλήσεις που δημιουργούν τα μεγάλα foundation models και τα πιο αυτόνομα συστήματα AI.
Γιατί η Generative AI είναι διαφορετική;
Ας σκεφτούμε μια συμβατική ιατρική συσκευή.
Οι ρυθμιστικές αρχές μπορούν να εξετάσουν πώς λειτουργεί, να αξιολογήσουν την ασφάλεια και την αποτελεσματικότητά της και, εφόσον πληροί τις προϋποθέσεις, να επιτρέψουν την κυκλοφορία της.
Με τη Generative AI τα πράγματα γίνονται δυσκολότερα.
Ένα σύστημα μπορεί να δώσει διαφορετικές απαντήσεις ανάλογα με το πώς του τίθεται ένα ερώτημα ή το περιεχόμενο μιας συνομιλίας.
Παράλληλα, μετά την κυκλοφορία του μπορεί να υπάρξουν software updates, αλλαγές στον αλγόριθμο, επανεκπαίδευση με νέα δεδομένα ή αλλαγές στο foundation model πάνω στο οποίο βασίζεται.
Αυτό δεν σημαίνει ότι κάθε AI «μαθαίνει μόνο του» συνεχώς από κάθε ασθενή που το χρησιμοποιεί. Αυτή θα ήταν μια υπεραπλούστευση.
Σημαίνει όμως ότι ο FDA πρέπει να αντιμετωπίσει μια νέα πραγματικότητα: η συμπεριφορά και η απόδοση ενός συστήματος μπορεί να μεταβληθούν κατά τη διάρκεια της ζωής του.
Γι’ αυτό και η εποπτεία δεν μπορεί να σταματά την ημέρα που ένα προϊόν φτάνει στην αγορά.
Θα «εξετάζουμε» ένα AI όπως έναν γιατρό;
Εδώ βρίσκεται ένα από τα πιο ενδιαφέροντα σημεία της πρότασης που συζητά ο FDA.
Στο discussion paper εξετάζεται μια προσέγγιση competency assessment, εμπνευσμένη σε υψηλό επίπεδο από τον τρόπο με τον οποίο εκπαιδεύονται και αξιολογούνται οι γιατροί.
Η ιδέα δεν είναι, φυσικά, να αποκτήσει ένα AI πτυχίο Ιατρικής.
Η λογική είναι διαφορετική: αντί να αξιολογείται αποκλειστικά ο τρόπος με τον οποίο κατασκευάστηκε ένα σύστημα, να εξετάζεται και αν μπορεί πράγματι να εκτελέσει με επάρκεια την ιατρική λειτουργία για την οποία προορίζεται.
Ο FDA συζητά τον συνδυασμό μη κλινικών δοκιμασιών και κλινικής επιβεβαίωσης, ώστε να αξιολογείται εάν το σύστημα λειτουργεί όπως πρέπει πριν φτάσει στον ασθενή.
«Πρέπει να πάω στα επείγοντα;»
Ας πάρουμε ένα απλό αλλά χαρακτηριστικό παράδειγμα.
Ένας άνθρωπος περιγράφει τα συμπτώματά του σε ένα AI σύστημα και το ρωτά:
«Πρέπει να πάω στα επείγοντα;»
Εάν το σύστημα υποτιμήσει τα συμπτώματα και καθησυχάσει έναν ασθενή που στην πραγματικότητα βρίσκεται σε κίνδυνο, η καθυστέρηση στην αναζήτηση ιατρικής βοήθειας μπορεί να έχει σοβαρές συνέπειες.
Υπάρχει όμως και το αντίθετο πρόβλημα.
Εάν το AI στέλνει στα επείγοντα σχεδόν όλους τους ανθρώπους που του περιγράφουν κάποιο σύμπτωμα, τότε μπορεί να προκαλέσει περιττό άγχος, εξετάσεις και επιβάρυνση των υπηρεσιών υγείας.
Άρα ένα ασφαλές ιατρικό AI δεν πρέπει απλώς να είναι «υπερβολικά προσεκτικό».
Πρέπει να είναι σωστά προσεκτικό.
Τι συμβαίνει όταν το AI κάνει λάθος;
Εδώ βρίσκεται ίσως το μεγαλύτερο πρόβλημα της Generative AI στην Υγεία.
Ένα AI μπορεί να παράγει μια απάντηση που είναι άριστα διατυπωμένη, ακούγεται απολύτως πειστική και παρ’ όλα αυτά είναι λανθασμένη.
Σε μια καθημερινή συνομιλία, ένα τέτοιο λάθος μπορεί να είναι απλώς ενοχλητικό.
Στην Ιατρική όμως μπορεί να αφορά μια διάγνωση, την ερμηνεία ενός συμπτώματος, μια θεραπευτική απόφαση ή το αν ένας άνθρωπος πρέπει να ζητήσει άμεσα ιατρική βοήθεια.
Γι’ αυτό και το ερώτημα δεν είναι μόνο πόσο συχνά κάνει λάθος ένα AI, αλλά και πόσο σοβαρές μπορεί να είναι οι συνέπειες του συγκεκριμένου λάθους.
Ο γιατρός παραμένει στον επίκεντρο
Η εξέλιξη της Τεχνητής Νοημοσύνης δεν σημαίνει ότι υποτιμάται ο ρόλος του γιατρού. Αντιθέτως ένα από τα κρίσιμα στοιχεία για την αξιολόγηση του κινδύνου είναι ακριβώς ο ρόλος της ανθρώπινης επίβλεψης.
Ένα AI που προσφέρει μια πληροφορία σε έναν εξειδικευμένο γιατρό, ο οποίος μπορεί να την αξιολογήσει και να απορρίψει ένα λανθασμένο αποτέλεσμα, δημιουργεί διαφορετικό επίπεδο κινδύνου από ένα AI που επικοινωνεί απευθείας με έναν ασθενή και επηρεάζει τις αποφάσεις του.
Όσο μεγαλύτερη αυτονομία αποκτά ένα σύστημα, τόσο μεγαλύτερη γίνεται η ανάγκη να γνωρίζουμε πού τελειώνει η υποστήριξη και πού αρχίζει η ιατρική απόφαση.
Και ποιος θα ελέγχει το AI μετά την κυκλοφορία του;
Ίσως αυτό να είναι το σημαντικότερο ερώτημα της νέας συζήτησης.
Ο FDA εξετάζει την ανάγκη για παρακολούθηση σε ολόκληρο τον κύκλο ζωής ενός συστήματος Generative AI.
Γιατί αν μετά την αρχική αξιολόγηση αλλάξει το λογισμικό, γίνει επανεκπαίδευση, προστεθούν νέα δεδομένα ή αλλάξει το μοντέλο στο οποίο βασίζεται, πρέπει να γνωρίζουμε εάν εξακολουθεί να έχει την ίδια ασφάλεια και αποτελεσματικότητα.
Η πρόκληση επομένως δεν είναι μόνο:
«Ήταν ασφαλές όταν εγκρίθηκε;»
Αλλά και:
«Παραμένει ασφαλές τώρα;»
Μια συζήτηση που μόλις αρχίζει
Η δημόσια διαβούλευση του FDA παραμένει ανοικτή μέχρι τις 19 Οκτωβρίου 2026.
Και πρέπει να τονιστεί ότι οι ιδέες που περιλαμβάνονται στο discussion paper δεν αποτελούν ακόμη επίσημη πολιτική ή τελικές κατευθυντήριες οδηγίες του FDA.
Είναι όμως μια ένδειξη του μεγέθους της αλλαγής που βρίσκεται μπροστά μας.
Για περισσότερο από έναν αιώνα δημιουργήσαμε κανόνες για να αξιολογούμε φάρμακα, ιατρικές συσκευές και επαγγελματίες υγείας.
Τώρα πρέπει να αποφασίσουμε πώς θα αξιολογούμε κάτι διαφορετικό: ένα σύστημα που μπορεί να συνομιλεί, να παράγει νέες απαντήσεις, να αναλύει δεδομένα και, σε ορισμένες εφαρμογές, να επηρεάζει μια απόφαση που αφορά την υγεία ενός ανθρώπου.
Η Τεχνητή Νοημοσύνη έχει ήδη μπει στο ιατρείο. Το μεγάλο στοίχημα πλέον δεν είναι μόνο τι μπορεί να κάνει. Είναι πώς θα γνωρίζουμε ότι μπορούμε να την εμπιστευθούμε σήμερα, αλλά και μετά από κάθε αλλαγή που μπορεί να επηρεάσει τον τρόπο με τον οποίο λειτουργεί.
Πηγές
U.S. Food and Drug Administration (FDA), 18 Αυγούστου 2026: Considerations for the Regulation of Generative AI-Enabled Medical Devices: Discussion Paper and Request for Feedback.
U.S. Food and Drug Administration (FDA), 18 Αυγούστου 2026: FDA Seeks Public Feedback to Inform Regulatory Approach for Generative AI-Enabled Medical Devices.
