Καθώς οι κατασκευαστές ιατροτεχνολογικών προϊόντων σπεύδουν να ενσωματώσουν τεχνητή νοημοσύνη (AI) στις συσκευές τους, αυξάνονται παράλληλα και οι αναφορές προς τις ρυθμιστικές αρχές για τραυματισμούς ασθενών και σοβαρά ανεπιθύμητα συμβάντα. Παρότι οι υποστηρικτές της τεχνολογίας προβλέπουν ότι η AI θα φέρει επανάσταση στην ιατρική, τα διαθέσιμα στοιχεία δείχνουν ότι η μετάβαση αυτή συνοδεύεται από ουσιαστικούς κινδύνους.
Χαρακτηριστική είναι η περίπτωση του συστήματος πλοήγησης TruDi, που χρησιμοποιείται σε χειρουργικές επεμβάσεις για τη θεραπεία της χρόνιας ιγμορίτιδας. Το 2021, η εταιρεία Acclarent —θυγατρική τότε της Johnson & Johnson— ανακοίνωσε την ενσωμάτωση αλγορίθμων μηχανικής μάθησης στη συσκευή, παρουσιάζοντας την εξέλιξη ως «ένα άλμα προς τα εμπρός» για τη χειρουργική ακρίβεια.
Από επτά αναφορές σε περισσότερες από εκατό
Το σύστημα TruDi κυκλοφορούσε ήδη στην αγορά επί περίπου τρία χρόνια. Μέχρι την προσθήκη της τεχνητής νοημοσύνης, ο Αμερικανικός Οργανισμός Τροφίμων και Φαρμάκων (FDA) είχε λάβει μη επιβεβαιωμένες αναφορές για επτά δυσλειτουργίες και έναν τραυματισμό ασθενούς. Μετά την ενσωμάτωση της AI, οι αναφορές αυξήθηκαν κατακόρυφα, ξεπερνώντας τις 100 περιπτώσεις δυσλειτουργιών και ανεπιθύμητων συμβάντων.
Σύμφωνα με τα στοιχεία, τουλάχιστον 10 ασθενείς τραυματίστηκαν από τα τέλη του 2021 έως τον Νοέμβριο του 2025. Πολλά περιστατικά φέρονται να σχετίζονται με σφάλματα πλοήγησης, κατά τα οποία το σύστημα παρείχε λανθασμένες πληροφορίες στους χειρουργούς για τη θέση των εργαλείων εντός του κρανίου.
Μεταξύ των καταγεγραμμένων συμβάντων περιλαμβάνονται διαρροή εγκεφαλονωτιαίου υγρού από τη μύτη ασθενούς, διάτρηση της βάσης του κρανίου, καθώς και δύο περιπτώσεις εγκεφαλικού επεισοδίου έπειτα από τραυματισμό βασικής αρτηρίας.
Αγωγές και αμφισβήτηση του ρόλου της AI
Οι αναφορές προς τον FDA δεν προορίζονται για απόδοση ευθυνών και συχνά δεν είναι πλήρεις, γεγονός που καθιστά δύσκολη την εξακρίβωση του ακριβούς ρόλου της τεχνητής νοημοσύνης. Ωστόσο, οι δύο ασθενείς που υπέστησαν εγκεφαλικά επεισόδια κατέθεσαν αγωγές στο Τέξας, υποστηρίζοντας ότι η AI του συστήματος TruDi συνέβαλε άμεσα στους τραυματισμούς τους. Σε μία από τις αγωγές αναφέρεται ότι «το προϊόν ήταν αναμφίβολα ασφαλέστερο πριν από την ενσωμάτωση της τεχνητής νοημοσύνης».
Το Reuters δεν κατέστη δυνατό να επιβεβαιώσει ανεξάρτητα τους ισχυρισμούς. Η Johnson & Johnson παρέπεμψε τα ερωτήματα στην Integra LifeSciences, η οποία εξαγόρασε το 2024 την Acclarent και το σύστημα TruDi. Η Integra υποστήριξε ότι οι αναφορές απλώς καταγράφουν περιστατικά κατά τα οποία το σύστημα χρησιμοποιήθηκε σε επεμβάσεις όπου σημειώθηκε ανεπιθύμητο συμβάν, χωρίς να αποδεικνύεται αιτιώδης σχέση με την AI.
Η «έκρηξη» της AI και το ρυθμιστικό κενό
Τα περιστατικά έρχονται στο φως σε μια περίοδο ραγδαίας εξάπλωσης της τεχνητής νοημοσύνης στην υγεία. Σήμερα, τουλάχιστον 1.357 ιατρικές συσκευές με AI έχουν λάβει έγκριση από τον FDA — αριθμός υπερδιπλάσιος σε σχέση με το 2022.
Το TruDi δεν αποτελεί μεμονωμένη περίπτωση. Αναφορές έχουν κατατεθεί και για άλλες συσκευές, όπως καρδιακά μόνιτορ που φέρονται να αγνόησαν επικίνδυνους αρρυθμικούς ρυθμούς και υπερηχογράφους που αναγνώρισαν λανθασμένα μέρη του εμβρύου.
Μελέτη ερευνητών από τα πανεπιστήμια Johns Hopkins, Georgetown και Yale διαπίστωσε ότι 60 εγκεκριμένες συσκευές με AI συνδέθηκαν με 182 ανακλήσεις προϊόντων. Σχεδόν το 43% των ανακλήσεων σημειώθηκε μέσα στον πρώτο χρόνο από την έγκριση — ποσοστό σχεδόν διπλάσιο σε σύγκριση με τις υπόλοιπες ιατρικές συσκευές.
Πίεση στον FDA και νέοι κίνδυνοι
Σύμφωνα με πέντε νυν και πρώην επιστήμονες του FDA, η «έκρηξη» αιτήσεων έγκρισης δημιουργεί σοβαρά προβλήματα στον οργανισμό, ο οποίος δυσκολεύεται να ανταποκριθεί, ιδίως μετά την απώλεια εξειδικευμένου προσωπικού.
Την ίδια στιγμή, γενετικά μοντέλα τεχνητής νοημοσύνης, όπως τα chatbots, εισέρχονται δυναμικά στην ιατρική πρακτική. Αν και πολλοί γιατροί τα χρησιμοποιούν για εξοικονόμηση χρόνου, αυξάνεται η ανησυχία ότι ασθενείς τα αξιοποιούν για αυτοδιάγνωση ή για να αμφισβητούν ιατρικές οδηγίες, δημιουργώντας νέους κινδύνους.
Ένα παλιό εργαλείο με νέα διλήμματα
Παρότι η τεχνητή νοημοσύνη έγινε παγκόσμιο φαινόμενο μετά την εμφάνιση του ChatGPT, η χρήση της στην ιατρική δεν είναι νέα: ο FDA είχε εγκρίνει τις πρώτες συσκευές με AI ήδη από το 1995. Ωστόσο, η σημερινή κλίμακα και πολυπλοκότητα της τεχνολογίας δημιουργεί πρωτόγνωρα ερωτήματα.
Όπως σημειώνει ειδικός στη ρύθμιση ιατροτεχνολογικών προϊόντων, «η παραδοσιακή προσέγγιση του FDA δεν επαρκεί για να διασφαλίσει ότι οι συσκευές με τεχνητή νοημοσύνη είναι ασφαλείς και αποτελεσματικές. Βασιζόμαστε σε μεγάλο βαθμό στους ίδιους τους κατασκευαστές — και αυτό είναι εξαιρετικά προβληματικό».
