Πώς η Τεχνητή Νοημοσύνη
θα γίνει βοηθός και όχι
αντίπαλος του ιατρού!
ΝΙΚΟΣ Β. ΚΑΡΑΤΖΑΣ, επίτιμος
διευθυντής της Β’ Καρδιολογικής
Κλινικής του νοσοκομείου ΥΓΕΙΑ
Η Β′ ΚΑΡΔΙΟΛΟΓΙΚ Η ΚΛΙΝΙΚ Η του Νοσοκομείου ΥΓΕΙΑ, με επικεφαλής τον διευθυντή της Στέλιο Κωνσταντινίδη, διοργάνωσε πρόσφατα στο αμφιθέατρο του νοσοκομείου «ΜΗΤΕΡΑ»
εκδήλωση προς τιμήν του επίτιμου διευθυντή της Β′ Καρδιολογικής Κλινικής Νίκου Β. Καρατζά.
Για τον κ. Καρατζά μίλησαν κατά σειρά ο Στέλιος Κωνσταντινίδης, διευθυντής Β′ Καρδιολογικής Κλινικής του «ΥΓΕΙΑ», ο Ανδρέας Καρταπάνης, πρόεδρος και διευθύνων σύμβουλος του «ΥΓΕΙΑ», ο Γεώργιος Ζαχαρόπουλος, πρόεδρος του Επιστημονικού Συμβουλίου του «ΥΓΕΙΑ», καθώς και ο Αθανάσιος Πιπιλής, διευθυντής της Α′ Καρδιολογικής Κλινικής του «ΥΓΕΙΑ».
Κατά τη διάρκεια της εκδήλωσης ο κ. Καρατζάς έκανε μια ενδιαφέρουσα ομιλία για τη συμβολή της Τεχνη-
τής Νοημοσύνης στην Κλινική Ιατρική και συγκεκριμένα για το πώς ο ιατρός θα κάνει την Τεχνητή Νοημοσύνη βοηθό του και όχι αντίπαλο. Τα βασικότερα σημεία της ομιλίας αυτής έχουν ως εξής:
«Είμαι ευγνώμων στο “ΥΓΕΙΑ”, στη διοίκησή του, στην Επιστημονική Ένωση και ιδιαίτερα στον Στέλιο Κωνσταντινίδη, τον διευθυντή της Β’ Καρδιολογικής Κλινικής, ο οποίος είναι σταθερός συνεργάτης μου από την πρώτη μέρα που ήρθα εδώ στο νοσοκομείο πριν από 35 χρόνια.
Ο οποίος βέβαια φρόντισε να βγάλει από το χρονοντούλαπο της ιστορίας παλιά μου φαντάσματα ξεχασμένα. Βλέπετε, η ψηφιακή μνήμη είναι αιωνία, ενώ τη φυσική μνήμη τρώει το σαράκι του χρόνου.
Σε μια προηγούμενη ομιλία πριν από 5 χρόνια μίλησα
για την επανάσταση που φέρνει η εκθετική τεχνολογία
στην Ιατρική. Είχα ορίσει τότε την εκθετική τεχνολογία
με δύο παραδείγματα: την εξέλιξη της ευχέρειας και
του κόστους εξέτασης του ανθρωπίνου γονιδιώματος,
όπως βλέπετε μέσα από το 2001-2017 το κόστος από
το 1 εκατ. και διάρκεια 9 μήνες έγινε 100 ευρώ και
διάρκεια 1 ώρα. Και το δεύτερο παράδειγμα είναι η
εξέλιξη της υπολογιστικής δύναμης, των υπολογιστών
από το 1971 έως το 2017 που έγινε 650 φορές ταχύτερη
και 4 εκατ. 200 φορές φθηνότερη, όπως φαίνεται και
από την καμπύλη.
Μια ίδια καμπύλη πιο γραφιστική είναι αυτή που λέει
σεων θετικών και αρνητικών σε όλη την οικουμένη. Ήταν
η στιγμή που η ΤΝ βγήκε από τα ερευνητικά εργαστήρια
και μπήκε στη ζωή μας με τη μορφή του GTP. Το GTP
είναι ένας αλγόριθμος επεξεργασίας φυσικής γλώσσας
βασισμένο σε μια τράπεζα κειμένων από το Ίντερνετ
με πάνω από 1 τρισ. λέξεις. Πανίσχυροι υπολογιστές
διαθέτουν προγράμματα μηχανικής μάθησης που λέγονται νευρωνικά δίκτυα (neural networks), εμπνευσμένα
από τον ανθρώπινο εγκέφαλο, τα οποία τροφοδοτούν
με πακέτα κειμένων, που, αφού περάσουν τα κείμενα
αυτά από τα δίκτυα, η μηχανή μαθαίνει τη μορφή που οι λέξεις ακολουθούν η μία την άλλη, τη γραμματική
Ο κ. Στέλιος Κωνσταντινίδης.
ότι μέχρι το 2023 η υπολογιστική δύναμη των μηχανών
θα ξεπεράσει την υπολογιστική δύναμη του ανθρώπινου
εγκεφάλου. Κατέληξα ως τελευταία για την Τεχνητή Νο-
ημοσύνη (ΤΝ). Με μια διαφάνεια που έλεγε ότι κάποια
στιγμή όλη η εμπειρία θα βρίσκεται στα χέρια οποιουδή-
ποτε ακόμα και του νεότερου γιατρού με την ΤΝ. Οπότε
τι θα διαφέρει ο μορφωμένος έμπειρος παλιός γιατρός
από τον νέο; Και η τελική διαφάνεια ήταν η κατάληξη
του Λάρσεν εκείνες τις μέρες που προειδοποιούσε ότι
η ιατρική κοινότητα βρίσκεται αυτή τη στιγμή στο κα-
τώφλι μιας εξέλιξης που θα αποτελέσει ορόσημο στη
ιατρική πράξη.
Αυτή η στιγμή πράγματι έφτασε και με ένα μπαμ τον Νοέμβριο του 2022 δημιούργησε μια καταιγίδα αντιδρά-
και το συντακτικό και τελικά αναζητώντας σχέσεις σε αυτό τον όγκο των αποθηκευμένων κειμένων παράγει δικές της προτάσεις.
Η οικουμένη κατεπλήγη και τρομοκρατήθηκε συγχρόνως από τον ανθρωπόμορφο χαρακτήρα του μοντέλου αυτού. Η δε διείσδυση ήταν τρομακτική, μέσα σε 2 μήνες απέκτησε 100 εκατ. χρήστες. Συγκρίνετε αυτό με άλλες δημοφιλείς εφαρμογές, π.χ. για το facebook χρειάστηκε 4,5 χρόνια για να φτάσει τον αριθμό αυτό των χρηστών. Αμέσως διαπιστώθηκε ότι το GTP μπορούσε να παραγάγει όχι μόνο απαντήσεις σε απλά ερωτήματα, αλλά και ολόκληρα πονήματα απαράλλακτα με ανθρώπινη δημιουργία πάνω σε οποιοδήποτε θέμα του ζητηθεί. Μπορούσε να παραγάγει πραγματείες μέχρι
και διδακτορικές διατριβές, να συντάσσει απαντητικά
γράμματα σε ποικιλία θεμάτων, να φτιάχνει σενάρια
ταινιών με βάση γνωστά αφηγήματα, να γράφει ποι-
ήματα στο ύφος γνωστών ποιητών και ό,τι μπορείτε
άλλο να φανταστείτε.
Η παγκόσμια αντίδραση ήταν εκστασιασμός και πανι-
κός. Δεν υπάρχει δημοσιογραφικό και επιστημονικό μέσο
που να μην ασχολήθηκε και μάλιστα πολλές φορές. Η
εκπαιδευτική κοινότητα ήταν αυτή που προβληματίστηκε
πρώτη και περισσότερο από όλους. Έφτασε να συνεννοηθούν πάνω από 1.000 σχετικοί με το αντικείμενο επιστήμονες και λόγιοι κάθε είδους, να υπογράψουν
επιστολή με την οποία ζητούσαν να υπάρξει διακοπή
στην εξέλιξη της Τεχνητής Νοημοσύνης αυτού του είδους μέχρι οι κοινωνίες να αποφασίσουν πώς μπορούν
να την ελέγξουν.
Μεγαλύτερο θόρυβο προκάλεσε η παραίτηση του Jeffrey Hinton, του επιστήμονα που σχεδίασε το λογισμικό, δηλαδή τα νευρωνικά δίκτυα, που χρησιμοποιούνται
στην ανάπτυξη της Τεχνητής Νοημοσύνης. Παραιτήθηκε, λοιπόν, και όπως δήλωσε σε συνέντευξή του στο BBC
και τους «New York Times» για να είναι ελεύθερος να
φέρει τις αντιρρήσεις του. Το θέμα του ελέγχου της ΤΝ
πρόσφατα συζητήθηκε στο αμερικανικό Κογκρέσο και
επίσης στην Ευρωπαϊκή Επιτροπή και σε πολλά άλλα fora.
ΠΟΙΟΙ Ε Ι ΝΑΙ ΟΙ Κ Υ ΡΙΟΙ Φ Ο ΒΟΙ;
• Ότι δεν προστατεύει από επικίνδυνες και κακόβουλες εφαρμογές και υπόκειται σε εκμετάλλευση για δόλιους σκοπούς.
• Ότι μπορεί να χρησιμοποιηθεί για να διαδίδει ψευδείς ειδήσεις.
• Ότι δεν υπάρχουν προς το παρόν περιορισμοί και έλεγχο στη χρήση τους.
• Ότι μπορεί να οδηγήσει σε παραστατικές κοινωνικές αναταράξεις με ανεργία και αύξηση ανισοτήτων.
• Και ότι μπορεί να οδηγήσει σε ανατροπή των ισορροπιών του οικονομικού μοντέλου. Ο διάσημος ιστορικός και φιλόσοφος ο N. Harry, συγγραφέας του Sappiens, δηλώνει ότι η αυτονόμηση της ανθρώπινης γλώσσας κινδυνεύει να εξαφανίσει την ανθρώπινη υπόσταση και έχει επιχειρήματα που τα εξηγεί. (Παράδειγμα: με βάση προφορικές περιγραφές θα μπορεί να φτιάξει την ταυτότητά μας). Υπήρχαν βέβαια και θεωρητικές αντιρρήσεις: ότι είναι ένα μοντέλο γλώσσας και όχι αντίληψης.
Κάποια κυρία ειδική λέει ότι ενώ είναι απίστευτα έξυπνο, ταυτόχρονα είναι σοκαριστικά ηλίθιο. Ενώ συγκεντρώνει την ανθρώπινη γνώση, υπολείπεται της ανθρώπινης κρίσης. Δεν λογοδοτεί όταν δίνει ψευδείς απαντήσεις και μπορεί να μοιάζουν απόλυτα λογικές και
|
Ο κ. Αθανάσιος Πιπιλής, ο κ. Νίκος Καρατζάς και ο κ. Στέλιος Κωνσταντινίδης.
να παραπλανούν επικίνδυνα. Μερικές φορές παθαίνει σύγχυση (hallucinations). Της λείπει η εναρμόνιση με την ανθρώπινη νοημοσύνη.
Το θέμα αυτό μου το επισήμανε ο Αντώνης
Περράκης
στο ακροατήριο, όταν είδε το θέμα της ομιλίας μου και με το οποίο έχει ασχοληθεί ο ίδιος και πιθανώς να αξίζει να τον καλέσετε να κάνει μια ομιλία για τη γενική Τεχνητή Νοημοσύνη, ωστόσο υπάρχουν εταιρείες που υποστηρίζουν ότι έχουν καταφέρει να πλησιάσουν αυτή την προϋπόθεση. Αν και εγώ πιστεύω ότι η προϋπόθεση για να επιτευχθεί η πλήρης ευθυγράμμιση είναι πρώτα να κατανοηθούν τα μυστικά της ανθρώπινης νοημοσύνης, που πολλοί αγωνίζονται να τα ανακαλύψουν αλλά ακόμα είναι κρυμμένα.
Όταν ρωτήθηκε η Τεχνητή Νοημοσύνη πώς επεξεργάζεται τις απαντήσεις, απάντησε: “Συσχετίζω τη μορφή των δεδομένων και δεν μπλέκω κατανόηση ή σκοπιμότητα”. Όταν ρωτήθηκε γιατί έκανε λάθος σε ένα ιατρικό θέμα, απάντησε ευθαρσώς: “Δεν έχω πρόθεση να παραπλανήσω κανέναν, αλλά μερικές φορές κάνω λάθη εξαιτίας ατελών ή ανακριβών δεδομένων. Επίσης δεν έχω την ηθική κρίση ή την ηθική υπευθυνότητα του ανθρώπου-ιατρού ή νοσηλεύτριας”.
Το GTP έδειξε αμέσως ότι μπορεί να διεισδύσει σε κάθε γωνιά της Ιατρικής. Πέρασε τις εξετάσεις της Αμερικανικής Άδειας της Ιατρικής. Έγραψε εκθέσεις εξόδου ασθενών από το νοσοκομείο. Έγραψε σημειώσεις στον ιατρικό φάκελο ασθενούς, παρακολουθώντας την προ-
Στιγμιότυπο από την εκδήλωση.
φορική λήψη ιστορικού κατά την επίσκεψη στον γιατρό.
Παρήγαγε εκπαιδευτικό υλικό για κάθε θέμα που ζητήθηκε. Επέτυχε να διαλέξει τη διάγνωση κυρίου συμπτώματος
που περιλαμβάνεται σε χιλιάδες διαγνώσεις.
Π Ω Σ ΠΡΟΒΛ Ε ΠΕΤΑΙ ΠΩΣ ΘΑ ΜΠΕΙ Η ΚΑΙΝΟΥ ΡΓΙΑ
ΑΥΤ Η ΤΕΧΝΟΛΟΓ Ι Α ΣΤΗΝ ΙΑΤΡΙΚ Η ΠΡΑ ΞΗ ΤΟΥ
ΚΑΘΕΝ ΟΣ ΜΑΣ;
Έθεσα προχθές την ερώτηση αυτή στο GTP και πήρα
αμέσως μια εκτενή και ενδελεχή απάντηση με 5 επιμέρους παραγράφους, τις οποίες μόνο περιληπτικά σας τις παρουσιάζω γιατί είναι μεγάλη η έκτασή τους.
Λέει, λοιπόν, ότι προάγει τη διαγνωστική διαδικασία
με το να βοηθάει τους γιατρούς να παίρνουν πληροφορημένες αποφάσεις. Κάνει θεραπευτικές υποδείξεις,
αλλά η τελική απόφαση είναι του γιατρού. Εξυπηρετεί
την ιατρική έρευνα αναλύοντας μεγάλο όγκο βιβλιογρα-
φίας και καταθέτοντας ερευνητικές υποθέσεις. Βοηθάει
την επικοινωνία με τους ασθενείς με το να παράγει
αυτοματοποιημένες απαντήσεις σε συνήθεις ερωτήσεις, να δίνει γενικές συστάσεις υγείας και εξατομικευμένες
συστάσεις με βάση τον ιατρικό φάκελο. Υποδεικνύει
στο να λαμβάνουν υπόψη ηθικές θεωρήσεις, όπως η
ιδιωτικότητα, ο ρόλος της ανθρώπινης κρίσης, η προκατάληψη του αλγορίθμου, ώστε να γίνεται υπεύθυνη χρήση της τεχνολογίας.
Και καταλήγει: Τεχνολογίες όπως το GTP έχουν τη δυνατότητα να προάγουν την ιατρική φροντίδα, αλλά
δεν σκοπεύουν να αντικαταστήσουν τον πάροχο υπηρεσίας υγείας. Ο ρόλος του επαγγελματία υγείας στη διάγνωση και θεραπεία παραμένει κρίσιμος. Η Τεχνητή Νοημοσύνη πρέπει να θεωρείται εργαλείο υποστήριξης
της δικής τους τεχνογνωσίας και όχι υποκατάστατο.
Καθησυχαστικά είναι για εμάς αυτά που δηλώνει η Τεχνητή Νοημοσύνη. Η νέα τεχνολογία της ΤΝ δίνει απευθείας και σε ελάχιστα δευτερόλεπτα τις απαντήσεις σε ερωτήματα που θα ξοδεύαμε ώρες για να βρούμε στα περιοδικά. Μπορείς επίσης να συζητήσεις μαζί της και να ζητήσεις εξηγήσεις.
ΣΕ ΤΙ ΜΕΙΟΝΕΚΤΕ Ι Η ΤΕΧΝΗΤ Η ΝΟΗΜΟΣ Υ ΝΗ; Παρότι αποδεικνύει ότι μπορεί να περάσει τις εξετάσεις του πτυχίου της Ιατρικής, δεν έχει δώσει τον Όρκο του Ιπποκράτη. Δεν αναλαμβάνει ιατρικές ευθύνες και δεν έχει ανθρώπινο αίσθημα, ούτε ψυχή. Και κάτι ακόμα. Σε μια προηγούμενη ομιλία μου είχα διαπραγματευθεί το θέμα της βασισμένης ένδειξης της Ιατρικής, το περίφημο Evidence Base Medicine, και είχα δείξει τότε την πυραμίδα των ενδείξεων που έβαλε τις στοιχειοποιημένες μελέτες και τη λογική ανασκόπηση αυτών στην κορυφή. Και βέβαια ξέρετε ότι οι διαφορετικές κατευθυντήριες συστάσεις βαθμολογούνται σε μια κλίμακα ισχύος και αξιοπιστίας με βάση τέτοιες μελέτες. Η μεθοδολογία των μελετών αυτών πήρε δεκαετίες για να τελειοποιηθεί. Η μεθοδολογία της Τεχνητής Νοημοσύνης τώρα μόλις ξεκινάει.
Η νέα τεχνολογία πρέπει επομένως να μας πείσει ότι μπορεί να δώσει απαντήσεις ασφαλείς, αποτελεσματικές, δηλαδή με διαγνωστική και θεραπευτική
αξί,α που να αφορούν όλες τις κατηγορίες των ασθενών. Βεβαίως η προσπάθεια για να εξασφαλισθούν
οι προϋποθέσεις αυτές βρίσκεται σε εξέλιξη και ενδεχομένως δεν θα αργήσει να φέρει αποτελέσματα.
Εξάλλου, ο αλγόριθμος μαθαίνει από τις αντιδράσεις των χρηστών. Τα λάθη θα μειώνονται και οι πρόοδοι θα είναι ραγδαίες.
Π Ω Σ ΜΠΟΡΕ Ι ΝΑ ΧΡΗΣΙΜΟΠΟΙΗΘΕ Ι Η ΤΕΧΝΗΤ Η
ΝΟΗΜΟΣ Υ ΝΗ ΣΤΗΝ ΙΑΤΡΙΚ Η ΠΡΑΚΤΙΚ Α;
Η GPT δίνει ανθρωπόμορφες αναλυτικές εξηγήσεις και συστάσεις. Ο γιατρός θα πρέπει να τις ελέγξει για λάθη ή παραλείψεις, άρα θα πρέπει να είναι προσεκτικός και καλύτερα ενημερωμένος από τον αλγόριθμο.
Ρώτησα το GPT πώς θα αποφύγω να παραπλανηθώ από την Τεχνητή Νοημοσύνη στη διάρκεια της κλινικής μου πράξης. Μου υπέδειξε επτά στρατηγικές, τις οποίες σας αναφέρω περιληπτικά:
1) Κατανόηση των ορίων της Τεχνητής Νοημοσύνης. Ενώ χρησιμοποιεί τεράστιο όγκο δεδομένων, στερείται των τελευταίων εξελίξεων. Δεν λειτουργεί σε real time.
2) Εμπιστεύσου, μου λέει, πιστοποιημένες πηγές, όπως περιοδικά που δημοσιεύουν άρθρα μετά από κρίση PEAR reviewed και guidelines. Διασταύρωσε τις πληροφορίες και σύγκρινε το GPT με πολλαπλές αξιόπιστες πηγές. Κρατάει πισινή, όπως βλέπετε.
3) Να είσαι προσεκτικός με ευαίσθητες πληροφορίες, για την προστασία της ιδιωτικότητας των ασθενών σου.
4) Χρησιμοποίησε το GPT ως εργαλείο και όχι σαν να παίρνει εκείνο τις αποφάσεις.
5) Να παραμένεις ενημερωμένος. Το GPT βασίζεται σε γνώσεις μέχρι τον Σεπτέμβριο του 2021.
6) Κατάγραφε τις διαδικασίες λήψης των αποφάσεών σου, περιλαμβανομένων των πηγών που συμβουλεύτηκες, που θα σε βοηθήσουν σε περίπτωση ασυμφωνίας.
7) Να θυμάσαι: Το GPT δεν πρέπει να υποκαθιστά την επαγγελματική κρίση, την κριτική σκέψη, τη σχέση ιατρού-ασθενή. Πρέπει να χρησιμοποιείται ως επιπρόσθετο εργαλείο για να υποστηρίξει στη λήψη των αποφάσεων, στην ιατρική πράξη. Σοφές συμβουλές.
Ρώτησα ξανά πώς θα αποφύγω τις αδυναμίες του GPT, όταν το αξιοποιώ στην ιατρική πράξη. Μου υποδεικνύει επτά στρατηγικές, τις οποίες αναπτύσσει λεπτομερώς: Μιλάει για διαφάνεια, μεταφραστικότητα, αποφυγή bias, ακεραιότητα (fairness), υψηλή ποιότητα δεδομένων για επεξεργασία, ηθικές θεωρήσεις και κατευθύνσεις, αυστηρή αξιολόγηση και έλεγχο, ανθρώπινη επίβλεψη και συνεργασία. Όπως καταλάβατε από αυτά που ακούσατε, θα μπορούσε αυτήν την ομιλία να την είχε φτιάξει το GPT και ίσως καλύτερα από μένα! Κι εγώ απλά να τη διάβαζα!
Η τεχνολογία αυτή τρέχει ασύλληπτα γρήγορα. Κάθε εβδομάδα αναγγέλλεται και μία καινούργια εξέλιξη και επενδύονται δισεκατομμύρια. Έχουν επιστρατευθεί στρατιές ταλαντούχων νέων παιδιών από κάθε γωνιά της Γης και δουλεύουν στα εργαστήρια της Τεχνητής Νοημοσύνης, με τη συμμετοχή ειδικών, με ιατρικό προσανατολισμό. Σύντομα, εξελίξεις και βελτιώσεις θα καθησυχάσουν τις σημερινές ανησυχίες και επιφυλάξεις
ή θα ξεπηδήσουν καινούργιες.
Η Τεχνητή Νοημοσύνη θα μπει για τα καλά στη ζωή μας και καλό θα είναι να προετοιμαστούμε για να την κάνουμε βοηθό μας και όχι αντίπαλο». ■
