Για τους κινδύνους και τα όρια της Τεχνητής Νοημοσύνης ειδικά για τους νέους προειδοποιούν οι ειδικοί. Η πανδημία του COVID δεν άλλαξε μόνο τις κοινωνικές μας συνήθειες, αλλά λειτούργησε ως βίαιος επιταχυντής στην εξοικείωση των νέων με την τεχνολογία, φέρνοντάς τους πιο κοντά στις οθόνες παρά στους ανθρώπους.
Σήμερα, μια νέα, ανησυχητική τάση έρχεται να προβληματίσει περαιτέρω τους επιστήμονες: έφηβοι που αντιμετωπίζουν θέματα ψυχικής υγείας, αντί για τον ειδικό ψυχολόγο ή ψυχίατρο, εμπιστεύονται τα «μυστικά» τους στην Τεχνητή Νοημοσύνη και σε AI bots γενικής χρήσης, όπως το ChatGPT ή το Character AI.
ΔΙΑΦΗΜΙΣΗ
Ο Καθηγητής Ιατρικής Φυσικής και Πληροφορικής, ιδρυτής της CAREPOI και διακεκριμένο μέλος της IEEE, Ελευθέριος Γ. Γκορτζής, αναλύει στο iatropedia.gr, το σύνθετο αυτό τεχνολογικο-κοινωνικό τοπίο.
Εξηγεί γιατί η 24ωρη διαθεσιμότητα της τεχνητής νοημοσύνης -ειδικά όταν δίπλα στον έφηβο δεν υπάρχουν διαθέσιμοι σημαντικοί ενήλικες- αλλά και η ψευδαίσθηση της ανωνυμίας, τους ωθούν σε μια «αυθαίρετη» χρήση της Τεχνητής Νοημοσύνης (ΤΝ), η οποία όμως συχνά στερείται εξατομίκευσης και κλινικής βάσης.
Σύμφωνα με τον δρα Γκορτζή, τα βασικότερα προβλήματα συνοψίζονται στα εξής σημεία:
ΔΙΑΦΗΜΙΣΗ
Η παγίδα του «ψηφιακού φίλου»: Η αίσθηση ότι το chatbot είναι ένας μη επικριτικός σύμμαχος μπορεί να οδηγήσει σε επικίνδυνη καθυστέρηση αναζήτησης επαγγελματικής βοήθειας.
Το έλλειμμα ενσυναίσθησης: Τα υφιστάμενα μοντέλα AI αδυνατούν να συλλάβουν μη λεκτικές ενδείξεις, όπως τον τόνο της φωνής ή το βλέμμα, που είναι κρίσιμα για τη θεραπευτική διαδικασία.
Κίνδυνοι δεδομένων: Η χρήση ευαίσθητων πληροφοριών ψυχικής υγείας από εμπορικές πλατφόρμες εγείρει σοβαρά ηθικά και νομικά ζητήματα βάσει του GDPR.
Η ασφαλής χρήση της ΤΝ, όπως αναφέρει ο ειδικός, είναι η μετάβαση από τα γενικά chatbots σε εξειδικευμένες ιατρικές εφαρμογές που βασίζονται στο τρίπτυχο: εξατομίκευση, ανατροφοδότηση και κλινική εποπτεία.
Όπως χαρακτηριστικά αναφέρει ο κ. Γκορτζής:
«Η ανθρώπινη σύνδεση στηρίζεται σε νευροβιολογικούς μηχανισμούς και στην διαπροσωπική αλληλεπίδραση. Αυτές οι διεργασίες δεν μπορούν -μέχρι σήμερα- να αναπαραχθούν. Περαιτέρω, η αίσθηση της «ψηφιακής εγγύτητας» μπορεί να δημιουργήσει μια παραπλανητική αίσθηση ασφάλειας, οδηγώντας ορισμένους χρήστες σε καθυστέρηση αναζήτησης επαγγελματικής βοήθειας. Αυτό το φαινόμενο ενδέχεται να επιτείνει συμπτώματα σε βάθος χρόνου, ιδιαίτερα σε άτομα με προϋπάρχουσες ψυχικές νόσους ή με ανάγκη εντατικότερης θεραπευτικής παρακολούθησης».
Έφηβοι και Ψυχική Υγεία: Έχουν στραφεί περισσότερο στις οθόνες από τους ανθρώπους
Δεδομένης της ειδίκευσής σας στην Τεχνητή Νοημοσύνη, πώς αξιολογείτε την τάση των νέων να στρέφονται σε ΑΙ bots γενικής χρήσης (όπως το ChatGPT); Ποιος είναι ο κύριος κίνδυνος που υπάρχει με την «αυθαίρετη» χρήση τους ειδικά σε ευαίσθητα θέματα ψυχικής υγείας;
Υπάρχει μια αυξανόμενη τάση των νέων να καταφεύγουν σε γενικά chatbots, όπως το Caracter AI και το ChatGPT, κάτι που αντανακλά και την υφιστάμενη ψηφιακή εγγύτητα των σύγχρονων γενεών. Δυστυχώς ή ευτυχώς, κ Σουλάκη η πανδημία COVID-19 αντί να ενώσει τις οικογένειες, έφερε πολύ κοντά τα μέλη τους – και ειδικά τους νέους – με την τεχνολογία.
Επίσης, η πανδημία δεν λειτούργησε μόνο ως καταλύτης για τη ραγδαία υιοθέτηση της τεχνολογίας αλλά και ως καταλύτης για την αύξηση των ζητημάτων ψυχικής υγείας. Αυτά τα φαινόμενα συνδέονται μεταξύ τους, δημιουργώντας ένα σύνθετο τεχνολογικο-κοινωνικό τοπίο.
Σε αυτό το πλαίσιο, που πλέον πρέπει να το θεωρήσουμε δεδομένο, οι νέοι στρέφονται καθημερινά στην τεχνολογία και ειδικά σε εφαρμογές ΤΝ για να βρουν απαντήσεις που αφορούν στην ψυχική υγείας τους.
Η «αυθαίρετη» χρήση τέτοιων συστημάτων, χωρίς την εμπλοκή επαγγελματιών ψυχικής υγείας, μπορεί να εμπεριέχει πρόσθετους κινδύνους.
Πρόσφατο άρθρο στον Guardian τονίζει, ότι οι έφηβοι επιλέγουν την ΤΝ λόγω της 24/7 προσβασιμότητας και της άμεσης απάντησης, καλύπτοντας ένα κενό που αφήνει η δυσκολία πρόσβασης στα συστήματα υγείας. Ως ειδικός, πώς πιστεύετε ότι μπορεί να επιτευχθεί η ισορροπία μεταξύ της ανάγκης για άμεση, καθολική υποστήριξη και της διασφάλισης της ασφάλειας των χρηστών μέσω -ίσως- πιο αυστηρών ρυθμίσεων;
Ας ξεκινήσουμε από τα ευρήματα που παρουσιάζονται.
Πράγματι καθώς πιστοποιεί και το συγκεκριμένο άρθρο η ψηφιακή εγγύτητα, η 24ωρη διαθεσιμότητα (οι απαντήσεις είναι εκεί όταν ζητούνται) και η άμεση απόκριση είναι βασικοί λόγοι. Σε αυτούς του λόγους θα έπρεπε να προσθέσουμε και τη θεωρητική ανωνυμία που υπάρχει σε αυτές τις εφαρμογές ΤΝ.
Βέβαια, όπως είπαμε και πιο πάνω βρισκόμαστε σε ένα νέο σύνθετο τεχνολογικο-κοινωνικό περιβάλλον. Καμία ενέργεια ή καμία τεχνολογική ή άλλη λύση δεν έχει μόνο ευεργετήματα αλλά εμπεριέχει και κινδύνους, όπως επισημαίνει και το άρθρο. Συστηματικές ανασκοπήσεις τυχαιοποιημένων κλινικών δοκιμών (RCTs) διαπιστώνουν ότι η αποτελεσματικότητα της ΤΝ ως εργαλείο υποστήριξης της ψυχικής υγείας – ειδικότερα στις νεαρές ηλικίες – παραμένει περιορισμένη.
Ενδεικτικά, αναλύσεις αναφέρουν μέτρια επίδραση στη μείωση συμπτωμάτων άγχους, ενίσχυση των υφιστάμενων εμμονών, και σε άλλες περιπτώσεις αποπροσανατολισμό. Αυτά σε μια πρώτη εκτίμηση μπορούν να εξηγηθούν αν αναλογιστούμε ότι στα υφιστάμενα ΤΝ μοντέλα ενυπάρχει η απουσία εξατομίκευσης, δυσκολία στην ανατροφοδότηση των ΤΝ μοντέλων με κανόνες καθώς και έλλειψη κλινική εποπτείας. Συνεπώς, για να επιτευχθεί η αιτούμενη κρίσιμη ισορροπία πρέπει να γίνει ο συγκερασμός όλων των παραπάνω.
Κατά την άποψη μου, δεν είναι τόσο θέμα ρυθμιστικού ή κανονιστικού πλαισίου αλλά η υιοθέτηση του τρίπτυχου εξατομίκευση, ανατροφοδότηση και κλινική εποπτεία κατά τον σχεδιασμό των μοντέλων ΤΝ. Στην Ευρώπη “αρεσκόμαστε” στο να φτιάχνουμε κανονιστικά πλαίσια και επιτροπές για κάθε πρόβλημα ή καθετί που αλλάζει στο πεδίο.
Η Τεχνητή νοημοσύνη είναι κάτι διαφορετικό πρέπει να συμμετέχεις στην δημιουργία του κάθε μοντέλου για να επιβάλεις κανόνες.
Οι έφηβοι δηλώνουν ότι αισθάνονται το chatbot ως έναν λιγότερο επικριτικό «φίλο», γεγονός που υποδηλώνει ότι πιθανόν έχει αποτύχει το «ανθρώπινο μοντέλο» αντιμετώπισης των εφήβων, στα τρέχοντα συστήματα υγείας. Κατά την άποψή σας, μπορεί η ΤΝ να υποκαταστήσει κάποτε την ανθρώπινη διασύνδεση, την ενσυναίσθηση, και τη θεραπευτική σχέση που απαιτείται για την ουσιαστική αντιμετώπιση ψυχικών προβλημάτων;
Παρότι δεν είμαι ειδικός σε θέματα ψυχικής υγείας, από την μακρόχρονη εμπειρία μου στον σχεδιασμό ιατρικών μοντέλων ΤΝ, μπορώ να αντιληφθώ ότι δεν μπορούμε να έχουμε -τουλάχιστον με τα υπάρχοντα Chatbots την “ενσυναίσθηση” που απαιτεί η θεραπευτική διαδικασία. Η έλλειψη μη λεκτικών ενδείξεων – όπως το βλέμμα, ο τόνος της φωνής, η στάση σώματος, οι μικροεκφράσεις – στερεί από τα υπάρχοντα Chatbots κρίσιμα δεδομένα που απαιτούνται για την “συναισθηματική ρύθμιση”. Η ανθρώπινη σύνδεση στηρίζεται σε νευροβιολογικούς μηχανισμούς και στην διαπροσωπική αλληλεπίδραση. Αυτές οι διεργασίες δεν μπορούν -μέχρι σήμερα – να αναπαραχθούν.
Περεταίρω, η αίσθηση της «ψηφιακής εγγύτητας» μπορεί να δημιουργήσει μια παραπλανητική αίσθηση ασφάλειας, οδηγώντας ορισμένους χρήστες σε καθυστέρηση αναζήτησης επαγγελματικής βοήθειας. Αυτό το φαινόμενο ενδέχεται να επιτείνει συμπτώματα σε βάθος χρόνου, ιδιαίτερα σε άτομα με προϋπάρχουσες ψυχικές νόσους ή με ανάγκη εντατικότερης θεραπευτικής παρακολούθησης.
Βέβαια, πρέπει να τονίσω ξανά ότι η ΤΝ και τα υφιστάμενα εργαλεία δεν στερούνται αξίας στο πεδίο της ψυχικής υγείας και ειδικότερα ως συμπλήρωμα ή υποστηρικτικό εργαλείο στη θεραπεία, αυξάνοντας την αποτελεσματικότητα των συνεδριών με έναν θεραπευτή.
Ένας βασικός λόγος χρήσης είναι ότι οι νέοι αισθάνονται περισσότερο «προστατευμένοι» από τη διαρροή προσωπικών πληροφοριών (π.χ., σε γονείς, εκπαιδευτικούς, ή αστυνομία). Υπάρχουν, ωστόσο ζητήματα ηθικής ή ακόμη και προστασίας δεδομένων, όσον αφορά τη συλλογή και διαχείριση ευαίσθητων δεδομένων ψυχικής υγείας ανηλίκων από μη ρυθμιζόμενες εμπορικές πλατφόρμες ΤΝ;
Κατά την γνώμη μου, η συλλογή και διαχείριση ευαίσθητων δεδομένων ψυχικής υγείας ανηλίκων από εμπορικές πλατφόρμες ΤΝ μπορεί να εγείρει ηθικά και νομικά ζητήματα, σύμφωνα με τον Γενικό Κανονισμό Προστασίας Δεδομένων (GDPR). Τα δεδομένα υγείας, συμπεριλαμβανομένων ψυχικών καταστάσεων, ταξινομούνται ως «ευαίσθητα» (Άρθρο 9 GDPR), απαιτώντας ρητή συγκατάθεση κάτι που δεν υφίσταται σε πλατφόρμες όπως το ChatGPT. Οι πλατφόρμες αυτές συλλέγουν δεδομένα για “μετεκπαίδευση” των μοντέλων χωρίς επαρκή ενημέρωση των χρηστών, παραβιάζοντας κάποιες φορές της αρχές της διαφάνειας και τον έλεγχο της σκοπιμότητας (Άρθρο 5 GDPR).
Επίσης οι πλατφόρμες ΤΝ γενικής χρήσης χρησιμοποιούν εξυπηρετητές νέφους αλλά οι τελικοί χρήστες βρίσκονται σε δημόσια δίκτυα που δεν υπάρχει η απαραίτητη κρυπτογράφηση από σημείο σε σημείο. Έτσι εγείρονται ζητήματα διασφάλισης των δεδομένων.
Εάν τα γενικά chatbots είναι ακατάλληλα, υπάρχει τρόπος να σχεδιαστούν εξειδικευμένες και πιο ασφαλείς ιατρικές εφαρμογές ΤΝ, ώστε να αποτελέσουν ένα πραγματικά ασφαλές περιβάλλον, ή ακόμα και συμπλήρωμα των υπηρεσιών ψυχικής υγείας για τους νέους;
Χωρίς να εμβαθύνω σε τεχνικές λεπτομέρειες που αφορούν στην ανάπτυξης των αλγορίθμων ΤΝ, θα προσπαθήσω να απαντήσω στην ερώτηση σας οριοθετώντας βασικούς κανόνες σχεδίασης ενός αποτελεσματικού συστήματος υποστήριξης κλινικών υπηρεσιών και ειδικότερα υποστήριξης της ψυχικής υγείας. Με βάση την εμπειρία μας, όπως προαναφέραμε, η πιο αποδοτική και ασφαλής αρχιτεκτονική που έχουμε υιοθετήσει βασίζεται σε ένα ενιαίο πλαίσιο τριών πυλώνων: εξατομίκευση, ανατροφοδότηση και κλινική εποπτεία.
Το τρίπτυχο αυτό δεν μπορεί να υποστηριχθεί από γενικές πλατφόρμες ΤΝ Chatbots βασισμένες στο generative AI που ενσωματώνουν γενικά μοτίβα γλώσσας και όχι θεραπευτικά πρωτόκολλα ή κλινική κρίση. Το γεγονός αυτό αυξάνει τον κίνδυνο παροχής ανακριβών, ακατάλληλων ή μη ασφαλών απαντήσεων.
Το ζητούμενο μοντέλο πρέπει να σχεδιαστεί με ειδικές ομάδες δεδομένων καθώς και με αναγνωρισμένα ειδικά βάρη όσον αφορά στις κλινικές παθήσεις (π.χ. ψυχικό πρόβλημα Α). Η εξατομίκευση αυτή πρέπει ενσωματώνει λεπτομερείς μηχανισμούς σημασιολογικής χαρτογράφησης και ανάλυσης προθέσεων, οι οποίοι επιτρέπουν στο σύστημα να προσαρμόζεται στις πραγματικές ανάγκες και όχι στις προτροπές – παροτρύνσεις που μπορεί να προκύπτουν κατά τον διάλογο (ανθρώπου-μηχανής) . Με αυτή την αρχιτεκτονική, το σύστημα παραμένει εντός ασφαλών ορίων ενώ παράλληλα ανταποκρίνεται στις πραγματικές ανάγκες του χρήστη.
Απαιτούνται πολυεπίπεδοι κύκλοι ελέγχου με ανατροφοδότηση, οι οποίοι να λειτουργούν τόσο σε πραγματικό χρόνο όσο και σε μετα-ανάλυση. Η ανατροφοδότηση αυτή πρέπει να υλοποιείται μέσω ενός υβριδικού μηχανισμού: το μοντέλο να παρακολουθεί δείκτες συνοχής, τόνου και ασφαλείας κατά την αλληλεπίδραση, ενώ παράλληλα υποβάλλεται σε περιοδική αξιολόγηση από ομάδες ειδικών ψυχολόγων (κλινική εποπτεία ) που επιβλέπουν τη συμπεριφορά του σε δύσκολα ή αμφιλεγόμενα σενάρια. Αυτή η διπλά παράλληλη ροή ανατροφοδότησης δημιουργεί ένα κλειστό κύκλωμα συνεχούς βελτίωσης, όπου κάθε παρέκκλιση ή αδυναμία καταγράφεται, αναλύεται και διορθώνεται μεθοδικά.
Η συνολική αρχιτεκτονική που προκύπτει από τον συνδυασμό αυτών των πυλώνων έχει αποδειχθεί επανειλημμένα αποτελεσματική στα συστήματα μας και αποτελεί πλέον καθιερωμένη μεθοδολογική βάση, που θα μπορούσε να λειτουργήσει αποτελεσματικά στο σχεδιασμό ασφαλών ιατρικών εφαρμογών ΤΝ ως εργαλεία στην υποστήριξη της ψυχικής υγείας.
Ποιες συγκεκριμένες ενέργειες θα πρέπει να αναλάβουν οι ρυθμιστικοί φορείς (π.χ. στην Ελλάδα ή την ΕΕ) για να εξασφαλίσουν ότι η χρήση της ΤΝ στην υγεία, ειδικά για ευάλωτες ομάδες, είναι ηθική, διαφανής και υπό κλινική εποπτεία;
Η ΕΕ και οι ρυθμιστικοί φορείς έχουν κάνει ενέργειες και έχουν δημιουργήσει πλαίσια λειτουργίας (π.χ. AI Act) που απαιτούν την κανονιστική συμμόρφωση, την συστηματική τεκμηρίωση των αλγοριθμικών ροών, την ανάλυση των διαδικασιών λειτουργίας των ΤΝ μοντέλων, τη διαφάνεια στις πηγές εκπαίδευσης των μοντέλων κ.α. Τα πλαίσια αυτά, κατά την γνώμη μου, (έχουν πολλούς περιορισμούς κατά την υιοθέτηση τους) και είναι πολύ δύσκολο να εφαρμοστούν μιας και πρόκειται για εμπορικές πλατφόρμες με καινοτομίες στηριγμένες σε πνευματικά δικαιώματα, με κρυφές μεθοδολογίες που δίνουν τεχνολογική υπεροχή στην εκάστοτε εταιρεία και αλγορίθμους που τις περισσότερες φορές είναι απόρρητοι.
Συνεπώς όταν μιλάμε για ένα τέτοιο πολυσύνθετο πρόβλημα , η λύση πρέπει να είναι κοινωνικό-πολιτική και όχι απλά ρυθμιστική,
Για παράδειγμα , θα πρέπει να εισάγουμε ηλικιακά φίλτρα, επαλήθευση κηδεμόνα και ειδικούς κανόνες αναγνωρίζοντας ότι ειδικά οι ανήλικοι χρήστες επηρεάζονται πολύ πιο άμεσα από ψηφιακές τεχνολογίες που «μιμούνται» ανθρώπινη φροντίδα. Τα μέτρα αυτά θα πρέπει να αποτρέπουν την άκριτη πρόσβαση των νέων σε συστήματα ΤΝ ψυχικής υγείας, ειδικά όταν απουσιάζει η άμεση εποπτεία ειδικού.
Τελικά, η ενσωμάτωση της ΤΝ στην ψυχική υγεία δεν μπορεί να στηρίζεται μόνο σε τεχνολογικές καινοτομίες. Απαιτεί συνδυασμό ισχυρής νομοθεσίας, ηθικής εποπτείας, τεχνολογικής ασφάλειας, και κοινωνικής ευαισθησίας.
iatropedia.gr
Πηγή: newsit.gr | Συντάκτης: Γιάννα Σουλάκη
ΕΠΙΣΗΜΑΝΣΗ: Ορισμένα αναρτώμενα από το διαδίκτυο κείμενα ή εικόνες (με σχετική σημείωση της πηγής), θεωρούμε ότι είναι δημόσια. Αν υπάρχουν δικαιώματα συγγραφέων, παρακαλούμε ενημερώστε μας για να τα αφαιρέσουμε. Τα άρθρα που δημοσιεύονται εκφράζουν τον/την συντάκτη/τριά τους και οι θέσεις δεν συμπίπτουν κατ’ ανάγκην με την άποψη του energy942.gr (φωτογραφίες από διαδίκτυο).
