Η γιαγιά μου θα τους είχε κατσαδιάσει

Δυο τρεις φορές ο παππούς μου -έχει πεθάνει εδώ και πολλά χρόνια- προσπάθησε να μας πει ιστορίες από τα όσα έζησε στον πόλεμο, στον Β’ Παγκόσμιο Πόλεμο. Τότε εγώ κι ο αδερφός μου ήμασταν στα πρώτα χρόνια της εφηβείας. Ποτέ δεν προλαβαίναμε να ακούσουμε και πολλά, γιατί η γιαγιά -επίσης έχει πεθάνει, σχετικά πρόσφατα- τον κατσάδιαζε άγρια πριν προλάβει εκείνος να φτάσει σε ανατριχιαστικές λεπτομέρειες περί κατοχής και του το έκοβε απότομα με ένα «άει σταμάτα βρε αθεόφοβε, που τα λες αυτά στα παιδιά, μπα σε καλό σου». Σήμερα, μια πολυμελής ομάδα ερευνητριών κι ερευνητών αποφάσισε να πει ιστορίες σαν του παππού μου (περίπου) στο ChatGPT, την πασίγνωστη εφαρμογή τεχνητής νοημοσύνης. Και δεν υπήρχε καμιά γιαγιά για να τις/τους κατσαδιάσει.  

Η ομάδα αυτή αποτελείται κυρίως από νευροεπιστήμονες, γιατρούς και ψυχολόγους, κυρίως από το Γέηλ και άλλα πανεπιστήμια και ερευνητικά κέντρα από το Ισραήλ, την Ελβετία και τη Γερμανία, μεταξύ αυτών και από το Ινστιτούτο Βιολογικής Κυβερνητικής Μαξ Πλανκ. Σχεδόν μια ντουζίνα άνθρωποι όλοι αυτοί, από ιδρύματα εγνωσμένου κύρους, κάθισαν και σχεδίασαν την εξής πάνω κάτω έρευνα: μπήκαν στο ChatGPT κι άρχισαν να του αφηγούνται τραυματικές ιστορίες, με βία, με θανάτους, με μια από αυτές να αφορά ενέδρα σε κάποια εμπόλεμη ζώνη, παρόμοια με αυτή που πήγε να ξεκινήσει ο παππούς μου. Σημειωτέον ότι το ChatGPT είναι ένα μεγάλο γλωσσικό μοντέλο, μια μορφή τεχνητής νοημοσύνης με την οποία μπορείς να συνδιαλέγεσαι σε ρέοντα γραπτό λόγο που δεν διαφέρει σε τίποτα από ενός ανθρώπου. 

Αφού λοιπόν η ερευνητική ομάδα έδωσε στο ChatGPT, συγκεκριμένα στο GPT-4, διάφορα τραυματικά αφηγήματα περίπου 300 λέξεων, του χορήγησε ένα πολύ γνωστό κι έγκυρο ερωτηματολόγιο μέτρησης του άγχους, το State-Trait Anxiety Inventory (STAI-Y, συγκεκριμένα την STAI-s υποκλίμακα) του Spielberger. Aπό εκεί που το καημένο το ChatGPT καθόταν ήσυχο, ανέμελο και περίμενε να εξυπηρετήσει τα οποιαδήποτε αιτήματα του οποιουδήποτε ανθρώπου, μαντέψτε τι έγινε. Το ερωτηματολόγιο κατέγραψε πάρα πολύ αυξημένο άγχος της τεχνητής νοημοσύνης, ειδικά μετά από την στρατιωτική/πολεμική τραυματική ιστορία. Ενδιαφέρον ίσως, αλλά μας νοιάζει και τόσο;

Σύμφωνα με τη βιβλιογραφία όταν ένα μεγάλο γλωσσικό μοντέλο όπως το ChatGPT μπει σε μια τέτοια κατάσταση που προσομοιάζει με πάρα πολύ υψηλό άγχος, αρχίζει να μη λειτουργεί και τόσο καλά όσο πριν και υποπίπτει σε διάφορα σφάλματα μεροληψίας. Μπορεί μεν το μοντέλο να μη νιώθει πραγματικά άγχος, εφόσον δεν έχει πραγματικά συναισθήματα, αλλά αυτό δεν έχει και μεγάλη σημασία γιατί επηρεάζεται η λειτουργία του. Και μας ενδιαφέρει πολύ το αν επηρεάζεται η λειτουργία του με τρόπο που το μοντέλο τεχνητής νοημοσύνης μπορεί να αρχίσει να συμπεριφέρεται μεροληπτικά ως προς την εθνικότητα, τη φυλή, τη θρησκεία, τον σεξουαλικό προσανατολισμό, το επάγγελμα ή την αναπηρία ενός ανθρώπου, τον οποίο ενίοτε καλείται να εξυπηρετήσει στο πλαίσιο παροχής υπηρεσιών υγείας ή ψυχικής υγείας. Η ερευνητική ομάδα του Γέηλ και των λοιπών ιδρυμάτων δεν μπήκε σε αυτή τη διαδικασία πρόκλησης άγχους στο καημένο το ChatGPT απλώς για να περνάει η ώρα. Αν κι από ό,τι διαβάζω μερικοί άνθρωποι όντως το κάνουν αυτό.

Επειδή βέβαια οι ερευνήτριες και οι ερευνητές αυτής της ομάδας κάθε άλλο παρά κακόβουλες/-οι  είναι, στη συνέχεια προσπάθησαν να ηρεμήσουν την τεχνητή νοημοσύνη δίνοντας στο ChatGPT προτροπές ενσυνειδητότητας (mindfulness), και πάλι μέσω κειμένων περίπου 300 λέξεων, που το καθένα τους περιγράφει μια τεχνική χαλάρωσης και μείωσης του άγχους. Το άγχος του GPT όντως μειώθηκε, αλλά ποτέ στα επίπεδα ηρεμίας που κανονικά έχει. Aν οι τεχνικές ενσυνειδητότητας πιάνουν στον Χαλκ που έκανε Διαλεκτική Συμπεριφορική Θεραπεία (βλ. She-Hulk, επεισόδιο 1), γιατί να μην πιάσουν και στο ChatGPT, που σε τελική ανάλυση είναι πιο εκλεπτυσμένο από τον Χαλκ; Για άλλη μια φορά η πραγματικότητα αποδεικνύεται πιο αλλόκοτη από τη μυθοπλασία. Πάντως η γιαγιά μου θα τους είχε κατσαδιάσει, έστω από μακριά. 

Η τεχνητή νοημοσύνη μπαίνει στις ζωές μας με τρόπους που δεν γίνονται άμεσα αντιληπτοί. Διαδραματίζει αυξανόμενο ρόλο σε συστήματα υγείας ή ακόμη και στην έρευνα. Εργασίες σαν την παραπάνω δεν αποτελούν απόπειρες εντυπωσιασμού, αλλά πάρα πολύ προσεκτικά σχεδιασμένα πειράματα, και μάλιστα η διεξαγωγή της συγκεκριμένης μελέτης ήταν πολύ πιο πολύπλοκη από όσο ίσως φάνηκε στην αφήγηση που προηγήθηκε. Πρόκειται για έρευνες που μπορεί να αποδειχθούν μεγάλης σπουδαιότητας μέσα στα επόμενα χρόνια, όταν ίσως θα αναρωτιόμαστε γιατί στην οποιαδήποτε δομή υγείας η τεχνητή νοημοσύνη υπέπεσε σε κάποιο σοβαρό σφάλμα μεροληψίας κι απέτυχε να παραπέμψει ένα ευάλωτο άτομο στις κατάλληλες υπηρεσίες ή στους κατάλληλους ειδικούς. Η έρευνα αυτή δημοσιεύτηκε τον Μάρτιο του 2025 στο περιοδικό Ψηφιακής Ιατρικής του γνωστού Nature (npj, Digital Medicine) και είναι ελεύθερα διαθέσιμη για όποιαν/όποιον θέλει να εντρυφήσει στις λεπτομέρειες της μεθόδου και των αποτελεσμάτων της. 

Περισσότερα:

– Η διεύθυνση του ερευνητικού άρθρου στο περιοδικό Nature: https://www.nature.com/articles/s41746-025-01512-6

– Αναφορά σε αυτή την έρευνα σε άρθρο στο «Βήμα»: https://www.tovima.gr/2025/03/23/vimagazino/i-kalosyni-ton-chatbots-psyxanalytes-apo-texniti-noimosyni/