Τα διδάγματα και οι προεκτάσεις στην επικοινωνία
Σε ένα πρωτοφανές πείραμα που φέρνει στο φως τα ευάλωτα σημεία της σύγχρονης τεχνολογίας με σημαντικές προεκτάσεις και στην επικοινωνία, θα επικεντρωθούμε σε αυτό το Novelty Insider. Με αφορμή το podcast από το «Βήμα» και τη συζήτηση με την επιστημονική συντάκτρια της εφημερίδας Θεοδώρας Ν. Τσώλη που ανέδειξε το θέμα, θα δούμε πώς μια ομάδα ερευνητών επινόησαν την ανύπαρκτη ασθένεια «Μπιξονιμάνια» (bixonimania) και πώς κατάφεραν να παραπλανήσουν για πάνω από δύο χρόνια κατά φαντασίαν ασθενείς, ακόμη και την επιστημονική κοινότητα, προκαλώντας μέσω ΑΙ, ιατρική παραπληροφόρηση.
Ας πάρουμε τα πράγματα με τη σειρά. Η «μπιξονιμάνια» μια εντελώς ανύπαρκτη οφθαλμική πάθηση, γεννήθηκε με μοναδικό σκοπό να δοκιμαστούν τα όρια και οι αδυναμίες της AI. Σύμφωνα με το κατασκευασμένο σενάριο των ερευνητών, η «νόσος» προκαλούσε υποτίθεται έντονο πόνο στα μάτια και μαύρους κύκλους, μια κατάσταση που περιγραφόταν επιστημονικά ως περιφερειακή υπερμελάγχρωση, εξαιτίας της υπερβολικής έκθεσης στο μπλε φως των οθονών.
Για να στηθεί η παγίδα, οι ερευνητές προχώρησαν το 2024 στη δημιουργία ψεύτικων επιστημονικών μελετών, υπογεγραμμένων από ανύπαρκτους συγγραφείς (ένας από αυτούς είχε το όνομα ήρωα από τη σειρά The Simpsons), ενώ η πόλη και το πανεπιστήμιο των ερευνητών είχαν επίσης φανταστικό όνομα. Κι αν κάποιος ακόμη δεν είχε αντιληφθεί αυτά τα τρανταχτά παραδείγματα, υπήρχε σε κάποιο σημείο ξεκάθαρη αναφορά ότι η μελέτη αποτελούσε επινόηση και ότι είναι κατασκευασμένη. Ωστόσο, οι μελέτες πληρούσαν τη δομή, τις μεθόδους και τη σοβαρότητα επιστημονικού έργου και ως τέτοιο εκλήφθηκε από το ΑΙ.
Το αποτέλεσμα ήταν εντυπωσιακό όσο και ανησυχητικό: η μεθοδευμένη αυτή παραπλάνηση κατάφερε να εξαπατήσει όχι μόνο τα δημοφιλή chatbots, αλλά και την ίδια την επιστημονική κοινότητα, η οποία σε αρκετές περιπτώσεις αποδέχθηκε τα στοιχεία και τα χρησιμοποίησε ως βιβλιογραφία ή παραπομπή χωρίς επαρκή έλεγχο. Κόσμος άρχισε να πιστεύει ότι παρουσίαζε συμπτώματα και ειδικοί έδιναν συμβουλές αντιμετώπισης της νόσου. Gemini και ChatGPT έδιναν συμβουλές για τη νόσο και παρέπεμπαν σε οφθαλμίατρο.
Αυτό συνεχιζόταν για δύο χρόνια. Όταν αποκαλύφθηκε το πείραμα των ερευνητών και άρχισαν να δημοσιεύονται σχετικά στοιχεία, χρειάστηκε κάποιος χρόνος για να αλλάξουν τα αποτελέσματα στα Chatbots συνεχίζοντας να μολύνουν τις συνειδήσεις μέσω αξιόπιστων πηγών. Ακόμη μέχρι και σήμερα εμφανίζονται συγκεχυμένα αποτελέσματα χωρίς να είναι πάντα ξεκάθαρο ότι οι μελέτες ήταν ψευδείς.
Βασικά συμπεράσματα και προεκτάσεις στην επικοινωνία
- Τα συστήματα ΑΙ μπορούν να οδηγηθούν σε «παραισθήσεις» (hallucinations) και, ως εκ τούτου, να χειραγωγηθούν καθώς και να αναπαράγουν με απόλυτη βεβαιότητα ψευδείς πληροφορίες ως αληθινές, εφόσον τροφοδοτηθούν με καλοστημένα, ψεύτικα δεδομένα.
- Η εποχή που διανύουμε και τα μοντέλα λειτουργίας της ΤΝ ευνοούν τη διασπορά κατασκευασμένων ή ψευδών ειδήσεων.
- Όπως και οι μηχανές έτσι κι οι άνθρωποι διαθέτουν περιορισμένα φίλτρα αξιολόγησης υιοθετώντας έτοιμες πληροφορίες που εκπέμπουν σχετική αληθοφάνεια.
- Είναι επιτακτική η ανάγκη για αποτελεσματικότερα φίλτρα ελέγχου και επαλήθευσης των πληροφοριών από τεχνολογίες ΑΙ, ιδιαίτερα σε ευαίσθητους τομείς όπως αυτός της υγείας.
- Κάθε πληροφορία που υιοθετείται από ΑΙ έχει διάρκεια στο χρόνο και δεν είναι εύκολη η διόρθωση ή η αποκατάσταση της αλήθειας. Χωρίς αποτελεσματική διαχείριση κρίσης, η ζημιά στη δημόσια εικόνα και τη φήμη ενός οργανισμού καθίσταται ανεπανόρθωτη.
- Ο έλεγχος των αποτελεσμάτων που παράγει η ΑΙ είναι (τουλάχιστον στο παρόν στάδιο) εκ των ων ουκ άνευ.
Για τους πιο πάνω λόγους και όχι μόνο, πέρα από την επικοινωνιακή διαχείριση κρίσεων και φήμης, προσφέρουμε στους πελάτες μας την υπηρεσία AI Content Review (Έλεγχος Περιεχομένου Τεχνητής Νοημοσύνης), πρωτίστως για να τους προστατεύσουμε από την παραπληροφόρηση που παράγει η ΑΙ. Η ομάδα μας ελέγχει σχολαστικά τα προσχέδια της τεχνητής νοημοσύνης, βελτιώνοντας τα κείμενα, διασφαλίζοντας γραμματική ακρίβεια και εξαλείφοντας «ρομποτικές» διατυπώσεις. Πέρα από τη γλωσσική επιμέλεια, επαληθεύουμε την ορθότητα των δεδομένων, διασφαλίζοντας εγκυρότητα και αξιοπιστία.
