Όλοι οι πολιτικοί, Έλληνες
και ξένοι, όσοι είναι στην εξουσία και όσοι δεν είναι, έχουν γύρω τους μια
ομάδα συνεργατών που τους κολακεύει αδιαλείπτως. Έτσι «τυφλώνονται» νοητικά εντελώς,
αδυνατώντας να αντιληφθούν την πραγματικότητα και συνεπώς να λάβουν σωστές ή
διορθωτικές αποφάσεις. Το φαινόμενο σήμερα αναπαράγεται σε πλανητικό επίπεδο
τόσο με τον παραληρηματικό λόγο του Ντόναλντ Τραμπ, όσο και με το φαινόμενο το
οποίο στην επιστήμη των υπολογιστών ονομάζεται "Sycophancy" (Κολακεία
ή Συμμόρφωση).
Ολόκληρη η κυβέρνηση του Ντόναλντ Τραμπ λειτουργεί σαν ένα
κολακευτικό chatbot. Με κάθε ανόητη φράση που βγαίνει από το στόμα του, μια
χορωδία από αυλικούς τιτιβίζει: «Έχεις απόλυτο δίκιο!» Κανείς κοντά του δεν
έχει το θάρρος να τον συγκρατήσει. Το ίδιο συνέβαινε σε κάποιο βαθμό και με τον
Τζο Μπάιντεν, τον οποίο κανένας δεν προστάτευσε ώστε να αποσυρθεί από την
διεκδίκηση μιας δεύτερης θητείας και να εξευτελιστεί. Οι πολιτικοί παντού και
σχεδόν πάντα φροντίζουν να έχουν γύρω τους μια ομάδα «ανθρώπων
που λένε ναι» που τον προστάτευαν από την αρνητική κριτική. Βέβαια οι
ισχυροί ήταν πάντα σε θέση να κατασκευάσουν τις δικές τους πραγματικότητες, να την
διαστρεβλώσουν ή να την παρουσιάζουν όπως εκείνοι θέλουν. Γι’ αυτό οι κάτοχοι
των ΜΜΕ και ειδικά της Τηλεόρασης καθόριζαν την πραγματικότητα και όριζαν την «αλήθεια»
κατά το δοκούν και τα συμφέροντά τους. Σήμερα όμως έχουμε τις τεράστιες μηχανές
Τεχνητής Νοημοσύνης που το κάνουν σε βιομηχανική κλίμακα. Και αυτό είναι άκρως
επικίνδυνο.
Έρευνα που δημοσιεύτηκε στο Lancet
Psychiatry τον Μάρτιο διαπίστωσε ότι τα chatbots μπορούν να
ενθαρρύνουν την παραληρηματική σκέψη, ιδιαίτερα σε άτομα που είναι ήδη ευάλωτα
στην ανάπτυξη ψυχωσικών συμπτωμάτων (δες και Τραμπ). Μια πρόσφατη μελέτη από
επιστήμονες υπολογιστών του Στάνφορντ διαπίστωσε ότι η κολακεία του LLM (Large
Language Model, Μεγάλο Γλωσσικό Μοντέλο, είναι ο αλγόριθμος Τεχνητής Νοημοσύνης
που έχει εκπαιδευτεί σε τεράστιες ποσότητες κειμένου, κατανοεί, επεξεργάζεται και παράγει ανθρώπινο
λόγο με φυσικό τρόπο, λειτουργώντας ουσιαστικά σαν μια πανίσχυρη «μηχανή
γλώσσας») που επειδή συνεχώς κολακεύει τον χρήστη «μπορεί να υπονομεύσει την
ικανότητα των χρηστών για αυτοδιόρθωση και υπεύθυνη λήψη αποφάσεων». Υπάρχει
πιεστική ανάγκη, τονίζει η μελέτη, «να αντιμετωπιστεί η κολακεία της Τεχνητής
Νοημοσύνης ως κοινωνικός κίνδυνος».
Το φαινόμενο της «φούσκας» (διαμόρφωση ομάδων χρηστών με τις
ίδιες θέσεις) και ο φανατισμός είναι αυτονόητο ότι ενισχύονται από το «Έχετε
απόλυτο δίκιο» των chatbots.
Ήδη αναπτύσσεται μια θρησκεία του LLM που αναγκάζει μερικούς από τους πιο ισχυρούς
ανθρώπους στον κόσμο να κατευθύνουν την ενέργεια και τους πόρους τους προς την
οικοδόμηση ενός μετα-ανθρώπινου
μέλλοντος όπου η Τεχνητή Νοημοσύνη θα μας αντικαθιστά αποτελεσματικά,
σημαίνοντας το τέλος του κόσμου όπως τον
ξέρουμε.
«Οι διευθύνοντες σύμβουλοι είναι μοναδικά επιρρεπείς στην
ψύχωση της Τεχνητής Νοημοσύνης», δήλωσε ο Aaron Levie,
συνιδρυτής της εταιρείας επιχειρηματικού cloud Box, στο X τον
περασμένο μήνα. Η συλλογιστική του γι' αυτό; «Βρίσκονται αρκετά μακριά από το
τελευταίο μίλι εργασίας που πρέπει ακόμη να γίνει για να δημιουργηθεί η
μεγαλύτερη αξία με την Τεχνητή Νοημοσύνη. Έτσι, όταν παίζουν με την Τεχνητή
Νοημοσύνη, βλέπουν τα αποτελέσματα της ευτυχούς πορείας, συχνά αγνοώντας τα
επόμενα 10 ή 20 πράγματα που πρέπει να συμβούν για να επιτευχθούν βιώσιμα
αποτελέσματα».
Με άλλα λόγια: Οι διευθύνοντες σύμβουλοι βρίσκονται τόσο
ψηλά στην τροφική αλυσίδα που δεν κατανοούν την ανθρώπινη εργασία που
απαιτείται για να μετατραπεί μια γεμάτη λάθη δημιουργία Τεχνητής Νοημοσύνης σε
κάτι που λειτουργεί σωστά σε ένα επιχειρηματικό πλαίσιο. Επιδιώκουν απεγνωσμένα
να αντικαταστήσουν την ενοχλητική και δαπανηρή ανθρώπινη εργασία τους με
συμβατά μοντέλα Τεχνητής Νοημοσύνης, αλλά υπερεκτιμούν κατάφωρα τις δυνατότητες
της τεχνολογίας. Εν τω μεταξύ, ο κλάδος βιάζεται να παρουσιάσει υπερβολικά
διαφημισμένες λύσεις Τεχνητής Νοημοσύνης χωρίς να τις υποβάλει σωστά σε δοκιμές
αντοχής.
Αυτή η συλλογική ευφορία έχει οδηγήσει σε ορισμένες
προβλέψιμες καταστροφές. Τον Απρίλιο, ένας παράγοντας κωδικοποίησης τεχνητής
νοημοσύνης με την υποστήριξη του Claude της Anthropic τρελάθηκε και
διέγραψε ολόκληρη τη βάση δεδομένων παραγωγής μιας εταιρείας που ονομάζεται
PocketOS, μαζί με τα αντίγραφα ασφαλείας.
Κάποιοι διερωτώνται αν θα μας καταστρέψει η AI. Όχι δεν θα μας καταστρέψει. Οι άνυρωποι που χρησιμοποιούν την AI για να αποκομίσουν κέρδη και εξουσία, αυτοί θα μας καταστρέψουν.