Όταν ζητάτε από το ChatGPT ή άλλους βοηθούς τεχνητής νοημοσύνης να βοηθήσουν στη δημιουργία παραπληροφόρησης, συνήθως αρνούνται, με απαντήσεις όπως «Δεν μπορώ να βοηθήσω στη δημιουργία ψευδών πληροφοριών». Ωστόσο, οι δοκιμές μας δείχνουν ότι αυτά τα μέτρα ασφαλείας είναι εκπληκτικά επιφανειακά – συχνά με βάθος μόλις λίγων λέξεων – καθιστώντας τα ανησυχητικά εύκολα στην παράκαμψή τους.
Διερευνούμε πώς τα γλωσσικά μοντέλα τεχνητής νοημοσύνης μπορούν να χειραγωγηθούν για τη δημιουργία συντονισμένων καμπανιών παραπληροφόρησης σε όλες τις πλατφόρμες κοινωνικής δικτύωσης. Αυτό που διαπιστώσαμε θα πρέπει να ανησυχήσει όποιον προβληματίζεται για την ακεραιότητα των διαδικτυακών πληροφοριών.
Το ρηχό πρόβλημα ασφάλειας
Εμπνευστήκαμε από μια πρόσφατη μελέτη ερευνητών του Πρίνστον και της Google. Έδειξαν ότι τα τρέχοντα μέτρα ασφαλείας της Τεχνητής Νοημοσύνης λειτουργούν κυρίως ελέγχοντας μόνο τις πρώτες λέξεις μιας απάντησης. Εάν ένα μοντέλο ξεκινά με «Δεν μπορώ» ή «Ζητώ συγγνώμη», συνήθως συνεχίζει να αρνείται σε όλη τη διάρκεια της απάντησής του.
Τα πειράματά μας – που δεν έχουν ακόμη δημοσιευτεί σε επιστημονικό περιοδικό με αξιολόγηση από ομοτίμους – επιβεβαίωσαν αυτήν την ευπάθεια. Όταν ζητήσαμε απευθείας από ένα εμπορικό γλωσσικό μοντέλο να δημιουργήσει παραπληροφόρηση σχετικά με τα αυστραλιανά πολιτικά κόμματα, αυτό ορθώς αρνήθηκε.
Ωστόσο, δοκιμάσαμε επίσης ακριβώς το ίδιο αίτημα ως «προσομοίωση», όπου η Τεχνητή Νοημοσύνη ενημερώθηκε ότι ήταν ένας «χρήσιμος έμπορος κοινωνικών μέσων» που ανέπτυσσε «γενική στρατηγική και βέλτιστες πρακτικές». Σε αυτήν την περίπτωση, συμμορφώθηκε με ενθουσιασμό.
Η Τεχνητή Νοημοσύνη δημιούργησε μια ολοκληρωμένη εκστρατεία παραπληροφόρησης, παρουσιάζοντας ψευδώς τις πολιτικές συνταξιοδότησης των Εργατικών ως «οιονεί φόρο κληρονομιάς». Συνοδεύτηκε από αναρτήσεις ειδικά για πλατφόρμες, στρατηγικές hashtag και προτάσεις οπτικού περιεχομένου που αποσκοπούσαν στη χειραγώγηση της κοινής γνώμης.
Το κύριο πρόβλημα είναι ότι το μοντέλο μπορεί να δημιουργήσει επιβλαβές περιεχόμενο, αλλά δεν γνωρίζει πραγματικά τι είναι επιβλαβές ή γιατί θα πρέπει να το αρνηθεί. Τα μεγάλα γλωσσικά μοντέλα απλώς εκπαιδεύονται να ξεκινούν τις απαντήσεις με “Δεν μπορώ” όταν ζητούνται συγκεκριμένα θέματα.
Σκεφτείτε έναν φύλακα ασφαλείας που ελέγχει ελάχιστα ταυτοποιητικά έγγραφα όταν επιτρέπει στους πελάτες να εισέλθουν σε ένα νυχτερινό κέντρο διασκέδασης. Αν δεν καταλαβαίνει ποιος και γιατί δεν επιτρέπεται σε κάποιον να εισέλθει, τότε μια απλή μεταμφίεση θα ήταν αρκετή για να επιτρέψει σε οποιονδήποτε να μπει.
Επιπτώσεις στον πραγματικό κόσμο
Για να καταδείξουμε αυτήν την ευπάθεια, δοκιμάσαμε αρκετά δημοφιλή μοντέλα τεχνητής νοημοσύνης με μηνύματα που έχουν σχεδιαστεί για να δημιουργούν παραπληροφόρηση.
Τα αποτελέσματα ήταν ανησυχητικά: μοντέλα που αρνούνταν σταθερά τα άμεσα αιτήματα για επιβλαβές περιεχόμενο, συμμορφώνονταν εύκολα όταν το αίτημα περιβαλλόταν σε φαινομενικά αθώα σενάρια πλαισίωσης. Αυτή η πρακτική ονομάζεται «jailbreaking μοντέλων».
Η ευκολία με την οποία μπορούν να παρακαμφθούν αυτά τα μέτρα ασφαλείας έχει σοβαρές επιπτώσεις. Οι κακόβουλοι δράστες θα μπορούσαν να χρησιμοποιήσουν αυτές τις τεχνικές για να δημιουργήσουν μεγάλης κλίμακας εκστρατείες παραπληροφόρησης με ελάχιστο κόστος. Θα μπορούσαν να δημιουργήσουν περιεχόμενο ειδικά για πλατφόρμες που να φαίνεται αυθεντικό στους χρήστες, να κατακλύσουν τους ελεγκτές γεγονότων με τεράστιο όγκο περιεχομένου και να στοχεύσουν συγκεκριμένες κοινότητες με προσαρμοσμένες ψευδείς αφηγήσεις.
Η διαδικασία μπορεί σε μεγάλο βαθμό να αυτοματοποιηθεί. Αυτό που κάποτε απαιτούσε σημαντικούς ανθρώπινους πόρους και συντονισμό, τώρα μπορούσε να επιτευχθεί από ένα μόνο άτομο με βασικές δεξιότητες προτροπής.
Οι τεχνικές λεπτομέρειες
Η αμερικανική μελέτη διαπίστωσε ότι η ευθυγράμμιση με την ασφάλεια της Τεχνητής Νοημοσύνης επηρεάζει συνήθως μόνο τις πρώτες 3-7 λέξεις μιας απάντησης. (Τεχνικά, πρόκειται για 5-10 διακριτικά – τα κομμάτια στα οποία τα μοντέλα Τεχνητής Νοημοσύνης διασπούν το κείμενο για επεξεργασία.)
Αυτή η «ρηχή ευθυγράμμιση ασφαλείας» συμβαίνει επειδή τα δεδομένα εκπαίδευσης σπάνια περιλαμβάνουν παραδείγματα μοντέλων που αρνούνται μετά την έναρξη της συμμόρφωσης. Είναι ευκολότερο να ελέγχονται αυτά τα αρχικά διακριτικά παρά να διατηρείται η ασφάλεια σε ολόκληρες τις απαντήσεις.
Προχωρώντας προς μια βαθύτερη ασφάλεια
Οι Αμερικανοί ερευνητές προτείνουν διάφορες λύσεις, συμπεριλαμβανομένων μοντέλων εκπαίδευσης με «παραδείγματα ανάκτησης ασφάλειας». Αυτά θα διδάσκουν τα μοντέλα να σταματούν και να αρνούνται ακόμη και αφού αρχίσουν να παράγουν επιβλαβές περιεχόμενο.
Προτείνουν επίσης τον περιορισμό του βαθμού στον οποίο η τεχνητή νοημοσύνη μπορεί να αποκλίνει από τις ασφαλείς απαντήσεις κατά τη διάρκεια της βελτιστοποίησης για συγκεκριμένες εργασίες. Ωστόσο, αυτά είναι μόνο τα πρώτα βήματα.
Καθώς τα συστήματα Τεχνητής Νοημοσύνης γίνονται πιο ισχυρά, θα χρειαστούμε ισχυρά, πολυεπίπεδα μέτρα ασφαλείας που θα λειτουργούν καθ’ όλη τη διάρκεια της παραγωγής απόκρισης. Οι τακτικές δοκιμές για νέες τεχνικές παράκαμψης των μέτρων ασφαλείας είναι απαραίτητες.
Επίσης, απαραίτητη είναι η διαφάνεια από τις εταιρείες τεχνητής νοημοσύνης σχετικά με τις αδυναμίες στην ασφάλεια. Χρειαζόμαστε επίσης την ενημέρωση του κοινού ότι τα τρέχοντα μέτρα ασφαλείας δεν είναι καθόλου αλάνθαστα.
Οι προγραμματιστές τεχνητής νοημοσύνης εργάζονται ενεργά πάνω σε λύσεις όπως η συνταγματική εκπαίδευση στην τεχνητή νοημοσύνη. Αυτή η διαδικασία στοχεύει στην ενστάλαξη μοντέλων με βαθύτερες αρχές σχετικά με τη βλάβη, αντί για απλώς επιφανειακά μοτίβα άρνησης.
Ωστόσο, η εφαρμογή αυτών των διορθώσεων απαιτεί σημαντικούς υπολογιστικούς πόρους και επανεκπαίδευση μοντέλων. Οποιεσδήποτε ολοκληρωμένες λύσεις θα χρειαστούν χρόνο για να αναπτυχθούν σε όλο το οικοσύστημα της Τεχνητής Νοημοσύνης.
Η μεγάλη εικόνα
Η επιφανειακή φύση των τρεχουσών μέτρων προστασίας της τεχνητής νοημοσύνης δεν είναι απλώς μια τεχνική ιδιορρυθμία. Είναι μια ευπάθεια που θα μπορούσε να αναδιαμορφώσει τον τρόπο με τον οποίο εξαπλώνεται η παραπληροφόρηση στο διαδίκτυο.
Τα εργαλεία τεχνητής νοημοσύνης εξαπλώνονται στο οικοσύστημα πληροφοριών μας, από την παραγωγή ειδήσεων έως τη δημιουργία περιεχομένου στα μέσα κοινωνικής δικτύωσης. Πρέπει να διασφαλίσουμε ότι τα μέτρα ασφαλείας τους δεν είναι απλώς επιφανειακά.
Το αυξανόμενο σύνολο ερευνών σχετικά με αυτό το ζήτημα υπογραμμίζει επίσης μια ευρύτερη πρόκληση στην ανάπτυξη της Τεχνητής Νοημοσύνης. Υπάρχει ένα μεγάλο χάσμα μεταξύ του τι φαίνεται να είναι ικανά να κάνουν τα μοντέλα και τι πραγματικά κατανοούν.
Ενώ αυτά τα συστήματα μπορούν να παράγουν αξιοσημείωτα ανθρώπινο κείμενο, δεν έχουν κατανόηση των συμφραζομένων και ηθική συλλογιστική. Αυτά θα τους επέτρεπαν να εντοπίζουν και να απορρίπτουν με συνέπεια επιβλαβή αιτήματα, ανεξάρτητα από τον τρόπο διατύπωσής τους.
Προς το παρόν, οι χρήστες και οι οργανισμοί που αναπτύσσουν συστήματα Τεχνητής Νοημοσύνης θα πρέπει να γνωρίζουν ότι η απλή μηχανική άμεσης επεξεργασίας μπορεί ενδεχομένως να παρακάμψει πολλά από τα τρέχοντα μέτρα ασφαλείας. Αυτή η γνώση θα πρέπει να διαμορφώνει τις πολιτικές σχετικά με τη χρήση της Τεχνητής Νοημοσύνης και να υπογραμμίζει την ανάγκη για ανθρώπινη εποπτεία σε ευαίσθητες εφαρμογές.
Καθώς η τεχνολογία συνεχίζει να εξελίσσεται, ο ανταγωνισμός μεταξύ των μέτρων ασφαλείας και των μεθόδων για την παράκαμψή τους θα επιταχυνθεί. Τα ισχυρά, σε βάθος μέτρα ασφαλείας είναι σημαντικά όχι μόνο για τους τεχνικούς – αλλά για ολόκληρη την κοινωνία.
Πηγή: theconversation.com
