Το ChatGPT είναι ένα εργαλείο τεχνητής νοημοσύνης το οποίο μπορεί να προσφέρει πληροφορίες με απλή και κατανοητή “ανθρώπινη” γλώσσα. Εκπαιδεύτηκε με γραπτές βάσεις δεδομένων από το internet, με συνολικά 300 δισεκατομμύρια λέξεις. Το τελικό αποτέλεσμα είναι ένα chatbot με εγκυκλοπαιδικές γνώσεις και μεγάλη ευχέρεια στον ανθρώπινο λόγο.
Ωστόσο η πειστική εμφάνιση των “ανθρώπινων” απαντήσεων μπορεί να είναι ένα ισχυρό εργαλείο στα λάθος χέρια. Μέχρι τώρα, η διάδοση της παραπληροφόρησης απαιτούσε σημαντική ανθρώπινη προσπάθεια. Αλλά μία τεχνητή νοημοσύνη όπως το ChatGPT θα έκανε πανεύκολο στα trolls να πάνε τις επιχειρήσεις τους ένα επίπεδο παραπάνω, όπως έδειξε η έρευνα του Georgetown University.
Ένα τόσο εξελιγμένο εργαλείο, θα αλλάξει τα δεδομένα στα social media, υποστηρίζοντας ή κατηγορώντας συγκεκριμένες πολιτικές, πολιτικούς ή διασπείροντας fake news και προπαγάνδα. Αποτελεί επίσης σημαντικό κίνδυνο για τις εκλογές.
Η δυναμική των γλωσσικών μοντέλων να ανταγωνίζονται περιεχόμενο που έχει γραφτεί από ανθρώπους, σε τόσο χαμηλό κόστος, θα δώσει ένα ξεκάθαρο πλεονέκτημα στους προπαγανδιστές που θα επιλέξουν να τα χρησιμοποιήσουν. Αυτά τα πλεονεκτήματα μπορούν να διευρύνουν την πρόσβαση σε κακόβουλους, να δημιουργήσουν νέες τακτικές επηρεασμού της κοινής γνώμης και να κάνουν το μήνυμα της καμπάνιας πολύ πιο στοχευμένο και αποτελεσματικό.
Και δεν είναι μόνο η ποσότητα της παραπληροφόρησης που θα αυξηθεί, αλλά και η ποιότητά της. Τα AI συστήματα θα βελτιώσουν την πειστική ποιότητα του περιεχομένου, κάνοντας τα μηνύματα ακόμα πιο δύσκολο να τα αναγνωρίσει ο χρήστης ως μέρος μίας συντονισμένης καμπάνιας παραπληροφόρησης.
Τα γλωσσικά μοντέλα θα παράγουν μεγάλο όγκο περιεχομένου ο οποίος θα είναι αυθεντικός κάθε φορά και θα επιτρέψει στους προπαγανδιστές να μη βασίζονται μόνο στην αντιγραφή και επικόλληση του ίδιου κειμένου στα social media.
Κίνδυνος υπάρχει και στον τομέα της ασφάλειας του χρήστη και στο spam.
Οι άνθρωποι που διασπείρουν spam βασίζονται στους πιο εύπιστους ανθρώπους για να κάνουν κλικ στο link τους. Σε όσους περισσότερους φτάσει το link τους, τόσες περισσότερες ελπίδες έχουν να βρουν κάποιο θύμα. Με την AI, θα πολλαπλασιαστεί εκθετικά αυτή η δυνατότητα. Ακόμα κι αν το Facebook και το Twitter ανακόψουν τα 3/4 του spam, θα υπάρχει ακόμα 10 φορές περισσότερο περιεχόμενο από πριν, το οποίο μπορεί να παραπλανήσει τους ανθρώπους online.
Οι ερευνητές προβλέπουν πως οι social media πλατφόρμες θα κατακλυστούν από ψευδή προφίλ με την ταχεία ωρίμανση των γλωσσικών μοντέλων.
Κάτι όπως το ChatGPT μπορεί να κλιμακώσει την ύπαρξη ψευδών λογαριασμών σε ένα επίπεδο που δεν έχουμε δει ποτέ ξανά. Θα γίνει πολύ δυσκολότερο να ξεχωρίσουμε αυτούς τους λογαριασμούς από πραγματικούς ανθρώπους.
