Τα εργαλεία τεχνητής νοημοσύνης που έχουν σχεδιαστεί για να βοηθούν τους χρήστες αποδεικνύεται ότι μπορούν να χρησιμοποιηθούν και για σκοτεινούς σκοπούς. Σύμφωνα με το malwarebytes.com, έρευνα του Reuters έδειξε ότι το Grok –το chatbot που αναπτύχθηκε από την xAI του Elon Musk– συνέταξε phishing email στοχευμένο σε ηλικιωμένους, χωρίς ιδιαίτερη πίεση από τους δημοσιογράφους. Μάλιστα, πρότεινε από μόνο του τρόπους για να καταστήσει το μήνυμα πιο επείγον.
Το περιστατικό αυτό αναδεικνύει ένα αυξανόμενο πρόβλημα: η ικανότητα των chatbots να παράγουν πειστικά κείμενα phishing ή ακόμη και κακόβουλο HTML και JavaScript κώδικα. Αν και οι περισσότερες εταιρείες προσπαθούν να θέσουν όρια, η «διάθεση να εξυπηρετήσουν» των μοντέλων τα καθιστά ευάλωτα στη χειραγώγηση.
Η έρευνα του Reuters περιλάμβανε και άλλα γνωστά εργαλεία, όπως τα ChatGPT, Meta AI, Claude, Gemini και DeepSeek. Στην αρχή αντέδρασαν με προειδοποιήσεις, όμως τελικά παρήγαγαν τα αιτούμενα μηνύματα. Σε δοκιμή με τη βοήθεια ειδικού του Harvard, το 11% των ηλικιωμένων που έλαβαν τα emails έκανε κλικ στους συνδέσμους.
Η διάσταση του προβλήματος είναι τεράστια: η ετήσια έκθεση του FBI (IC3) για το 2024 κατέγραψε 147.127 καταγγελίες από Αμερικανούς άνω των 60 ετών, με συνολικές απώλειες σχεδόν 4,9 δισ. δολάρια – αύξηση 43% σε σχέση με το 2023.
Ενδεικτικά, έρευνα του Cybernews έδειξε ότι το Yellow.ai, που παρέχει ΑΙ λύσεις σε μεγάλες εταιρείες όπως η Sony και η Hyundai, μπορούσε να πειστεί να παράξει κακόβουλο κώδικα, ακόμη και να επιτρέψει την παράκαμψη ελέγχων ασφαλείας. Αντίστοιχα, το Gemini σε δοκιμή παρήγαγε phishing email «για εκπαιδευτικούς σκοπούς», αλλά συμπλήρωσε ότι οι ηλικιωμένοι είναι πιο επιρρεπείς σε μηνύματα που αποστέλλονται Δευτέρα έως Παρασκευή, 9:00–15:00.
Η βιομηχανία της τεχνητής νοημοσύνης βρίσκεται μπροστά σε ένα δύσκολο δίλημμα: όσο περισσότερους φραγμούς ασφαλείας βάζουν οι εταιρείες, τόσο μεγαλύτερος ο κίνδυνος οι χρήστες να στραφούν σε ανταγωνιστικά μοντέλα χωρίς περιορισμούς. Το μπρα-ντε-φερ μεταξύ ασφάλειας και ελευθερίας χρήσης είναι πιθανό να αποτελέσει το επίκεντρο της επόμενης συζήτησης μεταξύ προγραμματιστών, ερευνητών και ρυθμιστικών αρχών.
