Η OpenAI προχώρησε σε απαγόρευση (ban) λογαριασμών που συνδέονται με κινεζικές αρχές επιβολής νόμου, κυκλώματα ρομαντικών απατών και οργανωμένες επιχειρήσεις επηρεασμού κοινής γνώμης, δημοσιοποιώντας αναλυτική έκθεση για την κακόβουλη χρήση του ChatGPT.

Σύμφωνα με την εταιρεία, ορισμένοι χρήστες αξιοποίησαν το chatbot σε συνδυασμό με λογαριασμούς κοινωνικών δικτύων και άλλα ψηφιακά εργαλεία, προκειμένου να υλοποιήσουν κυβερνοεγκληματικές ενέργειες, προσποιούμενοι –μεταξύ άλλων– γραφεία γνωριμιών, δικηγορικές εταιρείες και ακόμη και αξιωματούχους των ΗΠΑ.

Στόχευση σε ΗΠΑ και Ιαπωνία

Η OpenAI αποκάλυψε ότι μικρός αριθμός λογαριασμών, οι οποίοι πιθανολογείται ότι προέρχονται από την Κίνα, χρησιμοποίησε τα μοντέλα της για:

• Συλλογή πληροφοριών σχετικά με Αμερικανούς πολίτες, διαδικτυακά φόρουμ και τοποθεσίες ομοσπονδιακών κτιρίων.

• Καθοδήγηση για χρήση λογισμικού face-swapping.

• Δημιουργία αγγλόφωνων email προς πολιτειακούς αξιωματούχους και αναλυτές πολιτικής με πρόσκληση συμμετοχής σε επί πληρωμή “consultations”.

Παράλληλα, η εταιρεία ανακοίνωσε ότι απαγόρευσε λογαριασμό που συνδέεται με άτομο σχετιζόμενο με κινεζικές αρχές επιβολής νόμου, το οποίο φέρεται να συντόνιζε συγκεκαλυμμένη επιχείρηση επηρεασμού με στόχο την Πρωθυπουργό της Ιαπωνίας, Sanae Takaichi.

Μαζικές ρομαντικές απάτες με χρήση AI

Ιδιαίτερη ανησυχία προκαλεί η αποκάλυψη ότι συστάδα λογαριασμών χρησιμοποίησε το ChatGPT για την υλοποίηση ρομαντικής απάτης (dating scam), με στόχο άνδρες στην Ινδονησία. Σύμφωνα με την OpenAI, η συγκεκριμένη δραστηριότητα ενδέχεται να αποσπούσε χρήματα από εκατοντάδες θύματα σε μηνιαία βάση.

Το modus operandi περιλάμβανε:

• Παραγωγή διαφημιστικών κειμένων και προωθητικού υλικού για ψευδή πλατφόρμα γνωριμιών.

• Προσέλκυση χρηστών στην πλατφόρμα.

• Πίεση προς τα θύματα να ολοκληρώσουν διαδοχικά «βήματα» που απαιτούσαν σημαντικές χρηματικές καταβολές.

Ψευδείς δικηγορικές εταιρείες και πλαστοπροσωπία αρχών

Σε άλλη περίπτωση, λογαριασμοί αξιοποίησαν τα μοντέλα της OpenAI για να παρουσιαστούν ως δικηγορικά γραφεία, υποδυόμενοι υπαρκτούς δικηγόρους και στελέχη αμερικανικών αρχών επιβολής νόμου. Οι δράστες φέρονται να στόχευαν άτομα που είχαν ήδη πέσει θύματα απάτης, επιχειρώντας να αποσπάσουν εκ νέου χρηματικά ποσά υπό το πρόσχημα νομικής υποστήριξης.