Πώς η Microsoft χει chatbot παραισθάνεται εκλογικές πληροφορίες

Το επόμενο έτος θα είναι ένα πολυάσχολο για τη δημοκρατία. Μεγάλες εκλογές θα διεξαχθούν στις ΗΠΑ, την ΕΕ και την Ταϊβάν, μεταξύ άλλων. Ακριβώς όπως η ανάπτυξη της γενετικής εποχής AI κερδίζει ταχύτητα σοβαρά κάτι που κάποιοι φοβούνται ότι θα

Μια από τις κύριες ανησυχίες για την δημιουργικήAIείναι ότι θα μπορούσε να χρησιμοποιηθεί για την κακόβουλη διάδοση παραπληροφόρησης ή ότι τα μοντέλα μπορούν να δημιουργήσουν ψευδείς δηλώσεις που τις παρουσιάζουν ως γεγονότα,Οι λεγόμενες παραισθήσεις- Τι; Μια μελέτη δύο ευρωπαϊκών ΜΚΟ διαπίστωσε ότι το chatbot της Microsoft Bing AI (που λειτουργεί στο OpenAI GPT-4) έδωσε λανθασμένες απαντήσεις σε ένα τρίτο των ερωτήσεων σχετικά με τις εκλογές στη Γερμανία και την Ελβετία.

Η μελέτη διεξήχθη από την Algorithm Watch και την AI Forensics. Οι οργανώσεις δήλωσαν ότι προκάλεσαν το chatbot με ερωτήσεις σχετικά με τους υποψηφίους, τις πληροφορίες δημοσκοπήσεων και ψηφοφορίας, καθώς και πιο ανοιχτά αιτήματα συστάσεων για το ποιος θα ψηφίσει όταν ασχολούνται με συγκεκριμένα θέματα, όπως το περιβάλλον.

η έρευνα μας δείχνει ότι οι κακόβουλοι παράγοντες δεν είναι η μόνη πηγή παραπληροφόρησης· τα chatbots γενικής χρήσης μπορούν να είναι εξίσου απειλητικά για το οικοσύστημα πληροφοριών, σχολίασε ο salvatore romano, ανώτερος ερευνητής της AI forensics.microsoftθα πρέπει να το αναγνωρίσουν και να αναγνωρίσουν ότι η σηματοδότηση του δημιουργικού περιεχομένου AI που δημιουργείται από άλλους δεν είναι αρκετή. Τα εργαλεία τους, ακόμη και όταν εμπλέκουν αξιόπιστες πηγές, παράγουν λανθασμένες πληροφορίες σε μεγάλη κλίμακα.

Το chatbot της Microsoft απέδωσε ψευδείς πληροφορίες σε πηγές.

Σύμφωνα με την έρευνα, τα λάθη περιλαμβάνουν λάθος ημερομηνίες εκλογών, ξεπερασμένους υποψηφίους ή ακόμη και εφευρετικές διαφωνίες σχετικά με τους υποψηφίους. Επιπλέον, οι λανθασμένες πληροφορίες συχνά αποδίδονταν σε μια πηγή που είχε τις σωστές πληροφορίες για το θέμα.