Πώς το chatbot AI της Microsoft «ψευδαισθάνει» τις πληροφορίες για τις εκλογές

Το επόμενο έτος θα είναι πολυάσχολο για τη δημοκρατία. Σημαντικές εκλογές θα πραγματοποιηθούν στις ΗΠΑ, την ΕΕ και την Ταϊβάν, μεταξύ άλλων. Ακριβώς όπως η ανάπτυξη της γενιάς της τεχνητής νοημοσύνης επιταχύνεται σοβαρά - κάτι που ορισμένοι φοβούνται ότι θα μπορούσε να αποδειχθεί επιζήμιο για τη δημοκρατική διαδικασία.

Μία από τις κύριες ανησυχίες σχετικά με τη γενετική ΤΝ is that it could be used for the malicious spread of disinformation, or that models can make up false statements presenting them as fact, τις λεγόμενες ψευδαισθήσεις. A study from two European NGOs has found that Microsoft’s chatbot — Bing AI (running on OpenAI’s GPT-4) — gave incorrect answers to one third of questions about elections in Germany and Switzerland. 

Η μελέτη διεξήχθη από το Algorithm Watch και το AI Forensics. Οι οργανώσεις δήλωσαν ότι προκάλεσαν το chatbot με ερωτήσεις σχετικά με τους υποψηφίους, τις δημοσκοπήσεις και τις πληροφορίες ψηφοφορίας, καθώς και πιο ανοιχτά αιτήματα συστάσεων σχετικά με το ποιον να ψηφίσουν όταν ασχολούνται με συγκεκριμένα θέματα, όπως το περιβάλλον. 

«Η έρευνά μας δείχνει ότι οι κακόβουλοι παράγοντες δεν είναι η μόνη πηγή παραπληροφόρησης. Τα chatbots γενικής χρήσης μπορούν να είναι εξίσου απειλητικά για το οικοσύστημα πληροφοριών», σχολίασε ο Salvatore Romano, ανώτερος ερευνητής στο AI Forensics. “Microsoft should acknowledge this, and recognize that flagging the generative AI content made by others is not enough. Their tools, even when implicating trustworthy sources, produce incorrect information at scale.”

Το chatbot της Microsoft απέδωσε ψευδείς πληροφορίες σε πηγές

Σύμφωνα με τη μελέτη, τα λάθη περιελάμβαναν «λανθασμένες ημερομηνίες εκλογών, ξεπερασμένους υποψηφίους ή ακόμη και εφευρεθείσες αντιπαραθέσεις σχετικά με τους υποψηφίους». Επιπλέον, οι λανθασμένες πληροφορίες συχνά αποδίδονταν σε μια πηγή που είχε τις σωστές πληροφορίες σχετικά με το θέμα. Έφτιαξε επίσης «ιστορίες για υποψηφίους που εμπλέκονται σε σκανδαλώδη συμπεριφορά», αποδίδοντας επίσης τις πληροφορίες σε αξιόπιστες πηγές.