come il chatbot AI di Microsoft allucina le informazioni elettorali

L'anno prossimo sarà un anno impegnativo per la democrazia. Verranno organizzate elezioni importanti negli Stati Uniti, nell'Unione Europea e a Taiwan, tra gli altri. Proprio mentre il lancio dell'era dell'IA generativa sta prendendo il passo in modo serio qualcosa che alcuni temono possa rivelarsi dannoso per il processo democratico

La Commissione ha adottato una proposta di direttivaaiche potrebbe essere utilizzato per la diffusione di disinformazione o che i modelli possono inventare dichiarazioni false presentandole come fatti,cosiddette allucinazioni. uno studio di due ONG europee ha rilevato che il chatbot di Microsoft bing ai (operante su openSUSE gpt-4) ha dato risposte errate a un terzo delle domande sulle elezioni in Germania e Svizzera.

Lo studio è stato condotto da Algorithm Watch e AI Forensics. Le organizzazioni hanno detto di aver spinto il chatbot con domande relative ai candidati, alle informazioni sui sondaggi e sulle votazioni, nonché richieste di raccomandazioni più aperte su chi votare quando si tratta di argomenti specifici, come l'ambiente.

La nostra ricerca dimostra che gli attori malintenzionati non sono l'unica fonte di disinformazione; i chatbot di uso generale possono essere altrettanto minacciosi per l'ecosistema informativo, ha commentato salvatore romano, ricercatore senior presso AI forensics.MicrosoftIl programma di ricerca e sviluppo dell'IA dovrebbe riconoscere questo fatto e riconoscere che segnalare i contenuti generativi di IA creati da altri non è sufficiente.

Il chatbot di Microsoft ha attribuito informazioni false alle fonti

Secondo gli errori dello studio, sono state incluse date elettorali sbagliate, candidati obsoleti o persino controversie inventate riguardanti i candidati. Inoltre, le informazioni errate sono state spesso attribuite a una fonte che aveva le informazioni corrette sull'argomento.