Miten Microsoftin AI chatbot hallusinoi vaalitietoja?

Seuraavan vuoden aikana demokratialle tulee olemaan kiireinen vuosi. Suuret vaalit järjestetään muun muassa Yhdysvalloissa, EU:ssa ja Taiwanissa. Juuri kun AI-ajan käyttöönotto on vakavasti kiihtynyt - jotkut pelkäävät, että se voi vahingoittaa demokraattista prosessia.

Yksi pääasiallisista huolenaiheista generatiivisentekoälykäytöstä on se, että sitä voitaisiin käyttää epäilyttävän disinformaation leviämiseen tai että mallit voivat esittää valehteliaita väitteitä tosiasioina,niin kutsutut hallusinaatiot. Kaksi eurooppalaista NGO:ta tekemä tutkimus osoitti, että Microsoftin chatta-bot Bing AI (joka käyttää OpenAI:n GPT-4 -mallia) antoi väärät vastaukset yhden kolmasosan kysymyksistä Saksan ja Swissin vaaleista.

Tutkimusta toteuttivat Algorithm Watch ja AI Forensics. Järjestöt ilmoittivat, että ne kysyivät chatta-bottiilta kysymyksiä ehdokkaisista, äänestystiedoista ja äänestysprosesseista sekä antoivat avoimempia suosituksenpyyntöjä siitä, kuka kannattaa äänestää tietyillä aihealueilla, kuten ympäristössä.

tutkimuksemme osoittaa, että väärinkäytökset eivät ole ainoat väärinkäytösten lähteet; yleiskäyttöiset chatbotit voivat olla yhtä vaarallisia tietoekosysteemin kannalta, kommentoi ai forensicsin vanhempi tutkija salvatore romano.Microsoftintulisi tunnustaa tämä ja havaita, että muiden tekemän generatiivisen tekoälysisällön merkitseminen ei riitä. Heidän työkalunsa tuottavat virheellistä tietoa laajalle mittakaavalla, vaikka perustuisivat luotettaviin lähteisiinkin."

Microsoftin chatbotin mukaan väärät tiedot lähteistä

Tutkimuksen mukaan virheisiin kuului väärät vaalipäivämäärät, vanhentuneet ehdokkaat tai jopa keksittyjä ehdokkaita koskevia kiistoja. Lisäksi virheelliset tiedot oli usein tarkoitettu lähteelle, jolla oli oikeat tiedot aiheesta.