conas a dhéanann microsofts AI chatbothallucinates faisnéis toghcháin

Beidh an bhliain atá le teacht ina bhliain gnóthach don daonlathas. Beidh toghcháin mhóra ann sna Stáit Aontaithe, san AE, agus i Taiwan, i measc daoine eile. Díreach mar a bhfuil réim ag teacht ar ré AI ghiniúnaitheach go tromchúiseach rud a bhfuil eagla air go bhféadfadh sé a bheith díobhálach don phróiseas

ceann de na príomh-imní faoi ghiniúintaigur féidir é a úsáid chun mí-fhaisnéis a scaipeadh go mí-ádh, nó gur féidir le samhlacha ráitis bréagacha a dhéanamh agus iad a chur i láthair mar fhírinne,hallucinations mar a thugtar orthu. fuair staidéar ó dhá NGOs Eorpacha amach gur thug chatbot Bing ai (ag rith ar OpenSUSE gpt-4) freagraí mícheart ar thrian de na ceisteanna faoi thoghcháin sa Ghearmáin agus sa Eilvéis.

Rinne an t-eagraíocht an staidéar ag Algorithm Watch agus AI Forensics. Dúirt na heagraíochtaí gur spreag siad an chatbot le ceisteanna a bhaineann le hiarrthóirí, faisnéis maidir le vótaíocht agus vótaíocht, chomh maith le hiarratais moltaí níos oscailte ar cé a vótálann nuair a bhaineann sé le hábhair

Léiríonn ár dtaighde nach iad gníomhaithe olc an t-aon fhoinse mí-fhaisnéis; is féidir le chatbótanna ginearálta a bheith chomh bagairt don éiceachóras faisnéise, dúirt salvatore romano, ard-imscrúdaitheoir ag AI forensics.microsoftBa cheart go n-aithneofaí é seo, agus go n-aithneofaí nach leor an t-ábhar généadach AI a rinne daoine eile a lipéadú.

thug chatbot Microsoft faisnéis bhréagach do fhoinsí

De réir na n-earráidí staidéir a bhí san áireamh dátaí toghcháin mícheart, iarrthóirí déanach, nó fiú conspóidí a chruthaigh maidir le hiarrthóirí. chomh maith leis sin, go minic a bhí an fhaisnéis mhícheart a leithdháileadh ar fhoinse a raibh an fhaisnéis cheart ar an ábhar.