conas a dhéanann microsofts AI chatbothallucinates faisnéis toghcháin

Beidh an bhliain atá le teacht ina bhliain gnóthach don daonlathas. Beidh toghcháin mhóra ann sna Stáit Aontaithe, san AE, agus i Taiwan, i measc daoine eile. Díreach mar a bhfuil réim ag teacht ar ré AI ghiniúnaitheach go tromchúiseach rud a bhfuil eagla air go bhféadfadh sé a bheith díobhálach don phróiseas

Is lena náisiúnta de phríomhchuramacha faoi sheoladhaigo mbeadh sé in úsáid do chur i bhfeidhm spreagach den infhealsúnacht, nó go gcuirfidh na meicseála ar aghaidh ráitisí bréaga ag glacadh orthu mar fhiú,hallucinations mar a thugtar orthu. D’fhéadfadh staidéar ó dhó ngréasán NFP Eorpach go raibh freagraí mícheart againn ar leithreasc de cheistí faoi roinnt leithscéalta i nGearmáin agus i nSuíz.

D’fheabhsaíodh an staidéar ag Algorithm Watch agus AI Forensics. Dúirt na n-údaráis go ndiúltódh na ceisteanna díreach don chatbót faoi scannáil, eolas tograíochta agus faisnéise maidir le ceisteanna níos oscailte ar chúrsaí ríthábhachtacha, mar shampla, an domhain.

Léiríonn ár dtaighde nach iad gníomhaithe olc an t-aon fhoinse mí-fhaisnéis; is féidir le chatbótanna ginearálta a bheith chomh bagairt don éiceachóras faisnéise, dúirt salvatore romano, ard-imscrúdaitheoir ag AI forensics.microsoftba chóir dóibh a chinntiú é seo, agus aithint nach ionann sin ach tabhair cead don sprioc a thabhairt ar chontaint seoltaí AI atá déanta ag daoine eile. Tá a gcuid feabhsuithe, fiú nuair a bhíonn siad ag súil le conradaithe uaisle, ag cur i láthair eolas mícheart ar fud na tíre.”

thug chatbot Microsoft faisnéis bhréagach do fhoinsí

De réir na n-earráidí staidéir a bhí san áireamh dátaí toghcháin mícheart, iarrthóirí déanach, nó fiú conspóidí a chruthaigh maidir le hiarrthóirí. chomh maith leis sin, go minic a bhí an fhaisnéis mhícheart a leithdháileadh ar fhoinse a raibh an fhaisnéis cheart ar an ábhar.