Како микрософт с АИ халуцинације информације о изборима

Следећа година ће бити заузет за демократију. Главни избори ће се одржати у САД, ЕУ и Тајвану, између осталог. баш као што је излазак генеративне АИ ере добија брзину у озбиљности нешто неко страх може бити штетно за демократски процес.

један од главних забринутости о генерирајућимаида би се могла користити за злонамерно ширење дезинформација, или да модели могу да изради лажне изјаве које представљају као чињенице,такозване халуцинације. студија две европске НГО је открила да је Microsoft-ов чатбот Bing ai (који ради на OpenSUSE GPT-4) дао погрешне одговоре на трећину питања о изборима у Немачкој и Швајцарској.

Студију су спровеле Алгоритм Вотцх и АИ Форензиц. Организације су рекле да су покренуле чатбот са питањима везаним за кандидате, информације о анкетама и гласању, као и отворенијим захтевима за препоруке за кога гласати када се ради о одређеним темама, као

Наше истраживање показује да злонамерни актери нису једини извор дезинформације; цхатботови опће намене могу бити једнака претња информационом екосистему, коментарисао је саваторе Романо, старши истраживач у AI Forensics.микрософтби требало да то признају и да признају да је ознакавање генерисаног садржаја вештачке интелигенције које су направили други није довољно. њихови алати, чак и када укључују поуздане изворе, производе нетачне информације у великој мери.

Микрософтс чатбот је приписивао лажне информације изворима

Према истраживању, грешке су укључивале грешне датуме избора, застареле кандидате или чак измишљене контроверзе о кандидатима.