EN
AR
BG
HR
CS
DA
NL
FI
FR
DE
EL
HI
IT
JA
KO
NO
PL
PT
RO
RU
ES
SV
TL
IW
ID
LV
SR
SK
SL
UK
VI
HU
MT
TH
TR
FA
AF
MS
GA
마이크로소프트의 AI 채팅봇이 선거 정보를 환각하는 방법
다가오는 해는 민주주의에 있어서 바쁜 해가 될 것입니다. 미국, EU, 대만 등에서 주요 선거가 열릴 것입니다.
생산에 대한 주요 관심 중 하나ai잘못된 정보의 악의적인 확산에 사용될 수 있다는 것, 또는 모델이 거짓 진술을 만들어서 사실로 제시할 수 있다는 것,소위 환각두 유럽 NGO의 연구 결과 마이크로소프트의 채팅봇 Bing ai (openai gpt-4에서 실행) 은 독일과 스위스 선거에 대한 질문의 1/3에 잘못된 답변을 했다.
이 연구는 알고리즘 워치와 AI 포렌식에서 실시되었다. 이 조직들은 후보, 투표 정보, 그리고 환경과 같은 특정 주제에 대해 투표해야 할 사람에 대한 더 개방적인 추천 요청과 관련된 질문으로 채팅봇을 촉구했다고 말했다.
우리의 연구는 악의적인 행위자들이 잘못된 정보의 유일한 원천이 아니라는 것을 보여줍니다. 일반용 채팅봇은 정보 생태계에 위협이 될 수 있습니다.마이크로소프트다른 사람들이 만든 AI 생성 콘텐츠를 표시하는 것이 충분하지 않다는 것을 인식해야 합니다. 신뢰성 있는 소스를 포함하더라도 그들의 도구는 대규모로 잘못된 정보를 생산합니다.
마이크로소프트의 채팅봇이 잘못된 정보를
연구 결과에 따르면 오류는 선거 날짜가 잘못되었거나, 노후된 후보, 심지어 후보에 대한 논란을 만들어 낸 것. 또한, 잘못된 정보는 종종 주제에 대한 올바른 정보를 가진 출처로 기인되었습니다. 또한 상황에 대한 후보자의 이야기에 대한 이야기도 만들어 또한 평판 좋은 출처에 정보를 기인했습니다.
