마이크로소프트의 AI 채팅봇이 선거 정보를 환각하는 방법

다가오는 해는 민주주의에 있어서 바쁜 해가 될 것입니다. 미국, EU, 대만 등에서 주요 선거가 열릴 것입니다.

생성형 인공지능에 대한 주요 우려 중 하나는 AI 허위 정보의 악의적인 확산에 사용될 수 있다는 점이며, 모델이 사실인 것처럼 허위 진술을 할 수 있다는 것입니다, 소위 환각 두 유럽 비정부기구의 연구에 따르면 마이크로소프트의 챗봇 — 빙 AI (OpenAI의 GPT-4 기반) — 는 독일과 스위스 선거 관련 질문의 세 분의 일에 대해 잘못된 답변을 제공했습니다.

이 연구는 Algorithm Watch와 AI Forensics가 수행했습니다. 이 단체들은 후보자, 선거 및 투표 정보와 관련된 질문뿐만 아니라 환경과 같은 특정 주제에 대한 투표 권장 사항 등 더 개방적인 요청도 챗봇에 제시했다고 밝혔습니다.

우리의 연구는 악의적인 행위자들이 잘못된 정보의 유일한 원천이 아니라는 것을 보여줍니다. 일반용 채팅봇은 정보 생태계에 위협이 될 수 있습니다. 마이크로소프트 이를 인식하고, 다른 사람이 만든 생성형 AI 콘텐츠를 단순히 신고하는 것으로는 충분하지 않다는 것을 알아야 합니다. 그들의 도구들 역시 신뢰할 수 있는 출처를 사용하더라도 대규모로 부정확한 정보를 생산할 수 있습니다.”

마이크로소프트의 채팅봇이 잘못된 정보를

연구 결과에 따르면 오류는 선거 날짜가 잘못되었거나, 노후된 후보, 심지어 후보에 대한 논란을 만들어 낸 것. 또한, 잘못된 정보는 종종 주제에 대한 올바른 정보를 가진 출처로 기인되었습니다. 또한 상황에 대한 후보자의 이야기에 대한 이야기도 만들어 또한 평판 좋은 출처에 정보를 기인했습니다.