생성형AI 등장 이후 첫 총선 앞둔 한국 AI

중앙선거관리위원회가 내년 총선을 앞두고 챗GPT 같은 생성형 인공지능(AI)을 활용한 가짜뉴스 대비책 마련에 나섰다.

중앙선관위는 14일 ‘생성형 AI 신기술 도입에 따른 선거 규제 연구’ 용역을 발주했다.

중앙선관위는 “생성형 AI는 인터넷상의 광범위한 데이터를 통해 자체적으로 생성물을 창작함에 따라 진위

판별과 저작권 등의 법적 책임이 불분명하다”며 “허위사실이 포함된 콘텐츠를 누구나 쉽게 만들어낼 수 있는 문제가 있다”고 설명했다.

중앙선관위는 올해 말까지 연구 용역 결과를 받은 뒤 생성형 AI의 가짜뉴스에 대한 구체적인 규제 방안을 마련한다는 계획이다.

AI를 이용한 가짜뉴스에 대한 우려는 계속해서 제기되고 있다.

앞서 윤석열 대통령은 지난 13일 비상경제민생회의에서 “전 세계 정치인을 만나면 가짜뉴스가 AI와

디지털을 이용해 빛보다 빠른 속도로 확산하면서 자유민주주의를 훼손하고, 우리 미래를 망칠 수 있다는 얘기를 한다”며 우려를 표시했다.

한국에서는 아직까지 AI가 만든 가짜뉴스가 큰 논란을 일으킨 적이 없다.

하지만 해외에서는 이미 AI를 이용한 가짜뉴스가 일상으로 여겨질 만큼 만연해 있다.

여러 선거에서 AI가 만든 가짜뉴스가 판도를 바꾸는 일도 실제로 벌어지고 있다.

지난 2일 미국 공화당의 유력 대선 후보인 론 디샌티스 플로리다 주지사가 ‘대선 경선을 포기하겠다’고 선언하는

영상이 한 유튜브 계정에 올라와 논란이 됐다.

앞서 도널드 트럼프 전 대통령이 디샌티스가 경선을 포기할 것이라는 루머가 있다고 언급한 적이 있어서

이 영상은 소셜미디어에서 더 빠른 속도로 확산됐다. 하지만 이 영상은 AI를 이용해 만든 딥페이크 영상으로 확인됐다.

디샌티스 주지사가 AI 가짜뉴스의 피해자 같지만 디샌티스 주지사 진영이 AI를 이용한 가짜뉴스를 퍼뜨린 사례도 있다.

디샌티스 주지사 진영은 지난 6월 트럼프 전 대통령이 앤서니 파우치 전 국립 알레르기·전염병 연구소장을 끌어안는

모습이 담긴 광고를 게재했다. 앤서니 파우치는 공화당 지지층에게는 공적처럼 여겨지는 인물이다.

이 이미지는 실제가 아니라 AI를 이용해 만들어낸 이미지였다. 트럼프 전 대통령의 지지율을 깎아내리기 위한 꼼수였던 셈이다.

하니 파리드 미국 버클리 캘리포니아대 교수는 미 공영라디오방송인 NPR과의 인터뷰에서

“이제 선거에서 후보가 말하는 내용이 진짜인지 아닌지 분간할 수 없게 됐다”고 말했다.

AI를 이용한 가짜뉴스가 실제 선거의 판도를 바꾸는 경우도 나오고 있다.

지난 5월 튀르키예 대선에서는 에르도안 대통령과 야당 후보인 케말 클르츠다로을루가 접전을 벌였다.

그런데 테러 단체가 야당 후보를 지지한다는 가짜 영상이 퍼지면서 결국 대선에서 에르도안 대통령이 5%P 차이로 이겼다.

이 영상은 AI 딥페이크를 이용해 교묘하게 만든 영상이었다.

AI 가짜뉴스가 전 세계 선거판을 뒤흔들고 있지만, 이를 막을 기술이나 규제는 마땅치 않은 게 현실이다.

유럽연합(EU)은 디지털 서비스법을 제정해 소셜미디어 플랫폼이 가짜뉴스

같은 불법 콘텐츠 확산을 제한하는 법적 근거를 만들려고 하고 있다. 이 법은 2024년 2월 시행을 앞두고 있다.

유엔도 행동 강령을 만들고 있지만 정작 미국은 규제 움직임에 소극적이다.

민주주의에 대한 디지털 위협을 해결하기 위해 노력하는 시민단체인 루미네이트(Luminate)의 대표인

스티븐 킹은 과학전문 매체인 뉴사이언티스트와의 인터뷰에서 “현재 허위 정보가 생산되고 유통되는

방식을 생각해보면 생성형 AI는 이를 더욱 가속화할 것”이라며 “1년 후, 2년 후에는 우리가 상상할 수 없을 정도로 규모가 커질 것”이라고 경고했다.

온라인 상의 허위 정보에 맞서는 기술 기업인 로지컬리(Logically)는 지난 7월 미드저니,

DALL-E 2, 스테이블 디퓨전 등 세 가지 이미지 생성AI를 이용해 정치적 이슈와 관련이 있는 가짜

이미지를 만드는 실험을 진행하기도 했다.

그 결과 일부 이미지는 AI가 생성을 거부했지만, 대부분의 경우는 가짜 이미지를 어렵지 않게 만들 수 있었다.

Related Posts