딥페이크 음란물에 맞선 싸움의 기술

지난 24일 미국의 유명 가수 테일러 스위프트가 등장하는 음란물이 소셜미디어(SNS)를 통해 퍼졌다.

인공지능(AI)을 기반으로 한 이미지 합성 기술 ‘딥페이크(Deepfake)’로 조작된 사진이었다.

이미지가 퍼진 엑스(X·옛 트위터) 측은 테일러 스위프트에 대한 검색을 차단하고, 불법 콘텐츠 단속센터를 새로 만들었다.

미국에선 올해 11월 대통령 선거를 앞두고 딥페이크로 만든 영상과 사진이 기승을 부리고 있다.

조 바이든 대통령이 서점에서 치매 관련 책을 고르는 사진이나 도널드 트럼프 전 대통령이 경찰에 쫓기는 듯한 사진이 대표적이다.

전 세계 76개국에서 올해 선거가 치러지는 만큼 딥페이크로 발생하는 피해는 더욱 커질 전망이다.

딥페이크로 퍼지는 가짜뉴스는 어떻게 막을 수 있을까.

미국 매사추세츠공대(MIT)가 발간하는 과학기술 전문 매체 ‘MIT 테크놀로지 리뷰’는 지난 29일 AI 전문가인 헨리 에이더(Henry Ajder)

영국 케임브리지대 지저스칼리지 연구원과 함께 딥페이크를 구별하는 방법을 소개했다. 딥페이크에 맞서 싸우는 과학기술을 살펴봤다.

우선 소개된 기술은 구글 딥마인드가 개발한 워터마크 ‘신스아이디(SynthID)’다.

기존 워터마크는 주로 이미지에 특정 표시를 새겨넣는 방식으로 주로 사용됐다.

기존 워터마크는 이미지를 편집할 경우 AI로 만든 이미지라는 걸 알 수 없다는 문제가 있다.

신스아이디는 디지털 워터마크를 픽셀 단위로 넣는다.

이 기술은 사람 눈으로는 볼 수 없는 워터마크를 AI 모델로 감지해 딥페이크를 구별한다.

이미지를 캡처로 얻거나 편집하더라도 픽셀에 들어간 워터마크는 손상되지 않는다.

딥마인드는 신스아이디에 대해 “이미지 품질을 낮추지 않고 편집 후에도 워터마크가 감지 가능한 상태를 유지할 수 있다”며

그러면서 “고품질 정보로 사람들을 연결하고 사회 전반에 걸쳐 창작자와 사용자 사이 신뢰를 유지하는 데 유용할 것”이라고 강조했다.

AI로 조작된 부분을 감지하는 기술도 있다. 하디 살만(Hadi Salman) MIT 컴퓨터공학과 연구원은 ‘포토가드(PhotoGuard)’를 개발했다.

포토가드는 이미지 속에 눈에 띄지 않는 신호를 추가해 딥페이크로 변경된 부분을 다른 것으로 감지한다.

또 이미지를 비밀 신호로 인코딩해 딥페이크로 이미지를 생성하는 방식을 방해하기도 한다.

벤 자오(Ben Zhao) 미국 시카고대 컴퓨터공학과 교수 연구팀이 개발한 ‘나이트셰이드(Nightshade)’는 생성 AI 모델의 데이터 세트를 아예 오염시킨다.

나이트셰이드는 이미지의 픽셀을 조작해 AI 알고리즘이 이미지를 잘못 분류하도록 유도한다.

유명인이 자신의 얼굴이 나오는 사진을 나이트셰이드로 조작하면, AI가 유명인의 얼굴을 이미지 생성에 사용하지 못하는 방식이다.

테일러 스위프트의 딥페이크 음란물 사건을 계기로 AI에 대한 규제가 마련돼야 한다는 주장도 나온다.

현재 미국 캘리포니아와 버지니아, 뉴욕 등 일부 지역에서만 딥페이크 규제가 있지만, 이제는 연방 자원에서의 법률이 시행될 것으로 보인다.

유럽도 딥페이크 제작자에게 해당 자료가 AI로 생성됐다는 점을 공개하도록 하고, AI 기업에게 유해한 콘텐츠를 신속하게 제거하도록 하는 ‘AI법’을 만들었다.

다만 규제가 쉽지 않을 것이라는 전망도 있다.

에이더 연구원은 “딥페이크 관련 규제를 시행하는 건 현재 기술로는 피해자가 자신을 피해 입힌 사람이 누구인지 파악하기 해결되지 않으면 어려울 것”이라며

“딥페이크 범죄를 억제하는 대중 인식 캠페인이 실질적인 영향을 미칠 수 있다”고 설명했다.

Related Posts