 김종경 주무관 |
대선을 앞두고 갈수록 경쟁이 치열해지고, AI 도구를 활용한 가짜뉴스와 불법선거 악용 우려가 제기되면서 민관 등에서도 대책 마련에 나서고 있다. 또 미국 최소 13개 주에서 AI를 활용한 가짜 이미지, 오디오, 비디오 콘텐츠를 통해 선거 관련 허위정보가 확산하는 일을 방지하는 법안을 추진 중이라고 한다. 법안은 AI로 생성한 콘텐츠의 경우 이를 표시하도록 고지의무를 부과하거나, 콘텐츠 게시를 금지하는 방식의 규제내용을 담고 있다.
우리나라에서도 오는 4월10일 시행하는 제22대 국회의원선거와 관련해 지난 1월29일 딥페이크 영상을 이용한 선거운동 금지 법 조항이 시행됐다.
‘공직선거법’ 제82조의8(딥페이크 영상 등을 이용한 선거운동)에 따라 누구든 선거일 전 90일부터 선거일까지 선거운동을 위해 인공지능 기술 등을 이용해 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등을 제작·편집·유포·상영 또는 게시하는 행위를 해서는 안된다.
또 누구든지 선거일 전 90일부터 선거일까지의 기간이 아닌 때라도 선거운동을 위해 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시하는 경우 해당 정보가 인공지능 기술 등을 이용해 만든 가상의 정보라는 사실을 명확하게 인식할 수 있도록 중앙선거관리위원회규칙으로 정하는 바에 따라 해당 사항을 딥페이크 영상 등에 표시해야 한다.
법에서 규정하는 딥페이크 영상은 △선거운동을 위한 것 △인공지능기술 등을 이용해 만든 것 △실제와 구분하기 어려운 것 등 3가지를 충족하는 ‘AI 콘텐츠’를 말한다.
중앙선거관리위원회에서는 딥페이크 영상 관련 선거법이 올해 최초로 시행되면서 대국민 이해 제고를 위해 적극적으로 안내하고 있다. 불완전한 AI 감별기술 수준을 보완하기 위해 전국 각 시·도위원회에서 별도 인원을 편성, 집중 모니터링을 하고 감별의 신뢰도를 제고하기 위해 단계별(3단계)로 감별을 진행한다. 의심 콘텐츠에 대해서는 시각적 탐지기법 등을 우선 적용하고 후보자 관련 콘텐츠의 신속한 확인을 위해 후보자, 선거사무장 등과 핫라인 구축, SNS를 통해 콘텐츠가 삽시간에 확산되는 것을 방지한다.
각급 선거관리위원회에서는 선거가 임박한 시기에 유명 인사들이 출연함에 따라 쉽게 오인할 수 있는 딥페이크 영상 등이 선거에 미치는 부정적인 영향을 고려해 선제적인 삭제 조치 및 악의적·조직적인 제작·유포 행위를 고발하는 등 엄중 처벌할 방침이다.
딥페이크 기술의 선거 악용을 막기 위해서는 유권자의 역할도 중요하다. 진짜보다 더 진짜 같은 ‘가짜’가 판치는 세상에서 더 정밀하고, 예리하게 꿰뚫어 보는 눈이 강조되고 있다. 유권자가 미디어의 사실 여부를 분석하면서 비판적으로 수용하는 등 안목이 탁월할수록 딥페이크 기술이 선거에 미치는 부정적인 영향은 덜할 것이다.
