국회입조처 'AI딥페이크 선거운동의 해외 입법동향과 시사점' 보고서

제20대 대선 과정에서 'AI윤석열' 활용 기준 두고 여야 갈등

2020년 美 대선 트럼프 지지자, 조 바이든 허위영상 유포해 논란

美 텍사스, 선거후보 손해입히는 딥페이크 위법…연방 입법 논의도

EU, 선거에 부정적 영향 미치는 콘텐츠 연 1회 점검 지시

"딥페이크 악용하면 허위성 발견 어려워…별도 입법 필요"

 

 

디지털 기술의 발전에 따라 새로운 형태의 선거운동이 도입되는 가운데 인공지능(AI) 기술로 변조한 화상, 음성, 영상 등을 선거에 활용하는 '딥페이크 선거운동'의 법적 기준이 마련돼야 한다는 지적이 나왔다.

 

국회입법조사처(처장직무대리 이신우)는 '인공지능(AI) 기술 기반 딥페이크 선거운동의 해외 입법동향과 시사점' 보고서에서 "국내와 같이 진영간 정치적 양극화가 극심한 정치사회적 환경에서는 딥페이크를 통한 기만적 정치정보가 확대 재생산돼 선거에 악용될 여지가 크다"며 "딥페이크 선거운동에 대한 입법적 근거를 마련하기 위해 해외 입법사례를 참고해 딥페이크 선거운동의 개념 및 규제 방향, 딥페이크 선거운동의 합법적인 활용 기준, 나아가 법적 책임에서 제외하는 범주 마련 등을 검토할 필요가 있다"고 밝혔다.

 

우리나라의 제20대 대통령선거 과정에서 딥페이크 정보가 공식적인 선거운동 매체로 활용되며 활용 기준을 둔 정당간 갈등이 촉발된 바 있다. 윤석열 국민의힘 후보는 유튜브 등에 'AI 윤석열'을 소개하며 대중 친화적인 캐릭터를 구축했고 더불어민주당은 "딥페이크를 통해 공직후보자의 단점을 숨기는 방식은 유권자를 기만하고 민주주의를 위협하는 것"이라며 비판했다.

 

해외는 보다 부정적인 측면에 초점이 맞춰져 있다. 2020년 미국 대선 당시 조 바이든 민주당 후보가 선거유세하는 주(州)를 오인해 발언하는 허위동영상이 인터넷 상에 유포되며 바이든의 기억력을 조롱하는 소재거리로 활용됐다. 이외에도 뉴스 인터뷰 중 바이든이 조는 모습, 바이든이 트럼프가 아닌 조지 부시와 경쟁한다고 언급한 허위 영상이 트럼프 지지자 사이에 유포됐다.

 

 

보고서에 따르면 미국은 이 같은 문제를 해소하기 위해 일부 주(州)법에서 딥페이크 선거운동과 관련한 명시적 규정을 두고 있다. 텍사스주 선거법은 선거후보자에게 손해를 입히거나 선거결과에 영향을 줄 의도로 딥페이크 비디오를 제작하고, 이를 공식 선거일 30일 내에 유포하는 행위를 위법으로 규정했다. 캘리포니아주는 '악의적 이미지 편집을 통한 선거운동 금지'를 담은 기존 선거법에 한시법으로 규제 대상을 오디오 및 비디오로 확대하는 내용을 적용했다.

 

미국 연방차원에서도 딥페이크 선거운동 관련 입법 논의가 진행되고 있다. 2021년 미국 의회에서는 「딥페이크 책임성 법률(안)(Deep Fakes Accountability Act)」이 발의됐으며 현재 계류 중이다.

 

유럽연합(EU)은 대형 온라인플랫폼 및 온라인검색엔진이 불법정보 유포, 기본권 침해·시민담론·선거·공공안전에 대한 부정적 영향을 소재로 한 콘텐츠 점검을 매년 1회 이상 확인·분석·평가하도록 하는 「디지털서비스법」(Digital Services Act)」을 도입했다.

 

최진응 과학방송통신팀 입법조사관은 "딥페이크 기술을 악용한 허위사실공표행위는 허위성의 발견을 어렵게 한다는 점에서 더 큰 악의성이 있어 별도의 입법이 필요하다는 주장이 나온다"고 전했다.

 

이와 함께 딥페이크 선거운동에 대한 별도의 입법이 진행될 경우 ▲딥페이크 선거운동의 개념 및 규제 방향을 명확히 하고 ▲딥페이크 기술에 기반한 선거운동의 합법적 활용을 위해 명확한 기준을 마련해야 하며 ▲딥페이크 선거 규제의 적용을 받는 대상과 적용을 받지 않는 대상에 대한 구체적 범주를 설정해야 한다고 제언했다.

 

'생생한 국회소식' 국회뉴스ON
윤희은 기자 soul@assembly.go.kr