중대한 위반의 경우 알고리즘 삭제 명령의 타당성 고민해야
부작용 최소화 위한 장치, 실질적인 집행 방법 등 모색 필요

 

 

국회입법조사처(처장 박상철)는 22일(금) 『미국 FTC의 알고리즘 삭제 명령, 개인정보 침해 데이터로 학습한 인공지능 규제의 시사점』을 다룬 '이슈와 논점' 보고서를 발간했다.

 

인공지능(AI) 시대에 새로운 형태의 개인정보 처리가 증가함에 따라 개인정보 침해 가능성에 대한 우려가 더욱 커지고 있다. 미국 연방거래위원회(FTC)는 개인정보 침해에 강력 대응하기 위해 개인정보를 침해한 학습데이터로 만든 인공지능 알고리즘 모델을 삭제하도록 하는 '알고리즘 삭제 명령'을 몇 차례 내렸다.

 

구체적으로 ▲심리검사 앱을 이용해 수집한 페이스북 이용자와 친구들의 정보를 대선 운동 홍보에 사용한 캠브리지 애널리티카(Cambridge Analytica) 사례 ▲사진 공유 앱에 업로드한 사진을 이용해 인공지능 얼굴 인식 기술을 개발한 애버앨범(Everalbum) 사례 ▲직원의 접근 권한을 광범위하게 허용하고 보안 장치를 제대로 갖추지 않아 스마트홈 기기로 수집한 개인정보를 유출 위험에 노출시킨 링(Ring) 사례 등이 있다.

 

미국에서도 알고리즘 삭제 명령이 일반적인 규제 수단으로 자리잡은 것은 아니다. 다만 인공지능 구축 과정에서 개인정보 보호의 중요성에 대한 경각심을 불러일으키고 있는 상황이다. 알고리즘 삭제 명령은 개인정보 침해 문제뿐만 아니라 지식재산권 침해, 허위 정보 생산, 편향성 등 여러 인공지능 문제에 대한 새로운 규제 수단이 될 수 있다.

 

규제 효과와 관련해 알고리즘 삭제 명령은 강력한 수단이기 때문에 부적절한 데이터 수집 유인을 방지하고 기업의 자율적인 노력을 촉진할 수 있는 반면, 상당한 경제력 피해를 초래하고 인공지능 산업 등 국가 경쟁력을 저하시킬 우려도 있다.

 

규제당국이 불법데이터가 사용된 알고리즘을 정확히 확인하기 어렵다는 점을 고려해 기업이 데이터 수집·이용 과정을 구체적으로 기록하도록 하고 이를 제대로 이행한 경우에는 인센티브를 줄 필요가 있다고 보고서는 제언했다. 또 알고리즘 삭제를 직접 확인할 수 있는 제도와 기술 전문성이 필요하다고 덧붙였다.

 

보고서는 국회입법조사처 '연구 보고서' 코너(http://www.nars.go.kr/report/view.do?cmsCode=CM0043&brdSeq=44382)에서 확인할 수 있다.

 

'생생한 국회소식' 국회뉴스ON
김진우 기자 bongo79@assembly.go.kr