본 고는 인공지능의 신뢰성을 담보하기 위한 규제가 연성 규범에서 경성 규범으로 이행하고 있음을 추적하고 향후 전개 방향을 전망하였다. 

 

연성 규범에서 경성 규범으로: AI에 대한 최초의 수평규제안 『AI Act』의 입법 진행 상황

신뢰할 수 있는 AI의 개발 및 활용을 위한 국제기구의 연성 규범은 OECD AI 권고안과 UNESCO의 AI 윤리 권고안이 대표적이고, 최소 170개 이상의 국가 혹은 기관이 AI 윤리 규정을 입안 혹은 차용하여 적용하고 있다. 2021년 4월 유럽연합 집행위원회는 AI에 대한 세계 최초의 수평규제안인 『AI Act』를 제안하였는데, 유럽이사회의 합의 수정 최종본이 2022년 11월 채택되었고 2023년 말 유럽의회의 승인, 2025년 발효로 이어질 수 있다. 

 

브뤼셀 효과의 재현?

유럽 내 기업이 시가총액 기준 세계 70대 플랫폼에서 차지하는 비중은 4%에 지나지 않아 미국의 73%와 대비되고, 유럽은 미국 플랫폼 기업 매출의 1/4 이상을 차지하고 있다. 이러한 상황은 유럽연합이 AI 경성 규범 도입의 선발자가 될 유인을 제공한다. 유럽 일반 데이터 보호 규칙(General Data Prtection Regulation, GDPR)의 사례처럼 유럽에서 시작된 규제가 전 세계의 표준이 되는 브뤼셀 효과가 『AI Act』에서도 재현되려면 AI 시스템의 정의, 금지 AI 시스템의 범위, 고위험 AI 시스템의 범위(범용 AI 포함 여부 등), 고위험 AI 이해관계자에 대한 요구사항의 수준(데이터의 무결성, 설명 가능성 포함) 등의 쟁점들을 해결해야 할 과제가 남아있다.

 

디지털 권위주의 모델과 디지털 민주주의 모델의 대립

『AI Act』가 사회적 점수 부여제(social scoring)를 금지하는 등 감시, 검열을 위해 AI를 사용하는 디지털 권위주의 모델을 배척하고 있어 대척점에 있는 디지털 민주주의를 추구하는 미국은 자국 기업들이 주로 규제의 대상이 될 것이라는 사실에도 불구하고 비교적 『AI Act』에 우호적인 편이다. 

 

향후 각국의 AI 관련 입법 동향을 면밀히 검토하며 연성 규제, 경성 규제, 수평적 규제, 수직적 규제를 적절히 활용할 필요가 있다. 또한 AI 관련 법안을 입안함에 있어 인간 중심, 민주적 가치, 기술 중립성이 고려되어야 할 것이다.

 

* 고상원은 미국 Cornell 대학교 대학원에서 1992년 경제학 박사 학위를 받았다. 현재 OECD AI 거버넌스 작업반 부의장, ITU-D 연구반 부의장을 맡고 있다. 

 

경제인문사회연구회 글로벌이슈브리프 바로가기

http://www.nrc.re.kr/board.es?mid=a10301000000&bid=0008&act=view&list_no=176106&otp_id=

'생생한 국회소식' 국회뉴스ON