“AI 워터마크 규제 강화”…국회, 딥페이크 급증에 입법 보완 추진

딥페이크 심의 3년새 12배 폭증…워터마크 제거법 확산

 

인공지능(AI) 기본법 시행 첫날인 지난 1월 22일 서울 서울 송파구 한국인공지능·소프트웨어산업협회 출입구에 인공지능기본법 지원데스크 현판이 걸려있다. [사진=뉴시스]

스페셜경제=선호균 기자 | 국회가 인공지능(AI) 생성물 워터마크 규제 강화를 위한 입법 보완에 속도를 내고 있다.

딥페이크 범죄와 워터마크 제거 콘텐츠 확산이 이어지면서 유통 단계까지 규제 범위를 확대해야 한다는 목소리가 커지고 있다.

20일 국회에 따르면 교육위원회 소속 김대식 국민의힘 의원은 최근 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법) 개정안’을 발의했다.

개정안은 AI 생성물에 코드·문자·부호 등을 삽입해 이용자가 결과물을 명확히 식별할 수 있도록 하고, 워터마크를 훼손하거나 위·변조할 경우 최대 2000만원 이하 벌금을 부과하는 형사처벌 조항을 담았다.

국회 과학기술정보방송통신위원회 소속 조인철 더불어민주당 의원도 올해 초 정보통신망법 개정안을 발의했다.

AI 생성물 유통 과정에서 워터마크 훼손과 위·변조를 금지하고, 일정 규모 이상의 플랫폼 사업자에도 관련 기술적 조치 의무를 부과하는 내용이 핵심이다.

위반하면 최대 1000만원 이하 과태료가 부과된다. 

이번 입법 움직임은 현행 AI기본법의 한계를 보완하기 위한 차원으로 풀이된다.

기존 법은 AI 사업자에게 워터마크 표시 의무만 부과하고 있으며, 유통 과정 규율은 정부 가이드라인 수준에 머물러 있다.

과학기술정보통신부 는 올해 1월 ‘AI 투명성 확보 가이드라인’을 공개해 딥페이크 영상 전체 구간에 가시적 워터마크를 표시하도록 권고했다.

하지만 이는 행정지도 성격에 그쳐 법적 강제력은 없는 상태다. 

최근에는 사회관계망서비스(SNS)와 동영상 플랫폼을 중심으로 ‘워터마크 제거법’ 콘텐츠까지 확산되고 있다.

운영체제 기본 기능만으로도 손쉽게 표식을 지울 수 있는 방법이 공유되면서 악용 우려도 커지는 상황이다.

딥페이크 범죄 증가세도 가파르다.

경찰청 국가수사본부에 따르면 2024년 11월부터 2025년 10월까지 딥페이크 성범죄는 1827건 발생했고 1438명이 검거됐다.

이는 전년 대비 적발 건수는 50.1%, 검거 인원은 47.8% 증가한 수치다.

또 조인철 의원실이 방송통신심의위원회 자료를 분석한 결과, 딥페이크 성범죄 영상물 심의 건수는 2021년 1913건에서 2024년 2만3107건으로 3년 새 12배 이상 급증했다.

해외 주요국들도 AI 생성물 규제를 강화하는 추세다.

미국 캘리포니아주는 AI 생성물 표시의 영구성과 비가역성을 요구하고 있으며, 중국은 플랫폼 사업자까지 관리 책임을 확대하고 있다.

유럽연합(EU) 역시 가시적·비가시적 표시를 결합한 강건형 워터마크 방식을 기준으로 채택하고 있다.

전문가들은 플랫폼 사업자와 일반 이용자까지 포함하는 규제 체계가 필요하다고 지적한다.

이성엽 고려대학교 기술경영대학원 교수는 현행법이 AI 개발·이용 사업자에만 의무를 부과해 유튜브 같은 플랫폼은 규제 대상에서 빠져 있어 배포자 개념 도입과 별도 입법 검토가 필요하다고 지적했다.

 

 

 

 

“AI 워터마크 규제 강화”…국회, 딥페이크 급증에 입법 보완 추진 - 스페셜경제