[포쓰저널=이현민 기자] "생성형 AI(인공지능)로 제작된 콘텐츠에 대한 표기 의무화를 위해서는 콘텐츠산업진흥법 개정이 조속히 이뤄져야 하며 AI 활용에 대한 올바른 제재 수단도 마련돼야 합니다."

30일 국회의사당 국회의원회관에서 국회 문화체육관광위원회 주최, 한국음악저작권협회 주관, 박학기 한국음악저작권협회 부회장의 사회로 열린 ‘Made by AI 표기 위무화를 위한 국회 공청회’에선 생성형 AI 콘텐츠에 대한 표기를 의무화해야 한다는 주장이 이어졌다.

지난해 5월 이상헌 국회 문화체육관광위원회 위원장은 AI로 제작된 콘텐츠에 대해 AI 표시를 의무화해야 한다는 내용이 담긴 콘텐츠산업진흥법 일부 개정 법률안을 대표 발의한 바 있다. 해당 개정안은 현재 국회에서 계류 중이다.

이날 ‘콘텐츠산업진흥법 제26조 제3항·4항 개정의 필요성’을 주제로 발제에 나선 이대희 교수(고려대학교 법학전문대학원)는 “최근 미국의 인기 가수 테일러 스위프트가 AI 합성음란물로 피해를 입는 등 생성형 AI를 악용해 유명인들의 얼굴과 목소리를 허락 없이 합성하는 사례가 늘어나고 있다”며 “AI 생성물 표시를 의무화 하는 등 이를 방지하기 위한 대책이 필요하다”고 말했다.

이 교수는 “AI 생성물 표시의 목적은 AI 생성물이 인간 생성물로 오인되는 것을 방지하고 AI 생성물과 인간 창작물을 구별하는 것은 물론 무단사용에 따른 권리 침해를 막기 위함이다”고 했다. 

또 “무엇보다도 저품질의 대량 AI 생성물이 시장에 범람하는 걸 방지하기 위해 AI 생설물 표시가 필요하다”고 강조했다.

이 교수는 “AI 생성물임을 표시하도록 하는 법안은 미국을 비롯해 유럽연합(EU), 프랑스 등 여러 국가에서도 발의돼 있다”고 말했다.

특히 “미국 법안의 경우 표시 위반행위에 대해서는 FTC(연방거래위원회)가 제정한 규칙을 위반한 것으로 취급하고 이에 따른 법정 집행을 가한다는 내용이 담겨있다”며 제재 마련이 필수적임을 강조했다.

그는 “지난해 국내에서 발의된 콘텐츠산업진흥법 개정 법률안이 속히 진행돼야 한다"면서도 "AI 생성물 표시 의무를 위반했을 시 적용되는 제재 수단에 관한 내용이 충분히 반영되지 않은 점 아쉬움으로 남는다”고 했다.

콘텐츠산업진흥법 개정 법률안 3항에 따르면 콘텐츠 제작자는 AI 기술을 이용해 콘텐츠를 제작할 경우 콘텐츠가 AI기술을 이용해 제작된 콘텐츠라는 사실을 표시해야 한다.

제4항에는 “3항에 따른 표시의 내용과 방법에 필요한 사항은 대통령령으로 정한다”는 내용이 담겼다.

이 교수는 해당 법안을 어길 경우 이에 따른 적절한 제재 수단이 필요하다며 “AI 생설물 표시위무 불이행 및 표시의 조작, 삭제 변경 행위에 대해서는 표시 이행 명령, 피해자에 대한 손해 배상 등이 이뤄져야 한다”고 했다.

아울러 “이미지, 시각, 청각, 시청각, 텍스트 등 매체유형에 따른 표시가 중요하다”며 “산업별, 매체별, 콘텐츠, 모달(modal), 특정 생성물의 위험성에 따라 표시 의무, 정도, 방법의 차별성도 필요하다”고 했다.

그러면서도 이 교수는 “지나칠 정도로 광범위한 표시 요구는 예술적 표현이나 경제활동에 대한 위축 효과를 불러올 수 있다”며 “AI 생성물 표시에 관한 입법 시 적절한 범위의 융통적인 의무 부과가 중요하다”고 강조했다.

이어진 토론회에서도 문화산업 생태계 발전을 위해 AI로 제작된 콘텐츠에 대한 표기 의무화법 도입이 필요하다는 주장이 이어졌다. 

아울러 해당 법안이 콘텐츠 산업의 위축을 가져올 수 있다는 점에서 신중히 접근해야 한다는 주장이 주장이 나오기도 했다.

토론회에는 권혁주 한국웹툰작가협회 협회장, 최민재 한국언론진흥재단 수석연구원, 김경화 문화체육관광부 과장, 강승희 법무법인 강남 변호사, 황선철 한국음악저작권 협회 경영진단 실장이 참여했다. 

권혁주 협회장은 “지난해 네이버 웹툰의 ‘도전만화” 섹션에서는 AI가 그림창작에 활용됐다는 의혹으로 인해 ’AI 웹툰 보이콧‘ 운동이 일어난 적이 있다“며 ”웹툰 작가들은 AI에 의한 그림과 일러스트의 잠재적 도용에 대해 우려하고 있으며 이는 창작자의 권리와 소유권 문제와도 직결된다“고 했다.

특히 그는 ”현재 국회에서 계류 중인 ’TDM(텍스트·데이터·마이닝) 면책규정‘이 통과될 경우 AI가 원작자의 허락 없이 웹툰 데이터를 학습할 수 있다는 우려의 목소리가 크다“며 ”웹툰작가협회에서는 모든 AI는 학습 데이터의 출처를 명확히 밝혀야 한다는 입장을 밝힌 바 있다“고 했다.

최민재 수석연구원은 ”2022년 11월 오픈AI의 ChatGPT 서비스가 출시된 이후 이미지 생성 AI 플랫폼들의 상용화 서비스가 진행되면서 이들 플랫폼과 콘텐츠 저작권자와의 저작권 분쟁이 극심하게 발생하고 있다“고 했다.

그러면서 ”생성형 AI 콘텐츠 표기 의무화 조항을 중심으로 한 콘텐츠산업 진흥법 개정안은 향후 형성될 생성형 AI 콘텐츠 생태계의 사회적 룰과 사회적 책임을 부과하는 초석으로 중요한 의미가 있다“고 했다.

황선철 실장은 ”AI 생성물 표시를 의무화하지 않아 그 구분없이 일반 저작물과 AI 생성물이 혼재돼 유통되는 경우 해당 콘텐츠를 유통하거나 소비하는 대다수 국민은 지불 하지 않아도 될 저작권 사용료를 지불해야 할 수 있다“며 "이로 인한 법적 책임이 무고한 이용자들에게까지 전가될 수 있다”고 했다.

그는 “지금 이 순간에도 AI 생성물 허위 등록으로 인한 피해가 누적되고 있을 수 있다”며 “관련 법안이 조속히 발효될 수 있기를 바라며 창작산업계에 발생한 혼란을 방지하고 관련 생태계가 원만히 작동할 수 있도록 하는 법, 정책 도입에 대한 논의를 이뤄갈 수 있기를 희망한다”고 했다.

강승희 변호사는 AI 콘텐츠 표시 의무 부과가 콘텐츠 산업의 위축을 가져올 수 있기에 신중을 가해야 한다고 강조했다.

그는 ”사소한 부분이나 비핵심적인 부분에 AI를 활용한 경우까지 AI를 활용해 제작된 콘텐츠로 표시하게 된다면 국내 콘텐츠산업의 위축과 혼란을 가져올 우려도 있다”고 지적했다.

그러면서 ”AI 규율체계의 일관성과 안전성을 위해서는 현재 논의 중인 인공지능에 관한 기본법과 보조를 맞추는 것이 필요하다“고 했다.

김경화 과장은 ”콘텐츠 이용자의 혼선을 방지하고 AI를 활용하는 콘텐츠 제작자의 신뢰성과 책임성을 강화하는 측면에서 AI로 제작된 콘텐츠에 대한 식별체계 마련이 필요하다“며 ”AI 기술의 발달 속도 및 파급력을 예측할 수 없는 만큼 최소한의 창작자 권리 보호를 위해서 법적 규정이 마련돼야 한다“고 했다.