AI 사용 여부를 콘텐츠에 명시하도록 강제하는 규제 논의가 국내외에서 활발해지고 있다. 하지만 이런 접근이 과연 실효성을 가질 수 있을까. 한 온라인 커뮤니티 글쓴이는 이 규제가 구조적 한계를 안고 있으며, 반대 방향의 정책 설계가 훨씬 현실적이라고 지적한다.
이 주장의 첫 번째 근거는 AI 도구의 광범위한 일상화다. 이미 많은 창작자들이 콘텐츠 제작 과정에서 어느 수준으로든 AI를 활용하고 있으며, 비단 창작 단계뿐 아니라 홍보, 편집, 패키징, 소품 제작까지 유통의 여러 단계에서 생성형 AI가 쓰인다. 그렇다면 순수하게 인간만이 만든 콘텐츠를 찾는 일이 점점 예외 사항에 가까워진다는 의미다. 규제의 대상이 되는 것을 표기하라는 것이 이론적으로는 명확하지만, 현실에서는 대다수가 해당할 수 있다는 점에서 이미 정책 설계가 어색해진다.
두 번째 문제는 검증의 거의 불가능성인 것으로 보인다. AI 사용 여부를 어떻게 증명할 것인가. 원본 파일이나 창작 과정을 직접 확인하지 않는 한 식별은 극히 어렵고, 만약 의도적으로 숨기려는 창작자라면 이 규제를 피할 방법은 많다. 규제의 강제성이 뒷받침되려면 적발과 처벌이 가능해야 하는데, 검증 자체가 어려우면 그 강제력도 사실상 약해질 수밖에 없다는 지적인 것으로 보인다. 더불어 국경을 넘는 온라인 콘텐츠, 특히 해외에서 들어오는 자료에 이 규제를 어떻게 적용할지도 명확하지 않다.
세 번째는 규제 적용 범위의 모호성인 것으로 보인다. SNS인가, 블로그인가, 인쇄 광고인가, 신문 기사인가, 영상 플랫폼인가, 아니면 온라인 커뮤니티의 개인 게시물까지인가. 규제의 대상을 이 정도로 폭넓게 설정해야 한다면 현실적 집행은 더욱 난제가 된다.
이런 난관을 앞두고 제시되는 대안이 흥미롭다. 바로 발상을 뒤집어 'AI 미사용 인증'을 도입하자는 것으로 보인다. 마치 식품에 붙는 유기농 마크처럼, 인간이 순수하게 만든 콘텐츠에 별도의 마크를 자발적으로 붙이는 방식인 것으로 보인다. 이 접근은 정책 설계 원리상으로도 더 합리적인 측면이 있다. 유기농 인증 시스템을 보면, 검증과 인증의 비용을 대상을 극도로 한정함으로써 효율화한다. 모든 농산물에 대해 무기농임을 입증하라는 것이 아니라, 유기농임을 증명하고 싶은 소수 생산자만 기준을 충족하면 마크를 부여받는 방식인 것으로 보인다.
AI 미사용 인증도 이와 같은 원리로 작동할 수 있다. AI를 사용하지 않은 콘텐츠임을 알리고 싶은 창작자들이 자발적으로 인증을 신청하고, 정해진 기준을 충족하면 마크를 받는 구조다. 강제 규제와 달리 자발적 참여이므로 제도 정착이 빠를 가능성이 있고, 검증도 신청자들에 한정되므로 행정 비용이 훨씬 낮아진다. 또한 창작자 입장에서 보면 이 마크 자체가 자신의 노력을 증명하는 차별화 요소이자 홍보 수단이 된다.
시장이 AI 미사용 콘텐츠를 차별적으로 평가하기 시작한다면, 그 가치는 더욱 높아질 수 있다는 관점인 것으로 보인다. 앞으로 AI 활용이 더욱 보편화될수록 AI를 전혀 쓰지 않은 콘텐츠는 점점 희소해질 것으로 보인다. 그 과정에서 순수 창작물의 가치는 오히려 높아질 가능성이 크다. 규제로 모든 것을 통제하려는 방식보다, 희소해진 순수성을 창작자가 스스로 증명하고 시장이 그것을 인정하는 방식이 더 현실적이고 지속 가능한 방향이 될 수 있다는 제안인 것으로 보인다.
📌 원문 발췌
검증이 불가능합니다. 검증이 되어야 처벌을 할텐데 식별도 거의 불가능하고 굳이 숨기고 싶은 사람에게 강제할 방법이 없습니다.
원본 출처: 클리앙 모두의공원