[잡담] 이번 아청법 개정안 중 딥페이크 부분 개선 건에 대해서

[팩트 드래곤]

https://m.ruliweb.com/community/board/300143/read/74229298

- 이번 아청법 개정안의 발단에 대해 잘 정리된 글

https://m.ruliweb.com/community/board/300143/read/74234469#cmt

- 오해로 글을 작성했던 분의 해명 글 (삭제된 글도 저는 읽은 상태)

위 링크들에서 글은 잘 읽었습니다. 커뮤 분들 덕분에 이런 거 발의되면 바로 알 수 있어서 좋습니다. 알려주셔서 감사드리구요.

그리고 우려하시는 목소리 하나하나가 전부 여론으로서 큰 의미가 된다고 생각합니다. 다만 의견에 차이가 있다고 해서 공격적으로 나갈 필요는 없다고 생각합니다. 설득은 못하더라도 적을 늘려서 좋을 건 없거든요.

그럼 한번 이번 발의안에서 문제가 될만한 부분이 있는지 보도록 하죠.

우선 '실제 촬영 여부' 라는 표현이 보이네요. 저는 이 표현이 좀 아쉽습니다. 왜냐하면 실제로 촬영을 한 '원본' 사진이 존재해야 딥페이크를 만들 수 있기 때문입니다. 아마 발의하신 분들께서는 '실제로 피해를 입는 불법 촬영'을 생각하고 쓰신 것 같은데 표현을 저렇게 모호하게 놔둘 경우엔 '실제 촬영과 상관 없이 완전 가상으로 생성된 모든 생성물'이 포함되는 것처럼 보일수도 있거든요. 다만 뒷 부분에 '해당 아동•청소년' 이라는 표현이 있어서 해당되는 피해 아동 청소년이 전제된다고 볼 수도 있긴 합니다. 물론 실사 그래픽 이라면 안면 데이터 수집을 근거로 삼을 수 있기에 우려되는 부분은 데포르메 된 표현 방식의 생성물들이죠.

그리고 다음 문장이 또 모호합니다. '실제 아동 청소년이 등장하는 성착취물에 대해서는 엄격한 처벌 규정을 두고 있으나' 라는 표현이 있어요. 이 부분도 오해를 살 수 있다고 생각합니다. 실제 아동 청소년의 '얼굴이 등장'하는데 성인의 몸에 붙였다고 해서 일반인의 시선에서 이걸 해당하지 않는다고 볼 수 있다는 법리적 해석까지 생각이 미치긴 어려워요. 그러면 당연히 '이거 가상물 전반에 해당되는 거 아닌가' 라는 생각이 충분히 들 수 있습니다.

심플하게 작성하셔서 국민분들의 가독성을 높이신 건 좋습니다만 오해가 없도록 발의의 이유가 된 판례를 갖고 오셨다면 반발이 심하진 않았을 것 같습니다.

그러니까 간단히 요약하자면 어떤 실존 아동•청소년의 얼굴이 딥페이크로 성인의 몸과 합성이 되었는데 '얼굴만 쓰이고 몸은 성인의 몸이기 때문에 아청법 에서는 무죄다' 라고 판결한 판례가 있었어요. 실제 피해자가 없고 인과관계도 입증 되지 않는 2D 등의 가상 창작물은 처벌을 받는데 정작 실제 피해자가 존재하는 사건이 무죄가 되었다는 점에서 기가 막힐 수밖에 없는 일이었죠.

그리고 '성적 디지털 위조물' 이라는 표현도 좀 생소합니다. 그냥 사람들에게 언론으로 잘 알려진 '딥페이크' 라고 명시했으면 더 와닿지 않았을까 합니다. 가급적 한글 단어 사용을 위한 것이었어도 의미 전달을 위해 '위조물(딥페이크)' 이렇게 표현하셨으면 더 나았을 것 같아요. 물론 위조라는 단어가 사전상으로는 가짜를 진짜처럼 꾸민 것이라는 의미가 있긴 합니다만 언론에서 실사물에 가깝고 실제 피해자가 존재한다고 널리 알려진 단어는 딥페이크 거든요. 디지털 합성•가공 성착취물 또는 딥페이크 성착취물 이런 식으로 위조 보다 성착취를 강조하는 이름이 더 좋지 않았을까요?

일단 법의 취지에는 어느정도 이게 딥페이크 때문에 만든 법이구나 라는 걸 알 수 있는 내용이 있긴 합니다. 근데 시간이 많이 지나다 보면 그 취지는 점점 잊혀지고 문구 상의 단순 법리만 해석되는 거 아니냐 이런 우려도 보였습니다.

문구를 한번 봐보죠.

아동•청소년의 얼굴 신체 등을 합성•조작하여 만든 성적 이미지 표현물(이하 "성적 디지털 위조물" 이라 한다)을 포함한다.

여기서 많은 분들께서 '실제' 또는 '실존' 이라는 표현이 없어서 우려하시는 모습이 보였습니다. 근데 저 또한 가아청의 폐지를 찬성하는 입장이지만 침착하게 생각해봤을때 과연 의원 분들께서 그 단어들을 넣을 수 있을까? 의문이 들긴 해요. 왜냐하면 그 단어들을 넣는 순간 2조 5항의 표현물의 의미를 부정하게 되거든요.

그렇다면 다른 방법은 없나? 그렇지 않습니다. 조금 더 나은 방법이 바로 코 앞에 있어요. 바로 입법 취지에 발의하신 분들께서 스스로 명시하신 '해당 아동•청소년' 이라는 표현이에요. 실제, 실존이 부담 되면 '해당(피해) 아동•청소년'으로 완곡하게 표현하면서 모호함을 조금은 덜 수 있는 방법이 있습니다. 어차피 딥페이크의 처벌 취지가 실존 피해자 분들의 피해에 있기 때문에 저 정도로 모호함을 줄인다고 해서 부담되거나 문제될 것도 없습니다.

물론 실제, 실존 이런 표현을 넣으신다면 제 입장에선 그만큼 좋은 일이 없구요. 많은 분들께서 환영하실 거라고 생각합니다.

근데 두 번째에 링크한 해명글 내용처럼 2조 1항의 용어 설명이 '아동•청소년이란 19세 미만의 사람을 말한다' 라고 되어 있으니까 11조도 당연히 실제 사람을 뜻하게 되는 거 아니냐 라고 보실수도 있습니다만 당장 1항의 아주 가까운 가족(?) 5항만 봐도 아동•청소년 성착취물이란 아동•청소년 또는 아동•청소년으로 명백하게 인식될 수 있는 사람이나 표현물 어쩌고~ 라고 되어 있습니다만 1항이 5항을 상쇄시키지 못해요. 1항과 5항만 놓고 봤을때 명백하게 인식될 수 있는 표현물이 명백하게 '실제 사람'으로 인식되는 실사 그래픽만 처벌을 해왔다면 11조도 명확히 실제 사람에 대해 말하는 거다 라고 장담할 수 있겠지만 현실은? 비현실적으로 데포르메된 2D가 뜬금없이 범위에 들어간다는 겁니다. 바로 이 부분 때문에 많은 분들께서 확실히 장담은 할 수 없어 우려를 하신 거라고 봅니다. 다만 우려할 부분이 있다는 것과 별개로 이 법안이 악의를 담고 발의된 걸로 보이진 않는 것 같아요.

그리고 실질적으로 저 개정안이 서브컬처 아청법을 더 악화시키는 거 아니냐 걱정하실 수 있는데 만약에 그런 조짐이 보이면

https://youtu.be/eXiHOXfNgLk?si=2hLXIwhDej3glkz4

위 링크의 유튜브 영상처럼 G식백과 김성회 님과 이철우 변호사 님께서 반응을 하실 가능성이 높습니다. 이미 영상으로 다루셨고 채널 게시물에도 쿨타임 돌때마다 움직여야 한다고 언급하시기도 했거든요.

https://m.ruliweb.com/community/board/300143/read/72602372

위 링크에서 게임이용자협회 이철우 변호사님의 게시물에도 서브컬처 아청법에 대해 앞으로 대응할 예정 이라고 밝히시기도 했습니다.

물론 두 분만 맹신해서 주시를 소홀히하거나 경계를 늦추자는 얘기는 아니구요. 뭔가가 있으면 신호가 올 가능성이 높다는 말씀을 드리는 것입니다.

일단 글은 여기서 마칩니다. 오랜만에 글을 쓰는군요. 사실 자료나 예시, 기사 등은 꽤 많이 수집하긴 했어요. 그래서 헌재가 제시한 근거자료의 충격적인 실태의 후속편을 쓰기 전에 다른 주제로 가볍고 가독성 있게 조금씩 먼저 나눠서 올릴까도 생각 중입니다.

글 읽어주셔서 감사드리고 다음에도 유익한 글로 찾아 뵙도록 하겠습니다.

[사씨남바위]

오랜간만에 직접 글을 써 주셨네요. 잘 읽었습니다.

개인적으론 차지호 의원님을 비롯해 저걸 입법하신 보좌관이나 의원실에 해당 우려점을 전화나 메일로 전달해 주시는 것도 좋을 것 같습니다.

'실제'아동 청소년을 합성한 것이나 그 정도로 진짜같이 보이는 것만으로 규정을 명확하게 고쳐 달라고요.

왜냐하면, 합법적으로 정식 발매된 음란물이 아닌 애니메이션이나 만화에서도 아동 청소년 캐릭터의 선정적인 나체가 나오거나(엔드 오브 에반게리온, 이누야샤, 란마, 투러브 트러블 다크니스 등등), 성적 행위가 묘사되는 경우(그 비스크 돌은 사랑을 한다의 발기 묘사, 누키타시의 성행위 묘사, 너와 넘어 사랑을 한다나 기동전사 건담시드의 성관계 묘사 등등)이 나오는 경우가 이미 꽤 많은데,

그런 합법 표현물에 나오는 것과 비슷한 만화 이미지를 ai로 생성하면 아동성착취가 되는 건 이상하잖아요?

실존아동을 합성해서 강제로 야한 수영복을 입힌 딥페이크물과, 블루아카이브 에이미나 아스나로 수영복을 입힌 ai합성 이미지가 동일하게 여겨져선 안되죠. 심지어 둘은 공식매체에서 그런 의상을 입고 나오지만 합법인데요.

[팩트 드래곤]

물론 전화나 메일로 전달이 온전히 된다면 피곤하더라도 보내볼 가치는 있지 않을까 싶긴 합니다만 제가 이 글에 링크한 김성회 님 유튜브 영상을 보면 보기만 해도 피곤해질 것 같긴 해요. 그동안 정계를 향해서도 활발히 목소리를 내오신 유명 유튜버 분도 저런 취급을 받으시는데 내 연락이 온전히 전해질까 싶긴 하거든요. 그리고 말씀하신 실존 아동과 비현실적 가상 캐릭터가 동일하게 여겨져선 안된다는 말씀은 맞는 말씀입니다. 왜냐하면 맞는 말씀이기 때문입니다. (끄덕)

[사씨남바위]

그래도 안 보내보는 것보다는 낫지 않겠습니까. 실제로 이것으로 인해 커뮤니티 사이트에서 어떤 논란이나 오해가 있었는지에 대한 근거도 있구요.

[팩트 드래곤]

맞는 말씀입니다. 복권도 일단 긁어야 당첨이 되긴 하니까요. 게다가 이번 사안은 아청법 표현물 부분 전체를 뜯어 고치는 것도 아니라 수용하실 가능성도 높지 않을까 싶긴 하거든요. 다만 누군가가 대신 이 일을 해주었다면 정말 좋지 않았을까 라는 생각이 들긴 하네요 흑흑...
일단 알겠습니다. 한번 알아보도록 할게요.

[사씨남바위]

애초에 조계원 의원님 사건때처럼 법 자체를 무르라는 게 아니라, 입법취지에서 근거가 된 판례를 처벌하기 위한 법이니만큼 그 정의를 더 명확화해서 당초에 목표하지도 않는 표현물까지 처벌되지 말게 하라는 거잖아요.

당장 지금 아청법도 원래는 그 쿠지락스 상업지 그 정도의 수위나, 실제 아동청소년을 모방하여 만든 음란물을 잡으라는 취지였더니

이제는 간윤위에서도 문제 삼지 않고 종이책으로 합법적으로 발매된, 음란물유포죄 걸면 음란물에 해당하지 않는 종류의 만화조차 전자책으로 못 내거나 죄다 성인설정으로 억지로 바꿔서 내야 하듯이요. 무엇보다 창작자끼리 서로 찔러죽이기 위한 법으로 변질되었고.

만약 체인소맨에 나오는 그 유명한 레제와 덴지의 알몸 장면(워낙 아름답고 로맨틱하게 연출되어 인터넷에서 패러디도 정말 많이 되었던)이나 그와 비슷한 것을 ai로 생성한 것이 '미성년자의 신체 ai합성 및 생성물'로 취급되어선 안 되니까요.

[팩트 드래곤]

사실 수위가 높은 가상 창작물이 취지였다고 하기도 이상하긴 해요. 명시된 문구 상으로는 '현실의 아동•청소년을 지원하고 보호하자'가 주된 내용 이거든요. 목적(취지)의 어디에도 가상 창작물의 수위에 집착하거나 2조 5항을 서브컬처 이용자들 에게만 불리하게 해석하고 정작 실제 피해자가 있는 사건의 가해자에게는 유리하게 해석하라는 부분은 없거든요. 그래서 피해자의 얼굴이 실제로 사용되었는데 아청법상 무죄로 판결한 사건이 정말 놀라웠어요. 법리의 세계는 정말 어메이징 하구나 라는 걸 잘 보여주거든요. 아무튼 진짜 저 목적에 부합하려면 쓸데없이 가상 창작물 처벌에 낭비되는 형사적 행정력과 예산을 차라리 실제 피해자 분의 지원에 사용하는 게 맞거든요. 가뜩이나 딥페이크나 스토킹 피해자 분들의 신변 보호 등 실제 성범죄 사건에 대한 지원 인력이 부족하다는 얘기가 들리니까요. 왜 근거도 없는 가상 창작물에 집착을 하는지 이해가 안됩니다. 집착이란 표현을 사용한 이유는 아청법 개정안 당시 발의하다 철회하셨던 분의 태도와 국회입법 조사처, SBS가 잘못된 정보를 보도하고도 사과 한마디 조차 없이 기싸움을 하고 있기 때문이에요. 의견은 다르더라도 최소한 잘못된 정보 전달에 대해선 사과하는 게 정상적인 태도거든요. 헨리앤파트너스 사태만 봐도 아청법 개정안 관련 사태들은 정말 부자연스럽습니다.

[mxhz]

애초에 개정안의 원인이 된 사건에서 아청법을 무리하게 적용한 결과 무죄가 떠버린건데 그걸 아청법 개정으로 보완하려고 한 것부터가 문제라고 봅니다. 따지고 보면 딥페이크로 인해 침해된 권익과 아청법이 본래 보호하고자 했던 권익이 서로 맞지 않아요
아청법이 본래 생긴 원인은 아동청소년의 성적인 촬영물들을 디지털 매체로 제작,유포하는 행위를 처벌하고자 하는 것에서 시작한 걸로 기억합니다. 디지털 매체가 없던 시절 만들어진 기존 법으로는 아동청소년에게 성적 위해를 직접 가하지 않고 촬영물 제작,유포에만 관여한 자들을 처벌할 법적 근거가 미비했으니까요
그렇다면 아청법이 본래 의도한 보호권익은 성범죄 피해를 직접 당한 아동청소년의 보호라고 봅니다. 문제가 되는 2조 5항의 표현물도 표면적인 의도는 성범죄 촬영물을 가공해서 마치 실제 촬영물이 아닌 것처럼 속이는 물건을 잡기 위한 목적이었다는 것을 생각하면 아마 맞을겁니다.
하지만 딥페이크로 인해 침해되는 권익은 성격이 좀 다릅니다. 피해자가 실제 성범죄를 당한 것은 아니니까요. 딥페이크 제작에 사용된 피해자의 요소는 얼굴 정도이기 때문에 엄밀히 따지자면 초상권, 허위사실 유포로 인한 피해자의 사회적 평판, 피해자의 성적 수치심을 침해된 권익으로 봐야하고 그렇다면 해당 권익과 관련된 법을 건드려야 하지 아청법을 건드릴 문제가 아니라고 봅니다. 딥페이크로 인한 피해가 성인들도 해당된다는 점을 고려하면 더더욱이요
개인적으로는 아청법이 정치적 쇼를 위한 도구로 이용되면서 갈수록 아무 쓸모없는 누더기법이 되는거 같아 안타까운 측면에서도 해당 개정안은 잘못됐다고 봅니다

[팩트 드래곤]

네. 저도 굳이 아청법에 넣지 않아도 강하게 처벌할 수 있는 법을 개정, 신설하는 방법 등으로 하는 것도 반대하지 않습니다. 다만 의원 분들이 저 개정안을 계속 밀고 갈 예정이라면 그나마 더 나은 방법을 말씀드린 거예요. 계속 고집하실 가능성을 전제로 쓴 글이라고 보시면 되겠습니다. 그리고 저는 딥페이크쪽 법리를 문제 제기한 건 아니고 그동안 아청법 표현물 조항에서 피해자도 근거도 없는 비실사적 2D 표현물은 이용자들에게 불리하게 해석해 놓고는 실제 피해자의 얼굴을 사용하여 만든 것은 아청법상 '표현물'로 해석하지 않은 한국의 위선적인 법리 시스템이 모순적이고 웃겨서 말씀을 드리긴 했어요. 말씀하신 2조 5항의 표면적인 의도도 미국 정치인들이 대법원에서 했던 변명이 생각나는데 그게 결국 대법원에서 퇴짜를 맞았거든요. 입법자들의 변명도 웃기긴 합니다. 그 논리면 2D 작품에서 벌어지는 모든 범죄 묘사는 실제 촬영물일 가능성이 있다는 거예요. 예를들어 고죠 사토루 더위사냥 장면도 실제 스너프 촬영물일 가능성을 고려해서 규제해야 된다는 논리니까요. 드래곤볼에서 심심하면 몸에 빵꾸 뚫려서 죽는 장면도 마찬가지구요. GTA에서 총기난사 당해서 죽는 모션 등등 정치인 분들이 진짜 말도 안되는 이유를 갖고 온다고 봅니다. 아무튼 말씀하신 것처럼 아청법은 성범죄 피해를 직접 당한 아동 청소년의 보호가 목적이 되어야 한다는 말씀에 저도 공감하구요. 그렇기 때문에 저도 근거없는 표현물 처벌에 반대하는 것이기도 합니다. 딥페이크 처벌을 위해 반드시 아청법에 넣어야 한다는 입장을 고수하는 건 아니기 때문에 안심하시길 바랍니다. 제 글의 의도는 개정안의 표현을 모호하게 방치할 명분을 없애는 거였으니까요.

[의심하고또의심해]

원 글 작성자인데 여기도 올라왔었군요.
정정글에는 최대한 건조하게 서술하느라 생략된걸 설명하자면
저도 제가 오해한만큼 입법 취지 글은 좀 더 명확하고 논란이 안되게 작성했으면 좋겠다는 생각이들긴 했습니다.

저는 2조 1항 때문에 실제에만 한정된다고 해석했는데
1항이 5항을 상쇄시킬 수 없다고 하셨는데 그런 맥락보다는
5항에서도 '아동•청소년으로 명백하게 인식될 수 있는 사람이나 표현물' 조항의 아동 청소년을 1항의 조건처럼 실존 인물에 제한하지 않고 완전한 가상의 영역까지 넓혀서 판단하고 있는 것 처럼
새로운 개정안도 비슷하게 해석될 수 있다고 걱정할 수 있겠네요.

이 점 정정문 하단에 추가하겠습니다.

[의심하고또의심해]

다만 2조 5항을 그렇게 해석하는건 '표현물'이기 때문이라는 의견도 있네요
이렇게 해석한다면 새로운 개정안은 실존에 국한되는게 맞는 해석이긴 합니다.

[팩트 드래곤]

발의안이 나온 걸 알려주셔서 감사드립니다. 표현물이기 때문에 그렇게 해석한다 라는 의견도 있다고 하셨는데 문구의 맥락으로 봤을때는 부자연스럽긴 합니다. 1항이 '실제 아동 청소년으로 국한'됨을 의미한다면 5항의 표현물도 '실제 아동 청소년으로 명백하게 인식될 수 있는 표현물' 이어야 자연스럽거든요. 이게 법 문구가 모호해서 해석이 갈릴 여지가 있는 것 같습니다. 다만 법조계가 그 모호함을 이용자들에게 불리하게 해석하는 건 문제가 있다고 보구요. 현재로서는 확정하기 힘들기 때문에 불필요하게 의견 충돌이 있을 필요는 없을 것 같습니다. 다양한 가능성을 나열하면 될 것 같아요.

[의심하고또의심해]

'표현물' 자체가 가상을 포함하는거 아니냐 라는 접근이었던 것 같은데 저도 동의하지 못하는 바라 자세히 보진 않았네요
암튼 저도 개정안에 완전히 찬성하는건 아니고 실제에 초점인 것 같긴한데 기왕이면 모호하지 않게 만들었으면 하는 바람이 있습니다.

[팩트 드래곤]

그렇죠, 표현의 명확성과 납득할 수 있는 확실한 근거가 바탕이 될 때 법이 만들어지면 좋겠습니다. 발의안에 대한 소식 전달과 적극적인 여론으로서 목소리를 내주셔서 감사드리고 좋은 하루 되시길 바랍니다.