[참고] [pixiv] AI 생성과 관련된 문제와 대응에 대한 보고

[echospherics]

pixiv 사무국입니다.

현재 AI 생성과 관련된 문제에 대해 많은 문의를 받고 있습니다.
본건에 대해 여러분께 심려를 끼쳐드린 점 깊이 사과드립니다.

현재 많이 문의를 받고 있는 것은 다음 세 가지입니다.

문제 ① 특정 창작자가 불이익을 받는 것
문제 ② 프로그램 등으로 창작자의 작품이 부당하게 수집되는 것
문제 ③ AI 생성 작품을 보고 싶지 않은 사용자에게도 AI 생성 작품이 많이 표시되는 것

이것들에 대해서, pixiv는 이하와 같은 대응을 실시해 가겠습니다.
또, 관련 서비스인 pixiv FANBOX에 대해서는, 추가 대응 · 대책을 검토하고 있습니다.이것에 대해서는 조만간 안내해 드리겠습니다.

문제 ① 특정 창작자가 불이익을 받는 것

현재 생성 AI 기술로는 특정 창작자의 이미지를 학습하여 화풍을 모방한 작품을 생성할 수 있습니다. 이 기술로 인해 이미지를 학습당한 창작자들이,  사칭 피해를 당하거나, 멋대로 이름을 사용당함으로써 인격에 손상을 입는 등 불이익을 받고 있습니다.

대응①

■서비스 공통이용규약·가이드라인을 개정합니다.

새로운 서비스 공통 이용약관·가이드라인에서는 특정 창작자의 화풍을 모방한 작품을 반복 투고하는 행위 등을 금지항목으로 추가하고, 이와 함께 단속을 강화해 나갈 것입니다. 서비스 공통 이용약관은 pixiv 및 pixiv 주변 서비스 모두에 적용됩니다.
저번에 알려드린 대로 5월 중으로 개정할 예정입니다.

· 서비스 공통 이용 규약 · 가이드 라인류 개정 사전 공지
https://www.pixiv.net/info.php?id=9522

■새로운 감시시스템을 추가 도입합니다

현재 pixiv는 새로운 감시 시스템의 추가 도입을 준비하고 있습니다. 이로 인해 생성 AI 기술 악용을 비롯하여 타인의 활동을 위협하는 행위, 아동 ㅍㄹㄴ, 표절 등 픽시브 이용상의 문제를 보다 쉽게 발견할 수 있습니다.

문제 ② 프로그램 등으로 창작자의 작품이 부당하게 수집되는 것

생성 AI 기술로 화풍을 모방하려면 '학습 소스'라고 불리는 일러스트가 여러 작품 필요합니다. 크리에이터에게 불이익이 되는 부당한 목적 때문에 SNS에서 특정 크리에이터의 일러스트를 많이 수집하는 경우가 있습니다.

대응②

■pixiv에서는 부당한 목적을 위한 작품수집을 이전부터 금지하고 있습니다

pixiv에서는 이미 서비스 공통 이용 규약 제14조와 가이드라인에서 부당한 목적을 위한 프로그램 등을 이용한 작품 수집 행위를 금지하고 있으며, 발견 즉시 대처하고 있습니다.

■기술적 대책으로 악의적인 접근 방지에 힘쓰고 있습니다.

현재 실시하고 있는 다양한 대책에 대해서는, 이쪽을 확인해 주세요.이러한 대책은 앞으로도 강화해 나갈 것입니다.

· 픽시브에서의 부당한 목적의 작품 취득 행위에 대한 대책 기술에 대하여
https://inside.pixiv.blog/2023/05/09/183635


문제 ③ AI 생성 작품을 보고 싶지 않은 사용자에게도 AI 생성 작품이 표시되는 것

pixiv에서는 제작 과정의 전부 혹은 대부분을 AI에 의해 생성된 작품을 'AI 생성 작품'으로 올릴 수 있습니다. 「AI 생성 작품」의 투고 수가 많고 필터링 기능의 인지도 문제도 있어, 보고 싶지 않은 사람에게도 표시되는 경우가 있습니다.

대응③

■같은 사용자의 작품이 검색 결과 등을 점거하지 않도록 합니다.

같은 사람이 단시간에 여러 번 AI 생성 작품을 올리면 검색 결과 등으로 다른 사람이 작품을 찾기 어려워질 수 있습니다. 이러한 대량 투고에 대한 대책을 강화할 예정입니다.

■ AI 생성 작품의 필터링 기능을, 보다 이용하기 쉽게 합니다.

이미 제공하고 있는 「AI 생성 작품 플래그」와, 그것을 이용한 필터링 기능을 보다 알기 쉬운 곳에 표시합니다.
현재 표시되는 부분은 여기 도움말 페이지를 확인해 주십시오.
https://www.pixiv.help/hc/ja/articles/11866167926809

픽시브 주식회사의 이념은 '창작 활동이 더 즐거워지는 장소를 만든다'입니다.

저희는 창작자를 비롯하여 창작을 즐기는 사람들이 안심하고 활동할 수 있는 환경을 제공하고자 합니다.
새로운 기술의 물결 속에서 새로운 공격 수단이나 타인의 권리를 위협하는 행위, 스팸 행위가 다수 발생하고 있습니다. 이러한 창작 활동의 즐거움을 해치는 행위에 대해서는 AI 기술, 화상 생성 기술, 또 물론 인간의 손으로 행해진 것도 포함해 그 수단에 관계없이 계속 엄연히 대처해 나갈 것입니다.
현재로서는 불확실한 점이 많아 시간을 내 불편을 끼쳐 드려 대단히 죄송합니다만, 여러분이 안심하고 창작 활동을 할 수 있는 장소가 되도록 노력하겠습니다.

앞으로도 pixiv를 잘 부탁드립니다.

출처 : https://www.pixiv.net/info.php?id=9524

[음덕음덕]

인공지능이 학습하는 자료 리스트를 무조껀 흔적 남게 << 이게 실제로 가능함?????

[APERTURE SCIENCE]

커뮤에 올라오는 인공지능 그림 어떻게 나오는지 몰라서 이런말할 수 있는거

남의 그림 없으면 성립자체가 안되는 수준임

[음덕음덕]

업데이트 흔적이 남는건 그냥 업데이트 로그아닌가요?? 그림을 가져오면 가져온 그림을 리스트화 해서 저장하는 방식을 말하는 건가요?

[번치킨]

그럼걸 할수있는 기술자체가 존재하지 않습니다.. 그런게 존재했으면 불법사이트들은 진작에 사라졌겠죠..

[하나카와]

구글이 활용하는 특정패턴의 그림 검열같은걸 말씀하시는거 같은데…
개인 창작자의 그림패턴이란 범주는 너무 무작위하고 넓어서 어렵지않을까생각합니다

[샬리즈]

우리가 학습을 하는 AI와 학습 데이터를 긁어오는 크롤링 프로그램을 묶어서 "AI가 웹에서 그림을 긁어와서 학습을 한다"고 말하긴 하지만, 실제로는 둘이 아예 별개의 프로그램이라고 봐도 무방합니다.

예를 들어서, 제가 속으로 '이 작가들의 그림을 AI 학습 재료로 써야지'라고 생각하면서 크롤링 툴을 이용해 픽시브의 그림들을 다운로드했다고 칩시다. 그런데 제가 외부에다가 "나는 이 이미지들이 멋져서 소장하고 싶어서 다운로드 했어!" 라고 하고 다니면, 제가 자발적으로 그 그림들을 AI 학습에 이용했다고 밝히지 않는 이상 남들은 제가 그저 소장을 위해서 다운로드 했다고 밖에 생각할 수가 없습니다. 즉, AI 개발자 측에서 해당 그림을 학습에 이용했다고 밝히지 않는 이상 "기술적으로" 어떤 그림을 이용했는지 강제로 밝히게 할 수단이 없습니다.