[유머] AI 그림) WEB UI 관련해서 조만간 폭탄 하나 터질듯

[19951우]

https://www.dailymail.co.uk/news/crime/article-11665797/Paedophiles-using-AI-art-generators-create-child-porn.html

오늘 영국 연방수사국 (NCA)가 AI로 만들어진 실사체 아1동포1르노 문제 인지했고 대책 논의 중이라고 기사 나옴.

현재 아동 실사체 야짤 만드는 게 가능한 툴은 WEB UI밖에 없어서 조만간 폭탄 하나 터질거라 예상중.

사실 그간 뉴스등에서 논의되던 AI툴은 원본 스테이블 디퓨전, DALL E, 미드저니 같은 거였고 개인 차원에서 개조가 진행중인 WEB UI에 대해서는 시작도 안했었는데

문제는 '소위 퀄리티 있는 그림'을 뽑을 때 사용하는 모델 (바질믹스,어비스 오렌지,베리믹스) 등에 무단 수집한 실존 인물 데이터가 들어간다는 거임. (F111, 222, 인스타)

다들 쉬쉬하면서 저작권 문제만 내세웠지만 결국 AI 그림퀄이 지금까지 올 수 있었던 건 리미터풀고 개인정보를 무단 수집해서 가능한거였음.

아동과 관련된 데이터가 아니더라도 개인 정보 관련 데이터는 어느 나라나 엄격히 접근하는 부분이라 이건 좀 지켜봐야할듯.

[루리웹-2312534542]

머저리 같이 지가 만든거 좋다고 쳐 올렸나ㅋㅋㅋ 어떻게 잡은겨

[로건-울버린]

변태ㅂㅅ일수록 자랑하고 떠벌리길 못참지

[19951우]

지명수배했던 사람이 잡혔는데 거기서 AI ㅍㄹㄴ 이미지가 발견된 것

[루리웹-2312534542]

ai 이전에 원래 그런놈이였구만..

[lean28]

루리웹에도 중요부위만 가린 알몸 ai사진 올렸던 사람 있었음(딴데서 퍼온 물건)
보고 경악했는데 마이너한 곳은 더 지옥이겠지...

[루리웹-7206005173]

좀 큰곳에선 괜히 야한걸 막아둔게 아니긴하니

[19951우]

야한 걸 막아둔 게 아니라 그런 데이터를 적법하게, 적법한 목적으로 수집할 방법이 없으니까 넣지 못한것에 가까움

스테이블 디퓨전만 해도 업데이트 할 때마다 조금이라도 남아있는 nsfw 컨텐츠 빼는증

[2404554]

예상했던 시한폭탄이 발동하기 시작한건가
문제는 저 폭발효과가 어디까지 미치는가일 뜻. 그냥 사람초상권에 끝나느냐, 학습되는 모든 그림과 사진의 저작권 문제까지 번지느냐

[19951우]

개인정보 문제는 어느 나라라 엄격히 대응하는 분야라서 별 차이는 없을듯

에버노트도 개인 얼굴 데이터 무단 수집해서 알고리즘 만들다 걸려서 처벌 받았었음

[19951우]

F111, 222같은 실존 인물 기반 데이터를 빼면 모르겠는데 그걸 빼면 지금 퀄리티가 안 나와서

[루리웹-9654762894]

픽시브에 졸라 심하던데 기겁하고 나옴...

[Coolryong]

픽시브 설정에서 'AI 생성 작품' 숨기기라도 해놓으셈. 그나마 좀 나아짐...
옵션 명칭이 '일부 숨기기'라고 되어있는 이유는 일부 업로더가 AI작품인데도 표시를 안해놓고 올리는 사례들 때문...

[19951우]

몇몇 기술빼면 그닥 변한건 없는데, 그냥 개인 사용자들이 저작권이니 개인정보니 무시하고 데이터를 넣어서 퀄리티가 올라간 것처럼 보였던 거임.

일종의 허상

[파킨]

저작권이랑 초상권 고려하고 넣는다 하면 즉시 븅신되긴 하지

[법정기준일]

근데 그러면 만약 돈주고 데이터 모아서 학습시키겨되면 결국 저 퀄리티가 나오긴 한다는거네?

[19951우]

그게 어려우니까 지금 나오는 ai 그림들이 다 Web ui로 만들어지는 거임..

[법정기준일]

그러니까 내 말은 '어려운거지만 그거 되면 결국에 퀄리티는 올라가느냐'
하는 질문임

[19951우]

가능!

[커리마왕]

발전하는 속도만큼 문제점에 대해 빠르게 대처를 해야하는데 그건 또 인간이 하는건지라 사건터지는 속도만큼 빠르질 못함
덕분에 폭탄이 여러곳에서 계속 터지고 있지

[19951우]

F111, F222라는 모델 나오고 나서 그거 병합하면서 비약적으로 퀄리티가 상승한건데 요 모델이 실제 인물 학습해서 만든거라 문제

이미 제작자는 도망간지 오래

[크리피스타]

아동 xx사진 보유 만으로도 걸리는거 같던데
이걸로 학습 시켜서 모델 내놓으면 이걸로 돌린 사람은 그냥 다 ↗되는건가?

[미카엘KIM]

그건 스테이블 디퓨전 초기 때부터 절대적인 금기였음
페도새끼들이 못참고 결국 선 넘은 거지 ㅋㅋㅋ

[도롱뇽맨]

시간의 문제였지 언젠간 터질 일이었지

[19951우]

어비스 오렌지 같은 씹덕 모델에도 쓰이는게 실사체 데이터라서 (바질) 걍 언젠가는 터질 도화선이었다고 봄

[희나]

곧망하는거냐?

[미카엘KIM]

오픈소스로 여기저기 풀려서 그냥 문제있는 모델의 사용자와 제작자 조지는 것에서 끝날 것이라고 봄

[희나]

보니깐 다윤받아서 학습시키는건데

학습시킨사람 문제인겅가?

[희나]

딥페 시즌 2ㅋㅋㅋ

[트리셀]

결국 저작권이고 뭐고 간에 아동 관련 문제로 터지는거였군

[-운하영웅전설-]

그림 긴빠이는 저작권의 문제니까 민사의 영역이라고 하지만.. 사진을 긴빠이 쳐서 야짤 만드는 건 완전 다른 이야기니까.

[룬나이츠]

[루리웹-6885585758]

딥페이크 문제랑 직결되는지라 저건 언젠가 터질거 같긴 했어

[생명]

남 피해안주고 혼자 놀면 문제가 안 됨. 포토샵 같은 툴의 발전에 따라 이미 합성 돌리는건 수십년되었고 인공지능이 좀 더 편하게 해줄 뿐임. 꼭 멍청이들이 나 이런거 본다고 선 못 지키고 나대다가 범죄자 됨ㅋㅋㅋ

[룡키]

2d그림체야 그렇다치는데 실사 나오는거 보고 어 이거 쎄한데? 싶더니만 결국 문제가 되는구나.

[홍가놈]

아마 저런건 음지에서 개인이 만들어서 개인이 쓰는형식으로 발전할듯

[미카엘KIM]

오픈소스로 수많은 사람들한테 풀린 상태여서 스테이블 디퓨전 자체와 그 ui인 web ui 자체에 타격은 안갈꺼라고 봄
이미 여기저기 배포돼서 저런 범죄자들은 더 어둠 속에 숨겠다만

[서서울시외버스터미널]

작년부터 돈 얘기였는데 결국 기우였다는 걸로 결론 났잖아
저작권이 없는 불특정다수의 데이터를 완전합법인 크롤링으로 수집해서 잘게 쪼개는 스테이블 디퓨전 특성상 복원이 불가능해 특정불가능하다고

[19951우]

미국은 그런 거 신경 안써줌. 에버노트가 그런 식으로 데이터 수집하다 걸려서 알고리즘 삭제 처분 받았는데, 알고리즘 특성상 문제가 되는 부분만 삭제가 불가능하다고 문의하니 알 바 아니고 싹 다 삭제하라는 식으로 처리함.

연방거래위원회 (FTC)의 입장은 그렇게 되기 싫으면 데이터셋 명확히 하고 관리 기록 똑바로 하라는 것.

괜히 원본 스테이블 디퓨전이 데이터셋 관련해서 명확히 표기해두는게 아님

[19951우]

TDM이 면책되는 건 연구처럼 비상업적 목적이거나 공정 사용이어야 함. (일본제외)
인터넷에 올라온 이미지가 모두 저작권 프리인것도 아니고 하물며 인스타 모델처럼 개인 인스타 사진 학습 시킨건 문제의 소지가 충분하다고 봄

[서서울시외버스터미널]

상업적으로 이용되기 전의 Ai 데이터 학습 자체가 tdm일걸? 일단 미국 한국은 그런걸로 알고 있는데 지금 찾아보니까 영국도 그렇고

[미카엘KIM]

저건 개인이 문제되는 이미지 모아다가 트레이닝 시켜서 AI모델을 개인 커스텀한 거라 AI 제작사한테 영향은 안갈거라고 봄
스테이블 디퓨전이 사용하는 AI기술은 인터넷으로 공유되는 알고리즘이 아니라 배포되는 모델 파일이 핵심임

[19951우]

그건 현재 진행중인 소송이 어떻게 끝냐느냐에 달라지겠지만, 원본 스테이블 디퓨전은 어찌저찌 남아있을 것 같긴 함.

음지에서도 계속해서 사용될 것이고...

다만 얼마전까지 활발하게 논의되던 상업적 이용에는 어느정도 꼬투리가 잡힐 여지가 있다고 봄.

[19951우]

TDM은 목적 여부 상관없이 말 그대로 데이터 마이닝 행위를 뜻하는 거라고 알고 있음.

일본 같은 경우는 상업적 용도로도 TDM이 가능함!

[미카엘KIM]

사실 전부터, 노벨AI의 유료서비스가 등장했을 때 많은 SD 사용자들이 상업화에 불만갖거나 어이없어 하긴 했음
근데 NAI의 개발자들이 Sd 시스템 개발의 핵심 협력자들이고 Ai회사도 상업적 이용을 긍정해서 당시 다들 할말 잃었음

[19951우]

데이터셋인 라이온 5b를 만든 단체도 Stability ai가 후원하고 있는 곳이라 이건 뭔가 싶기도 함.

일단 뭐 하나 간단하게 결론 지을 문제는 아닌듯.

[루리웹-3851987649]

근데 결국 저작권 있는 것도 긴빠이쳐서 상업적으로 이용중인데 기우로 끝내기엔 늦은거 아님?

[메검메검하고웁니다]

지금 실사체 이미지들 나오는거 보면. 뭔 문제가 터져도 이상하지 않음.

[한초]

EU에서 결의한 AI 규제안이 2022년 말 이미 확정됐고 올해 3월 혹은 4월안에 발효될 예정입니다. 여기에 저작권과 초상권, 개인정보를 악의적 목적으로 이용하면 안된다는 규제안이 버젓이 적혀있기 때문에 사실상 AI 규제는 카운트다운인 상태였어요. 당장 저 WEB UI의 베이스인 스테이블 디퓨전부터 2.0버전부터 저작권 문제있는 이미지 학습 불가, 화풍 학습 다운그레이드, 3.0부터는 원작자가 직접 삭제 가능한 사이트 운영해주고 있구요.

그래서 WEB UI는 100% 다 2.0 이전 버전인 구버전 사용하고 있습니다. 소프트웨어적 발전이 작년 10월 이후 한 번도 없었단 뜻입니다. 발전한건 데이터 긴빠이를 더 많이해서 결과물이 그럴싸해진 것일 뿐.

[동생대신]

[19951우]

이 경우에는 실존 아동 개인의 이미지를 학습시킨 거라 개인정보 침해 건으로 간다고 봐야죠.

어찌됐건 현 AI가 데이터를 필요로 하는 건 사실이고 실제로 많은 WEBUI 이용자들이 실존 인물을 학습한 F111, 바질믹스등을 이용해 출력하지 않습니까?

미국에서도 13세 미만 아동의 데이터를 무단 수집해 알고리즘을 만든 업체에 처벌이 내려진 적 있습니다.