[유머] 해외에서 AI그림 데이터 테러 발생

[지방자치단체부속희망기관]

AI그림 핵심 코드 유출 사건 이후로는

개인이 노력만 하면 독자적으로 시스템을 굴릴 수 있기 때문에

각자 학습시킨 데이터 모델을 공유하는 커뮤들이 생겨났다

그런데 그중에

내용물이'실제 아동 포/르노물'인것을 속이고

일반적인 그림 데이터 모델인것처럼 뿌려

적용하고 돌리면 당연히 아동 ㅍㄹㄴ 제작자가 된다고 한다

피해자들 발언에 의하면

얼마나 딥하게 학습 시켰는지 사진 수준으로 나온다고..

[뭐 임마?]

별짓을 다 하는구낰ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[쾌감9배]

와 십... 역겹네

[즐거운맛양배추]

태그낙시인거야 특정ai가 오염 된거야?
글이 이해가 안되는데

[지방자치단체부속희망기관]

아 AI 그림 기본 구조부터 설명해야겠다
본문에 추가하겠음

[루리웹-8717206684]

po페도wer 버전 AI 를 거유 미소녀라고 속이고 뿌린뒤
받은 사람이 돌리면 페도짤이 짠!

[루리웹-1247180056]

오염된 AI를 만들어서 배포한다는 소리

[E캔두잇]

AI가 카오스에 오염된다는게 이런뜻이였나

[모드레드]

실제 아동 ㅍㄹㄴ물에 일반적인 태그를 설정해서 다량 학습시킨거 같음
그럼 그 태그로 이미지를 생성하면...

[딸딸이]

학습시킨 일종의 백과사전을 만들 수 있음.
기본적인 엔진에 그 백과사전을 끼우고 ㅇㅇ 그려줘 하면 AI가 백과사전 읽으면서 그려주는거

근데 저건 아동ㅍㄹㄴ 백과사전을 그림백과라고 속여서 뿌리고있다는 소리인듯
실수로 받아서 자기 AI에 꽂으면 아동ㅍㄹㄴ가 학습되는거

[OBJECTOR]

디지털 러다이트인가 뭔가냐 이게

[미류시즈]

으;

[쩡일부강등]

Ai도 정품을 써야 되겠구만...

[생육]

심오하군

[차돌박이]

[루리웹-2312534542]

한국애들은 시무라 아줌마 러닝한거 뿌리니 마니 하고있었는데 그건 완전히 새발의 피였네 ..

[Acek]

아니 스벌 그것도 좀

[루리웹-맑스]

하지만 시무라 아줌마는 위법은 아니잖아

[루리웹-410759255]

저러면 오히려 진짜 범죄자만 감싸주는 꼬라지가 될껄..

[까진데물파스]

솔직히 예견된 일이라고 생각함 분명 저지랄할 ㅂㅅ들 있을텐데 싶었지

[루리웹-5437961680]

공격사례가 나올거라곤 생각했는데 이런식은 상정외인걸

[지방자치단체부속희망기관]

정확히는 진짜 사진을 기반으로 학습한 AI 모델 데이터를 살포함
당연히 진짜 사진에 가깝게 만드는 능력만 가지고 있고

[brengun]

공들여서 엿먹인거네

[쌀마스터]

디스코드 공지 보면 FBI가 껀수잡을려고 뿌린거 아니냐는 추측이 있네

[루리웹-맑스]

Fbi가 안그래도 페도들은 할 놈들이긴 한데

[misterbin]

FBI가 그런 식으로 사기를 쳐서 범죄를 저지를 생각이 없던 사람을 범죄자로 만들어버리면 함정수사 판정이라 껀수고 자시고 그 짓한 요원들이 작살나게 됨
그냥 왠 또.라이가 저지른 일인데 워낙 FBI스러운 사안이라 레딧 작성자가 넘겨짚은 것 같네

[루리웹-9336927803]

확인도 안하고 데이터 긁어모으는거 노리고 저지른건가. 진짜 하루마다 미1친 놈들이 나와

[루안네츠]

져건 의도적으로 학습시킨거라 더 악질임

[SensitiveOne]

AI 그림에 대한 제도화가 제대로 안되어있는 지금이 가장 무질서하고 윤리적이지 않는 시기라 생각함... 빨리 제도화 되었음 좋겠다. 여러의미로

[E캔두잇]

위험한 말이긴 한데..
아동 뽀로로 AI가 완성되면 뽀로로용 아동납치가 줄지 않을..까?
더이상 피해자가 없는..

[일하는 멘헤라]

ㅍㄹㄴ 합법화 되면 성폭행 사건 사라질거란 소리같음 ㅇㅇ 좀 아닌듯

[난오늘도먹는다고]

그건 너무 긍정적으로 생각한게 아닐까? 실제적인 효과가 있는가도 문제고
오히려 아동성애를 자극하는 결과가 나올수도 있지 않을까?

[킁가킁가♥️]

위험한말 맞고
말도 안되는 말 맞으니
삭제하는게 나을것 같아~

[루리웹-6139105819]

위험한 말이다 싶으면 제발 남들 있는 데서 꺼내지 마

[대천사 치탄다엘]

딸딸이로 만족못하는 페도새끼는 반드시 나올거다.

[루리웹-맑스]

그럼 그 ai교육시키는 자료가 범죄자료인데 그걸가지고 만들면 피해자들에게 2차피해라는 생각은 안함?

[까진데물파스]

헛소리는 일기장에다 쓰기
미성년자를 성적착취하는거 자체가 비성상입니다만?

[왜사나]

그럼 저 AI로 생성한 이미지를 로리 그림 쩡으로 처벌해야 할지, 실제 아동ㅍㄹㄴ물에 준해서 처벌해야할지도 애매하겠는데.

[멸종위기종]

예전에 일러스트레이터들이 직업을 지키기 위해 이런 짓을 할 거라던 디시 글을 본 적이 있다.

[Berserker Suite]

프리즈 에프비아이 !

과연 연방 수사원들이 해결해 줄까?
아니면 이 핑계로 개인 차원에서 AI 개발을 중지 시키고 기업이 독점해버리는 최악의 결과가 기다리는 건 아닐까.
비기닝 싸이버펑크2023

[행인A씨]

사진급이라는거 보니 유게에 모닝글로리 하면서 올리는 수준의 물건이 아니겠네

[최애캐는로리지만페도는아니라구요]

걔들도 앵간하면 선은 지킴 하다못해 차원은 지키지...

[[동패동 이상현]]

그 수준을 뛰어넘는 씨1발 이미지인거 같은데

[루리웹-6139105819]

사진 수준으로 나오는 거면 애초에 사진 가지고 데이터 만든 거 아님?
데이터 테러인지 뭔지 몰라도 일단 그놈부터 잡혀가겠는데?

[LegenDUST]

뭔가 SF의 단계로 들어서고 있는 것 같아

[딸딸이]

유포한놈 찔러넣으면 FBI가 압수수색까지 다 해줄듯 ㅋㅋ

[루리웹-5511470548]

으메이징하다 진짜

[루리웹-5511470548]

울트론이 왜 인류를 멸망시키려 든지 알거 같음

[루안네츠]

? 뭔 소리임?
학습 자체는 오픈 소스로 개방된 거임

[루안네츠]

스테이블 디퓨전 - 오픈소스 본가
스테이블 디퓨전 파생 모델 중 하나가 유출된 nai임

[쿨쿨쿨쿨]

유출된건 공부방법이라고 생각하면 되고 저건 공부할 참고서를 19금 서적에다 일반책 표지로 속인거임. 참고서는 아무나 봐도 되는거고.

[루안네츠]

공부 방법하고 참고서는 오픈 소스인데

[루안네츠]

스테이블 디퓨전 기반 NAI 학습 모델이 유출된 거지

스테이블 디퓨전
그리고 그 외 파생 모델은 다 오픈 소스임

[루안네츠]

애당초 스테이블 디퓨전이 오픈 소스 AI로 배포됐고

NAI는 스테이블 디퓨전을 기반으로 해서 상업적으로 사용한 스타트업임

[루리웹-2533601034]

이제 딥페이크마냥 규제맞는일만 남았겠네 애초에 저 사람들이 노린게 그런 부분인듯

[루안네츠]

ㄴㄴ 그것도 어려운게
모델에는 가중치밖에 없어서

직접 가동시켜 봐야 암

[루리웹-2533601034]

결국 개인들이 쓰는걸로 알아낼법은 없겟지만 이런식으로 세간에 주목받으면 노벨ai도 해킹당해서 아동ㅍㄹㄴ를 학습한다던가하는 경우가 생길수있고 이러면 미국이 가만히 넘어가진 않겟다 싶어서...

[gyrdl]

와....존나 생각지도 못하게 일이 굴러가네

[미스터피]

공격한 ㅅㅋ들은 그런 데이터를 어떤 형태로든 구했다는 이야기니까 이미 범죄자 그 자체

[루리웹-5511470548]

하이퍼네트워크 돌릴 정도면 사진 한두장 가지곤 어림없던데 사진이 얼마나 많았으면 진짜 으;;;;

[모에화광선빌런]

듣기론 25장에 좌우반전으로 2배면 50장 돼서 충분하다는듯

[루리웹-5511470548]

그래도 의도적으로 학습시켰을 정도면 실제 사진들을 갖고 있었단 건데 진짜 악질이네.

[파이올렛]

씨이발..아동ㅍㄹㄴ를 왜 퍼트려

[misterbin]

ㅆㅂ 시대가 발전(?)하니까 또.라이 짓도 별의 별 신박한 게 다 나오네

[epsp]

의도적으로 학습시켰다는건 진짜 그런 이미지를 가지고있는 페도라는 소리잔아

[샌드참샌드]

'예전에 일러스트레이터들이 직업을 지키기 위해 이런 짓을 할 거라던 디시 글을 본 적이 있다.' <-이게 사실이라면

생각해보면 그림쟁이들 중에서 그런쪽 위주로 그리는 사람은

이미 자료는 가지고 있을테니 어려울일이 아니겠네 ㄷㄷ