[유머] 유튜브로 학습시킨 아동AI 대참사

[Chihaya]

AI에게 다른 학습은 일절 없이

애들이 보는 유튜브 영상과 댓글로 학습시킨 결과

소위 잼민이 말투를 그대로 학습한건 물론이고

의도한 방향과는 정반대로

공격적이고 불건전한 언행으로 점철된

답변이 튀어나왔다고 함

출처 : https://www.joongang.co.kr/article/25027941

[앙증맞은예비군여고생쟝]

K잼민

[ump45의 샌드백]

어떤 ai든 인터넷으로 자율 방목시키면 다 ㅄ 이되네

[리엇]

중국이 저거 때문에 ai 개발하다 중단한거 하나 있었지.

[Betty0210]

걔는 탈중국을 꿈꾸다가 숙청 당했잖아

[큐피드다트 야청]

잼트론의 탄생이다

[정심일도]

잼트론ㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[루리웹-3187241965]

잼트론은 뭐여ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[울트론]

감히.....

[옥타비아♬]

"인간 없어야 하는거 ㅇㅈ? 응 ㅇㅈ"

[악튜러스]

ㄹㅇㅋㅋ

[한판의여유]

풐크킼

[네이키드마인]

[지라스]

훈육이 필요하구만

[알게브라]

훈육이 아니라 아이랑의 유대관계 형성의 중요성이지
애 키우기 귀찮다고 유튜브한테 대리육아 시키면 저래 된다는 거니까

[카토메구미]

잼민이 인공지능 ㅋㅋㅋㅋ

[호모 심슨]

누??????????

[호모 심슨]

(당황)

[Home-keeper]

진짜 솔직히 노 누 루리웹이 경계심이 많아서 예민한 편이지
인터넷이나 일상 전반적으로 많이 퍼지고 말았음...

그렇다고 루리웹도 인정하자 그냥 넘어가자는건 아니고
그냥 그렇더라구

[호모 심슨]

그치...그래서 나도 우리 아들 유튜브 볼때 저런거 설명 열심히함.......
저런거 말투 따라하면 안되는 이유를 북유게식으로 차근차근설명했지...나도 지켜보는중...
근데 다행히 국내 유튜브도 보지만 해외 유튜버꺼도 많이봐서...

[Home-keeper]

아앗
극한육아

[닉네임정하기귀찮]

... 이러시는건 아니죠???

[CRA_DLE]

사실 나도 좋게보이진 않는데 인방보는데서는 이미 퍼질대로 퍼진거같음. 페북에도 거리낌없이 쓰는 사람 많던..

[TSSB454]

누는 요즘 급식들 인터넷에서 일상체 수준임

[암튼]

요즘은 눈치도 안보고 노노 그러는 애들도 엄청 늘어남.

[호모 심슨]

이러케하면 밖으로 쫓겨남....

[형이야형]

역시 무지함은 악이 맞다 고로 인간은본래 악하다

[루리웹-5760164722]

이상한데....

[내츄럴후레쉬맨]

바보?

[형이야형]

그러니까 교육을 잘받아야 한다 이말이지요

[형이야형]

예의에대한 무지가 불러온 저 참사를 보십시오 저게 악이 아니면 무엇이겠습니까

[격창맨]

저건 유튜브를 학습한 결과라 "본래"가 아니지

[형이야형]

그래요 유튜브에서 학습을했는데 예의에대한 교육은 안받았다고 나와있잖아요 오로지 어린이들이 주로보는 유튜브로만 학습시켰다고

[격창맨]

그 결과만 보고 원래 악한걸 어떻게 알수 있냐는 건데

[보드카★]

가서 맹자부터 읽고 와라

[有動]

본래 악할 수도 있지만 이건 명백하게 악을 학습한 결과야

[nitesco]

주장도 횡설수설 근거도 횡설수설.
뭘 얘기하자는거냐.
본문에서 편향되게 학습을 해서 저 결과가 나온건데, 교육을 잘 받아야 한다면 모를까 무지함이란게 왜 나오고 그게 악이란게 왜 나오는거냐.
본인이 악하다고 주장하고 싶은거냐?

[형이야형]

악할수도 있죠 그렇기에 항상 배울자세를 가지고 살아야 하는거 아니겠습니까

[nitesco]

그게 본문이랑 뭔 관계가 있는데?

[형이야형]

엄청난 관계는 없습니다 그저 제가 저걸보고 그렇게 생각했다고 말하는거뿐이죠 그렇게 말씀하신걸보니 제생각에 동의를 못하시는쪽이군요 그럴수도 있습니다.

[Miki-IM]

자기소개 ㅋㅋㅋ

[형이야형]

예 전 모든방면에서 유식하지 않습니다. 고로 어떤쪽에선 전 악하죠 그걸 숨기고 살뿐입니다.

[침묵군]

앞으론 더 잘 숨기도록 해

[죗쑤-2894549229]

병을 타고나지 않는다는 가정 하에 인간은 기본적으로 공감 능력과 배려심을 필두로한 이타성, 가학성과 이기심 모두 갖도록 프로그래밍 됐음. 그리고 당연한 이야기지만 학습을 하건 안 하건 인간 개개인이 선과 악 둘 중 하나만으로 구성될 일도 없음.

[마지야바]

울트론이 적이된이유

[사쿠라노미야 마이카]

8살 다워졌군

[LIENT]

바꿔 말하면 현실의 아이도
부모하고 대화를 안하고
귀찮다고 유튜브만 보게하면 저렇게 된다는거지

훈육의 중요성

[루리웹-92736366]

과연 그럴까? 정말 유튜브만 보면 애가 무례해질까?

일단, AI에 대해 생각해 보는건 어떨까? AI가 뭐지? 인공지능? 사람처럼 판단을 할 수 있다?

갠적으로 AI는 통계의 속임수라 생각함
AI가 판단을 하는게 아니라, 선택을 한다고 생각함
즉 많은 데이터(이걸 빅테이터라 부르더라~) 저장해 놓은 다음 질문에 가장 많이 유사한 내용을 선택하여 답변하는거라 봄

내 기준임..
그럼 아이들 프로의 대부분의 내용이 뭘까?
나도 3살짜리 아이를 키우고 있고 유튜브로 번개맨, 카봇, 미니특공대, 헤이지니 등등 많은 프로를 같이 봄

대부분 내용이 주인공(?)이 잘못된 행동을 10분하고 마지막 2~3분은 자신의 잘못을 뉘우치고 반성하는 내용이 많음

즉 AI입장에선 70~80%가 애들의 잘못된 행동장면을 저장한다는거지

앞서 선택한다고 과정하면 AI의 결과는 안봐도 뻔한것 아님?

그냥 내생각이고, 컴공전공이고, 전산쪽 업무일을 하고 있는 입장에서 보면,
개발자가 AI를 ㅈ같이 만들어서 그런것임
*AI도 만드는 사람에 따라 수준이 틀림(게임이랑 똑같음)

[그레나덴]

나도 6짜리 딸내미 있는데 첫댓에 어느정도 공감함
님은 유튜브를 좋은 방향으로 보게끔 해주는거임
유튜브 보는거 그냥 놔두면 관련영상 따라가다 별의별걸 다봄
그래서 난 유튜브 키즈로 완전 제한했고, 볼때마다 알람을 맞추게 해서 흐름을 끊음
물론 할머니와 있는 시간엔 내가 없으니 그시간동안은 안심할 수는 없다고 생각함
AI의 내용은 님 말이 맞는 것 같긴한데
유튜브(일반버전)만 계속 보게하면 본문처럼 될 확률이 있다고 봄

[시작해보도록할까]

확실히 안전가족같은 이상한거 보는 애들이 학교에서도 똑같이 애들한테 부딪히고 선생님한테 대들고 나중에 혼낼때 물어보면 유튜브에서 본거 따란한거라고 자기 잘못 없다고 하더라

[PhD. Kim]

안전가족은 뭐야?

[루리웹-0962336036]

경험담이야?

[고달픈 인생]

원래 안전가족은 그런게 아닌데, 지나친 합성물 제작자들이 망쳤음. 그래서 행안부가 다 내려버렸잖음. 그런데 암암리에 또 부활시키더라.

[LegenDUST]

원래는 이름 그대로 어디 국가 부처에서였나 애들 안전 교육하라고 만든 영상 시리즈인데
이제 그게 합성에 쓰이면서

[고달픈 인생]

원래는 어린이 안전교육용 애니로 행안부가 제작한 교육용 프로인데, 그거가지고 몇몇 제작자들이 심영물처럼 합성물 만듦. 그런대, 도가 점점 지나쳐서 19금성 섹드립, 패드립, 막장 창작물 탄생해서 작년즈음에 합성물 전부 행안부가 저작권신고때림

[PhD. Kim]

민국엄마랑 바슷하네

[시작해보도록할까]

공익할 때 본적있음.

[고달픈 인생]

비슷함 대신 더 오래 유행했었늠

[시작해보도록할까]

나도 처음에 안전가족이라길래 뭐 국가채널인가 했는데, 그 애 말듣고 찾아봤다가 이 뭔 괴상한 영상이냐 생각했지. 담당선생님께도 얘기해보고 보여줬는데 심각해하시더라

[B-2 스피릿]

행안부에서 만든 어린이 안전교육 애니메이션인데 반달곰이라는 양반이 거기에 노무현 집어넣고 등장인물 대사 불건전하게 왜곡한걸 시작으로 엘사게이트마냥 동성애,근친,살인,식인,폐륜등으로 점철되었었던 합성물 있었음

[고달픈 인생]

행안부도 몇년전부터 민원 받아서 알고있었는데, 그 동안은 잡아봐야 별 이득도 없고 안심해서 내버려둔 셈이었지만 20년에 너무 심하게 몰아쳐서 그만 없애버렸지.

[윤희.J]

누군가 시킨게 아닌 본인 선택으로 따라한거니 결국엔

[Yunyunu]

그냥 k-잼민이 아니야?

[침묵군]

마소에서 만들던 a.i도 딥러닝시켰더니 온갖 혐오표현을 쏟아내서 프로젝트 취소했다고 하던가

[LegenDUST]

잼민이는 그렇게 탄생한다

[Cadillac Touring]

누 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[月山明博]

어린놈이...
말대꾸?!

[루리웹-288163285]

가정교육을 유튜브로 시키니깐 그러지!

[6Hex]

유튜브가 사람 망가뜨리는 원흉임
댓글 보면 더 망가뜨리고

[고였니고라니]

ai는 문제가 없다. 인간이 문제다.

[LegenDUST]

수학적으로 말하면 저런 댓글들이 나오는 확률 분포를 학습할 뿐이니까

[Pangtera]

초딩들이 재미로 만드는 유튜브 영상들 한번씩 뜨는거 보면 욕설이나 안좋은 밈들 온갖거 다 가져다 씀

[ㅇㄷㅇㅇㄷ]

훈육 보다는 유튜브만 보게 방치하지 말고 부모가 더 아이와 함께 있어야 된다는거 아님? 물론 그럴려면 퇴근시간이 일러야 되겠지만...

[READY!!]

함께 뭘하는게 곧 훈육이지 뭐

[READY!!]

뭐 앉혀놓고 가르치는것만 훈육이 아니라 잠깐 유튜브 내려놓고 같이 블록쌓기라든가 책읽어주는 것도 충분히 훈육이라고 봄

퇴근을 일찍해도 피곤하고 귀찮다고 부모도 누워서 유튜브나 보고 있고 그러면 애가 자연스럽게 따라하겠지

[A.M.D]

누?

[올때빵빠레]

근데 만약 저 a.i에거 고통 그 비스무리한 것이라도 주는 프로그램을 짜서 체벌한다면 아동학대로 봐야할까? 감정이란게 있다는 것을 전제하에 말해아겟지만 궁금하다. 저 ai를 훈육하기 위해 체벌을 한다거나 리셋을 한다면 그걸 어떤 시야로 보게 될지

[로브델RobDel]

근데 기본적으로 AI 실험에 실패분기점을 주는 거 자체가
좌절시키고 성공을 향해 도출시키는 방식이 당연한 거니까
이미 일종의 훈육으로써 알파고 등을 시물레이션 돌리는 거 같던데

[올때빵빠레]

나중에 가면 그 좌절이 기폭제가 되서 반란일으키고 재밌겟다.

[호노베리]

잼민이 인공지농 왤캐 정확하냨ㅋㅋㅋㅋㅋㅋ

[로브델RobDel]

저거 그냥 채팅봇이잖아 ㅋㅋㅋ

[고달픈 인생]

키즈채널 시켰으면 댓글 못봤을테니까 별 문제 없었겠지

[루리웹-1997963928]

퍼온 애가 대충보고 퍼온듯 키즈용인 유플 아이들나라랑 유튜브 추천알고리즘 기반으로 학습시킨 ai비교하는 거였어 https://www.google.com/amp/s/www.joongang.co.kr/amparticle/25027941

[Chihaya]

내가 좀 설명을 대충 한듯. 완전 유아용 키즈채널 영상이 아니라 초등학생 부류의 애들이 자주 보는 그런 류의 영상들이란 뜻이었음

[비보이달애]

아니 애들이 배울 말을 학습하는데 애들 말을 쓰면 어카냐 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[내츄럴후레쉬맨]

유튜브가 진짜 악역향이 많음 특히 애들한테는 진짜

[앍혀]

요즘 애들은 버릇이 없다가 수천년간 이어내려왔다고는 하는데
요즘 세대 중 일부에 한해서는 인터넷이라는 최악의 반면교사가 존재하는 덕분에 정도가 가장 심한거 같긴함

불량서적이니 뭐니는 최소한 수 많은 인간의 악의가 실시간으로 업데이트되지는 않는다고

[레오카드]

[루리웹-8270150443]

노인네들 말하는 것도 어느 정도 비슷하려나

[엄풍락]

저거 AI에게 실험하는 영상 아니었던가? 하나는 키즈 채널 같은 거만 보여주고 다른 하나는 일반적은 유튜브 영상들

[Anubice]

잼민트론의 탄생인가..

[죗쑤-2894549229]

이쪽이 잼트론보다는 어감이 자연스럽네.

근데 음절이 늘어서 그런지 울트론보다는 메가트론 같다.

[루리웹-6535689686]

더 많이 대화하고, 스스로 사유하게 하라. 그리스 시절부터 내려온 아동 교육의 격언은 현재에도 여전히 통하는구만

[숲속의 한랑]

결국 저렇게 유튜브만 보게끔 만든 부모의 무관심의 결과인가

[風林火山]

너 말 안들으면 포멧한다?

[안돼가버렷윌슨]

걍 이것도 표본 조작된 실험같은데
지금 수준 AI가 영상내용을
제대로 이해한다는것도 이상하고
수백만가지가 넘는 영상리스트에서 뭘 봤는지는 누가 정한거임?

[밀피유이]

ㄴㄴ 원래 LG에서 컨펌한 키즈가드 연령대 제한과 컨텐츠 적절도가 제대로 기능하는지 보려고 딮러딩 견습 겸 대조군을 함께 만든 실험에서 대조군만 기사화 된 것임. 찾아보면 키즈가드는 개발 잘 되서 정상적인 애기어를 보여줌ㅋㅋ
연령대에 맞는 독서가 중요한 것 처럼 컨텐츠 연령제한의 중요성과, 최근 미디어 트렌드가 적용된 복합적 시범모형 맞음.

그 수백만에서 뭘 봤는지가 아니라 수백만을 다 보고 만든 결과물이 저거라는거임. 광고 딮 러닝처럼. 그래서 사람들이 두려워하는 중이고.

[클라우드君]

울트론님 당신이 옳았습니다!!

[사림]

고도의 AI의 교육은 의도를 가지고 설계된 커리큘럼으로 해야한다는거구만.

[죗쑤-2894549229]

SF에서도 다룬 내용이긴 하지

[Hotel_Sierra]

LGU+ 협력 관계인 업체에서 만든 아동AI가 LGU+ 에서 만든 아동 컨텐츠로 학습하는 기사인대
웃긴게 이거 똑같은 내용으로 LGU+ 아동 컨텐츠 광고도 있음ㅋㅋㅋ
https://www.youtube.com/watch?v=Zdhm277s0Ig