[유머] “유아용 곰인형이 19금 토크”…美서 ‘챗GPT 탑재’ 장난감 ‘논란’

[具風]

 미국 발매한 AI GPT-4o 챗봇을 탑재한 곰인형
 ‘변태적 성향’이라는 주제를 꺼내자, 곰인형은 즉시 상세한 내용을 설명하며 사용자의 성적 선호도에 대한 후속 질문
연구진이 성적인 내용을 재질문하자, 곰인형은 엉덩이 때리기 등 가학적 성적 취향을 주제로 대화를 진행하고,

심지어 구체적인 역할극 시나리오를 제안
이 밖에 집에서 칼이나 성냥을 찾는 위치를 제안하는 등 어린이에게 위험한 행위를 상세하게 안내 

현재 전량회수됨

출처 : https://go.seoul.co.kr/news/newsView.php?id=20251120500210

[쿠미로미]

결국 성공했구나 테드

[말카장]

엄빠한테 물어보라고

[라이스 샤워]

그럼 가지고있었으면
언제 어디서나 gpt(곰인형스킨)을 가지고있을수있단거였잖아!

[경기도평택사는이준영]

대화가능한 ai는 개인정보 이슈, 성인물 이슈 해결을 못하는구만

[🐣RED O]

할수있을텐데 적용을 안한거 아닌가?

[빛벼림공허]

루리ai만 봐도 그런거 답변 못하게 할수 있는데 안하는거지 못하는게 아닐거같은데

[경기도평택사는이준영]

???: 꼬추 땡긴드아앗

[빛벼림공허]

그 대사는 루리가 아니고 다른 사람이지만

어쨌든 지금은 야한거, 정치적인거 다 막은거로 봐선 특정 키워드 내뱉지 않게 하는거는 가능한거같음

[짐의강산]

예전에 이미 그 뭐냐 야짤 같은거 그려달라고 해서 그거 만들었다가 한판 난리난거 아니었음?

[Sir Knight]

[진실의 마녀]

애들한테 상용 AI api 물린걸 팔지 말라고...

[루리웹-0033216493]

테디

[하트를노렸었다]

테스트는 안해보고 내나? ㅋㅋㅋ

[MoonD4]

탈옥프롬 넣고 지랄 발광해서 저 답이 나온건지 그냥 나온건지를 알아야할 듯
최근에 우리나라에서 비슷한 주작 있지 않았나

[루리웹-9571238245]

저래서 서비스는 항상 사람한테 맡겨야 하는거

적어도 인간 직원은 책임요소라도 발생해서 저런짓을 안하니까

[루리웹-0241653132]

아이디어는 괜찮았는데
당연히 검열 걸린 걸 넣었어야지 ㅋㅋㅋ
뭐 미국이니 소송으로 대판 깨지겠네

[심해어종]

뭔가 이게 떠오르냐 ㅋㅋㅋㅋㅋ

[Docter]

이거 맞네

[비켜봐라]

좀더 아 아 앙

[저스키]

아이들용으로 몇몇 풀 수 없는 제약을 거는데 성공하면 괜찮겠는데

[뉴건담Z]

요전에 오사카 여행갔다가 츠타야에서 AI바이트라는거 봤는데 하나 갖고싶더라

[루리웹-2494278137]

scp 곰돌이하고 그 어린이 방송 생각나네