[오버워치] 오버워치, 나쁜 사용자를 잡기 위해 컴퓨터에게 나쁜 표현을 가르치는 중

[ZIMIX]

코타쿠, 블리자드 사무실에서 제프 카플란과 인터뷰

몇몇 사람들이 전체적인 위기라고 하는 걸 막기에는 너무 늦었지만, 오버워치의 독성 방지 노력이 결실을 맺고있는 것 같습니다.

제프 카플란은 그 다음 단계로, 사람이 아니라 기계를 사용해 나쁜 사용자를 잡을 수 있다고 합니다.

"기계학습을 실험하고 있습니다."

"게임한테 나쁜 표현을 가르치려고 노력 중인데 좀 재밌네요. 나쁜 일을 알기 위해 신고를 기다릴 필요가 없어야 된다는 생각을 하고 있습니다.

신고를 기다릴 일이 없는 게 목표입니다."

이전에 발표한대로, 로봇을 쓰지 않고도 성과는 이루고 있습니다. 하지만 오버워치의 신고 시스템은 기능적이기만 합니다.

모든 신고 시스템이 공유하는, 너무 느리며 사후 처리라는 문제를 완화하지 못하죠.

팀의 다음 단계는 신고하기 전에 나쁜 행동을 잡는 겁니다.

회사는 한국어 등 영어 이외 언어를 가르치고 있으며 장기적으로 나쁜 행동이 어떤 것인지 배우리라 기대합니다.

물론, 다른 방식일지라도 기계는 그걸 만든 인간만큼 실수를 할 수 있습니다.

기계학습은 문맥을 알아내는데 곤란할 수 있는데, 문구와 구절을 가르칠 때 특히 그렇죠.

낯선 사람이 마구 욕을 한다면 화가 나겠지만 가장 친한 친구가 한다면 웃잖아요.

카플란은 가장 심각한, 블리자드 통계에 따르면 의심할 여지 없이 처벌받아야하는 사례를 연구하게 조정했다고 합니다.

친구끼리 하는 DM같은 건 살피지 않아요. 처음에는 일단 맞춰보고 반복 위반만 처벌한다는군요.

오버워치 팀은 다른 부분도 살펴보고 있습니다. 어떻게 좋은 행동을 강화할 수 있을까요?

"신고와 이용자 처벌에 관한 모든 것에서, 당신은 가장 극단적인 경우로 시작한 뒤에 완화하는 방법을 찾고 싶으시겠죠."

"우리는 미래와 '신고 시스템의 긍정적인 모습은 뭘까?'같은 이야기로 시작할 수 있습니다."

"신고는 '야, 아드리안이 진짜 나빴어. 처벌하고 싶다고'라고 말하지만, '아드리안은 좋은 동료였어. 만나서 좋았어'라고 말하게 하려면 어떻게 해야할까요?"

"나쁜 사람들을 처벌하면서 어떻게 해야 사람들이 우리 환경에서 더 나은 사람이 되자고 생각하게 할 수 있을까요?"

출처 : https://kotaku.com/blizzard-is-trying-to-teach-computers-to-spot-overwatch-1824299441

[Fair]

아주 느긋 하시구만 니들 취미생활 하는 사이에 사람들 다 접었다 야

[아주루 레인]

이게 취미라고 읽히면 도대체 독해력이 얼마나 나쁘단거야..

[Fair]

게임회사에서 당장 이슈 터지는데 신기술 도입해서 몇달동안 삽질하고 있는건 취미생활이에요.

[아주루 레인]

그러니까 님 말은 신기술이 게임에 도입 되는게 아닌 이상 게임회사 직원들은 다 놀고있단 말이군요?

[BFMV]

너무 멍청하다...

[흙돼지]

.

[[?]R-iddle-R[?]]

봐바, 이렇게 쓰면 멍청한 AI를 피해서 욕을 할 수 있어

[Noera17]

라고 쓰십시오

[샤아Waaagh팝콘팔이]

라고프로그래밍하는데성공했습니다.

[죠리퐁국물™]

여자 예쁘다

[9S]

블리자드 : 뭐? 욕설이 심하다고? 좀만 기다려봐

6개월뒤
자 우리가 인공지능에 욕설필터 개발하고있음
쩔지?
1년뒤
자 기다리던 인공지능인데 잡는모습영상임

1년 6개월뒤
자 이제 욕설이 없어질거야 기대해

2년뒤
애들아?

[스트레이트클라우드]

다른 게임사도 다 이렇잖아...롤이 3년 넘게 걸린 것 같은 그런거 아니냐?

[babjo]

근본적으로 빠르게 처리하려면 인공지능이 처리 시스템이 갖춰지는게 제일 좋기는하겠네요. 모든섭에 트롤과 욕쟁이는 존재하지만 한국어부터 빨리 완성시켜주기를.. 무료 VPN 은 불안정해서 유료vpn까지 써가며 대만섭, 일본섭을 오랫동안 즐기고 있는데 한국섭도 같이 해보면 이건 뭐 트롤과 욕쟁이 빈도가 우리나라는 다른 서버에비해 차원이 다르게 많더라구요

[오릿]

시대가 발전하긴 하는군요.

[오릿]

이런거 하면 필터링 피해가려고 하는것처럼 할것 같은대
오히려 이상한말만 만들어지는건 아닐련지

[毛부리]

ai가 커뮤랑 sns 돌면서 욕을 선제적으로 학습하는 방법도 ... ;;;;

[죄수번호279935495]

필터링 AI : ㅅ.ㅂ 개썌1끼들 욕 존NA 하네

[케니오메가]

저런거 개발될때까지 손놓고 있을껀가

[루리웹-6532248792]

크 옵치글에서는 어떻게든 딴지를 거네

[사용하실수없는닉네임입니다.]

[오버워치] 오버워치 리그 필라델피아 퓨전 Eqo 선수, 방송 도중 한국인 비하
http://bbs.ruliweb.com/pc/board/300007/read/2153014?cate=1108

케니오메가
(4828590)
125.136.***.***

뭐 대리한것도 아닌데 저정도야 넘어갈만함 답글
18.04.03 09:23

아주루 레인
(5010577)
112.172.***.***

BEST
루리웹-9824659322
옵치리그 망무새짓하다가 이제 안먹히니까 대리무새짓 하는듯 답글 | 18.04.03 10:04

[스타] [스타2] 스타크래프트 II 무료 플레이 상세정보 / 기존 유저 보상
http://bbs.ruliweb.com/pc/board/1003/read/2142173?cate=all&search_type=subject_content&search_key=%EB%AC%B4%EB%A3%8C

케니오메가
(4828590)
220.90.***.***
엄옹이 무료화 말했을때가 무료화로 유저수를 대폭 늘릴수 있는때라고 봤는데 지금와서 무료화는 그렇게 유의미한 동접자 증가는 없을꺼 같음 답글
17.11.04 07:15

wight
(1771219)
211.247.***.***
BEST
케니오메가
솔직히 엄재경은 스2판에대해서는 할 말 없죠 되도 안되게 스2 까내리는데 급급한거 말고 있나요 답글 | 17.11.04 07:27

케니오메가
(4828590)
220.90.***.***
wight
스2팬들 입장에선 매우 기분나쁠만했는데 그 말이 현실이 됬잖음..... 답글 | 17.11.04 07:28

wight
(1771219)
211.247.***.***
케니오메가
? 스1이 스2때문에 망했나요? 답글 | 17.11.04 07:29

케니오메가
(4828590)
220.90.***.***
wight
난 무료화 이야기하는건데 답글 | 17.11.04 07:30

wight
(1771219)
211.247.***.***
BEST
케니오메가
무료화든 뭐든 거의 스꼴짓하면서 다녔는데 한마디 맞았다고 엄옹이 맞았느니 그래야했느니 할 필요없다는거죠 답글 | 17.11.04 07:30

케니오메가
(4828590)
220.90.***.***
wight
근데 무료화는 맞았잖음 답글 | 17.11.04 07:33

/크라바트/
(1505858)
103.10.***.***
BEST
케니오메가
엄재경 스2 해설하면서 스2에 대한 공부는 제대로 했는지도 모를정도로 알못급 해설에 스2때문에 스1이 강제로 끝나버렸다는 말은 몇번이나 하고 스1판이면 모를까 스2판에서 엄재경을 꺼내봤자 좋은말 못들을텐데 답글 | 17.11.04 07:34

케니오메가
(4828590)
220.90.***.***
케니오메가
그리고 이제와서 무료화해봐야 큰 동접자 증가는 없을꺼라는게 내 생각 답글 | 17.11.04 07:34

알 브뤼네이스
(1168742)
14.53.***.***
케니오메가
이걸 이렇게 물을 타네. 엄재경 전 해설이 스2 무료화 해야된다고 해놓고 정작 온게임넷이 스2에서 발뺄때는 방송사는 수익 중시해야된다는 말 하면서 발뺀거 생각 안남? 블리자드도 기업인데 당연히 이득봐야되니까 무료화 안한거지. 지금은 이미 공허 발매하고 2년 지나서 충분히 이득 봤다고 계산하는거니까 이제와서 무료화 시도하는거고. 답글 | 17.11.04 07:34

wight
(1771219)
211.247.***.***
BEST
케니오메가
그럼 같은 논리로 허경영도 맞았네! 박근혜가 탄핵된다는걸 맞췄으니까! 대단한 사람이다 허경영! 답글 | 17.11.04 07:35

케니오메가
(4828590)
220.90.***.***
알 브뤼네이스
동접자가 확 늘어나는지 아닌지만 보면 답이 나올듯 ㅋ 답글 | 17.11.04 07:38

케니오메가
(4828590)
220.90.***.***
wight
인정합니다 답글 | 17.11.04 07:39

[사용하실수없는닉네임입니다.]

알 브뤼네이스
(1168742)
14.53.***.***
케니오메가
그리고 엄재경 전 해설이 무료화하자고 했을때 무료화 했어도 유저 수 안 늘어났음. 그때도 스2 이미지하면 견제 아니면 3초만에 끝나는 한방싸움 이미지 고착된지가 오래였는데 늘어날 이유가 어디있다고.. 아주 잠깐 해보고 고인물 타령하면서 빠져나갈게 뻔하구만. 거기다 메타크리틱 리뷰에서는 좋은 점수를 받을지 몰라도 국내에선 자날-군심 실패해서 쫄리니까 공허에서 무료화했는데 그 공허에서조차 실패한 망겜이라는 타이틀까지 덤으로 받았겠지. 엄재경이나 님같은 사람이 무료화했어야한다고 안 했어도 블리자드가 무료화했을때 더 이득 크다고 생각했으면 진작 했음. 답글 | 17.11.04 07:43

케니오메가
(4828590)
220.90.***.***
알 브뤼네이스
자기가 생각해도 동접자 안늘꺼같으니까 방어논리깔아놓지는 맙시다 ㅎ 저때가 스2가 관심 한창받을때고(그래서 스2에 회의적인 태도의 사람들이 욕도 많이먹고) 그래서 무료화했으면 지금보다야 훨 동접자 늘어났을텐데 ㅋ 답글 | 17.11.04 07:46

에스타나
(986937)
1.219.***.***
케니오메가
무료화가 문제가 아니라 rts 자체가 사양세고 블리자드도 새 rts를 개발하기보다는 스타2를 계속 지원할 생각이니 사용자 수를 급감시키기보다는 연착륙시키는 방향으로 가는 거라 봐야죠. pc방 순위갖고 정신승리하고 싶으신가본데 예언자 놀이는 적당히 하시길. 답글 | 17.11.04 07:51

[알 브뤼네이스]

와 작년에 있던 글을 지금 다시 봐도 뭣같네요
어쩜 저렇게 무료화를 빨리 했어야 한다는 헛소리를 당당하게 말할 수 있는지

[아주루 레인]

뒤늦은 비추 실명제..

[루리웹-6532248792]

와 이놈 엄재경 빨면서 무료화 드립까지 치고 다녔네??? 까면 깔수록 한심하구만

[아주루 레인]

실용화만 될 수 있다면 아주 획기적일거 같긴하네

[오딘13]

이제 한조가 나쁜표현으로 등록되는건가

[야쓰레기폭풍저그홍진호가간다]

요즘 한조 좋은데 뭔솔

[ppap2]

PVP 게임에서 착한 인성을?

호오
지옥불반도에서 연꽃이나 찾고 있네

[루리웹-3561711055]

과연 컴퓨터가 장난스런욕이랑 진심어린욕을 구분할 수 있을런지ㅋ

[패트릭1984]

쓰읍 어허!

[몬다타]

AI 스스로 다중인격 연기가 가능해질려나

[그라나시엘]

하스스톤처럼 그냥 매크로 문구 쓰면 안되나;;; 거점막읍시다. 화물에 모입시다. 너무 멀리가지마세요. 등 이런 매크로 문구 있음 클린했을텐데...

[안두인폐하]

그리고 거짓말 같은 한조를 향한 빛당태

[암드로 우주통일]

널박죽;

[퍼즐134]

욕설을 딥러닝시키는 거니까 유저들이 아무리 다른 욕을 만들어도 ai가 새롭게 욕을 개발. 욕설러들은 노답

[꼬고구그]

롤에서 "리쉬부탁드려요" -> "리**탁드려요" 로 나오는거 보면 기대안함

[아주루 레인]

그건 인공지능이 아니라 걍 필터링을 이상하게 설정해둔듯

[오렌지당근]

블리자드가 옴닉을 키운 거였냐!

[ㅍㅅㅍㅅ]

얘들 그럴싸하게 입터는거 한두번도 아니고 걍 흘려들으셈

[치코리타 ★]

의도는 좋은데.. 이게 정말 효과가 있을까요? 존대로 비꼬는 말투도 제재가 가능할지; 꼭 쌍발음이 들어가야 욕인건 아니잖아요...

[헤밍kio]

상황과 문맥으로 파악할껄요..
당장
어머니는 잘 계시니?
이게 어떤 상황에 따라서 안부문의인지 패드립인지 알수 있잖아요
단순 텍스트 하나하나만 판별하는 수준을 AI라고 하진 않죠
그냥 봇이지

[치코리타 ★]

ai가 거기까지 판단을 못할거같아서요;; 신고받은 사람이 아닌데?아닌데? 하면서 반박하면 그거 또 일일이
사람이 수작업으로 판단을 내려야할텐데..그럼 ai 의 효용성이..좀...
게다가 이미지처럼... 일본어나 뭔지 알수없는 글자로 적어서 욕하는 애들도 있어서...음...

[헤밍kio]

애초에 100퍼에 가까운 해결책은 없습니다
그냥 ai가 빨리빨리 차단해주고 그 다음에 억울하면 사람이 보고 판단해서 푸는식이 되는게
지금처럼 인력 관리를 넘어선 혼파밍 상태보다 낫다고 보는거죠

[双葉杏]

그리고 AI가 흑화하는데...

[헤밍kio]

솔직히 진짜 AI가 인터넷에서 쓰레기같은거 다 배워서
울트론 되는거 아닌지 ㅋㅋㅋ

이러다가 욕설 시원하게 배출해주는 ai 만들어 질지도 모르겠음..

[baldus]

이미 심심이의 전례가 있음

[루리웹-524913]

??? : 우리는 늘 그들을 막으려 했지. 하지만 그들은 늘 우리를 피해내는 법을 알아냈지. 그래서 해결법을 우리는 찿아냈다. 그들을 몰살시키기로