본문

최근방문

[S/W] 구글 딥마인드, 규칙을 모르고 시작하는 새로운 인공지능 MuZero 공개 [10]





[광고]
글꼴

https://www.clien.net/service/board/news/14377290?od=T31&po=0&category=&groupCd=

게임은 인공지능 알고리즘을 평가하기 위한 가장 효율적인 수단 중 하나가 되었습니다.


수십년동안, 게임은 복잡한 경쟁과 협업, 계획, 전략적 역학 관계를 구축해왔고, 이는 AI가 실제 세계에서 직면하는 과제를 잘 반영했습니다.


체스에서, 스타크래프트로, 게임은 AI의 기능을 평가하는 훌륭한 실험실이었습니다.


그러나, 이러한 AI 대부분은 게임 규칙에 대해 훈련을 받은 상태로 시작되었습니다.


최근 딥마인드는 처음부터 규칙을 배워서 여러 전략 게임을 숙달하는 새로운 에이전트 뮤제로 (MuZero) 를 공개하는 논문을 발표했습니다.



새로운 환경과 역학관계를 배울 수 있는 이 아이디어는 우리의 인지 과정과 인간과의 유사성을 보여줍니다.


아이패드에서 새로운 게임을 발견한 아이를 상상해보십시오.


규칙을 모른 채로 아이는 게임을 하고 나쁜 동작을 반복하기 시작합니다.


경제 정책의 설계, 위기 관리 전략 또는 심지어 전쟁과 시나리오에서도 이와 같은 역학을 추정할 수 있습니다.


AI에서 강화학습은 전략 게임을 마스터하기 위한 가장 인기있는 분야로 등장했습니다.




MuZero는 모델 기반 보강학습을 활용하여 계획과 직접 관련된 미래의 측면을 예측합니다.


모형은 관측치를 입력받아 숨겨진 상태로 변환합니다.


숨겨진 상태는 이전의 숨겨진 상태와 가상의 다음 동작을 수신하는 반복 프로세스에 의해 반복적으로 업데이트됩니다.


이 단계들에서, 모델은 정책, 가치함수, 즉각적인 보상을 예측합니다.


이 모델은 이러한 세가지 중요한 수량을 정확하게 추정하는 목적으로 엔드 투 엔드 교육을 받았습니다.




알파제로 (AlphaZero) 와 비슷하게 MuZero의 계획 프로세스는 두가지 개별 구성 요소를 기반으로 합니다.


시뮬레이터는 검색 트리를 통과하는 동안 게임의 상태를 업데이트하는데 사용되는 게임의 규칙을 구현합니다.


신경망은 시뮬레이터에서 생성된 보드 위치에 상응하는 정책과 가치를 공동으로 예측합니다.


환경에 대한 전체 지식은 신경망에 의해 포착되며 이후 단계에서 사용되게 합니다.

이 그림은 MuZero가 환경을 배우고 (A), 환경을 사용하는 방법 (B) 과 모델을 훈련시키는 방법 (C) 을 도식화한 것입니다.



딥마인드는 바둑, 체크, 및 쇼기 그리고 57개의 아타리 학습 환경에서 MuZero를 훈련시켰습니다.


모든 게임에서 놀라운 결과를 얻었습니다.


바둑에서 MuZero는 검색 트리의 노드 당 연산 (AlphaZero가 20개, MuZero가 16개 블록)  을 적게 사용함에도 AlphaZero의 성능을 약간 능가했습니다.


이는 MuZero가 검색 트리에 계산을 캐싱하고 각 동적 모델의 추가 응용프로그램을 사용해 위치를 더욱 깊이 이해할 수 있음을 보여줍니다.


마찬가지로 아타리 학습 환경의 57개 게임에서도 평균과 중위 표준 점수를 모두 갱신해 이전의 최신 방법 R2D2를 능가합니다.

다음은 4개의 대상 환경에서의 MuZero의 성능을 보여줍니다.


X축은 수백만개의 교육의 단계를 보여줍니다.


Y축은 체스, 쇼기, 바둑의 경우 AlphaZero와 게임을 함으로써 나온 Elo 등급입니다.


아타리는 4단계마다 50개의 시뮬레이선을 사용한 다음, 두 플레이어 모두 동작 당 800개의 시뮬레이션을 사용해 이전 작업과의 동작을


4번씩 반복하여 평가했습니다.


MuZero는 파란색, AlphaZero는 주황색 선입니다.



MuZero는 환경에 대한 사전지식없이도 전략적 작업에서 초인적인 성과를 달성할 수 있음을 보여주며,


강화 학습 새로운 마일스톤을 보여줍니다.


Muzero는 체스와 바둑, 쇼기 등 논리적으로 복잡한 게임들 뿐 아니라, 아타리처럼 시각적으로 복잡한 환경에서도 효율성을 보여줬습니다.



댓글 | 10
1


(1022223)

118.235.***.***

BEST
요즘 디아하다보면 드는 생각 ai 한테 솔플로 대균열 150단을 최대한 빨리 정복하라고 하면 기상천외한 빌드를 계속 실험할까 아니면 정복자렙부터 죽어라고 올릴까 ㅎㅎ
19.12.10 16:45
(250135)

210.103.***.***

BEST
인간이 하기에 지루해서 그렇지 정복자렙이 짱이죠.... 제아무리 알파고라도 템빨ㅈ망겜은 어찌할 수 없기도 하고
19.12.10 16:57
(4809489)

223.38.***.***

알파제로와 무제로의 차이점이 이해가 안가네유
19.12.10 16:43
(4890110)

112.163.***.***

오목기사
알파제로는 규칙을 알려주고 게임을 플레이하게 했습니다. 그래서 알고 있는 규칙을 가지고 게임을 하면서 스스로 데이터를 쌓았죠. 그런데 이번 인공지능은 규칙도 알려주지않고 게임을 할 수 있게 한다는 것 같네요. 즉 여러가지 시도를 해보면서 규칙을 유추해내는 것 같습니다. 이점이 알파제로보다 더 발전된 부분인듯 하네요. 그리고 좀 더 인간이 학습하는 방법과 닮은 것 같기도 하구요. 우리도 어떤 새로운 게임을 할때 이것저것 만져보면서 아~이건 이렇구나. 저건 저렇구나를 터득하잖아요. 이번 인공지능도 그렇다고 하네요. | 19.12.10 17:08 | | |
(4809489)

223.38.***.***

로키라
그 규칙의 범위가 어느 정도를 의미 하는건지 이해가 안돼요 예를 들어 체스의 경우 체크 메이트를 만들면 이기게 규칙이잖아요. 이 규칙도 없이 만들었다는 건가요? | 19.12.10 17:18 | | |
(3629872)

175.223.***.***

오목기사
규칙은 있는데. Ai가 알지 못하는거에요 설명서 안읽고 보드게임 한다고 생각하면될듯 | 19.12.10 17:57 | | |
(4809489)

223.38.***.***

알라굳짭
그런거라면 알파고도 동일한걸로 알고 있는데 잘못 알고 있었던건가 ㄷㄷ | 19.12.10 18:16 | | |
(3629872)

175.223.***.***

오목기사
알파고는 간단한 설명서라도 줬엇어요 | 19.12.10 18:18 | | |
(1022223)

118.235.***.***

BEST
요즘 디아하다보면 드는 생각 ai 한테 솔플로 대균열 150단을 최대한 빨리 정복하라고 하면 기상천외한 빌드를 계속 실험할까 아니면 정복자렙부터 죽어라고 올릴까 ㅎㅎ
19.12.10 16:45
(250135)

210.103.***.***

BEST
김꼴통
인간이 하기에 지루해서 그렇지 정복자렙이 짱이죠.... 제아무리 알파고라도 템빨ㅈ망겜은 어찌할 수 없기도 하고 | 19.12.10 16:57 | | |
(4743178)

58.150.***.***

AI에게 리니지를 정복해보라고 하고 싶군요...
19.12.10 16:50
Elroy
ㅈ 망겜은 아무리 AI 라고해도 현질을 이길수 없음 | 19.12.10 18:02 | | |


1


댓글은 로그인 후 이용 가능합니다.




ID 구분 제목 글쓴이 추천 조회 날짜
352195 공지 국내외 언론 및 웹진 불펌 금지. 관리자 2 9521 2010.06.22
2202860 S/W 사쿠라모리 카오리P 86 06:42
2202854 H/W Caribbean.com 2 2542 02:16
2202848 H/W 류오동 3 2994 2020.01.22
2202847 S/W 춘리허벅지 2 5072 2020.01.22
2202845 S/W 사쿠라모리 카오리P 1 1056 2020.01.22
2202843 참고 춘리허벅지 984 2020.01.22
2202841 참고 pomelo 3 4062 2020.01.22
2202840 ETC 서브컬쳐고고학 뉴비 5 4959 2020.01.22
2202835 S/W 사쿠라모리 카오리P 427 2020.01.22
2202833 S/W 사쿠라모리 카오리P 5 2621 2020.01.22
2202822 S/W 2020만사형통운수대통 24 9830 2020.01.22
2202821 S/W 2020만사형통운수대통 2 1860 2020.01.22
2202820 H/W 2020만사형통운수대통 12 5442 2020.01.22
2202817 ETC 이햇성 1852 2020.01.22
2202816 ETC 이햇성 1 1929 2020.01.22
2202810 H/W 케루스 3 5473 2020.01.22
2202808 ETC YongMun 424 2020.01.22
2202807 S/W YongMun 680 2020.01.22
2202805 ETC YongMun 357 2020.01.22
2202797 ETC 사쿠라모리 카오리P 823 2020.01.22
2202796 ETC 사쿠라모리 카오리P 659 2020.01.22
2202793 ETC 사쿠라모리 카오리P 535 2020.01.22
2202784 S/W 아마미 하루카 6 2692 2020.01.22
2202776 H/W 슈렐린 5 5137 2020.01.21
2202775 H/W DKDF 4 2460 2020.01.21
2202773 H/W 슈렐린 2 4112 2020.01.21
2202770 루머 슈렐린 4 4132 2020.01.21
2202767 H/W YongMun 2 3653 2020.01.21

글쓰기 27696개의 글이 있습니다.


1 2 3 4 5 6 7 8 9 10



X