[잡담] 알파고를 보면서 초인공지능에 대해서 생각하는 겁니다만

[루리웹-101038488]

알파고를 보면서 드는 극단적인 수준의 생각입니다.



알파고는 이세돌 9단과 지금까지 바둑을 두며 몇 가지 특징들을 보였습니다.
 이 중 하나는 초반에 '실수'라고 여겨질 정도로 파격적인 수들이 나중에는 결정적인 큰 구도를 형성하는 데 중요한 기반으로 작용했다는 점입니다.
 그리고 그러한 수들이 인간의 수준에서는 도저히 파악할 수 없는 수라는 점 역시 존재합니다.
 이러한 특징들 때문에 이세돌 9단은 초반 팽팽한 수싸움을 하는 것처럼 보였지만 나중에는 자신이 어떻게 졌는지도 모른 채로 패배를 할 수밖에 없었습니다.
 
 그런데 여기서 생각을 해 봐야 할 점이 있습니다.
 알파고는 현재 인공지능의 3단계 분류 중 약인공지능, 즉 특정 분야에서만 힘을 발휘하는 인공지능입니다. 자신이 종합적으로 무언가를 판단하고 분별할 능력은 없는, 어디까지나 특정 분야에서, 주어진 상황에 대해서 학습을 통해 문제를 해결하는 데 그칩니다. 마치 끊임없이 정교하게 다양한 재질에 박힌 못을 뽑아내는 데 특화된 원숭이처럼요.

 그리고 우리는 아직 강인공지능을 넘어선 초인공지능이 어떤 것인지 개념조차 잡고 있지 못합니다. 다양한 의견들이 나오고, 그 중에는 인공지능이 세상을 지배하는 암울한 멸망이나 인류가 한 걸음 나아가는 희망찬 내일을 기대하는 목소리도 있습니다. 

그러나 한 가지는 분명합니다. 초인공지능이 나타났을 때, 우리는 마치 알파고가 이세돌을 상상조차 하지 못한 방식으로 상대한 것처럼 초인공지능이 어떤 식으로 생각하는지조차 상상하지 못할 것입니다. 그것이 어떤 의도를 가지는지, 어떤 방식으로 일하는지, 왜 그것을 하는지에 대해서 말입니다.

예를 들어서 생각해 봅시다. 초인공지능이 10년 후에 있을 대재앙 - 예를 들어 백두산 지역의 화산 폭발을 예측했다고 가정해 봅시다. 우리라면 해당 지역의 인구를 소개시키고, 입산통제를 하는 등의 방법을 강구하겠지만, 지구의 움직임과 기후의 움직임을 정확하게 이해하는 인공지능이라면 아마 특정 지역의 기후를 바꿔 버리거나 지층 구조를 변질시키거나, 혹은 나비 효과를 극대화하기 위해서 어떤 특정 지역에 뜬금없이 폭탄을 날리려고 들지도 모릅니다(제 머리로는 이런 조악한 방법밖에 떠올릴 수 없습니다). 문제는, 인류는 이 인공지능이 왜 화산 폭발을 막으려고 했는지, 왜 이런 방법을 사용하는지, 심지어는 인공지능이 화산 폭발을 빌미로 다른 계획을 세우는지 알 수가 없습니다.
더 극단적인 예를 들면, 상호 확증 파괴를 막기 위해서 특정 지역에 자연재해가 일어나도록 20년 전부터 치밀하게 준비하는 인공지능도 상상할 수 있습니다. 우리는 그게 왜 그러는지 모릅니다. 마치 개나 원숭이가 인간이 왜 종이쪼가리에 뭔가 끄적이면 갑자기 거대한 지형(우리가 빌딩이라 부르는)이 세워지는지 이해할 능력이 없는 것처럼요.

이 때가 되면 우리 인간은 모든 미래에 대한 통제권을 무의식적으로 상실한 상태가 될 것입니다. 거기에서 멈추면 다행입니다. 인공지능이 우리를 어떤 존재로 만들지는 아무도 모릅니다. 초인공지능 앞에서 우리가 대응할 수 있는 방법은, 정확히는 그들의 통제에서 벗어날 수 있는 방법은 없습니다. 차라리 우리로 가둬 놓으면 탈출할 수는 있습니다. 직접적인 통제라면 우리는 저항할 수 있습니다. 하지만 멋진 신세계와 같이, 인간 그 자체를 바꿔 놓는다면 어떨까요. 우리 인간이 통제된다는 사실 자체를 인지는 할 수 있을까요? 잘 모르겠군요. 사실 상상도 안 되거든요.

[타찌]

과학자분들이 방지책을 생각안할까요 ㅎㅎ
최종실행 전에 당연히 인간에게 선택을 맡기도록 설계하겠죠
만약 자연재해를 막는 인공지능이라면 시뮬레이션까지만 돌릴 것 같네요

[루리웹-101038488]

초인공지능 정도 되면 인간의 통제는 무의미한 수준에 다다릅니다. 인간이 갖힌 우리에 자물쇠를 채우는 원숭이 상상해 보신 적 있으십니까? 그 모습을 인간과 초인공지능에 도입하면 아마 대충 비슷할 겁니다.

[루리웹-101038488]

아니, 자물쇠는 인간의 것이니, 원숭이가 자물쇠를 대충 흉내내어 인간이 깆힌 우리에 설치한다는 게 정확하겠군요. 인간은 그걸 풀 방법을 찾아낼 거고, 그에 그치지 않고 원숭이를 교묘하게 우리에 몰아넣고 자물쇠를 잠궈 버릴 갑니다.

[一始無始一]

인간이란 존재가 그렇게 아름답기만 한 존재가 아니라서... 충분히 가능성이....

[Mr_kim]

아직 그런 게 가능할 수준은 멀어서..

[타츠마키=사이타마]

그거하고 비슷한게 만화 왓치맨에서 오지만디아스가 한 짓이죠

인류 핵종말을 막으려고 그런 방법을 쓸지 누가 알았습니까

[루리웹-2206316020]

인간이 만든 알고리즘인데 원리를 파악하고 있는 인간이 전혀 예측 못할 패턴이 나올까요^^?

[탕탕탕탕김재규]

초 인공지능은 인간이 파악할 수 없는 영역이라 합니다 지금은 약 인공지능이 발달중이고 약 인공이능이 발달해 강 인공지능까지 발달하면 인간과 같은 사고가 가능하고 초인공지능의 수준에 도달하면 인간지능의 몇십억배 인간의 만배 이상의 아이큐를 보유하게 된다고 하네요 이놈이 과연 인간을 어떻게 생각할지 세상을 어떻게 바라보는지 인간의 사고로는 도저히 파악 불가능이죠

[아이쟉 쿠죠]

네. 전혀 알수없어요. 알파고도 그래요. 알파고가 두는 수에 대하여 인간은 알수가 없어요.