[S/W] 못 믿겠다 AI, 설계자도 심층신경망 작동 방식 몰라

[YongMun]

못 믿겠다 AI, 설계자도 심층신경망 작동 방식 몰라

[조현욱의 빅 히스토리] 인공지능②

군사기동·발전소 등 맡기려면
AI 추론 과정 아는 게 필수지만
신경망 규모 커지면 예측 불가능
카프카 『심판』 같은 상황 올 수도

AI 자신이 왜 그런 선택했는지
설명할 수 있다면 신뢰도 강해져

출처 : http://news.joins.com/article/22394025

[­]

글쎄, 인간은 쓸데없이 모든걸 다 알고 지배하려 한단 말이야. 그러니까 인간수준으로 밖에 발전이 안되지.
머신러닝이 인간이 이해할수 없는 수준의 단계로 기술진보하는게 큰 잇점인데 그걸 일일히 인간이 알아들어먹을 수준으로
설명을 해줘야 하면 효율도 떨어지고 결국엔 인간에게 발목잡힌다. 단적으로 인간의 기보를 공부한 알파고가 아무것도 안던져준
알파고에게 상대도 안됐지. 모든것을 인간이 이해할 필요도 없고 그럴수도 없다. 한가지 목표만 설정해주면 그 목표달성하게끔 기계에게
맡겨라. 뭐 이것저것 시키고 알려고 하고 하니까 저런 믿지못할 상황이 벌어지는거

[테케니스트]

이것을 방지하기 위해서 인간의 두뇌와 인공지능의 능력을 합하는 쪽으로 예상하고 있습니다.
인간의 뇌의 연산력에 인공지능의 연산력을 합쳐서 결국 인간의 능력도 강인공지능과 같은 식으로 끌어올려 지는 것으로요.
기본적인 예상은 뇌의 각 뉴런에 나노로봇이 작동해서 무선으로 강인공지능의 연산력과 자신의 연산력이 합쳐지는 셈이고
자신이 원하는대로 초지능 연산력을 땟다 붙였다 할 수 있을 것으로 예상. 결국 인간지능 = 강 인공지능이어서 지능격차는 없음..

[月夜幻談×貪狼]

이게 영화랑 현실을 구분 못하는거지
여기 적힌 내용들중 과학적으로 접근해서 관측한 내용은 일절 없고

그냥 인공지능을 인간 위의 존재라고 상정해서 적어놓은 망상일뿐이지

당연 인간위의 존재라는걸 상정했으니 모든게 다 인간보다 우월하니까
인간이 쪽도 쓸수 없게 당연하지 모든게 인간보다 높은 수준이라고 가정하면 뭘 말해도 말이 될거고
반박 자체가 불가능할테니까 아주 편한 화법이여

여기 단어를 인공지능에서 신이나 외계인이나 다른 무언가로 바꿔도 다 똑같음
애초에 저건 인공지능에 대해서 얘기 하려는게 아니라
그냥 인간보다 더 뛰어난 존재가 있을수 있을거란,될수 있을 거란 것에 대한 두려움이 핵심인
내용이니까

학계의 전망이 어떻건 관측이 어떻건 그냥 사이비 종교 수준이지 이 정도면
휴거때 처럼 '인간은 너무 죄를 많이 졌다' 같은 엉뚱한 망상과 sf가 어우러진 음모론

인공지능이 대중 앞에 처음나온게 60년도 더 전이고 이제서야 써볼수 있을 수준이 되었는데
5년전만 해도 '인공지능? 응 안돼 너 sf를 너무 봤구나?'라는 반응이었는데
지금은 '인공지능은 무한히 발전할테고.. 곧 인간을 뛰어 넘을테고.. 그럼;; ㅎㄷㄷㄷ;;'하면서 sf 마니아들이 다 되셨네

[月夜幻談×貪狼]

애초에 인공지능에게 전혀 관심 없으면서 인공지능 특이점 얘기를 꺼내고
스카이넷 드립이니 뭐니 치는 사람들은

인간=컴퓨터=휴대폰=녹음기 등등등이 다 비슷한 건줄 아는것과 같다.

컴퓨터 휴대폰 녹음기 등등 온갖 기계들은 인간과 구조가 전부 다름
하지만 컴퓨터는 잘짜여진 시스템 하에선 인간보다 훨 나은 능력을 보여주고 얼핏보면 지능적으로도 보임
휴대폰은 멀리 떨어진 사람과 얘기할수 있는데 모르는 사람이 보면 기계 자체가 사람과 대화가 가능한 것처럼 보이고
녹음기 역시 그러함 미리 문답이 저장되있다면 사람과 얼마든지 얘기할수 있으니 똑똑해 보이겠지

다 까보면 인간과 전혀 다르고 별거 아니었구나.. 할 정도로 그것만 할줄 아는 시스템이고
지금의 인공지능과 인공지능에 대한 전망도 일단인 이 수준

앞으로 이 한계에서 벗어나도록 노력하고 더 나은 비전을 추구하는거지
왜 인공지능이 1세기 전 정도부터 시도 되었겠나?

위에 적은 컴퓨터 휴대폰 이런것만 봐도 원리를 모르면 착각하기 쉽다.
50년전의 tv가 바보상자 소리 듣던 이유가 다 있지

인공지능에 대해 적힌 책들을 보면 일단 확실한건 인간과 완전히 다른 구조인게 팩트고
그런 시스템에서 더 능동적인 시스템, 더 나아가서 당장 떡하니 있는 롤 모델인 인간 비슷하게 만드는게 목표
하지만 그런 책에 또 서술되는건 대중이 인공지능에 대해서 생각하는건 인공지능=인간 으로 생각하는 경우가 많대더라

여기서 다시 짚어봐야할건 인간이 생각하는 인간성에 대해서인데
일단 인간성은 유전자에서부터 나오는거다. 사람들간의 성향은 세부적으론 다 다르겠지만
크게 보면 얼추 다 비슷한데 이게 인간의 성향들이 유전자에서 오기 때문이고 경험으로 변하는것도 다 그 범주 내에서 있는거

그리고 동물도 인간 비슷하게 화도 내고 슬퍼하고 기뻐하고 이런 감정은 있는데
인간의 유전자와 동물의 유전자가 별 차이가 나지 않으니 그건 당연한거

하지만 인공지능은 그런 유전자적 기반 부터 두고있지 않다는 것 부터 생각해봐야지
인간은 화가 날때나 슬플땐 이성적으로 옳지 않다고 생각해도 생리적으로 부터 주체할수가 없는데
인공지능은 화내고 슬프다는걸 배우고 기능을 넣어도 우는척 하는것에 가깝지, 통제 못해서 우는게 아니라 일러땐 울도록 짜여져 있으니 그래야겠다 하는거

그러니 인공지능이 인간들 뚝빼기를 깔거다란 누구씨들의 망상처럼 되려면
악의를 가진 누군가가 인공지능에게 '인간을 학살할것'이란 성질을 부여하지 않는한 그리 되는게 말처럼 쉬운게 아니다.

계속 적었듯 사람들중 종종 인공지능이 인간을 전부 죽일것이다라 생각하는 사람들은 인공지능을 사람이랑 같은거라 착각해서 생기는 현상

근데 또 웃긴건 통계적으로 보면 인간들끼린 더 이상 전쟁하는 일도 줄고있고 앞으로 전쟁이 일어날 확률도 계속 줄고있다. 이번세기 안에 전쟁이 더이상 일어나지 않는다면 앞으로 항구적으로 전쟁이 일어날 가능성이 거의 없을거란 전망이 나오는것도 다 그렇기 때문

일단 현실이 이런데 그럼 인공지능이 사람들을 죽일거란 근거는 대체 어디서 오느냐? 라는게 문제지
이 부분에서 종교적인 거지
인간은 죄를 너무 지었으니 언젠가 사라지는게 당연하고 인간은 서로를 죽이는데 더 뛰어난 인간인 인공지능은 더 잘 죽일것이다란 막연한 두려움 + sf에서 맨날 통제를 벗어나던 인공지능이 합쳐진 작품이지

[月夜幻談×貪狼]

3절 3천자 채우면서 4절 생각하다 지웠지만

여튼 저런걸 볼때마다 드는 생각은
마치 지진 났을때 사람들이 죄를 너무 많이 지어서 그래~ 라던가
대통령이 정치를 잘못해서 그래 라는걸 보는 기분

지금이야 지진이 지구에너지로 인해 지각판이 탄성반발이 일어나서 난다는걸 알지만
옛날 사람들은 왕이 잘못해서 재앙이 일어난다고 생각했으니까

[죄수번호279935495]

구조적으로 진화하는 과정이라고 생각하는데...
예를 들어서 예전에는 도스나 콘솔 수준의 명령어까지 어느 정도 이해하고 사용할 줄 알아야 pc 사용할 수 있었던 게
지금은 클릭 몇번이나 드래그로 다 해결되듯이 백그라운드에서 돌아가는 구조를 모르더라도 결과는 더 편리해지는 것처럼
기존에는 그게 단순한 기계 수준이었지만 앞으로는 세계 자체가 그런 식으로 점점 업그레이드 되는 전환기라고 봄

[PubEYE]

... 최소한 전문가들이나 설계자들은 드래그 앤 드롭이 어떻게 동작하는지, 왜 그렇게 동작하는지 알잖아요.
기사에서 지적하는 바는 AI의 인공신경망이 발달하면 전문가들이나 설계자들 조차도 왜 그렇게 동작하는지 모른다는게 핵심입니다. 핀트를 잘 못 잡으셨어요.

[야가미 하야테]

AI님에게 충성

[Vintorez.]

알파고님 충성충성

[Executrix]

못 믿겠다 인간
사람도 두뇌 작동방식을 몰라

[任天堂愛]

실제로 못믿잖아요 ;;; 그래서 법과 계약으로 서로를 구속하고 있구요.

[미춋나방]

애초에 AI는 집요정 같은거 아닌가?

[네푸웃~!]

사람 뇌도 어떻게 되는지 대충 이렇다!밖에 모르는데 실제로 비교할 대상이 없는 데이터망을 어떻게 알겠는가

[혼자걷는아이]

딥뉴럴네트워크가 그냥 사람뇌 신경망이 작동하는걸 소프트웨어적으로 구현한거라서 복잡도가 높아서 그렇지, 수학자 몇천명이 붙어서 계산하고 검증하면 몇년안에 기본 원리는 파악될텐데?

[내가바로잉여인것이다]

애초에 사람처럼 생각하는 것도 아닌 얕은 인공지능에는 연산만 있으면 되는거라 증명만 있으면 될텐데

[Evalanche]

애초에 인간의 자아구조를 알지도 못하는데 AI로 구현한다는건 모순이지 괜히 잘못얻어걸리면 영화에서나 보던 지옥도를 직관할수도있음

[gizfix]

나는 질문의도를 모르겠다.
인간에게 걷는 법을 물어보면 뭐라 대답해야될까요?
왜 그 때 그 근육에 그 정도 힘을 가한 이유는 무엇이죠?
왜 발을 앞으로 내딛을 때 뇌속의 이 뉴런이 발화된 이유는 무엇인가요?
이런걸 물어보는 느낌임

[月夜幻談×貪狼]

이러니 사이보그나 유전자적으로 지능을 강화하는건 사실상 선택지가 없는거지
큰 기술을 다루기 위해서는 사용자도 큰 기술을 소화할수 있어야 하는데

위의 개요는 딥러닝의 작동원리는 알아도
사람이 처리하는건 불가능에 가까운 빅데이터를 컴퓨터에게 처리시키는건 좋은데
딥러닝의 작동원리인 데이터간의 처리 강도를 계속 조절하면서 더 나은 처리방법을 찾는과정 자체의 방향성도 예측이 안되고
거기에 더해서 그렇게 계산되는 결과 자체도 인간이 계산 못할 난이도라 계산 과정이 신뢰성을 잃었으니 결과도 의심스럽긴 하겠지
gps때도 이랬었고

인간이 직접 데이터를 뜯어서 검산도 못하고 직접 계산하면서 효율적인 방식을 찾아보는것도 아닌데다
정작 인간은 스스로의 뇌에 대해서 한참 모르고 있는 상황이니까 뭐..
사용자가 연산력에서 크게 밀리기 시작하면 어쩔수 없이 기계앞에서 작동만 시키는거랑 별 다를게 없게 되어가겠지

[月夜幻談×貪狼]

애초에 지금의 컴퓨터의 계산도
계산 과정 자체를 난수로 변조해서 출력하면 그 난수가 어떻게 정해지 찾고 디코드 하지 않는한
저렇게 되는건 똑같지 않으려나?

[月夜幻談×貪狼]

일단 저 사례는 사람이 나비효과를 계산하지 못하니 대신 컴퓨터 시켜서 능동적으로 수행하는 거라
검산을 할수 없으니 이것이 신뢰할수 있는 시스템인지에 대한것 같은데

이건 강인공지능이 태어날수 있다는 근거라던가 그런 불안감과 연관짓기엔 한참 멀지만

적어도 인공지능쪽 학계도 빅데이터 처리쪽만 해도 불안하다는 것만 알면 될듯

[관주]

역시 구글이 스카이넷

[트와일라잇스파클]

애초에 인간이 븅신이 아니고서야 인공지능을 만들고나서 만약을 대비한 킬스위치를 안만들리 없음.

[메데타시]

꼰대

[루리웹-2805683]

https://youtu.be/V89SbalkuNE?list=PLHB0SrtNLyYqySExVSZP-Kkx941UBCDSx
지금 AI가 왜 문제시 되는지 모르는분들은 29분부터 보시면 됩니다 앞뒤에 정치내용은 성향 안맞으면 적당히 거르시고요

[dkdltm]

어떻게 작동하는지도 모르는 물건은 처음부터 못만드니 괜춘