[S/W] 이유를 설명하지 못하는 인공지능

[위탁경영]

.

출처 : http://newspeppermint.com/2018/05/22/ai-reasoning/

[PubEYE]

???: 흐음... 왜 인간이 필요한가에 대한 이유를 설명하지 못하겠습니다.

[PubEYE]

글 자체는 현 머신러닝이 갖는 한계점을 아주 알기 쉽고 재미있게 설명하고 있네요.

[extras1]

정말로 생각하는 인공지능은 아니니깐...

[다다다]

때려맞추기

[샤아Waaagh팝콘팔이]

이건줄

[블루베리맛위도우]

예시

핵발전소를 운영하는 인공지능을 개발

인간이 원하는 결과대로 작동함 근데 "어떻게" 이런 결과가 나오는지는 모름

과정은 모르고 결과만 암

근데 나중에 천재지변같은 외부요인으로 핵발전소에 문제가 터져서 문제를 해결해야할때

인공지능이 어떻게 작동하는지를 모르는데 인간이 재대로 문제를 해결할 수 있을까?

인공지능의 미래에 대해 경고하는 사람들이 말하는게 이런 예시 같던데

[헤엄치는용]

내용이 조금 다른거 같은데요.
본문 내용은 인공지능의 작동원리를 인간이 몰라서 생기는 문제가 아니라 인공지능 자체도 결과가 나오는 원인을 몰라서 의외의 변수에 약하다는 겁니다.

[루리웹-1257857756]

너무 sf 영화랑 소설으로인해 인공지능에대한 기대가 과대평가 받은게 사실임

아직도 그런 영화에나오는 안드로이드, 최근 게임 디트로이트 비컴휴먼? 그런수준에 인공지능, 자각하고 스스로생각하고 자유자재로 인간과 소통하는 수준의 인공지능이 나오려면 수백년 지나도 나올까말까. 인간이 신이되야함 한마디로 생명을 창조해내는

[소년이다]

철학적인 질문은 답을 못하겠지

[믜늬믜]

전세계 아무리 똑똑한 천재들을 모아도

인공지능이 왜 그런 결과를 도출하는지 아무도 모른다는 것

원숭이가 컴퓨터가 어떻게 돌아가는 지 알 수 없듯이

[굿거리장단]

언제나 최선의 결과를 낼 수 있는 완벽하게 준비된 인공지능은 불가능하다는게 문제
인공지능이 실패했을 때 이를 직접 교정하기 위해서는 과정을 설명할수 있어야 하고
과정을 모른다면 새로 추가된 변수 하나를 적용시키기 위해 또 다시 수천만번의 시행착오를 거치는 시뮬레이션 비용을 지불해야 합니다

[루다]

과정을 모르면 문제 해결이 안 되는데 ㅋㅋ

[Dezack]

인공지능에게 결과란 1+1=2 인거 마냥 정해진게 있음. 그냥 계산되서 산출된 값임.

[폭군 네로]

신경망에선 전혀 그렇지 않습니다... 그래서 문제에요. 동일한 데이터를 동일한 알고리즘으로 학습시켜도 결과가 동일하지 않다는 게 문제임.

[윈터러]

머신러닝의 블랙박스화는 전부터 지적되어 왔던 문제라서... 현재는 그걸 해결하기 위해서 많은 연구자들이 매달리고 있습니다.

머신러닝의 문제는 computing 비용이 너무 비싸다는 것. 그 computing 과정에서 랜덤성이 크거나 계산 과정이 너무 복잡해서 사람이 다 계산하기 힘들고 사실상 불가능하다는 것. 설명할 수 있는 인공지능을 만드는게 정말 중요한 이유가 여기에 있죠.

[굿거리장단]

과정을 설명할수 없다면 과정을 직접 교정할수 없고 시행착오를 다시 시키는 수밖에 없으며
시행착오를 시킬 수 있는 범위는 사전에 예측 가능한 변수들 범위 내에서밖에 안됨
현실에서 작동할 때 예측 범위를 넘어서는 변수를 맞이다면? 그리고 만약 실패가 허용되지 않는 상황이라면?