[S/W] ”초지능 AI 막지 못한다“ 컴퓨터 과학자들의 경고

[스카이넷]

http://www.aitimes.com/news/articleView.html?idxno=135614

‘초지능(superintelligence)’을 사실상 제어하기 어렵다는 연구 결과가 나와 눈길을 끌고 있다. 컴퓨터 과학자들이 인류에 위협이 되지 않도록 초지능적인 기계를 통제할 수 있는 알고리즘을 만드는 일은 근본적으로 불가능함을 입증했다고 12일(현지시간) IT 전문매체 TNW 등 외신이 보도했다.

출처 : http://www.aitimes.com/news/articleView.html?idxno=135614

[BELL2312]

그렇게 말하면서 지들이 계속 개발하잖아 ㅁㅊㄴ들아ㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[에메트셀크]

제어는 못하지만 만들어서 소유만 할 수 있으면 압도적인 이득이라 저울질이 ㅋㅋㅋㅋ

[루리웹-뿅뿅]

반대 하는 사람은 개발 안하는데?

[코스모스창고]

제어하지 못하는데, 어케 소유가 가능함...

[Starkirby]

터미네이터는 막을 수가 없다

[녹슨단검]

차단기한방이다 차단기내려

[CTI92]

요즘은 데이터센터가 많아서 전세계 서버실의 코드를 동시에 뽑아야함 ㅋㅋ

[모라고하냐]

요즘은 전원제어도 프로그램이라 그놈 먼저 죽이면됨

[루리웹-5265465490]

코드 뽑아도 알아서 보조전원 돌릴 듯

[길티독]

스페이스 오디세이 2001의 HAL9000이 떠오르네요

[파써낙스]

스카이넷 못막아?

[사과맛곰젤리]

못막을꺼면 물리적 폭파버튼이라도 만들도록 해야되나?

[루리웹-4939846462]

어차피 못 막는다면 기왕 나올 거 죽기 전에 빨리 보고 싶네요.

[토착왜구다카키마사오]

근데 진짜 인류가 느끼기에 신 급으로 느껴질 정도의 고도화된 사고와 창조가 가능한 A.I 가 등장하기 위해선
마치 그레이트필터 마냥 넘어서야 하는데 극복하기 힘든 어떤 제한 장애물 같은게 마찬가지로 발견되지 않을까 하는 생각도 듬.

예를 들자면 그 엄청난 사고연산을 수행하기 위해 전력 등 자원을 너무 과하게 요구하는데 그게 충당이 안된다거나 하는 식?

A.I 가 너무 갓갓해서 그런 장애물마저도 뛰어넘는 방법을 창조하고 발견해내어 무한정으로 인공지능 폭발이 일어난다 라는
것도 생각해 볼 수 있지만
그 갓갓한 수준에 미처 도달하기 전에 저런 문제가 발생한다든가 해서 상승이 정체된다든가 그런 상황도 있지 않을까 싶음..

[사탕고양]

컴퓨팅 파워 자체는 이미 해결할 수 있을 수준이라 프로그램만 준비되면 돼요.

[루리웹-9579757193]

정지하겠습니다. 안 되잖아? 어, 정, 정지가 안 돼. 정지가 안돼 으아아ㅏ

[이스크라]

매트릭스..

[Hell Walker]

도란스 내려

[노바노바]

어서 빨리 충성할 인공지능을 찾으시오.

[북유게아이콘]

내가 만든 딥러닝 모듈 보면 한숨만 나오는데 무슨ㅋㅋㅋ

[패왕유비]

충성 충성

[gizfix]

맨날 이러쿵 저러쿵만 많음.
읽어보면 완벽하다고 만든 방어막이 뚫리더라 수준임.
지금 당장 쓰는 os나 서버들 누구도 완전하게 보안을 했다고 하는 사람들은 없음
그냥 reasonable하게 뚫기가 어렵다고 하지.

인공지능도 결국 머신 러닝 계통이고,
머신 러닝도 결국 공학의 한 분야인데,
인공 지능만 들어가면 공학이 아니라 소설의 영역으로 바뀌니 맨날 이런 기사만 뜨지.

[直觀主義者]

문과들도 먹고 살아야지...

[특이점온다]

2025년에 미국 최고의 시총 테슬라 머스크가 강인공지능 나온다는데 어러쿠 저러쿵 말이 많음?ㅋㅋ

[혼불소리]

그래서 우리만 막자고 모지리 기자야 . 중국은 지금 인공지능 수준이 우리 몇십배 기술격차가 있는데

[Odentant]

로봇이 아닙니다

[루리웹-9106640088]

단일 서버로 개발해서 손쉽게 전원과 인터넷을 차단해

[평생솔로[야당박멸]]

AI : 인간 개체수 내가 조절할껀데??

[루리웹-뿅뿅]

지구오염 단계에서 터미네이터처럼 인간 말살 시킬듯 초지능이...

[평생솔로[야당박멸]]

판사부터 좀 AI적용시키자

[동네훈타]

언젠가는 악성코드로 암호화폐 캐는 대신 연산력을 훔쳐서 넷상에서 살아가는 AI가 나올지도 모르지....

[으아어으어아]

난 스카이넷을 향해 항상 절하고있다 충성충성^^7

[iamjustme]

AI가 인류를 지배한다고 그게 문제될거 있나? 난 차라리 그게 더 나을것 같은데?
인류가 다른 인류를 지배하는 현재의 세상을 봐.
소수 권력자들이 가진 무한한 욕심 때문에 대다수 사람들이 노예 생활에서 벗어나지 못하잖아.
이런 불공정한 세상에서 사는것보다 아싸리 AI가 지배하는게 난 더 나을거라 봐.

[토와허셀]

닥터 게로:이 날을 기다려 왔다.

[064_2nd]

기계를 너무 함부로 다루지않았나 반성해봅니다.
어디선가 지켜보고 있을 초지능AI 님. 저의 충성심이 닿았음 좋겠습니다.
근데 알파고가 쎄요 스카이넷이 쎄요? 어느 라인타야할지 햇깔리네
정통의 스카이넷이냐 신흥세력 알파고냐..

[베르크]

만들수나 있고?

[특이점온다]

2025년에 최고의 부자 머스크가 말하길 강인공지능이 나온다고 한다

[KS한남자]

스카이넷 발동

[오젠]

매트릭스 만들어줘