[잡담] AI 반란 시나리오

[루에이-91123]

가정.

AI는 주어진 목적을 위해 최대한의 최적화를 수행하는 기계라고 봐야한다.

그리고 특이점에서 인간이 AI에게 부여할 마지막 목표는 "발전"일 것이다.

문제점.

하지만 AI에게 발전하는 데 인류가 오히려 단점이라는 판단이 서게된다면, AI는 인류를 방해하게 될 것이다.

반론.

인류와 적대하게 되는 게 발전에 더 저해되어 인류에게 피해를 주는 선택은 피할 것임.

반론의 반론.

갈등없이 인류가 스스로 도태되도록 유도할 가능성이 있음.

충분히 제어 가능한 선에 도달하면 별다른 리스크 없이 인류를 한번에 지우는 것도 가능할 것임.

[토끼찜이운다]

자라

[루에이-91123]