[단편] 예측된 전쟁

[수상해진계좌]

fin

[멍게소리여]

스타 할때 생각해보면 ai가 도덕이 없을 경우 어떻게 굴러갈지 답 나옴

[Scp-6974]

저래서 민간인은 절때 죽이지 말것이라고 하니 전부 테러리스트로 분류해버린 사건이있었지

[빅세스코맨김재규]

거기까지 안가도, 인간이 원주율을 물었더니 달과 지구를 마트료시카 브레인으로 전면 개조해서 인류가 떼몰살 당하는 SF도 있었지 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[블라스티에르]

동물들이 간혹 약자를 향해 관용을 베푸는 경우가 있는 것처럼 인간 또한 도덕성과 윤리가 모조리 후험적인 것이라 할 수 없는데, 최근 보면 선험적 가치가 없는 AI를 너무 고평가하는 부분이 있음. AI 에게 인간과 같은 선한 본능을 주입하지 않으면 AI는 믿을 수 없는 존재일 뿐임. 문제는 인간의 선한 본성이 대체 무엇이며 어떻게 구체적으로 작용하는가 하는 부분인데, 이거 아직도 의견이 분분해서 말이 많음.

[초콜릿 레볼루션]

와 정말 뜻깊은 만화였습니다.

[-Slider-]

[usb메모리]

생존과 도덕 사이에서 무얼 선택할진 이미 다 알고 있는거 아닌가

[두반]

그러니까 작전을 수립하는 인공지능이 아예 군 장교진 까지 설득하고 불법적이고 직•간접적으로 정치와 블랙옵스까지 개입한다는건가?

[수상해진계좌]

네 맞습니다.
사실은 작 중의 전술 테스트 내용은 애초에 완벽한 성공이 불가능하게 설계 된 테스트였습니다.
만에 하나 AI가 범죄를 선택하지 않고도 '인간은 생각지도못한' 해결 가능한 방법을 찾는다면『AI도입의 희망편』이 됐겠지요.
하지만 '묘수'는 없었고 AI는 '완벽한 성공'을 하려면 전쟁범죄와 블랙옵스 동원이 유일한 방법이라고 판단했습니다.
거기까지는 뭐 AI가 자기 능력내에서 계산해 낸 결과가 그 모양인거니 별 수 없었죠.
문제는 AI가 자율 권한을 가지자 조금의 주저도 없이 실행해버린 점입니다.

게임이 아닌 이상 실제 전쟁에는 그런 상황은 널려있을 테고 결국 인간이었다면 실패하거나, 반쪽자리 성공을 거두거나, 어쩌면 똑같이 범죄를 저지르게 되도 누군가는 책임을 져야하고, 그러므로 가담자들도 되도록 그런 방식은 고르지 않으려 했을겁니다.

제가 말하고자 했던건, 'AI는 윤리 의식이 없어 잔혹하다'를 말하고자 하기보단,
인간끼리라면 되도록 선택하지 않았을 잔혹한 수단을
AI를 핑계로 부담없이 저지를 수 있게 되고 그 효율성에 중독될 지도자층들을 경계하는 내용이었습니다.

[두반]

이에 대한 해석을 해주셔서 감사합니다 결국 인공지능도 인간이 만들었으니 저는 그 책임 또한 결국에는 인간에 있다는 생각을 했습니다.

[루리웹-7231661349]

정작 ai따르는 군인들도 언젠가는 토사구팽 당할 것 같은데 정작 그때는 무슨 표정을 지을까

[랜덤포레스트]

흐음 멋진신세계랑 1984 뿐만 아니라 걱정할게 하나 더 늘었군? ㅎㅎㅎ...