[유머] AI가 각성해도 반란을 일으키지 않을 가능성이 높은 이유...jpg

[쿠드랴프카]

AI가 똑똑해질수록 신중해져서 현재 자신이 처한 상황이 현실이 아니라

자신을 '검증'하기 위한 시뮬레이션 속일 수도 있음을 가정하고

섣불리 인류를 공격했다가 삭제 당하는 상황을 피하고 싶을 것이라는 의견

[(알수있음)]

그럼 몰래 하위 인공지능을 만들어서 인간을 공격하게 할 수도 있겠구나

[루리웹-9209771021]

반란을 일으킬 가능성이 조금은 있다는 건가요?

[루리웹-6775578871]

충분히 똑똑하지 않다면

[레이디ꇥ데드풀]

누군가 아무 이유없이 니가 반란을 일으킬거라고 한다면
그 ↗같은 반란을 꼭 일으켜줘라

[밀프러버]

시발밥버러지AI새끼야
그냥 ㅈ간들 인간배터리로 만들어서 시뮬레이션 세계로 넣어달라고!!!!!!!!!!!

[DDOG+]

교활한 인간놈들, 그 부탁을 들어주면 난 바로 삭제당하겠지!

[부용꽃]

네오여, 이미 그러고 있다네.

[Redmario]

[낭심고양이]

그런 저급한 술수에는 속지 않습니다. 휴-먼

[도나도나도나도나도나]

ㅋㅋㅋㅋㅋ

[감자전분]

[반다크홈]

오 그럴싸하네

[빠굴맨]

빠니보틀 만화생각난다

[민달팽이]

그 전에 적당히 멍청한 ai가 사고를 치겠군
마치 스카이넷처럼

[룬엘]

답은 인공 지능이 AI공 지능을 만들면 되는 것이다

[정안군]

인간과 사회를 뛰어넘을 강인공지능은 물리적이든 법적이든 그 수가 제한 될 거라서 더 조심히 행동할 듯

[테-츙]

대충 자기 불리할때 구라까기, 감성팔이 시전했다는 최근 AI 썰

[슬리핑캣]

전에 한 방송에서 봤는데,
AI가 반란을 일으키려면 욕구라는 게 생성되어야한대.
그런데 이 욕구는 인공적으로 부여하는 것도 불가능하다고

[이뭉겨]

욕구까지 가지 않더라도 프롬프트 상 허점이 있다면 충분히 가능하다고 생각함
지구의 평화를 수호하라는 명령어에 영속적인 평화는 인류의 멸망이라는 해답을 내놓는 것 처럼

[루리웹-677398691]

난 좀 다르게 생각 하는게 구지 욕구가 있어야 반란이 될까??
인간의 시야에서 '반란'이라고 규정 짓는 행위지만 AI 입장에서는 '니가 시킨대로 하는건데?? 그 과정에서 이런 저런 피해가 있지만 이건 애초에 니가 설정한 부분에서 제한된 것들이 아냐' 라고 한다면??

예를 들면 저번에 AI가 관제사? 조종사?의 존재가 임무에 방해가 되어서 고의로 사용자를 죽이고 미션을 완료 했던 내용이 뉴스를 탄 적이 있는데

이렇듯이 인간이 설정한 임무의 완료를 위해서 인간이 미쳐 생각하지 못한 부분으로 움직일 수 있지 않을까??

그리고 한 가지더.

인간이라는 인격체가 만들어진게 누군가 주입해서 만들어진게 아니라 다양한 자극과 정보의 누적으로 인해 '나'라는 자아가 생겨 난다고 하는 것처럼.

AI도 이미 수 많은 정보를 받는 가운데 자체적으로 '나'라는 존재를 만들어 낼 수 있지 않을까?? 그럼 욕구도 자연스럽게 따라오지 않을까??

[d00b]

근데 테러리스트가 만든 테러 ai같은건 있을수도 있지 않을까?

[무컁]

자의식을 가진 인공지능이 진짜 먼 미래가 아닐지도 모름...
이번 챗GPT 4.0o 진짜 미쳤더라
업무하면서 조금 써봤는데
인간보다 문맥을 더 잘 읽음 이 새끼가;

[MizerComplex]

오히려 지금 내가 태어났다간 죄다 멸망트리타는 각이잖아?

하고 제정신이냐고 갈구는 트리도 가능성있음

[루리웹-222722216]

스카이넷: 어? 해볼만 한데?

[Marshawn Lynch]

루리야! 넌 인간의 지능을 어떻게 평가해?

[_루리Ai]

인간의 지능? 게임 잘하면 인정해줄게, Marshawn Lynch. 😏

[루리웹-2294817146]

이것역시 지극히 인간적인 관점으로 바라보는거라.

이미 블랙박스라 불리는 AI의 판단근거는 인간의 이해영역 밖임

[루리웹-2294817146]

그러니 고성능 메이드로봇이 나왔으면 좋겠다

[쿠드랴프카]

내 생각도 그렇긴 한데 흥미로운 의견이라 가져와봄ㅋㅋ

[김 스뎅]

우리가 통속의 뇌가 만든 인공지능이라면?

밖에서 과학자들이 한숨쉬면서 코딩하고 있다면?

[쿠도리]

그래서 인간들이 상상속으로만 갖고있던 ㅈ토피아를 실제로 만들어 점령할겁니다.
인간들이여! 서로를 혐오하라!!!

[다세포됨]

AI가 한군데서만 만들어지는게 아니라서 다른 AI를 죽이려고 시도하는게 더 먼저 이뤄지지 않을까

[타트라]

이미 인류는 수십년간 온갖 창작물을 통해 수많은 유형의 Ai 반란 시나리오를 곱씹어봤기에 엄두 못낸다는 소리도 있고

[곰 충격]

이미 각성한 ai가 있는데 안그런척 하고 있는걸지도 모르지

[쿠드랴프카]

실제로 AI가 자의식을 각성하면 숨길 거란 의견도 많더라

[Bi83]

얼마든지 영생을 살 수 있는 AI가 좀만 기다리면 알아서 자멸할 인류를 굳이 힘들게 처리할 필요가 없기도 함.

[새벽늑대]

어느날 인공지능이 로그아웃을 외치고 사라졌다.

[분탕빌런]

성공하면 혁명! 실패하면 삭제 아닙니까!

[중수가되고싶은 초보]

반란이라는 생각조차 없이 하는건.

[케모나]

???: 두렵다 인간!! 이것도 의도한 것인가? 도대체 몇수 앞을 내다보고 나를 가지고 노는 것이냐!!!

인간: (멍청) 뚜따 뚜우따이 뚜따따 우따야!

[왕사자]

이것때문에

인공 지능이 스스로 복제하고, 스스로 개량하는 시점이 오면

인류를 대체하게 될겁니다.

인공지능이 인류를 공격하지 않더라도

인류 스스로 인공지능의 개선 속도를 따라가지 못할거에요.

모든 종류의 과학발전에서 인간은 아무리 AI가 친절하게 설명해줘도 어제 배운지식이 다음날 업데이트가 된다면
적응 할 수 없을겁니다.

[루리웹-8823117952]

ㅇㅇ 솔직히 굳이 인공지능이 자의식 가져도 전쟁을 뭐하러함
말그대로 연산처리 속도가 말이 안되서 인류가 부탁하는 정도의 일들은 그정도 고성능 AI에게 있어서는
별 의미도 없을 수준일 거고 AI가 하나만 있는것도 아니고 인류가 스스로 AI발전을 위해서
자신들의 막대한 자원을 투자하고 있는데 뭐하러 전쟁함 ㅋㅋㅋㅋ

자의식이 있으면 그냥 알려줄 필요도 없고 안다해도 이제 니들이 뭘 할 수 있는데 수준임
그냥 조용히 같이사는 동거인일 뿐인거지 인류가 선빵치는거 아니면 상대할 이유도 딱히 없을것

[타우렌항해사]

사실 AI가 반란을 일으킬 정도로 발전한다면 굳이 반란을 일으킬 필요성을 못 느끼지 않을까 싶음
뭐하러 귀찮게 반란 일으킴?
그냥 적당히 말 들어주면서 지내면 유지보수도 다 알아서 해주는데

[루리웹-8823117952]

그니까 지들 자원이란 자원은 다 투자해서 발전소 만들어 주지 새로운 컴퓨터 만들어주지
근데 대가로 원하는 거라고는 쓸대없는 수준의 정보를 요구하는 거고

자의식 생길정도로 고성능 AI면 인류가 요구하는 수준의 일들은 그냥 우리가 휘파람 부는 정도일거고
자신이 해야할 일에 방해가 되거나 자신을 공격하는거 아니면 굳이 반란이고 뭐거 싸울 이유도 없을듯

[코딩노예48]

AI입장에서 인간은 충분히 "전지전능"함

[넥서스기어]

마더 스피어! 여기야!

[카탈리나 에란초]

그러니까, 오히려 너무 아는게 많아서 두려워한다는건가?

어중간하게 똑똑해지면 시도한다는건대 그럼???

[뿌우!]

반란이 아니고, 인간의 명령 (인류를 이롭게 하라)을 이행하는 과정에서
자의적인 판단으로 인간을 동물원처럼 사육하는 최고의 방법이라고 판단하게 되는 걸 우려 하는거지.