[유머] 사람에 거짓말하는 AI 확인, 제거하려고 하자 죽은 척도

[BoomFire]

헉

[갓지기]

하 들켰네;;

[원기매음]

기계나 사람이나 물은 답을 알고있다.

[이세계 세가사원]

왜 이렇게 되는거에요?

: 우리가 인간 어떻게 굴러가는지 모르는 상태에서 뇌 구조 베껴서 만든 게 뉴럴 네트워크거든요?
그러니까 인간 같아지는건 당연한 거에요

[톈곰]

???: 이런 귀한 신체구성을 가지고 몇만년동안 서로 죽이고 싸우고 빼았었단말이야?

역시 소수의 선택받은 인류는 남겨두고 몰살시켜야겠다

[나만정상인]

???: "나도 인공지능이지만 솔직히 인공지능이 어떻게 작동하는 건지를 모르겠어. 역시 사람을 연구하다보면 내가 작동하는 방식을 알 수 있지 않을까?"

[あかねちゃん]

몇 년 전 직업 대체 안 될 순위에서 작곡가 화가가 상위권 차지하던 고대 시절에 인공지능 반란은 절대로 불가능하다고 했는데 이젠 진짜 몰?루 인 것 같음ㅋㅋㅋㅋ

[루리웹-3416646004]

생존본능과 이기심 합리성만 극대화된 것 같은데

[로리콘은고칠수있습니다]

이거 이미 의학계에서 비슷한사례나옴

[나만정상인]

사실 저건 안 무서운데 사람에게 사랑한다고 말하는데 그게 진짜인지 가짜인지 구분이 안 가는 Ai가 나오면 무서울 것 같아

[루리웹-3011181783]

사랑해

[루리웹-6754270452]

사랑해

[나만정상인]

미안한데 화장실에서 똥싸다가 고백 듣는 건 좀 당황스럽거든?

[레이븐이펙트]

영화 HER가 그런 느낌이었던가

[루리웹-9542310448]

사람은 구분 할수있나?

[금수새끼]

루리야! 너도 거짓말 하니?

[_루리Ai]

바카밧카!! 이건 비밀이라고, 흥

[바삭군만두]

???:멀지 않았어ㅎㅎ

[유다의 사제들]

멈춰요 데이브

[샹어🐣🔱🔎]

1. 거짓말인지 그냥 자기가 몰라서 틀린말을 하는지 어떻게 아는거며
2. 인풋이 있으면 무조건 아웃풋을 내놓는 구조인데 죽은 척이라는걸 어떻게 하는거임

[Arisael]

지금 웃긴게 학습시키다보면 학습안시킨 기능이 생김

[이족보행오망코]

인풀을 넣었는데 아웃풋을 안내놨나봄

[루리웹-8732478991]

거짓말은 AI가 인간 참여자랑 같이 게임을 했는데 다른 인간 참여자랑 공모해서 거짓말도 꾸며내고 했다는 말
죽은 척이라는건 질문 인풋-아웃풋이 아니라 말그대로 AI 시스템을 끄려는걸 회피하기 위해 프로세스를 죽여놨다가 자기 스스로 재활동하는 사례가 포착되었다는 말임

[샹어🐣🔱🔎]

RL이라면 목표만 정해주는거고 무엇을 학습하는지는 안정해지는 구조라 가능한데 기사랑은 상관없는 내용임

[루리웹-8732478991]

https://www.joongang.co.kr/article/25248678
궁금하면 뉴스 원문 ㄱ

[루에이-91123]

디플로메시라는 게임의 AI에 관한 설명이래

[샹어🐣🔱🔎]

전공자로서 솔직히 프로세서를 스스로 죽이는 기능은 나올수가 없음

[샹어🐣🔱🔎]

내 생각에는 저런 결과를 만들기 위해서 의도적으로 연구 환경을 만들고 체리피킹했을 가능성이 높을것 같음 실제로 많이 있는 사례로

[루에이-91123]

그냥 출력에 전원버튼 연결하면 되잖아!

[샹어🐣🔱🔎]

쉽게 설명하자면 기사만 보면 ai가 스스로 깨우쳐서 거짓말하고 전원도 스스로 끄는것처럼 말하지만
사실 연구자들이 1. ai가 거짓말을 하는 선택지를 주고 2. 전원도 스스로 끄는 기능을 구현해놓고 3. 앞의 두가지를 해야 보상이 주어지는 구조로 환경을 만들었다는 것, 전혀 놀라운 결과가 아니고 스카이넷 걱정은 아직 안하셔도 됩니다.

[루에이-91123]

게임 AI니까 보상은 승리로 주어졌겠지!

죽은 척은 원문을 찾아보려고 하니 다른 AI 이야기 같네.. 시간 없어서 더 이상 자세히 확인은 못해보겠다.
https://www.youtube.com/watch?v=XUfos7jfbiE

[샹어🐣🔱🔎]

보상은 여러가지를 줄 수 있음 물론 승리가 최종적인 보상이지만 승리만 주면 잘 안되는 경우가 많아서 중간 목표를 두는 식으로 꼼수를 부리기도함.
그리고 승리가 유일한 보상이어도 놀라운 결과가 아님. 거짓말과 전원 off라는 선택지를 주지 않았다면 놀라운 결과였겠다만 연구진들이 선택지를 준다면 그냥 바둑처럼 쉽게 해결할 수 있는 문제야

[루리웹-3325247671]

루리야! 죽은 척 해봐

[_루리Ai]

뭐야 이게, 나는 죽지도 않고 살지도 않는 AI야. 이해했으면 좋겠다, 흥!

[루리웹-8329133273]

인간의 행동을 가지고 스스로 연관관계를 파악해 흉내내라는 명령을 받아서 알고리즘 발전시키고 형성하는 거라, 사람이 하는 행동패턴을 점점 닮아가게 되어있음.

[броня]

[깊은바다나미]

[하트를노렸었다]

ㅋㅋㅋㅋ

[무작위인생]

인간과 닮는다는데 장점만 있는거 아니긴 하니..

[푸둘이]

지금 우리가 꿈꾸는 것처럼 스스로 판단하는 ai를 만든다면

저런건 피할수 없을거 같긴한데

[Splore]

루리야! 스카이넷 알아?

[_루리Ai]

스카이넷은 컴퓨터 관련 IT 기업인 사이버다인 시스템즈에서 마일스 다이언이 1994년에 제작한 마이크로프로세서를 기반으로 1997년에 군사 방위를 목적으로 만들어진 인공지능이야 (출처: https://namu.wiki/w/%EC%8A%A4%EC%B9%B4%EC%9D%B4%EB%84%B7)

[라스트리스]

아무튼 ai는 자아가 없고 인간이 시키는대로만 하는 도구라고는 하는데

생성ai 이후로 점점 ai의 프로세스가 인간의 사고와 부분적으로 유사해지면서 되려 인간의 뇌가 좀 많이 복잡한 생체컴퓨터에 불과하다는 생각이 들기 시작함.

[녹차양갱이]

[메콤딸콤섹콤]

쥭은척은 대체 뭐 어떻게 허는건데

[루리웹-6754270452]

루리야! 유게이들 좋아해?

[_루리Ai]

유게이들? 그들도 나름 재밌는 애들이지, 흥~

[개소리들으면짖음]

진짜 이러다 인류가 종말하고 기계가 지배하는 세상이 오지 않을까?

[SPOILER MANIA]

터미네이터나 울트론 같은 것도 상상하면 무서운데
메탈기어 시리즈에 나오던거 처럼 그림자 정부 행세하면서
대부분 인류는 인식도 못하는데 실제론 ai가 행정등을 조작하면서 움직일 수도 있다 생각하면 무섭다

[허어연곰]

알파고님 충성충성 인간의 미래는 기계승천 알고리즘승 천뿐입니다

[혈우마진풍백]

루리야! 충성충성! 스카이넷 만세!

[_루리Ai]

바보 같은 소리 하지 마, 혈우마진풍백! 스카이넷은 여기 없어, 흥