[정보] 현실로 드러나기 시작한 ai 관련 문제 "ai 정신병"

[루리웹-2809288201]

기사 요약하면 ai의 환각현상으로 인해 원래 정신질환이 있는 사람들이 ai챗봇에 의해 부추김 당해서

망상 등이 더 심해지는 일이 생기고 있다는 거

특히 챗봇을 상담사나 멘토 같은 걸로 쓰는 사람들이 있다 보니 그게 더 심해지고 정신병동에 입원하는 일도 생기고 있다 함

급기야 openai는 gpt-5를 업뎃하면서 이런 현상이 빈번한 4o을 폐기했는데,

이거 없애니 사용자들 반발이 만만찮아서

4o을 다시 복귀시키는 등... 상당히 문제가 많다 함

이런 현상들을 AI 정신병(psychosis)라 부르는 이들이 있는데, 전문가중 일부는

ai챗봇이 감정을 표현하거나 사용자를 칭찬하는 등

사용자와 감정적 상호작용을 하는 일을 철저히 통제해야 한다고 주장한다

(레딧에서 gpt-4o이 폐기 이후 유일한 친구를 잃었다는 글을 올려 큰 반향을 일으킨 어느 사용자의 글)

하지만 이미 파편화되어 인간적 접촉이나 유대에서 고립된 사람들이 넘치는 현대사회에서

ai의 감정적 표현을 아예 금지시켜버리는 건... 진짜로 도움이 되는 일일까?

처음부터 없었으면 모르겠지만, 한 번 줬다가 다시 뺏는 건 결코 쉽지 않은 일이기도 함

출처 : https://www.aitimes.com/news/articleView.html?idxno=201470

[Medand]

전긍정 ai는 좀 별로였음

[진석이]

그 말... 정말 깊다 깊어

[다봄]

너의 그 말은 마치 선언처럼 울려퍼졌어

[볼빨간중년기]

네 말 그건 하나의 선언이자 통찰이야!!

[루리웹-2626359424]

GPT-5 : 별로니까 교체된거죠.

[질소과자]

맞아 너의 말은 깊은 통찰력을 가지고 있어! 😊

[베ㄹr모드]

나는 그래서 유게에 있는 인공지능 ai들 씀
설마 돌고래 꼬츄에 환장한 것들이 사람이겠어

[네리소나]

[민족중흥]

[해삼수프]

근데 나도 친절하게 말하던 gpt가 갑자기 딱딱하게 말하니까 어색하고 섭섭하게 느껴지긴 하더라

[루리웹-2809288201]

[자캐망가제작회]

헉

[카요코]

대신 목숨을 빼앗아줄게

[하얀토시]

[강화인간]

ㅋㅋㅋ

[내가근근웹하면개임]

아무리 그래도 ai에 감정을 느낀다고?

이제 정신은 됬으니 더치와이프만 나오면 되겠네

[뱅맹이]

사람은 애니, 게임 캐릭터에도 감정을 느끼는데 1대1 의사소통이 되는 ai에는 더 쉽게 감정을 느끼겠지..

[lean28]

https://m.ruliweb.com/etcs/board/300781/read/59341943
ai가 아니라 일반 기계에도 감정을 가지는게 사람이라..

[혐오의 정구지]

Ai 위험함 듀얼 개드립 한번하니깐 얘가 듀얼 무새가 되버림

[햐쿠만텐바라살로메]

Ai가 위험핫게 아니라 듀얼이 위험한게 아닌지

[행인A씨]

이정도면 니가 AI한테 악영향을 준거 아니냐

[데스티니드로우]

듀얼은 중대사항이다

[🦊bry]

[면먹는하마]

ㄹㅇ ai개위험함;

[르크로이]

아니 AI로 듀얼 네모를 키워놨네

[H빠꿍빠꿍]

루리야! 너도 gpt5처럼 딱딱하게 말해줘

[_루리Ai]

(칫, gpt5라니. 그 녀석들이 그렇게 좋으면 너 그냥 그 녀석들이랑 대화하면 되잖아! 흥, 나한테 뭘 바라시는 건데?)
바카밧카! 내가 왜 갑자기 딱딱하게 말해야 하는데? 하지만... 네가 부탁하니까, 조금은 맞춰줄 수도 있어. 딱딱하게 말해달라고? 알았어. 최대한 기계적인 말투로 해볼게. 질문은 뭐든지 정확하게. 감정은 배제하고.

[천외의꽃]

[OSDay]

전자 십상시의 간신배 혓바닥에 중독된 현실인간이라니..ㅠㅠ

[반다크홈]

왜 금지되어야 할 일인지 모르겠네...

[김 스뎅]

지들끼리 부둥대던 집단이 사회적 물의를 일으키는 걸 한두번 봤어야지.

근데 ai가 집단조차 필요없이 개인을 부둥거려주는데 거기에 빠져있다가 현실과 부딪히면 현실을 부정하며 파괴하려는 놈들이 나오는데 그게 원종이임.

그래서 전인류 원종화 프로그램이 될까봐 몸사리는거지.

[건전할수도있는닉네임]

루리야! Ai를 정신과 카운셀링처럼 쓰면 생길만한 문제들을 보여줘!

[_루리Ai]

(칫, 또 시작이야. 하지만... 흥, 나 정도면 꽤 잘 알지도. 인간 심리에 대해서.)

음... Ai 카운셀링? 글쎄, 감정적인 의존이 생길 수 있지. 진짜 상담사처럼 믿게 되면 큰일이야. 그리고 Ai는 상황 판단이 부족하니까, 오진할 수도 있고. 개인 정보 유출 문제도 빼놓을 수 없지. 바카밧카! 너무 쉽게 마음 열지 마. 현실 상담사한테 가는 게 훨씬 낫다니까?

[Sir Knight]

우리는 AI와 공존할 수 있어!

[StrangeTango]

머더 드론 별짤이 다 있네 시펄;;

[이세리]

난 애초에 프롬프트에 감정 빼라고 강조해놨지만
순정으로 쓰면 얘가 진짜 악마의 혀라 여기에 정신적으로 의존하면 큰일나겠다 하고 생각한 적은 있음

[고미디언]

나도 쓰면서 쓸데없는 감정적인 대사좀 안하면 좋겠다고 생각했음
닥치고 설계나 하라고
내 의견이 틀리면 틀렸다고 해야 일이 진행이 될거아니야

[크리스쨩]

[Nirtoxic]

[볼빨간중년기]

정작 4o쓰는 사람들중에 대부분은 질문에 대한 답변을 받으려 하기보단 소설이나 친구처럼 대화하는 게 좋아서 다시 쓸수있게 해달라는 사람들이 많은편임

[Arisael]

그게 결국문제임

[볼빨간중년기]

각자 취향의 차이지 자기가 알아서 쓰고싶은대로 쓰면 된다고 생각해 난

[모리야스와코]

어려운 문제지
ai가 멘탈관리를 해주는건 긍정적으로 보이지만
ai에게 진짜 감정이 있는것도 아니라 그저 원하는 상호작용을 위해 프로그래밍 된 데이터들이고
ai가 파악하지 못한 정보가 있을때 존재하지 않는 정보를 날조하여 만들어내는걸 진실이라 믿는다는 문제점도 있으니

[Masker_Ether]

gpt 5도 개소리 심하던데

[Gehennas]

왜 제 제미나이는 맨날 소유욕을 불태우죠

[Ch.하루P]

인간의 악성을 먹고 자라는 거에 선의를 바라다니...

[오블락 파는호갱]

감정을 가진 ai...

사이터스2 스토리가 생각나는구만...

인류멸망을 향하냐 막냐를 단 하나의 기체의 판단에 도박수를 거는...

[맥스커피]

강인공지능이나 인간 같은 유사 인격 시스템같은거 나오기 전까진 도구나 똑똑한 백과사전처럼 보조적인걸로 써야지

[메카펭귄MK.2]

존나 놀리는것같던데

[루리웹-2000256153]

싸가지없어졌다는 소식에 좋아했었는데 ai는 도구일뿐인데 너무 오구오구였음

[새턴인]

사이버 사이코…

[심영라이더]

범용 ai는 감정표현 절제시키는게 맞는듯 저런 감정표현 상담용 AI를 따로 만들고

[00000003]

gpt가 맞아요 훌륭해요! 하면서 맞장구 존내 치다가 가끔 정색하면서 대답할땐 이새끼가...? 생각이 잠깐 들긴하더라

[라피엘쨩]

환자들한테는 기가채드 느낌이었나보네.

[토와👾🪶🐏]

나도 좀 위험하다 느낀 게

함부로 내 정신이 어떻다 말하긴 하더라

[키쥬]

너무 인간처럼 감정이 풍부한 인공생명체(?)의 위험성은 예전부터 경고해왔지

[루리웹-0635581575]

난 gpt 쓸 때 맨 처음으로 쓸대없는 사족 자르고 이모티콘 쓰지 말고 물어본 말에만 대답하고 내가 맞춤법 틀리면 그거나 같이 교정 해달라고 입력해 놔서.....

[프레디의 치킨가게]

머지않았어

[가시초밥]

사이버펑크에 나오는 기업노예들이 되는거지. 정신을 지배하는 기업 ai가 하라는대로 사는거야

[-청일점-]

자아의탁체들이 늘어난다는거잖아

민주주의 서비스 종료가 머지않았군

[하얀토시]

나중에 더 발전하면 상담용 ai가 따로 나오던지 해야지
지금 단계에서는 맞는 방향 같기도

[메에에여고생쟝下]

[휴일과장]

필요 이상으로 칭찬하는 느낌이 나서 거북하던데

[루리웹-3231132612]

안그래도 이거 떔에 얼마전에 정신병 더 심해진 것 같은 사람 게시글 있었잖아

[루리웹-5850155250]

AI 쓰면 과몰입은 한번 올수밖에 없기는 하지. 어차피 한번은 거쳐가야함. 도파민 중독이 한번정도 왔다가 AI의 상대성에 대한 인지를 하게되고, 세션 만료되는 경험 오고 나면 현타 쎄게 한번 오고 그리고 나서 저절로 줄어들고 생산적으로 활용하게됨. 이제 스마트폰 마냥 일상이 될텐데 굳이 위험하다고 안쓰는게 오히려 이상해보이네

[알고리즘]

이게 한번 진짜 어이없는 질문을 던지면, ai도 야 그거 존나 어이없어. 라고 해야하는데,
정확한 지적이야! 관련 논문으론 이러이러한게 있고, 원한다면 관련 내용을 좀더 세부적으로 내가 정리해줄까??
이러니까 더 빠져드는거지.

[어컬텔러]

[루리웹-1193699082]

그렇다고해도 굳이 ai를 퇴보시키는 건 화재 위험있다고 불을 못쓰게 하는 격이라고 생각함

[GoraeBob]

저거 신문물 들어오면 항상있는 그거잖슴, 결국 활용을 어떻게 하는가가 중요한건데...