[유머] AI) 정말로 LLM은 언어만 다뤄서 인간지능을 따라갈 수 없는 것일까?

[이세계 세가사원]

개인적으로 생각하는 결론부터 말하자면,

“저걸 진심으로 주장했다면 나는 그 사람이 학자로써 뭔가 큰 걸 놓치고 있다”라고 생각해.

LLM의 출력 방식이나 내부 구조가 아닌 “세상을 언어로만 접하기 때문에” 

인간지능이 다다를 수 없다고 한 게 진심이라면 어떤 게 문제가 될까?

대학교 수준 이상의 연구들의 대부분은 “이론 연구”와 그 이론 연구를 실현하는 단계의 연구로 나뉘어지는 게 대부분이야. 

이론 연구 단계에서, 자료를 조사하고 가설을 설립하고, 자료를 조사하고, 

기존 연구 성과들을 모아서 가설을 증명하려 하고, 가설에 대한 이론적 배경을 세워서 이론으로 만드는 것은 상식적인 단계지.

이 단계에서 이 단계를 실행하는 불쌍한 대학원생이 언어 외의 수단을 통해서 이 지식을 습득하고 있니?

아니, 전부 언어를 통해서 습득하고 있지.

이 불쌍한 대학원생은, 

블랙홀을 연구한다고 해도 블랙홀에 대해 관측한 자료를 보지 실제로 블랙홀에 다가가서 빨려들어가보며서 연구하는 게 아니잖아.

물론 이론이 현실을 반영하지 못한다!는 주장은 있지만, 그런 상황에 대해서 정상적인 학자라면

“분석이 부족했다, 분석을 위한 자료 수집에 미비가 있었다” 하면서 불쌍한 대학원생의 논문을 리젝하지

 “현실을 겪지 못한 언어적 경험만으로 너는 진정한 학문에 이르지 못했다” 같은 이야기는 안 하거든.

이쪽에서 유명한 게 중국어 방 논증이긴 해.

어느 방에 입구가 있고, 출구가 있는데, 입구에 중국어로 질문을 넣으면 출구에 중국어로 답변이 나오는 그런 방이 있거든.

근데 그 방 안에는 중국어를 모르는 노동자들이 들어온 입력에 따른 조작만 해서 답변을 만들고 있는 중인 거야.

그럼 그 방의 노동자는, 그 방은 중국어를 이해했을까? 하는 내용이야.

“컴퓨터가 프로그램에 따라 기호를 처리하는 것은 이해와 의식을 가질 수 없다”는 주장이지.

또 다른 논증은 흑백방의 메리 논증이라는 건데,

“흑백방에서 모든 물리학적 지식을 배운 과학자 메리는, 

흑백방을 나와 실제로 붉은 색을 처음 봤을 경우 새로운 지식을 얻는가?” 하는 내용임.

 붉은 색의 정의를 언어적으로 다 배운 메리가 

이 붉은 색을 새로 처음 봤을 때 기존 지식에 없는 “경험”을 얻을 수 있냐는 소리.

전자는 반기능/계산주의의 대표와도 같은 논증이고, 

후자는 반물리주의로 대표되는 이 세상에는 언어적 기술이 안 되는 물리적 사실 이상의 속성이 있다는 주장이야.

이 두 주장을 폄하하려는 건 아니지만, 이 질문들에 대한 반대 주장들도 있어.

사실 지금은 반대 주장이 더 세가 큰 경우가 많음.

더글러스 호프스태터는 중국어 방 논증에 대해서 이렇게 말했음

“사람은 모르지. 방 전체는 중국어를 안다고 해야지.”

이거도 꽤나 깔끔한 논증인 게, 

내가 한국어를 할 줄 안다고 해서, 

내 뇌의 일부를 떼어내면 걔가 무조건 한국어를 할 줄  아는 건 아니잖아? 

내 뇌 전체를 구성하는 “나”는 한국어를 알아도, 내 일부가 무조건 한국어를 다 알 필요는 없거든.

이 경우 중국어 방이 하나의 두뇌고, 거기서 일하는 노동자는 뉴런이 되는 거야. 

내부의 뉴런이 중국어를 몰라도 방이 중국어를 이해한 것처럼 작동하고 있으니 괜찮다는 논리임.

비슷하게 ,흑백방의 매리 논증에 대해서도 데이비드 루이스는 이런 주장을 함.

“메리는 빨간 색을 봤을 떄, 거기서 기존의 지식 이상의 새로운 “지식”을 얻은 게 아니다. 

색을 보고 지식에 연결하는 기능을 얻었고, 그것이 바로 경험이다”.

Knowing what it is like(무엇인지를 앎)은 지식이 아니라 지식을 통합/얻는 과정에서의 행동적인 범위이며, 

이건 무엇(that)을 아는 게 아닌 어떻게(how)를 정립하는 과정이다. 하고 답변한 거지.

즉 지식적으로는 더 안 게 없고, 새로운 "도구"가 생겼다고 답변한 거야.

다른 학자 ,다니엘 대닛은

 “메리가 충분한 지식을 가지고 있을 경우 

지금 자신의 시각세포에 들어오는 파장을 분석하여 붉은색을 본 순간 지식으로 이해했을 것”

이라며 반박하기도 했어. 

최근엔 또 재미있느 연구가 있는데,

https://aclanthology.org/2024.emnlp-main.651.pdf

언어를 완전한 기호로 보지 않고

특정 집단 내에서 사용되는 표현형(usage)로 볼 경우

이미 llm은 언어사용과 지식 함양에 있어서 agi에 거의 근접했고 도달할 수 있다는 의견임.

결국 본질적으로 우리가 "이것을 판단할 수 있다면 우리 집단에도 동일하게 적용해야 하는데 그럼 님들 의견 근간부터 터지는데 괜찮음?"이

llm이 agi가 불가능하다는 단순 의견에 대한 학계적 반박이라고 보면 돼.

지금 당장 된다 언제 된다가 아니라 "영원히 불가능하다" 어쩌구저쩌구에 대한 반박인 거지.

<="" 인물="" focus="" 기사본문="" -="" 인공지능신문"="">

그와 별걔로 얘는 별로 믿음직스럽진 않긴 해

3줄요약

1. LLM이 정말 인간지능에 가까워질 수 없는 이유가 오로지 언어로 접근해서라면, 인간도 불가능하다

2. 언어적 관점으로만 봤을 떄 이미 꽤 근접했다고 판단하는 학자들이 있다

3. 그와 별개로 이게 맞는 방식이냐에 대해서는 의견이 갈리는 중

[Kaltzkalintz]

요 근래 유게 분위기가 AI에 호의적이지 않긴한것같기도

[PTLimA]

반반임. 장난감으로는 호의적인데, 일자리 문제가 되면 적대적으로 되는거지. 그나마 한국사람이 전 세계적으로 상위권으로 AI에 호의적인 수준이지, 일본의 경우 가장 적대적이고, 미국의 경우 이걸로 드라마 작가 파업, 성우협회 파업, 신문사가 개발사 줄고소 등으로 거의 적대적인 분위기임.

[일편단심세이버쨩]

요 근래 램값이나 이것저것 미쳐날뛰니까......

[이건자쿠가아니라고개밥새끼들아]

줄줄이 짤리고 재취업길도 막힌 시점에서 무슨 대격변급 사회변혁 터지지 않는 이상 일반인들에겐 피해만 더 크니까

이젠 기본소득제 같이 뭔가 대비라도 해두자는 논의조차 안 나오고 그냥 아무튼 잘 되겠지~ 식으로만 치부하니 더더욱 그렇고

[일해야하는데에]

중세시대 코끼리 그림. '말만 듣고 그린' 결과라고 한다

솔직히 말해서 인간도 불가능하다고 하는데, 불가능한 거 맞음. 왜냐면 사람이 세계를 완전히 파악하지 못하고 언어는 그 완전히 파악하지 못하는 인간이 자신의 파악한 결과를 전달하기 위한 수단이니까

그런데 그게 의미가 없는 게 아니라, 어차피 사람이 소통을 위한 도구로써 언어적 특성 말고는 선택할 수 있는 게 없기 때문에 (나는 타자가 아니니까) 언어를 통해서 세계를 기술하려는 것이 의미가 있을 뿐이지

[이세계 세가사원]

그렇지

즉 본질은 튜링 테스트인 셈이야
우리가 인간이 아님을 눈치채지 못하면 그게 인간 수준 지능이다! 하는 고전이론이 가장 합리적인 무지의 베일 검증기인 거라구

[오미자만세]

난 그래도 Ai가 그래도 계속 꾸준하게 우상향 그리는 라인이라 터지는 기점은 무조건 올거같은대 그전에 무너지는게 아니냐 하는대 그 무너지는게 안온다던가 큰타격이 없을거같음,,

[PTLimA]

챗GPT 5 에서 경량모델로 가는거 보면 LLM 방식으로 성장은 끝났다고 봄. 테슬라 FSD는 이미 주행기록 학습 단계는 넘어서서 디지털 클론으로 가상 학습 기계에 도로에 갑자기 운석이 떨어진다든가, 티라노 집어넣는다든가 그런 말도 안되는 시나리오 집어넣어서 학습 시킨다고. 딥시크 쇼크에서 딥시크가 일부 이 요소 집어넣어서 학습비용 낮췄다던데, 그 이후로 조용해 진거 보면 그것이 브레이크 스루는 아니었었나 하는게 요즘ㅋ

[그냥놀고싶어]

지금까지의 AI는 진정한 의미에서의 인공 지능은 아님
지금 사용되는 자칭 AI라는것들은 그냥 고성능 피드백머신에 불과함

[이세계 세가사원]

저 의견은 "진정한 의미의 인공지능과 고성능 피드백머신의 차를 니가 정의할 수 있음? 없으면 같은 걸로 보는 게 맞지?"임.

[이세계 세가사원]

고성능 피드백 머신(중국어 방)은 인공지능이 아니다!
고성능 피드백 지식 정보 종합체(흑백방의 메리)는 실제 정보 종합체가 아니다!

하는 대표적인 사고실험이고, 이 둘은 대부분 학계에서 반박이 정설이 된 지 오래인걸
이 둘보다 강력한 반박가설/사고실험도 거의 없는 상태임. 아무튼 다르다!는 우리는 보통 그걸 학설이라고 하지 않아요. 개인의 주장이라고만 하지.

[수염근육맨]

이녀석 본문을 안읽었구나

[Vault]

'지능'이 뭔지 부터 정의해야지
인간이랑 완전히 똑같아야 지능인가?
예가 살짝 다르긴 하지만 인간들 중에서도 감각 몇개가 없는 사람들이 존재함 하지만 그렇다해도 이 사람들이 지능이 없다고 생각될 순 없음
고성능 피드백머신도 정의에 따라 충분히 지능임
나는 인공지능의 지능이 인간 지능과 동일하진 않아도 조금 다른 종류의 지능이라고 생각함

[루리웹-3711278484]

???: 역시 난 틀리지 않았어

[Arche-Blade]

글쎄...현대 철학 그리고 컴퓨터 공학에도 영향을 끼친 비트겐슈타인의 인식론을 토대로 볼때

언어는 단순한 표현이며 그 실제는 행동에 있다고 표현됨

여기서 언어는 의사소통과 발화의 결과물로서 세계에 표상되는 수단이고 객체간의 관계는 언어를 넘어선 행동과 흔적으로 세계속에 남음

이 논지상에서 볼떄 LLM은 실제 세상의 표현이 아니라 그 표현의 결과물이고 이 방향성에서 볼떄 LLM만으로는 AGI가 될수 없다고 추론하고 있음

[이세계 세가사원]

이게 비트겐슈타인의 인식론에 대한 후대의 접근론 중에
"객체간의 관계가 언어를 초월하는 무언가가 존재한다면, 그럼 우리는 이론을 언어로 소통할 수 없게 된다"도 주장에 들어감.
콰인의 번역 불가능성 논쟁에 대해서도 크게 두가지로 접근하는 게 이런 부분이거든

인간의 육체에 종속되는 개념적 부분을 중요시하느냐 아니냐의 이야기고, 그리고 중요시하는 쪽은 ai는 어떤 수단이 와도 영원히 불가능하다고 주장하고 그 이상의 소통을 닫는 경향도 있으니....

[Arche-Blade]

나도 비트겐슈타인의 예시를 들긴했는데 이건 좀 오래된 얘기고 사실 괴델의 정리로 접근하는게 맞다고 생각해서 다시 썼음

반증의 사례로서 비트겐슈타인과 괴델의 논리로 얘기하는게 아니라

심층문법이론이나 사피어-워프 이론 전인지-원형언어 모델에 입각한 언어인지 각성측면에서도 현재의 모델 아키텍처로는 그 수준에 못이르고 동시에 그 이론들 자체가 전언어(pre-languague)에 해당하는 상호작용을 표현하지 못하는 문제도 있음

[이세계 세가사원]

맞음 그래서 그 이론 자체가 옳냐 아니냐는 부분도 중요하지만
'일단 현대 학계에서 언어를 통한 분석 자체가 절대 불가능하다"고 하는 것 자체가 모순적이라서 가져오는 부분이 큼
탑다운-바텀업 연구 모두에서 공통적으로 구성된 수렴진화가 뉴럴 모델이라는 게 참 재밌기도 하고 머리아프기도 하고

[루리웹-7458648725]

순수하게 궁금해서 그런데, 그 실제 세상도 결국 데이터로 표현될 수 있는 거 아님? 인간이 감각으로 느끼는 것도 본질적으로는 데이터로 표현될 수 있고, 그에 대해 상호작용하는 경험도 결국 아웃풋과 인풋 데이터의 상호작용일 뿐 아닌가? 그런 데이터들을 높은 해상도의 센서로 감지해서 LLM에 인풋으로 넣고 그에 대한 아웃풋도 제대로 설정한다면 그 LLM이 경험하고 이해한 것이 인간과 근본적으로 다르다고 말하기 어려울 거 같은데. 결국 감각과 경험과 상호작용이 모두 데이터고 언어는 그 데이터를 표현하는 방법 중 하나라고 생각해서. 뭔가 잘못 이해한 부분이 있을까?

[Arche-Blade]

괴델의 불완전성 이론에 따르면 그렇게 기호계를 확장해봐야 동일기호계기때문에 외부공리에 대한 무결성검증 즉 자기자신의 체계에 대한 검증이 불가능함

그걸 물어본다는 점에서 내가 써놓은 핵심을 하나도 이해못한거임

[루리웹-7458648725]

나름대로 찾아봤는데 이해 안되는 부분들이 있어서 물어본 거니까. 혹시 그 핵심에 대해 좀더 자세히 설명해 줄 수 있음? 개인적으로 궁금한 부분이라 키워드 가지고 찾아보고는 있는데 좀 복잡하네. 뭐 원전 자체를 읽어야 이해할 수 있는 부분이거나 하면 어쩔 수 없고.

[이세계 세가사원]

이게 저 친구는 “이상적인 세계는 논리로 기술할 수 없다”라는 괴델의 원칙 아래에 이야기하고있어서 그럼

모든 걸 하는 건 불가능하다는 역설적으로 증명되어 있거든

인간이 살면서 보는 일반적인 지식체계는 논리구조를 통해 완전재현이 가능한가? 의 영역이 중요한 거라고 생각하는 게 나 같은 실무적 관점의 학파

“모든 세계는 안 되는데 인간이 이해하는 범위는 될까?”에 대해서
인간이 이해하는 범위는 인간 인지 하의 모든 세계랑 같은 개념이니 안 된다 학파랑, 인간도 신호체계 하의 동물이니까 동일원칙상 한없이 가까워질 수 있다 학파가 있다고 보면 됑

[이세계 세가사원]

일단 모든 논리적인 개념 중에 기본적인 걸 공리 라고 하고
이 공리를 쌓아서 모든 논리체계를 만든다고 가정하거든 보통

나는 인간이다/인간은 언젠가 죽는다 ->나는 언젠가 죽는다 같은 거야

근데 이 공리의 덩어리가 “자신들이 옳은지 내부적으로 증명할 수 없고, 그걸 증명할 수 있는 외부 요인을 넣는 순간 똑같이 그 새 요인을 포함한 상태에서 내부적으로 그 요인을 증명할 수 없다”는, 되게 이상한 내용이 증명된 바 있음. 이게 괴델의 증명 불가능성 원리임

그러다보니 논리체계인 컴퓨터로는 이 세상의 모든 것을 증명할 수 없다! 는 건 현대철학 전공자에겐 기본 상식이 되어버리는 거구

그럼 “인공지능은 무엇을 하는 걸로 정의하는가?”가
인간과 동일한 논리체계를 가지는 기구로 보느냐
인간이 구별 불가능한 것으로 보이는 논리체계를 가지는 기구로 보느냐
인간이 가능하다고 여겨지는 모든 사고적 추론을 동일하게 실시할 수 있는 기구로 보느냐 등등으로 또 갈리구 그렇습니다

님이 이야기한 대로 인간 뇌도 신호니까 기계적 구조재현으로 동일하게 작동하면 되는 게 아님? 이 뇌과학/컴퓨터과학/진화생물학에서 보는 관점이야

[이세계 세가사원]

밖에서 봐서 차이를 못 느끼면 그건 같다고 쳐야하는게 아니냐? 차이를 증명할 수 없으면 같은 개념 아님? 이랑

두 개체가 서로 다른데 그게 본질적으로 같은가? 개념이 충돌한다고도 보면 됨

인간도 타인의 논리구조를 완벽이해하는 것이 불가능하니, 인간이 타자를 인간이라고 인식하는 것만 완전히 베끼면 그건 거의 유사 인간이 아닌가? 랑 그러고도 그게 본질적으로 인간이라고 볼 수 있는가? 99번 중 99번 유사했다고 다음 한번이 다르면 다 다른거잖아 이런게 다 합리적으로 배틀 벌이는 거양

[Arche-Blade]

내가 알람을 꺼놔서 다시 달린지 몰랐네 이따 퇴근하고 다시 달아볼게
근데 이 위로 글쓴 유게이가 대충 달아놔서 의미가 있을지는...

[루리웹-7458648725]

전공이 과학 쪽이라 불완전성 정리는 조금은 알고 있는데, 그게 AGI하고 직접적인 관계가 있는 게 맞나? 찾아보니 AGI에 대한 완전히 합의된 정의는 없지만 대체적으로는 그냥 단어 뜻대로 일반적인 문제를 해결할 수 있다는 실용적 의미이지 인간 지성이 동작하는 구체적인 디테일을 완벽하게 모방한다는 뜻으로는 잘 안쓰는 것 같은데. 그래서 내가 지적한 건 데이터를 통한 상호작용이라는 측면만 보면 적어도 이론적인 면에서는 겉으로 드러난 인간의 행동이라는 데이터를 모방할 수 있는 게 원리적으로 당연하지 않냐는 말이었음. 지금 논의를 보면 아예 그걸 넘어서서 인식론적으로 가는 거 같은데, 불완전성 정리가 어떤 맥락에서 나왔는지는 여전히 이해가 안되네. 어차피 인간도 스스로의 무모순성을 증명할 수 없으니 그 부분은 언어의 여부와 관계없이 마찬가지 아닌가?

여러모로 철학에 대해 아주 깊이 알지는 못하고 겉핥기로 여기저기 찔러본 게 전부긴 한데, 내 생각이 물리주의 쪽에 가까워서 항상 관념론적 사고를 이해하는 게 참 힘든 것 같음. 님이 이야기한 부분에서도 인간이 그 차이를 확실히 알 수 없으면 그걸 같다고 확증하지는 못하더라도 차이를 알 수 없다는 자체로 남겨두는 게 당연한 사고방식이라고 느껴지는데, 인간이 확인할 수 있는 영역을 넘어서서 그 둘이 어쩄든 다르다고 이야기할 수 있는 방법이 무엇이 있고 그것의 의미가 무엇인지가 궁금하네. 혹시 그 부분에 대해 대략적으로라도 설명해줄 수 있음?

[Arche-Blade]

0. LLM은 언어 기반 신경망 학습 AI로, 언어 기호와 노이만식 논리 구조를 이용한 기호 체계 위에서 작동한다.

0. AGI는 학습된 데이터 범위 내에서 출력을 생성하는 LLM과 달리 자기창발적 사고, 자기인식, 오류에 대한 자발적 인지와 수정 능력을 갖춘 일반지능으로 간주한다.

이때

1. 공리로 이루어진 논리 체계는 그 자체만으로 자신이 무오·무결하다는 사실을 자신의 규칙만으로 증명할 수 없다(불완전성 원리)

2. 인간의 지성은 논리 외에 감성과 감각기관에 대한 반응, 현상으로 이루어져있어서 논리체계만으로 이루어지지 않는다

3. 따라서 논리·기호 체계만으로 구성된 인공 시스템은 인간 지성과 동등한 형태의 자기검증·자기수정·의미판단 능력을 가질 수 없다.(고 추론된다)

4. LLM끼리 주고받아서 검증 및 추론하면 되지 않냐에 대해서 1의 불완전성 원리에서 기호계를 확장하여도 확장된 기호계 역시 공리구조를 바탕으로 한 기호계가 되기 때문에 여전히 자기 자신만으로 확인이 불가능 (수능 9등급끼리 수2 미적분 문제 맞냐 틀리냐 떠들어도 확인이 불가능한 것과 비슷함)

5. 때문에 외형적 행동을 데이터로 충분히 모방할 수 있다는 점과 그 시스템이 자기 판단의 오류를 독립적으로 판별할 수 있는지는 별개의 문제로 기호론을 기반으로 형성된 LLM은 이에 대한 기능을 근본적으로 가지지 못함

6. 반대로 인간은 2에서 말한바와 같이 인간 역시 자기 사고 체계의 무모순성을 증명하지는 못하지만 판단 기준을 논리 체계 외부의 감각·현상·환경 피드백으로 갱신할 수 있다는 점에서 순수 논리, 기호 체계와 구조적으로 다름

[루리웹-7458648725]

답변 감사함. 단지 여전히 궁금한 부분이 많은데..

0. 위에서도 이야기했듯 AGI에 대한 정의를 찾아봤을 때는 거기에 대한 일반적인 합의가 있다는 느낌보다는 그냥 실무적으로 인간이 할 수 있는 작업들을 일반적으로 수행할 수 있는 인공지능 정도라는 느낌을 받았었는데, 님이 이야기한 조건들을 갖춰야 한다는 게 일반적으로 합의된 정의가 맞음? 일반적 작업을 수행하려면 저것들도 있어야하지 않을까 하고 거의 납득되는 부분이긴 한데, 거기에 대한 합의가 있는지는 별개 문제일 것 같아서.

그리고 2,3,6에서 인간의 사고 체계가 감성과 감각기관, 환경 피드백 등의 요소가 추가되었기 떄문에 순수 논리, 기호체계와 다르다고 했고, 5번을 보면 그런 요소들로 인해서 인간이 LLM과 다르게 자기 판단의 오류를 판단할 수 있는 능력을 갖추었다고 이야기하는 것 같은데 맞나? 그 부분이 개인적으로 가장 납득이 안되는 부분이라 좀더 자세히 설명해줄 수 있으면 좋을 것 같음. 당장 생각하기로는 감각기관을 통한 input도 결국 데이터이고, 언어는 결국 데이터에 대한 한 가지 표현방식인 만큼 그게 아주 근본적으로 다르다고 이야기할 만한 근거는 없지 않나 싶은데. 감각기를 통해 처리된 정보가 대뇌로 들어가는 들어가는 최종 뉴런들의 신호를 그래프로 그려서 그걸 언어로 표현한다면, 완전히 같다고는 못해도 어디가 다른지 설명하기 힘들지 않나? 이런 관점에서는 감성도 특정한 종류의 자극에 대한 반응함수이고 환경 피드백도 환경과의 데이터 교환일 뿐인데, 그게 LLM이 인식할 수 있는 언어 및 데이터와 근본적으로 다른 무언가이거나 질적으로 다른 무언가를 만들어낸다고 이야기하는 건 굉장히 어려운 일 아님? 만약 그게 다르다는 걸 증명한 논증이 이미 있다면 굉장히 흥미로울 것 같네.

[Arche-Blade]

0은 agi라는거 자체가 일반지능=표준 인간지능이라는걸 함의해서

그리고 밑에건 여전히 불완전성원리와 llm이론을 이해못하고있다는 소린데

불완전성논리에서 말하는건 단일공리체계만으로는 체계 검증이 안된다는 소리임

인간은 기호체계 이상의 직감을 통해서 왜틀렸는지는 모르지만 틀린걸 감지하는 기능이 있고(이건 이제 인지과학이랑 신경과학에서 여전히 왜와 어떻게를 이론화하는중)

[Arche-Blade]

llm에 다른 인풋을 넣어주더라도 그건 기호계의 확장에 불가하기때문에 여전히 자기자신, llm만으로는 자신의 무결성 혹은 오류를 확인불가함

하지만 인간은 왜와 어떻게를 넘어서서 불가지에 대한 직감과확인하는 시스템을 가지고 있고
동시에 인간이란 개체가 같은 인터페이스를 가졌지만 그 논리회로 구성이 모조리 다른 유기체라서 동일한 기호계라고 보기도 어려움(기계적 유기체 환원논리로 들어가면 같은 개체로도 치부하긴하는데 논리체계적으로 볼때 인간은 논리회로는 llm처럼 단일군체 단일논리로 작동하지않음. 퀄리아를 통해서 천년넘게 이건 철학에서 논증하는 부분이고)

[루리웹-7458648725]

일단 정의는 뭐 그렇다고 치고, 불완전성 원리에서 말하는 건 증명불가능한 명제가 하나 이상 있다는 것뿐이지 사고체계 안에서 자기 논리의 모순을 결코 감지하지 못한다는 뜻이 아니지 않음? 인간이 틀린 걸 감지한다는 걸 무슨 의미로 말했는지 모르겠는데, 직감을 통해서 스스로의 무모순성을 증명할 수 있다고 이야기하는 건 아니겠지? 실용적인 맥락에서 자기 논리의 정당성을 다른 시각에서 검증하고 수정하는 것 정도는 불완전성 원리에 어긋나지 않고, 인간이든 LLM이든 못할 게 없지 않나 싶은데. 잘못 이해한 부분이 있을까?

그리고 인간이 불가지에 대한 직감과 확인하는 시스템을 가지고 있다는 게 가장 궁금한 부분인데, 인간에게 기호체계와 질적으로 다른 시스템이 있고 그걸 통해 불가지에 대한 직감과 확인하는 것을 수행할 수 있다는 것에 대한 증명이 있음? 위에서 이야기했듯 내가 느끼기로는 인간의 감각이나 환경 피드백이나 감정 등도 결국 데이터로 표현될 수 있을 것 같은데, 결코 데이터로 표현되지 못하는 인간만의 특징이 있고 그걸 통해 LLM이 못하는 뭔가를 할 수 있다면 그건 정말 알아보고 싶네. 일일이 설명하기 너무 깊은 부분이라면 그에 대해 입증한 논문이나 자료를 알려줄 수 있을까?

[루리웹-7458648725]

요약하면 현재 내가 궁금한 부분은

1. 불완전성 정리는 무모순성을 증명할 수 없다는 것 뿐이지 스스로의 오류를 발견하고 수정하는 것은 거기에 어긋나지 않는 게 아닌가
2. 인간이 자신이 틀린 걸 감지하는 기능이 있고, 그게 LLM이 절대 가질 수 없는 종류의 것이라는 확실한 논증이 있는가
3. 인간의 감각이나 환경과의 피드백, 감성 등이 기호논리와 질적으로 반드시 다른 것이라는 증명이 있는가

이 세 개 정도네. GPT로 레퍼런스 몇개 찾아서 보고 있긴 한데 철학 쪽 텍스트는 읽어본적이 없어서 좀 시간이 걸릴 것 같네.

[루리웹-7458648725]

1번에서 이야기한건 모든 오류는 아니더라도 몇몇 오류를 검증하는 것 자체는 어긋나지 않는다는 말임. ZFC 공리계에서 연속체가설은 결정불가능하지만 그렇다고 모든 정리가 증명 또는 반증 불가능한 건 아니잖아?

[이세계 세가사원]

사실 이래서 과학 기반적 사고를 가진 경우
“괴델의 모순은 고도로 정련된 일반인의 사고 범위 밖에서 일어나기 때문에 그 모순점을 명백하게 짚어내기 전(오컴의 면도날에 걸리는 문제상황)에는 같은 걸로 봐야하지 않나? 의견과

”하지만 그 인간사고와 러셀 스타일 논리사고의 갭이 존재하는데 ai는 후자니까 영원히 안 되지“ 파가 영원히 평행선인 거임

그래서 극단적 물리주의자는 ”저들이 좀 더 인간이라고 거들먹거릴 뿐“이라며 저격하기도 함

[이세계 세가사원]

위에 나온 3에 대한 반박논리가 위에서 가져온 논문이구

그리고 언어철학에서 언어는 표상이냐 본질이냐 의견에서 중요한 게 콰인의 번역불가능 논제거든

이게 보통 언어의 불완전성을 설명하는 용도로 쓰이는 거야. 어느 나라의 언어체계의 어떤 문장은 임의의 나라의 언어체계로 완전번역이 불가능하다는 건데

이걸 역으로 해석하면
”집단을 소분화하여 3-4인의 집단이 하나의 공동언어를 향유한다고 정의할 수 있는데, 그 3-4인의 집단 둘이 합쳐진 6-8인의 집단에서, 초기 가)집단과 나)집단의 소통은 불가능하다고 볼 수 있지 않나? 이렇게 소분하면 인간은 결국 타자에 대한 완전소통이 불가능하다고 가정해도 논리적 비약이 아니지 않은가?“ 도 할 수 있거든?

즉 불완전소통을 하는 인간 특성 상, ai가 불완전해도 인간이 구별할 수 없으면 그게 agi잖아 하고 튜링 테스트의 본질로 돌아와서 지적하는 의견도 있음
인간 간의 소통은 언어적 선만이 아니라 소통이 진심으로 가능하다고 믿는 학파와, 불가능하다고 보는 학파의 궁극적 분수령이 이거임

[이세계 세가사원]

이 면에서 재밌는 게 이 의견임

결국 비언어적인 모든 신호도 뇌에서 아날로그 헐레이션으로 받아들여 처리하니까 비언어적인 소통도 언어적 소통으로 기술할 수 있는 것이 아닌가? 라는 과학자/공학자적인 가설

뭐 미러이펙트 같이 그게 말대로 쉽지가 않은거같은데? 같은 게 많긴 하지만

[긍정적인 사람]

[루리웹-5778653536]

ai 나중가면 개쩔어진데!

[루리3864웹]

"GPT가 대단함"
"뭐가 대단한데?"
"거기서부턴 중졸이 이해하지 못함"

[곰이곰처럼잔다]

언어적인 부분만으로는 헌계가 있다고 생각하는게.
사람은 보고 듣고 하는 오감이 있는데 이거 처리하는 것 또한 지능의 한 요소란 말이지.
물론 언어 중추야 사람 지능의 핵심 중추니까 그거는 잘 해내겠지만, 언어만으로는 한계가 있다고 봄.
근데 뭐 저런 오감은 추가 및 병합하면 되는거니 방법론적으로 절대 안된다는건 아님.

[곰이곰처럼잔다]

ㅇㅇ 내가 중간에 빠진게 있긴 한게, 월드 모델이 언어입력이 아닌 다른 입력에 대해 언어 입력으로 변환하여 처리한다는 내용을 생각을 못해서 단순히 지금 처럼 텍스트 입력만 처리한다고 생각했음.
언어 내지 심리적 상징체 같은 형태로 입력을 변환하여 처리한다면 이거는 내가 마지막에 붙혔던 병합을 말하는 부분이니 가능하다고 생각함.(언어로 변환하여 처리한다는건 단순히 감각 병합의 방법론이니까). 근데 그게 오버헤드가 적은 방법인지는 몰?루. 직감적으로도 모르겠는게, 일단 뇌가 처리하는 과정에서 오감은 중간 형태로 변활 될 꺼니 모델이 처리하는 오버헤드가 오히려 적을 수 도 있을 것 같기도 하고, 근데 이걸 잘못 만들면 오버헤드가 너무 커질 것 같기도 하고

[東方☯藤原妹紅]

앗 마지막에 병합 얘기 있길래 결국 비슷한 얘기라 댓글 지워버렸는데 ㅋㅋㅋㅋㅋ

[사슴은사슴사슴]

언어로만 접근하면 불가능한거 맞는데? 예시로 든 것들도 실제로 관찰한 내용들을 언어로 접하는거지 아예 없는 새로운 것들을 접하는게 아니구만

[이세계 세가사원]

간단한 사고실험 및 이론실험이 있음. 장님은 시각적 정보를 절대적으로 이해하지 못할까?에 대한 부분인데,

실제로 시각적 관찰을 하지 못한 장님이 시각적 정보에 대한 언어적 개념을 이해할 수 있을까? 에 대한 연구 중에서
"실제 시각장애가 없는 사람, 후천적 시각장애인 사람, 선천적 시각장애인 사람"이 동일한 언어에 유사한 뇌 활성화 헐레이션을 보인다는 연구가 있어.
물론 이에 대해서는 반박 연구도 있지만, 선천성 감각 결여자는 그럼 "인간 지능에 닿지 못하냐?"라는 심각한 폭탄도 안고 있기도 하지. 발달심리학 관련 논문에서 꽤나 치열한 부분일걸. (언어습득을 위한 최소연령 연구 등등에서 실제 지적되는 부분)

[곰이곰처럼잔다]

개념적인 부분의 핸들링은 언어적인 부분으로도 불완전 하겠지만 처리는 가능할까임. 사실 그래야 지연스럽게 말을 할 수 있는거라서 이건 이미 llm이 힐 수 있다는게 증명된 셈이지. 문제라 한다면 진짜 감각 처리가 없으면 이가 아니라 잇몸으로 때우는 상태라는거지.
빨간색에서 사과나, 혈액을 연상할 수는 있지만 실제로 빨긴게 뭔지를 모르니 장님이 코끼리 더듬가리는 셈이 될 거란 거지.

[이세계 세가사원]

ㅇㅇ 그렇긴 한데 그거에 대한 반박주장이 데이비드 루이스의 how와 what의 분리 이론이기도 함
빨간 게 뭔지 안다 모른다가 아니라
빨간 것을 인식하는 기능, 빨간 것을 봤을 떄 얻어지는 지식을 분리하고, 지식은 기능 없이 함양 가능하다는 거

물론 이거 관련해서는 발달심리학 쪽에서 여러모로 두드려패고 있고 반대로 인지과학에서 는 방어하고 있으니 재밌긴 해

[루리웹-7458648725]

근데 그게 본질적인 차이가 있다고 확정하기는 어렵지 않을까? 인간이 빨간 게 뭔지 안다고 느끼는 것도 결국 어떤 사물이 어떤색이었는지에 대한 인상과 기억, 경험 같은 데이터들이 모인 일종의 집합체인데, 그 인식을 충분히 많은 양의 언어로 LLM에 넣어서 총체적으로 이해시키는 건 가능하지 않을까 싶은데. 아무리 많은 언어로도 설명할 수 없는 빨간색에 대한 본질적인 이해라는 게 있을까?

[곰이곰처럼잔다]

내가 한게 애매한 비유긴 했지만, 내가 말히고 싶었던거는 이해는 할 수 있겠지만, 이해한 것이 실제와 괴리가 있을 수 있다는 의미로 한 말이였어.
코끼리를 본 적 없는 사람이 많은 설명을 통해 코끼리가 어떤건지 어느정도는 알 수 있지만, 실제로 봤을 때 자신이 알던 것과 다른 부분이 있을 수 있잖아?
백문이 불여일견이라는 말이 있듯이 직접 보고 실시간으로 느낄 수 있다면 그런 괴리감을 줄이는데 큰 도움이 되겠지.
기왕 스테이크를 썰어먹을 거면 날이 잘 선 칼로 썰어 먹는게 더 좋을 것 같다는 거지. 날 서지 않은 칼로도 먹을 수는 있겠지만.

[이세계 세가사원]

좋은 착안점임

그게 있을 수밖에 없다 학파랑 못 찾았으니 없는 거지 학파가 나름의 근거를 가지고 충돌하는거거든

물론 나는 여가서 도주하고 “만들어오면될거아니야!”간 쪽이라 그렇지만ㅋㅋㅋ

[루리웹-7458648725]

그건 결국 본질적이라기보다는 기술적인 차이에 가까워 보이네. 코끼리를 실제로 보고 상호작용하고 느끼는 게 코끼리에 대한 데이터를 얻을 수 있는 가장 간단하고 직관적인 방법이겠지만, 그렇다고 다른 방법이 불가능한 건 아니잖아? 예를 들어 SF에서 자주 나오는 것처럼 코끼리에 대한 오감을 100% 재현하고 상호작용까지 할 수 있게 만드는 기기를 만들어서 코끼리와 마주한다면 순전히 데이터만으로 직접 만나는 것과 거의 동일한 경험을 얻을 수 있을 거고, 거기서 VR이나 영상통화나 책까지 수준을 점점 낮춰간다고 해도 결국 데이터의 해상도 문제일 뿐 본질적인 차이는 없지 않나 싶음.

[곰이곰처럼잔다]

맞음 내 말은 센서나 이님 적어도 인식해서 전처리 후 모델에 넘기는 형태라도 연결을 시켜야 된다고 생각함.
잇몸으로 때운다고 표현한거는 근래처럼 진짜 글을 읽기만 해서 해결하는 경우. 그래도 요즘은 그림입력을 모델에 연결시키는 거 하고 있다고는 함.

[Arche-Blade]

또 괴델의 논리를 차용하면

LLM은 논리체계 내에서만 존재하는 수단인데 정작 삶과 행동은 그 논리체계 밖의 수단으로 이루어져서 증명불가능한 명제로 가득함
따라서 오로지 증명이 가능한 명제로만 이루어진 LLM은 추론의 불가능함과 자기 자신만의 논리로 참과 오류를 구별해낼 수 있는 명제의 생성이 불가능함
또 위의 행동이 논리 체계의 문제인지 그 밖의 문제인지(불완전성 정리)를 구별과 함의하지 못함

사피어-워프 가설을 이용해서 언어인지가 세상을 바라보는 기초가 되서 언어기반으로 세상을 정의하고 그로 인해 만물을 정의한다...그런 얘기를 하고싶은가본데

현재의 LLM은 언어인지라는 개념 자체가 없이 단순한 언어DB의 학습을 통해서 이 다음에 나올 단어, 문장, 형태를 추론하는거지 진정한 형태의 p-np추론을 할수 있는 함의모델이 아님

[곰이곰처럼잔다]

반박을 하자면, llm은 언어 db를 가지는게 아님. 학습을 통해 특정한 단어 토큰의 나열이 확률적으로 그럴듯 하다는 걸 추론해서 결과를 반환하는 확률분포를 가지는거임. 사람이 학습하는거랑 별반 다를게 없는게, 사람도 이거 다음엔 저게 그럴싸 하다는걸 배우는 것 뿐이거든. 물론 그 확률 분포의 피드벡이 실시간으로 이루어지지 않는다는게 지금 llm의 문제긴 하지.

[이세계 세가사원]

p-np 추론이 가능한 함의모델이냐 아니냐는 llm의 구조적 문제고
언어를 통해서는 불가능하다~는 부분에 대해서만 이야기하는 거. 그래서 3에서 "아직 이게 맞냐에 대해서는 명확하지 않음"이라고 적었지.

이거 완전히 된다는 주장도 있고 안 된다는 주장도 있는데, 튜링 머신적 특성을 보면 "인간도 사실 p-np 추론이 제대로 안 된느 거 아닌가 "하고 생각하고 있긴 함.

[이세계 세가사원]

이게 언어를 확률적으로 접근하는게 맞냐 아니냐가 더 핫한 이슈라서, 이거 부분은 좀 머리가 아픈 이슈임

일단 "언어만을 통해서는 절대 불가능하다"는 일부 확대해석 의견이나 주장들이 남발하고 있어서 거기까지만 컷하려고 쓴 내용이기도 해

[이세계 세가사원]

이게 언어를 통한 진리탐구는 불가능!으로 나간 석학들 중 일부는 흑화해서 이상한 소리 하는 경우도 있어서 머리가 아프단 말이지

괴델의 논리는 그런 게 아니라고

[Arche-Blade]

언어를 통한 진리탐구가 불가능 그런 말을 괴델 앞에서 하면 뚝배기를 깨버릴텐데...괴델이 말한건 공리체계가 담보하는건 해당 공리체계 내부의 무결성이지 공리체계 외부의 명제적 논리 부전성이 아닌데

[Arche-Blade]

어쨌거나 괴델의 이론에 따르면

기호체계로 이루어진 논리 시스템은 자기 자신의 오류를 외부의 다른 공리를 통해서 처리하지 못하기 때문에 논리의 무결성과 판단 자체의 정확성을 담보할수 없고 더 나아가 자신의 기호논리가 가지는 무결성을 담보할 수 없기 때문에 AGI가 될수 없다

까지임

논리학자한테 기술을 고려하지 않고 기술구조만을 논리화시켜서 판단하라하면 다 똑같이 대답할걸

[루리웹-7458648725]

여전히 순수하게 잘 몰라서 하는 말인데, AGI의 구현에 대해 그 자체의 무결성이나 정확성에 대한 검증이 들어가야 할 필요성이 있음? 찾아봤을 때 AGI에 대한 정의들에서 그런 이야기를 직접적으로 언급하는 문서는 별로 없는 것 같은데, AGI가 갖춰야 한다고 생각하는 어떤 조건 때문에 2차적으로 무결성이 필요하다고 생각하는 건가? 그리고 그런 특성을 담보할 수 없는 것은 인간의 사고와 인치체계도 본질적으로 마찬가지라고 생각하는데, 인간 사고의 어떤 특성 때문에 LLM과 근본적으로 다르다고 생각하는지도 궁금함.

[일편단심세이버쨩]

실수하는 단백질 덩어리 : 그냥 멍청한 인간임
실수하는 실리콘 덩어리 : 사람이면 저런 어처구니 없는 실수 안하는데 아직 인공지능은 멀었음
이런 느낌이라서 뭐 삑사리날 때마다 ai 아직 불완전하네 이럴 것 같은데 ㅋㅋ

[あかねちゃん]

저기서 하나 더 추가 해야 하는 게 스케일링 법칙임

지금의 트랜스포머에 대해서 유명한 말이 인공지능에게 수십억 수백억개의 단어를 주입했더니 문맥을 파악하고 이미지를 인식하기 시작했다 라는 거

유게에서 보고 있는 llm은 사실 쳇gpt 3.5시절의 멀티 모달도 안 되던 시절만 기억하는 정도지

llm만으로 agi를 달성할 수 있을지 없을지는 몰라도 llm 기반 없으면 월드모델이나 피지컬ai라는 새로운 학습모델도 적용 못 한다는 맞는 말이지

[경뢰베]

철학적 좀비 논증

[이빨까기]

나는 언어로만도 모든 지식을 구현할' 수'는 있다고 봄. 그러나 작업효율이나 확률/가능성 측면에서는 떨어진다고 생각함.

똥인지 된장인지 찍어먹어봐야 아는 사람이 99.99999%고 0.000001%는 전해들은 지식으로만 올바른 판단을 할 수 있다고 치면, 그 0.000001%가 존재하므로 '사람은 경험해 보지 않아도 알 수 있다.'라고 말할 수 있지. 그런데 여전히 가장 효율적인 방법은 직접 경험해보는거임

[지식수집가]

지금 ai 개발하고 있는 사람들도 언어로는 답없다고 판단하고 월드 모델 구축해야한다 하고 있는걸로 알고 있는데
그 부산물로 나온것들이 소라, 나노 바나나 같은것들이고

[이빨까기]

그림, 소리 등을 이해한다고 느껴지는 것도, 결국 컴퓨터(학습) 입장에서는 비언어석요소를 텍스트화(언어화)해서 이해하는 것 아닌가?

[이세계 세가사원]

현재 존재하는 언어 자료만으로는 부족하니까 다른 자료를 언어로 전환시켜야 한다! 가 월드모델 이론의 근간에 있는 부분임

비언어를 비언어인 채로 ai에 넣는 게 아니라 비언어를 어떠핞 ㅕㅇ태의 언어자료로 변환하거나, 피드백을 통해 언어로 재정의 가능한 비언어적 조건을 만들어주려는 거지.

[Taurine powered]

LLM이 인간을 모사하는 방식인데
그 결과물이 인간을 넘어설 수 있느냐는 질문임.
AGI에 한없이 근접할 수는 있는데
그 이상은? 이 문제인거지

[이세계 세가사원]

인간을 기능적으로 넘어선 개체는 인간을 내포하는 개념이냐 같은 부분이라서 이것도 재밌는 부분임

나는 인간을 뛰어넘을 순 있지만 인간이 되기는 이걸론 어려울 거 같은데 하고 생각함. 인간의 부족함을 이해를 못하고 뛰어넘어버릴 거 같아.

[Taurine powered]

우리가 AI기술 발전에 기대하는건 마치 마법처럼 모든 문제를 해결해 줄 데우스 엑스 마키나인데
과연 그게 될 것이냐가 중요한 포인트라고 생각해
그 관점으로 봤을 땐 LLM가지곤 안될거같은데...란 거지

[SnowSlide_]

지능이란 무엇인가... 환경속에서 패턴을 인식하고, 인식한 패턴을 바탕으로 미래를 예측하여, 자신이 무엇을 어떻게 행동할것인가를 결정하는 능력임. 현재의 LLM 언어모델, 생성형 인공지능들은 인식할수 있는 패턴이 제한적임. 아무리 학습 스케일이 커져봤자, 그저 함수하나만 보다 복잡해 졌을 뿐이야. A 를 입력하면 그럴듯한 B 를 출력한다. 이건 알고리즘중 하나이지, 지능이 아님. 하지만 LLM을 AGI 를 탄생시킬 아주 기초적인 구성품중 하나로 본다면, 그건 맞을수도 있음.

[이세계 세가사원]

인간 뇌의 패턴이 그럼 그게 아닌 게 뭐가 있는데? 가 지금의 근본적인 물음이라고 생각해

그걸 찾으면 그때부터가 agi가 아닐까 하고 생각하곤 있음.
나는 그래서 초인공지능은 가능해도 인간과 동일한 ai는 무리가 아닐까 생각 중이긴 함.

[제임스 모리어티]

근데 지금 AI관련으로 자원 빨아먹는 속도 봐선 언젠가는 가능하다로는 엿되는거 아닌가 싶음. 단기간에 안나오면 가능하냐 불가능하냐 이전에 그냥 엿될듯

[이세계 세가사원]

맞지 그건 다른 이야기야
단지 언어로는 절대 안된다는 일부 유명인의 소리가 너무 많이 유게에 나오고 있어서 적음

[Arche-Blade]

나는 괴델 이론에 입각해서 언어만으론 불가능하다에 한표 걸고 싶음

풀메탈패닉에서 말하듯이 진정한 인공지능을 위해서는 대지를 디딜 발과 햇빛을 느껴야하는 육체가 있어야지 진정한 ai가 된다는 쪽

[이세계 세가사원]

사실 그렇다면 "우리 학술연구 자체가 언어만으로 소통하고 있는데 앞으로 모든 학술연구는 플라톤식 육체 소통을 넣을까요?"하고 말하고 싶긴 해 ㅋㅋㅋㅋ

[이빨까기]

근데 자꾸 학술연구 이야기를 하고 있는데... 그 연구하고 있는 사람도 진리를 지향하는거지, 자기들이 연구하고 있는 게 진리에 도달할 거라고 생각 안할지도 몰라.

[Arche-Blade]

육체적 자극에 의해서 뇌활성화가 이루어진다는 뇌신경쪽 결과물이 있으니 실제로도 육체반응과 무관하다고 할수 없지

[이빨까기]

진리에 도달하지 못한다고 해서, 제한된 리소스로 시도하는 게 무의미한 건 아니잖아.

[셀레스타]

이게 다 뇌과학 연구가 부족해서 일어나는 논의들이다! 라고 생각하긴 함

[이세계 세가사원]

이런 게 재밌는 부분이긴 함

그래서 “니들 소통도 안되잖아” 하고 판 엎기를 처음 시도한게 비트겐슈타인이기도 하지

[Arche-Blade]

건담이랑 에바 보다가 니체랑 칸트랑 비트겐슈타인 보고 있을때의 자괴감이란....

[이세계 세가사원]

철학에 발담근 사람들의 공통점

소통을 말하는 작품들의 근거는 이미 다 논파된 지 오래여서 입읗 열면 모두가 불행해진다…!

[셀레스타]

나는 지능이란게 생존을 의한 로직과 그 수립방법이 통합된게 아닐까 생각하는데. 현실세계의 자신의 생존과 관련된 요소들을 평가하는 관점에서 접근하면 좀더 그럴듯해지지 않을까

[시카요]

인간도 매 실시간으로 입력이 여러 정보가 들어오는데

[쿠울]

스크랩해야징

[보드카🍸]

언어로만 입력하고 출력하면 틀린 답 나오는데? 패턴은 항상
그 입출력이 반복된다면 어떻게 되는지를 말 안한다는게 문제란 말이지.

[셀레스타]

패턴에 자기평가가 안들어가는것도 한몫하는거같음. 혹시 들어가는데 결과가 이따구로 나오는건가?

[루리3864웹]

근데 이거 결국
LLM 떼놓고 보면
(추상적, 논리적 사고와 개념까지 포함한)
"세상 만물을 언어화(텍스트화) 할 수 있느냐" 잖아

그건 이미 철학이 밟고 지나간 길 아녀?

[Arche-Blade]

위에도 썼지만 결국 그런 기호학적 관점으로 나가면 괴델이 다 뚜까패서 응 안돼로 귀결시켜버렸고

나 또한 같은 견지에서 LLM만으로는 힘들다라는 의견

[이세계 세가사원]

못 밟음

그래서 지금도 싸우고 있음

[이세계 세가사원]

세상 만물은 밟혔는데

인간이 이해가능한 영역은 텍스트화할 수 있는가?

이 다음 단계가 지옥도인거

[이세계 세가사원]

사실 이 의견대로면 뭐가 나와도 힘들지? 하는게 내 의견

그래서 llm은 몰라도 언어적 접근으로 가능하거나, 아니면 영구히 불가능하다가 내 의견

[Vault]

맨날 '어쨌든 안된다' 이런글만 보다가 이렇게 수준 높은 분석 글 보니까 좋네
댓글 반박하시는 분도 수준 높아서 좋음
자주 써주세요

[이세계 세가사원]

사실 이 이상을 하려면 너도 전공을 하거라 내용이고

그 위로 가면 너랑 나는 믿음이 다르구나 영역에 오거든요

[Vault]

단순히 너랑 나랑 믿음이 다르구나 생각하면 좋은데 커뮤니티 특성항 너무 감정적으로 받아들여서 문제인듯 ㅋㅋ
건설적인 논의가 힘듬

[Arche-Blade]

그건 커뮤니티가 아니라 오프라인이 더해
거 믿음 가지고 전쟁까지도 하는게 오프라인인데

[Vault]

맞긴 함 ㅋㅋ 인터넷 커뮤니티나 인간의 커뮤니티나
결국 인간 자체가 문제

[셀레스타]

관심있게 고민해보는주제긴 한데 관련된 학문이 대충 크게 뭐뭐임? 저서같은거라도 추천좀 부탁합니다

[Arche-Blade]

글 쓴 유게이의 논리를 따라가려면 '언어 사고 그리고 실재' 이 책 보는게 좋음

[셀레스타]

그외엔 철학인가? 철학은 사람도많고 책도많은데 대충 이야기 따라갈만한 편리한 올인원 없나. 교양으로 배우기엔 너무 딥한게 문제야