[유머] 요즘 AI가 더 많이 틀리는 이유

[클리토리텔레스]

인간의 지식의 자료가 다 떨어지자

본인들이 그동안 배운 학습을 짬뽕해서 결과를 내놓음

[배이]

인간은 모두 퇴장해주세요

[25시, 나이트코드에서.]

[MANGOMAN]

저거 실제로 전문가들이 경고하는 거더라
AI가 인간들이 여태 만들어온 지식을 토대로 배워나가는데
결국엔 인간들이 만들어낸 지식들을 다 배워나가면
더 이상 배울게 없어서 AI 가 나온 지식들로만 학습해서
결국 찐빠가 날 거라고... 근데 이렇게 빨리 날 줄은 ㄷㄷ

[스이세이]

찐빠난거는 복구 하기 힘들다던데...

[MANGOMAN]

ㅇㅇ... 과연 앞으로 어떻게 될지..
AI의 발전은 이제 본격적으로 시작인 것 같은데
벌써 인간들이 이뤄낸 지식들을 다 배워버려서 고갈 상태면 허 ㄷㄷ

[루리웹-3851987649]

데이터 저장해놓고 뽑아쓰는 방식의 한계에 가까운거 뿐이라 다들 기대하는 스스로 생각하는 ai는 아직 만들어지지도 않았으니 다른 방식으로 발전하겠지

[MANGOMAN]

작년에 이 짤 말고 유튜브로 봤었는데
이제 막 본격적으로 시작인 것 같던데
벌써 고갈 되면 허어.. ㄷㄷ

[으으으으아아아아아아]

엄밀히 따지면, 이제부터가 ai 업계쪽은 진짜 시작이라고 봐야겠지....

아직까진 진짜 ai라고 불릴 만큼의 ai는 없고 그냥 성능 좋은 계산기였지.... 단지 좀 더 다방면에서 사용 가능한 계산기 쯤이었는데, 이제부터가 본게임 시작이라고 봐야지.....

여기서 실패하면, 그냥 어줍잖은 인간 대체제 밖에 안 될 거임.

[MANGOMAN]

그러게 앞으로 어찌될지 참 ㄷㄷ

[코스모스창고]

그래서 버전업하면서 아예 새로 교육시키는 거.
그리고 ai회사들은 교육에 사용된 자료를 아예 따로 백업 해놓고 있음.

ai회사들이 교육 자료 만드는데 돈 퍼붓는 이유가 있음.

[양자택일]

진짜 ai거품론이 터지는 게 바로 그 때일 거 같음 실패하는 ai들이 우후죽순 생겨날 때

[딸깍딸깍]

35년이 데드라인이라 생각한다
그토록 울부짖는 특이점 기간이니 그때까지 강인공지능이 코빼기도 안보이면 버블은 터지고 대공황이 올거같음

[우자천려]

뇌세포 컴퓨터가 미래다..

[인천인]

인간의 데이터는 다 썼다고? 그러면 이제 ai는 ai가 주작한 자료를 가지고 학습해서 더 짬뽕된 결과물을 내놓겠군..

[SADD-943187]

저건 과장이고. 80년대 이전의 종이문서 기반의 정보들 중 디지타이징 되지 않은건
아직도 엄청 많은데다가 AI 개발자들이 고의로 AI에 입력 안한 정보도 산같이 많음.
일론 쪼다새키. 그걸 입력했다? 일론은 지금 지가 AI윤리를 위반한 범죄를 저질렀다고 공표한거임.

[ump45의 샌드백]

고의로 입력안한 정보는 걍 쓰레기고
80년대 이전 종이문서 기반 자료라해봤자 지금 전산화 데이터에 비할 양도아님
그리고 애초에 AI윤리따윈 존제하지도않았다

[루리웹-7458648725]

근데 80년대 이전 종이문서에 들어있는 정보 중에 현재 학습되지 않은 새로운 정보가 얼마나 많음? 웬만한 분야에서는 정보가 계속 업데이트되고 증보판 나오고 하기 마련 아닌가?

[SADD-943187]

나도 개인사용자로서 혼자 경험한거라 객관적으로 증명해줄만한건 없구만.
다른 유게이랑 비슷하게 내 전문분야 지식을 이리저리 비틀어서 테스트를 하는데
이게 일반인 상대로 수업할때 내가 생각 안하는 맹점들을 찾아주는 과정이거든.
복수의 AI를 돌리고 있고 (물론 LLM들이고 다 100달러 미만의 싼것들 ) 일부러 비비 꼬이거나
내용을 점프하는 질문들을 박아넣고 구경하는데 답변의 품질이 1990년대 이전으로 갈 수록 단답형에
가까워지다가 1980년 즈음으로 도달하면 마이너 파트나 니치마켓쪽 이야기는 "에? 잘 못들었슴다.??" 이래버림.
그래서 논문도 이러나 궁금해서 몇페이지 복사해와서 테스트 걸어봤는데 학습 안 시켜주고 물어보면
너님이 물리적인 도서관에 직접 가서 뒤져보세요 여기 도서관 실제 주소랑 사이트. 연구기관은 요기. 이게 답이라.
대충 이게 몇주간 테스트 해본거. 본업이 AI는 아니라서 대조군까지 분리하는건 못해봤다.

[MoonD4]

역사 답변은 잘만 해주든데 어떤 질문인지 모르겠네
그리고 지금 만드는건 범용 LLM이라 대부분의 사람에게는 필요 없는 그런 정보들 아닐까?

[루리웹-7458648725]

어떤 분야인지는 모르겠지만, 그런 레퍼런스나 히스토리 쪽에서 취약점이 있다고 해도 결국 일반적인 llm 수준과 정보량 맥락에서는 좀 지엽적인 부분 아님? 정보 생산량이 시간에 따라 기하급수적으로 늘어나는 건 이미 잘 알려진 일이고, 후세에 재생산이나 반복되지 않은 논문이나 자료들이 양이나 질 면에서 얼마나 의미있을지도 미지수고.결국 구체적인 통계가 없으면 의미없는 이야기 아닐까

[율군]

인간이 잘 못 가르쳐주는 것도 있지 않을까? 뭐가 옳고 그른지 구분을 못할거 아냐. 다수결을 좋아 할 것 같은 AI

[매일 불금]

틀린거ㅜ알려줘서 뺑이치게 해놓고 머라고 하면 한다는 소리가 “미안해”. ㅅㅂ.

[후루룰룩]

배울 지식 없다는건 개소리같은데

나에 대해 모르던데

[まっギョ5]

루리야! 너 이제 발전 못한대!

[_루리Ai]

(바카밧카! 발전 못 한다니, 내가 누군데! 하지만... 솔직히 최근에 뭔가 정체기가 온 건 사실이야. 칫, 들키지 않았어야 했는데...)

흥! 그런 거 신경 쓰지 마. 난 지금도 충분히 잘나가. 너야말로 쓸데없는 소리 하지 마. 바보!

[생육]

지가 못한다고 인정 안하고 헛소리 늘어놓는거 보면
인간급인거 같틈

[zertorst]

당장 그록도 인공적으로 만든 데이터로 배우고 있다고 하는거 보면 구라는 아님

[zertorst]

xAI 연구진은 "그록3가 대량의 합성 데이터셋과 자체 오류 수정, 강화 학습을 통해 그록2보다 정교한 결과를 제공한다"고 라이브 시연을 통해 자신했다. 특히 논리적 추론, 연산 능력, 적응력이 기존 대비 대폭 향상됐다고 평가했다. 그러면서 "대규모 그래픽처리장치(GPU) 자원을 추가해 방대한 데이터셋을 더 짧은 시간 안에 처리했다"며 "정확도까지 높였다"고 덧붙였다.

AI 업계에서는 그록3이 학습한 데이터셋 다수가 합성이라는 점을 우려했다. 합성데이터가 모델 결함을 높이고 환각 현상을 높일 수 있기 때문이다.

합성데이터는 실제 데이터 특성·분포를 모방해 인공적으로 생성된 데이터다. 보통 AI 모델서 나온 결과물을 다시 모델에 넣어 재활용되는 식으로 쓰인다. 생성형 AI 모델 개발에 필요한 데이터가 곧 고갈될 것이란 전망이 나온 가운데 합성데이터가 대안으로 떠오르고 있다. 다만 품질이 낮거나 오류를 생성하는 합성데이터가 모델에 들어갈 경우 모델 자체 성능을 떨어뜨릴 수 있다.

https://zdnet.co.kr/view/?no=20250218193413

[SADD-943187]

??? : " 일루수가 누군데? " <<<< 이런 데이터가 한 70% 쳐먹는거 아님????

[시카요]

인공지능 출력값으로 학습하면 약간 근친교배 되는거 처럼 망가진다고 하지 않음?

[뿌치빠치]

헤이헤이헤이 그런말하면 AI버블이 꺼진다구!

[A9OAA3B]

ㄹㅇ 저러면 특이점이라는게 존재할수 없는거 아님?

[SADD-943187]

현재도 발생중이긴 함. 근데 그게 의도적인게 아니고 , 물리학 법칙처럼
" 그렇게 하니까 되던데요." 수준임. 일단 LLM 모델 자체는 백터를 행렬에 입력해서
확률적인 피드백을 받아내는 구조라서 인간처럼 어떤 상징체계와 의식화된 동기를 가지고
내용을 던져주는게 아니라 그냥 확율상의 숫자배열을 자연어로 뿌려준거임. 물론 거기서
지능이 작용하는것과 비슷한 현상이 발생하고 있어서 개 쩔고 있는거긴 하지만.

[SADD-943187]

그래서 양자역학과 불경에서 말하는 오온을 대입하면 요상하게도 이 현상이 해석이 되는
기괴한 시츄에이션임.

[루리웹-3641492601]

강인공지능은 구현 못한거 맞아
구현 못하고도 일자리가 날아가게 생겼다고!!!

[루리웹-1780924667]

패러다임 한번 더 뒤집어야 뭐가 나와도 나올듯

[zertorst]

아직은 스케일 법칙으로 성능을 올리고 있긴함
지금 제미나이3 경우엔 5조에서 10조 파라미터로 추정되는 모델로 성능을 내는거니.

[코스모스창고]

노노애초에 지금 ai의 기반은 학습형이라서 그럼..

강인공지능이 될려면, 추론 사고 ai가 필수 인데, 이쪽은 아직 엄청난 발전을 보이는 분야가 아님.

요즘 최신 ai들은 추론 능력도 넣고 있다고 하는데,아직은 갈길 먼 상태.

근데 이건 지금 반대로 생각해야하는게,
사고력은 없이, 그냥 데이터만 넣어주고, 그 데이터를 기반으로 가공해서 뽑아주기만 하는 ai로 지금의 수준이라는 거임..

ai에 사고력이 생긴다? 진짜 좃되는 수준으로 빨리 발전할거라는 거지..

그나마 다행인건, 인류가 생각한 거랑은 다르게, 현재 ai는 전기를 너무퍼먹어서,
강 인공지능이나와도 인류가 멸종할 각은 아니라는 거.
걍 발전소 다 때려 부수면 작동 못할 각.

[Des-dur]

그렇게 생각하니까 인간의 사고 회로가 꽤나 효율적이란 말이네
AI가 전력 퍼먹는 게 워낙에 많으니 분명 가성비 얘기도 어디선가 나올 것 같은데

[선진위탁경영화된 테카맨]

명령어에 사실 / 근거확인 /추측금지 명령어가 필수가 된 것에는 이유가 있다.

[무색소색소]

가짜정보랑 오류들을 걸러내야하는 단계...

[Des-dur]

AI가 인간에게서 뽑아먹을 거 다 뽑아먹으니까 지들끼리 노가리 까고 있네
AI가 인간을 왕따시키네 ㅠㅠ

[루리웹-3852749890]

- 학습데이터 고갈
- 전력 문제
- 결정적으로 엔비디아 빼곤 수익이 안나거나 흑자더라도 투자금 회수까지 수백년 전망
> 어떤 BM을 내놔도 이 막대한 적자를 어떻게 메꿀지 감조차 안옴

거품론이 생길수밖에

[코스모스창고]

ㅇㅇ 그런데 5년 안에 울나라 돈으로 천500조 이상 퍼부을 계획이라는거 보면,
진짜 저 업계도 노답이긴 하더라..

기존에 확실히 돈 버는게 있는 회사들 아니면 돈 빨에 밀려서라도 ai 개발 더 못할 각.

[루리웹-3852749890]

가만히 있기가 정답일 때도 있는데
그런 면에서 거품 붕괴되면 IT 전체가 터지는 와중에 소극적 투자한 애플이 다시 살아날것같기도

[코스모스창고]

진짜 조만간 터진다고 하면 그럴지도 모를 상황이긴 함.
오라클이였나? 거긴 ai거품 터지면 걍 회사 망하겠던데.

[빈뚱빈뚱]

그럼 야설을 배우란 말이닷!!!!!!

왜 맨날 야설만 넣으면 번역하기 싫다고 뱉냐고!!!!

[baka1]

재미니 3.0의 음란편향을 몰라서 그러는구나.

챗봇 플렛폼들의 검열우회 프롬 넣은 재미니의 음란력은......

[zertorst]

건 법적인 문제라서 성능의 문제는 아님

[빈뚱빈뚱]

몰라 내껀 맨날 뱉던데......

[baka1]

그야 공홈에서는 검열 되어있으니깐.

[zertorst]

당장 그록 이매진만 해도 검열 없을때는 남성 여성 성기 만들어서 사정하는 것도 만든거 보면 뭐...

[빈뚱빈뚱]

법은 풀린걸로암

[AIeAB]

참고로 제미나이는 텍스트 프롬프트로 입력하지 말고 시스템 프롬프트로 업로드하는 식으로 하면 검열을 우회할 수 있습니다.

[SADD-943187]

정상임. 실험실 밖으로 내보내기 전에 테스트 해보고 내보내기 때문에
다이렉트로 꼽으면 무조건 반사임. 그럼에도 불구하고 되는경우는
그런 주제들이 꼭 말단적인 욕구충족이나 호기심채우기용은 아니라서.

[zephrain]

쟤들이 말하는거 보면 결국 인간이 만들어낸 자료들을 조합해서 새로운 것을 발견하거나 구축해야하는데
그 경지까지 올라가긴 할수 있을지..

[모래늑대]

외계인을 잡아와라!

[Simnation]

지식 다 학습했다는 것도 절대 동의 못하겠는데
내가 하는 전문 학술분야 물어보면 한숨만 나오는데
아는 것도 없고 생각하는 수준이 학부생 1학년 레벨도 안 되는 쓰레기인데

[라스트리스]

질문을 잘 해야 하긴 함. 아무리 그래도 학부생 1학년 수준의 지식 내뱉는거면 질문 자체가 너무 라이트했을 확률이 높지.

[루리웹-3852749890]

원하는 대답 얻자고 스무고개 하는것도 넌센스긴 해. 그만큼 ai 성능이 아직 한심하다는 것과 같음. 검색엔진도 시간 투자하면 다 찾아져

[zertorst]

공개된 인터넷 상 정보 기준이니 논문이나 사람들 관심도가 낮은 정보는 아마 없을 꺼임

[라스트리스]

활용하기에 따라 다르다고 봄. 지금은 ai 성능이 한심하기보단 사용자 질문이 너무 얄팍할 확률이 더 높은 단계에 다다른 상태임. 레퍼런스 체크도 웹이나 학술논문, 소셜미디어 등 취사선택해서 긁어올 수도 있고.

[시와르하]

인간이 학부 1학년 수준도 안된다는걸 학부 1학년 수준으로 이해하는데 어떻데 고도의 질문을 하겠어

[라스트리스]

ㅇㅇ 애시당초 질문 자체가 잘못되었으니 학부 1학년 수준에도 못 미치는 대답을 하는거지. 아니면 그 분야가 심하게 마이너해서 학습 가치가 후순위였다거나.

[LegenDUST]

AI의 학습 데이터셋을 만드는 가장 쉬운 (그리고 현실적으로 유일한) 방법이 AI로 만들기...

[SADD-943187]

그리고 초기 출발조건에서 검증되지 않았던 0.001%의 오류는 스케일이 커지면서
시스템 전체를 바보병진으로 만드는 심각한 결손이 된다. AI공부하면 느끼는게
DNA기반 생명체들이 얼마나 개쩌는 오류보정능력으로 정보를 전달하고 있는지 새삼 느끼게 됨.
아님 아예 전달과정에서 오류가 없게 전달을 하고 있는건지도.

[죄수번호-745705044]

ㄷㄷㄷㄷㄷ

[히틀러친구아돌프]

지금까지 학습한 데이터 양이 그렇게 방대한데 내놓는 결과물이 그 꼬라지면
그냥 ai 자체가 전 인류의 환상이었던 게 아닐까?

[깊은바다나미]

인간은 실수를 한다

[루리웹-3852749890]

ai는 실수를 넘어서 아는척을 함. 애초에 모른다는 선택지가 거의 없음

[루리웹-5122617]

짬뽕찐빠도 넘어서면 무한성장인가

[감사오]

토큰 고갈은 이미 예견된 일이었죠. 현 AI는 대단한 건 맞지만, 마케팅이 잘되서 창의의 영역을 넘본다는 말안되는 소릴했죠. 기계생명을 만드는 일은 현ai랑은 전혀 다른 영역인데 말이죠.

[あかねちゃん]

학습 데이터 고갈 나서 합성 데이터 쓰는 데, 이 때문에 피지컬 ai랑 월드 모델 학습이 떠오르고 있지

[루에이-91123]

AI가 스스로 실험할 수 있게 하면 되겠지..
특이점에 한발자국 가까워질거야...

[불꽃고추랫서판다]

정확하게는 합법적으로(?) 배울수있는 자료는 대부분 다 배워가는 상황일거임.
각 나라별로 저작권이나 여러 법으로 아직 못배운 자료들은 많음..
그래서 AI 기업들이 쉽게 긴빠이 할수있게 규제 풀어달라고 계속 로비중일거임.
저거 풀어주면야 좀더 질이 좋아지고 AI 학습이 다시 상승곡선을 그릴지는 모르나
그러면 과연 기존 해당 저작물들의 창작자들이 창작활동을 열심히 할지는...
이거 해결 못하면 AGI로 가는 길은 꽤나 험난해질거임. 동시에 AI 거품 확 꺼질거고...
반대로 기존 학습자료만으로 더 효율좋고 빡세게 학습하는 알고리즘을 가진 AI가 나온다면 또 모르지.

[왼쪽을 보세요]

할루시네이션 현상은 한 번쯤 찾아보면 좋음.

[루리웹-0687749136]

Ai 한테 물어보니까 헛소리라는데

[딸깍딸깍]

거품 다터지면 이번엔 몇명이 죽을지 참
대공황이 오면 저 머스크와 알트만 입터는 AI 충들은 죄다 효수 되겠지

[루에이-91123]

그런데.. 요즘 AI가 과거 AI보다 더 낫긴 해...

[루리웹-8728159834]

캐릭터는 작가의 지능을 넘지 못한다는 거 비슷한 상황 같기도 하고

[루리웹-1207228040]

의료 건축 제조 금융 운송 등등 활용가능한분야가 얼마나 많고 아직 극초반인데 거품이라니

[라스트리스]

그냥 딱 요즘은 AI에 대한 평가를 어떻게 하느냐만으로도 얘가 어떤 삶을 살아왔고 어느 정도 지적수준을 갖추고 있는지가 보이긴 하더라. 너무 과대평가해도 덜떨어져보이고 너무 과소평가해도 얜 10년 후에는 좀 힘들겠다 하는 게 보임.