[유머] 엔비디아가 내놓은 인공지능 채팅 근황

[유키네크리스의기둥서방]

권장사양이 높기는한데

리눅스나 wsl을 안 쓰고 사용할 수 있다는게 큰 장점

문제가 있다면 설치 파일만 35기갘ㅋㅋㅋㅋ

다운받고 설치 다하는데 컴퓨터와 인터넷 상태에 따라 50분 안팍 소요

최신 인공지능 채팅에 관련된 기술은 다 들어감

챗gpt처럼 온라인 서버가 아니라 내 컴퓨터에서만 돌아간다는게 큰 장점이라 ollama와 함께 큰 관심을 모으는 중

켜면 대충 이렇게 되어 있는데

문서파일에 컨텍스트 정보가 없으면 로드를 못하니 주의

그리고 해당 폴더에 파일이 너무 많으면 당연히 시간이 오래걸리니 왠만하면 새 폴더에 읽을 파일 하나만 넣어서 시간을 줄이자

우선

흐음...내가 RAG 기능을 너무 과대평가 했나보다

암튼 문서 파일을 넣어두고 인식시켜서 갖고 놀 수 있으니 해외 문서 번역이나 요약을 하면 쉽겠다.

출처 : https://www.nvidia.com/en-us/ai-on-rtx/chat-with-rtx-generative-ai/

[카스가노소라]

리눅스 서버로돌리거나 도커파일 있음?

[유키네크리스의기둥서방]

ㄴㄴ 그냥 깔면 바탕화면에 아이콘 있음 그걸로 하면 됨

[카스가노소라]

아니 난 걍 api서버처럼 굴릴수있는지 궁금해서

[유키네크리스의기둥서방]

그런거는 깃허브에 많더라고

[카스가노소라]

[유키네크리스의기둥서방]

그리고 전부 리눅스에 도커 필수라 골때리던 찰나에 이게 나오더라

[카스가노소라]

도커만큼 편한게 없으니까 ㅋㅋㅋ
도커는 세팅할거도 없고 설치개념이 아니라서

[유키네크리스의기둥서방]

근데 진심 도커 안 쓰고 내컴에 다 꼴아 놓고 돌린적 있는데 컴터가 뒤질라 하더라곸ㅋㅋㅋㅋ도커 쓰면 최적화도 해주는구나하고 플랫폼의 기적을 맛봄ㅋㅋㅋ

[리사드]

오! 정보 감사

[북추]

이게 맥스 4.0 강화판이란 소리지? ㅋㅋ (feat 도스용 채팅프로그램)

[유키네크리스의기둥서방]

그게 뭔지는 모르겠는데 요즘 인공지능 채팅들 거의 다 터미널 쓰는게 사양 적게 먹는다고 기본베이스는 터미널이더라고

[북추]

셀프 틀딱 인증한 거였는데... 무려 28년전 프로그램.

[DNGhost]

뭐지 그걸로도 된다고 가정하면 좌우합작이라도 해야하나

[LegenDUST]

커??티