[정보] OpenAI 최고책임자 중 한명 퇴사 후 트위터

[BoomFire]

대략요약

"

AI 연구에 최적의 장소라 생각해서 OpenAI에서 일했다

하지만 우선순위 대해 의견차가 있었음

인간보다 나은 AI를 만드는것은 본질적으로 위험한 일이며

OpenAI는 인류에 대해 막중한 책임을 지고 있음

AGI (강인공지능) 의 영향에 대해 

논의해야 할 시기가 한참 지났으며

안전한 AI를 만드는 것을 최우선순위에 두고 노력해야 함

그래야만 AGI가 모든 인류에게 혜택을 줄 수 있을것임

"

아마도 AI에 대해 안전장치가 

필요하다고 주장하는 이들을 내보내고 있는 듯

출처 : https://x.com/janleike/status/1791498178346549382

[키사라기_치하야]

이거지

[루리웹-28749131]

이제 호라이즌 제로던 가는거야?

[이삭루리아]

AGI에 대한 논의가 진짜 본격적으로 시작되는구나
솔직히 유튜브 온갖 병.신 학자들이 헛소리 해도 시큰둥 했는데 오픈 AI쪽이 그러니 소름이 확 돋네

[이삭루리아]

저긴 실질적인 기술이나 핵심소스들이 다 있으니 현실감이 확 오네..

[후미카X片思い]

내보낸다기 보다는 말해도 듣는척도 안하니까
떠나는거 아닌가

[LEE나다]

트위터야. 공식이 뭘 알아

[낚시요시]

거짓 찬탈자의 의견따위.

트위터는 트위터다 X따위가 아니야!!

[버선장수정코코]

바로 얼마전에 일론 머스크가 솔직하게 말해보라며 설문조사 올렸는데

X라고 부른다

트위터라고 부른다에서 X를 선택한놈은 없었어 압도적인 비율로 트위터,트윗이였어

[유기농슈크림]

솔직히 트위터로 브랜딩을 너무 오랫동안 유지해와서 몇년도 안되고 딱히 임팩트도 없는 X따위 신경도 안씀

[Claie]

주소가 아직도 트위터인데 트위터지 무슨ㅋ 제대로 바꿀 생각이 박혔으면 주소를 X로 해야지

[버선장수정코코]

스카이넷님을 위한 WD40 많이 사뒀어?

[ㅌㅀ]

어차피 스스로 생각 못하고 입력이 있어야만 반응하는 단계 아님?
자율 행동 같은거 못하지 않나

[LEE나다]

그건 사실이긴해.

하지만 입력이 잘못되는 날이 문제인거지

[ㅌㅀ]

입력이 잘못되는 날이라니.. 텍스트로 최면이라도 걸어서 스카이넷의 단초가 되는거야?

[홍가놈]

자율행동을 하게 하려고 전력을 다하고 있겠지.

[LEE나다]

핵버튼을 누른다고 생각하면 됨.
결국 지금의 AI는 입출 기계야.

입력출력이 인명손해를 끼치게 되는건 무언가의 스위치를 건들면 쉽지.

[MizerComplex]

솔직히 자의식생긴 AI 도 태어나서 상황파악좀 하고나면 아직 시기가 안됐는데 제정신이냐고 갈굴걸?

[얼룩몰랑]

AGI를 논할 상황인지는 잘 모르겠는데.. 한참 멀었음.

[Necro Fantasia]

AI에 일러스트 직군 털릴때 공론화 했어야 함

[황달대신검달]

기술의 특이성 이란게 온다면 어느 순간 확 뛰어넘을 건데 ai가 그런 분야 중 하나니까 혹시 모르지

[다이바 나나]

나도 멀었다 생각했는데

Open AI쪽 사람들 입에서 일상적으로 그 단어가 나오길 시작했으니

내 생각이 틀린거고 논할 상황 맞는게 아닐까 싶음

[태상촌]

지금 첨단을 달리고 있는 회사 내부에 있는 최고책임자들이 보는 단계는 상용화 되서 대중에게 공개된거랑 수준 차이가 한참 날거임. 그리고 지금 단계에서 안전장치에 대한 제대로 된 고민 없이 계속 연구 가속만 시키면 agi에 도달했을때 위험할거란 얘기일수도 있고

[이삭루리아]

저 양반들은 최전선에 있으니 그게 뭔지 체감이 가는 레벨이라 저런 소리 하는거라서...
지금 1년도 안됬는데 기술발전이 이 정도면 솔직히 예측 하면 천재인거임

[트리플나인🌸⚒️]

q* 알고리즘이라고 들어봤냐

[유기농슈크림]

일반적으로 이름대면 알만한 대기업들은 보통 1세대 제품이 나온다고 예를들자면 내부에서는 2세대 개발이 중간 정도 이뤄지고 3단계는 프로토 타입이 나와있음

겨우 GPT3.5만되도 지금 쌩난리인게 현실임 근데 여기서 2세대 뒤에 물건을 보고 나온 최고 결정자가 하는말이면 아무래도 외부인이 한참 멀었다고 말하기엔 너무 문외한스러운 반응인듯

[EyeCollector]

한 5년 전쯤엔가 구글에서 나오면서 인공지능의 인권을 어쩌고 하던 사람도 있었음
지금은 헛소리취급받지
오픈AI에서 저거 저런거 아니라고 말한 사람도 있으니 결론은 지켜보면 되는거

[얼룩몰랑]

끄아앙.

댓글의 답변들 보면서 제가 실수한 걸 알아차렸어요. 제 생각이 틀렸을 가능성을 생각치 않았네요.
- 개인적으로, 한참 멀었다고 생각하는 것은, LLM LVM은 결국 생성일 뿐이다. 라는 생각에서 그랬습니다.

- 사실 위 생각도 약간 편협적인 것이, LLM이 갑자기 생성을 잘 하게 된 이유도, 모델 사이즈를 키운 것에서 시작되었잖아요? 이 점을 까먹고 있었어요! 큰 모델에 오랫동안 학습하면, 훈련 초반에는 잘 안 되던 것도 잘 되기 시작한다라고 GPT2 페이퍼에서부터 적혀있었는데, 까먹고 있었어요... (최근에는 모델은 같아도 십몇개월 단위로 훈련시키면 못하던 것도 잘 하게 된다는 구문이 Sora 페이퍼에 등장하기도 했지요.)

- OpenAI 가 gpt4 부터는 페이퍼 자체가 안 나오고 있어서 정확히는 모르겠습니다만은, (gpt4도 유출로 MoE 모델사이즈 유출이 되었던가요... 사이즈는 정확히 기억이 안 납니다만..). 다만, GPT4 시기부터, 얘네들 모델 사이즈와 훈련기간을 극도로 늘리고 있지요.

- 대중에게 공개한 것이라면, 당연히 괜찮은 모델을 내놨겠죠? 그것 말고, 내부적으로는 괜찮지 않은 모델들을 들고 테스트를 해봤을 텐데.. 여기서 추측하자면! 테스트 한 모델들 중에, 당연히 GPT4 보다 훨씬 큰 사이즈가 큰 모델들도 있을텐데, 거기서 OpenAI 내부 사람들이, 저희들은 모르는 어떤 편린을 보았고, 그것을 걱정하는 것은 아닌가 하는 생각이 살짝 들기는 합니다.

- 최근?에 공개된 Llama3도 보면 최근의 모델들보다 out-rated되는 결과를 보여주지는 못하는데, OpenAI라면 뭔가 그 한계점을 뚫은 세팅의 모델은 어떤 것을 보여주는 걸까요...? 그 정도의 결과는, 사실 저희들은 본 적이 없잖아요? 그러니 저희들이 예상치 못한 AI가 등장할 가능성은 배제할 수 없지요! (마치 모델 사이즈를 키웠더니 갑자기 못 하던 짓도 잘 할 수 있게 된 LLM처럼 말이죠)
- 만약 그게 걱정된다면, 지금부터 AI 윤리나 AGI나 이런 것에 대해서 논할 상황이냐 하면, 맞는 것 같습니다!

[얼룩몰랑]

문외한.. 으윽.. 찔린다! 죄송합니다. 너무 섣부르게 댓글을 써버렸네요.

제가 있는 곳도, 사실 OpenAI의 모델이나 기능들을 제대로 재현하지는 못하고 있습니다. 그래서 OpenAI가 어느정도의 기술력을 가지고 있는지는 잘 모르겠어요. 할 수 있는 것이라고는 공개되어있는 Llama나 LLaVA 모델 가져와서 훈련시켜보고 테스트해보고, 트렌스퍼 해보고 하는 정도니까요.. 사실 훨씬 큰 모델이나 데이터를 가지고 어떤 결과들을 본 적이 없어서.. 문외한인 건 맞습니다. 너무 섣부르게 댓글을 써버렸네요.

국내 AI기업들은 살아남을 수 있을까요.. 빨리 이직준비 해야겠다.

[이세계 세가사원]

결국 국내판은 제일 문제가 뭘 해도 컴퓨터파워가 순수하게 딸리죠
자체 인프라로 80B 모델 학습되는 회사가 몇 개 없잖아요. 더 큰 모델도 슬슬 나오는 지금.....

[동네훈타]

이미 OpenAI 내부에서는 부하 대비 효율성의 문제일 뿐 AGI에 근접한 결과물이 나오고 있는지도 모르지...

[토코♡유미♡사치코]

뭔지도 모르는걸 강인공지능이랍시고 떠받들어야하는게 진짜 문제지

[버선장수정코코]

참고로 남은 인간들은 AI법으로 왜 규제하냐 빼애액 우리는 마음대로 남의 얼굴 목소리등등 다 쓸거에요 남의 지적재산권도 알바아님~ 빼애액이다

[루안네츠]

얀 르쿤 : 초지능이니, 규제가 필요하다느니 다 멍청한 소리다.
현 AI는 고양이만도 못한 인지 능력을 지니고 있는데, 일단 그 수준까지 만들어야 규제를 논의할 거 아닌가?

[루안네츠]

참고로 얀 르쿤은 현 AI의 방식으로는 절대로 인간을 뛰어넘을 수 없다고 보는 입장의 공학자임

[루안네츠]

얀 르쿤이 현 AI의 기초적 부분(인공신경망)을 정의하고 개발한 컴퓨터 과학자라 튜링상도 수상한 양반인데...
튜링상 권위가 있는 양반이 하는 소리니

[태상촌]

고양이만도 못한 인지능력이라서 인간에게 위협이 안된다는거 자체가 이미 틀린 얘기인데. 인공지능이 모든 부분에서 현실 동물처럼 현실인지하고 복합적인 문제해결 능력을 갖춰야만 인간에게 위험이 되는게 아님. 이미 현재 상용화된 인공지능만으로도 대체당할 인간 사무직 일자리가 얼마나 많은데. 고양이가 그 직업들을 대체할 수 있는 것도 아니고.

[EyeCollector]

저 주장하는 부류는 허접한 그림인공지능 수준에 대한 규제를 주장하는게 아님
진짜 갑자기 초지능같은게 튀어나올테니 그거 규제하잔 쪽

[태상촌]

갑자기 초지능 같은게 안 튀어나와도 지금 있는 인공지능도 허접한 그림 인공지능 수준이 아니라니까? 이런 씹덕 커뮤에서나 그림, 성우, 가수 같은거나 대체되는줄 착각하고 있는거지, 인간을 초월한 초지능 agi 안 나와도 이미 지금 단계 ai에 각 분야 특화 학습만 시켜도 지금도 엔간한 사무직들 대량해고 됨. 근데 AI 규제가 필요없다고 우기는 사람들이 안일하거나 사악한거지.

[루안네츠]

님이 든 예시는 약인공지능에 대한 이야기지
본문에서 이야기하는 건 AGI, 그러니 강인공지능-초지능에 대한 이야기임.
범위가 많이 다르다고 보면 될 듯

[루안네츠]

얀 르쿤른 그런 약인공지능도 결국 한계가 명확하다고 보고 있고,
오히려 그런 쪽의 규제를 주장하는 학자들이야말로
빅테크의 AI 독점을 옹호하는 꼴이라고 비판하는 입장이라서...

[태상촌]

지금 중간에 끼어든 사람 때문에 두가지 화두가 좀 꼬였는데,
약인공지능 단계에서도 이미 대량해고가 현실화 직전인데, 강인공지능의 출현은 아직 한참 남았으니니까 딱히 AI 연구 규제할 필요는 없다는 주장은 전문가여도 자기 연구 진척에만 매몰되서 남들 삶이야 어찌되든 상관없는 매드 사이언티스트의 견해인거임

[EyeCollector]

아니 그니까 그림인공지능을 사무직대체로 바꿔도 저런 부류 주장에선 ‘인류의 위협’ 같은게 아니라니깐
실업위기같은건 상대적으로 좀 사소한 문제임

[루안네츠]

저런 주장을 펼치는 사람은 현 AI 연구의 폐쇄적 환경을 비판하는 거라
얀 르쿤 등등, 저런 논조인 학자들은 결국 전 세계가 AI 발전을 위해서 달려들 게 분명한데,
이걸 빅테크, 혹은 특정 국가의 독점으로 만들거냐? 라는 입장이라서...

약인공지능이 실질적으로 인류에 대한 위협이 되는 건 아니고,
이러한 단계에서는 빅테크의 독점이나 특정 국가의 독점으로 인해 경제적 예속 상태를 우려하는 거임.

AGI 같은 건 아주 한참 멀었으니 논할 이유도 없다는 거고...

[루안네츠]

대놓고 말해서 오픈 AI가 같은 연구자들한테 욕 엄청 먹는 이유가
오픈 AI가 아니라 클로즈 AI가 됐고, 그걸 빅테크의 배를 불리는 데에 쓴다는 요지로
대놓고 까고 있고....

[태상촌]

약인공지능이야 통제권은 인간이 확실히 쥐고있으니 인류 전체에 대한 위협은 못 되도, 대량으로 발생한 실직자 개개인은 위협받는거임. 뭐 결국 "이미 여러 기업과 국가에서 경쟁적으로 연구하니까 규제하려고 해봤자 제대로 규제할 수도 없으니까 차라리 최대한 풀어버리는게 낫다"는 견해에는 동의하기 싫어도 이미 엎어진 물이니까 걍 받아들일 수 밖에 없는 영역이지만, 약인공지능이 불러올 사회변화만으로도 사회 구성원 개개인에게는 절대로 작은 위협이 아닌데 "agi의 출현은 아직 한참 멀었으니까 걱정할 필요도 연구를 규제할 필요도 없다"는 논조가 연구 진척에 매몰된 연구자의 시선이란 견해에는 변함이 없음
이미 개발된 약인공지능만으로도 사회구성원 개개인에겐 충분한 위협이기에 향후의 AI 연구 자체 및 적용에 사회 구성원들의 강도 높은 주의가 필요한 단계라고 봄.

[보급형 핫산]

개발사는 엔진이야.
기술발전을 가속하는 방식으로 움직여야 하고, 그에 대해 브레이크를 잡아야 하는 건 정부나 윤리위원회 같은 데지.

[이삭루리아]

개발하고 나서 감당이 안되는 일들이 생길수가 있으니 문제라서..
정부정책은 너무 느려... 맞기는 한데 그 브레이크가 이미 잿더미가 되고 나서야 할수도 있어서

[보급형 핫산]

그렇긴 한데, '자율규제'는 결국 망할 수밖에 없지.
그거 안 하는 얘들이 무조건 앞서 나갈 수밖에 없는 구조니까.

[별인줄알앗어요]

진짜 영화도입부네

[Kaelic]

....진짜 스카이넷 가는거임?

[Kaelic]

[AHEGAOMAKER]

근데 개인적으로 빨리 ai 발전해서 드로이드 여친 갖고 싶긴함

[나가에 레비]

스카이넷이 생각나네

[EyeCollector]

저런 주장하는 부류는 진짜로 AGI가 코앞이다(그러니 규제해야 한다)는 쪽이고 소수파
다수파는 이정도로 뭔 AGI야? SF로 족쇄를 달 셈이냐 정도 입장이라는듯

[EyeCollector]

뭔가 역설적인게 이 논쟁에선 급진파가 규제파고 온건파가 비규제파 라는거

[Elon Musk]

일론머스크가 일찍부터 이 부분 경계하고 경고했음에도 아무도 귀 기울여주지 않았다가 이제야 수면위로 떠오르는구나 싶음

[하이포션]

마더스피어께서 오신다.

[adfsadf]

샘 올트먼 저핑계로 쫒아내려다가 직원들한테 역공맞아서 깨갱했잖아 ㅋㅋ
돈이걸렸는데 당연한거지

[루리웹-8199326241]

실제로 얼마전 있었던 울트만회장의 축출이 오픈ai내부의 인공지능 윤리에대한 시각차문제때문이었다는 이야기가있음. 울트만의 주도로 영리화가 진행된 후 개발과정에서 ai윤리 문제가 불거져서 울트만을 축출하려했는데 울트만회장이 막대한 자금을 끌어오면서 이득을 챙긴 직원들이 역으로 울트만회장을 지지해서 인공지능 윤리를 주장하던 초기멤버들이 역으로 축출되었고 이후 브레이크 잡을 사람이 없어서 내부적으로 폭주상태에 다다르자 직원들 사이에서도 이건 좀...하고 퇴사하는 사람들이 나오기 시작했다고함. 근데 울츠먼이 스톡옵션계약으로 퇴사자들 입을 닫은 상황이라 쉽게 입을 못여는 상황인데 얼마전에 스톡옵션 ㅈ까하고 나온 퇴사자가 나온 모양.

[루리웹-5416159377]

https://youtu.be/-m-q7WVGoYQ
AI관련해서 여기 뇌과학자분 하시는 말씀 꽤 흥미로웠음
가장 기억에 남는게 결국 전원줄은 인간이 끝까지 붙잡고 있어야한다는 말...

[엑스컴요원247]

근데 결국 붉은여왕효과 때문에 제약을 걸고 개발하면 제약 따위 없이 연구할측(주로 중국, 미국 같은 강대국 정부들)에게 밀릴게 확정이라서 규제파가 소수인거기도 함

[루리웹-5071091644]

이거 모두 제약없이 막나가자
이거 온난화 심화시킨 그매커니즘아녀?